На початку XVIII століття це місце було досить віддалене від центру міста. У 1711 році тут організували міське кладовище. До того, померлих ховали у дворах, при парафіяльних церквах. Петром I ж було вирішено влаштувати місце поховання іноземців саме тут. Адже всі, хто приїхав в Санкт-Петербург іноземці - мандрівники, тому і повинні вони знайти свій спокій у церкві святого Сампсонія Странноприимца.
При Сампсонієвской соборі були поховані архітектори Трезини, Леблон, Шлютері, Маттарнові, скульптор К. Б. Растреллі, особистий лікар Петра I Блюментрост, фельдмаршал Мініх. Тут же в 1740 році були поховані "вороги Бірона" А. П. Волинський, А. Ф. Хрущов і П. М. Еропкин. Кладовище до наших днів не збереглося.
Церква і дзвіниця, зведені з дерева, поступово занепадали, а прихід розширювався, і тому вже в другій половині 1720-х рр. з'явилася необхідність в новому, більш просторому приміщенні.
Існуюча будівля собору побудовано невідомим майстром (імовірно Дж. Трезини і І. Лапшиним, за участю М. Земцова). Будівництво церкви, що почалося в 1728 р велося в два етапи.
Сампсониевский собор - типовий для свого часу по архітектурними параметрами однонефний храм. Будівля собору, витримане в стилі раннього бароко, розтягнуто по осі "схід - захід". В обробці його фасадів використані профільовані карнизи, рустовка, пілястри.
Вікна декоровані лиштвами. Спочатку собор мав один купол, що покоївся на високому гранчастій барабані і увінчаний луковичной головком. У 1761 році до нього прибудували чотири малих трубчастих барабана з главками в стилі "єлизаветинського бароко", в результаті чого будинок одержав традиційне п'ятибанна завершення.
У традиційному для російського церковного зодчества стилі були зведені примикає до приміщення собору із західного боку трапезна з малими приділами і багатоярусна дзвіниця, накрита кам'яним шатром з крихітними вікнами і луковичной головком. Уздовж бічних фасадів будівлі простяглися відкриті галереї, що майже не властиво церквам Петербурга.
У соборі зберігся чотириярусна різьблений дерев'яний виняткової краси іконостас головного приділу, висотою 11 метрів, створений російськими майстрами в 1737 - 1739 роках, прикрашений прямими і крученими колонами.
У композиції іконостаса широко використані скульптура і орнаментальне різьблення, характерні для стилю Аннинского бароко і виконані з великою майстерністю і віртуозністю: головки і фігурки херувимів, гірлянди квітів, картуші різноманітних форм. Іконостас виконаний з сосни, а його скульптурний декор вирізаний з липи. За стилістичному рішенню і розмаху задуму він близький творінь Ф.Б. Растреллі.
Внутрішня частина іконостасу пофарбована в смарагдово-зелений колір. Образа в іконостасі написані художниками А. Башнін, А. Поспєлов, Т. Баженова та іншими; деякі з ікон, розміщених в іконостасі, були написані для Царських врат попередньої церкви.
Факт збереження іконостасу настільки раннього походження можна вважати дивом, оскільки навіть у багатьох більш пізніх храмах, що дожили до наших днів, неодноразово змінювалися вівтарні перепони.
Скромніше оформлені два малих іконостасу прибудов Іоанна Богослова і Архангела Михаїла - вони триярусні і розчленовані по горизонталі антаблементами, а по вертикалі - пілястрами на п'ять частин. Спочатку іконостаси були пофарбовані в бірюзові тони, пізніше - забілені. У 1909 році під час проведення реставрації їм повернули первісне фарбування.
Прекрасними зразками російської школи різьблення є також чудова надпрестольна сінь і головний престол собору. Більшість ікон виконано в 1720 - 1760 роках.
У 1908 р до двохсотріччя Полтавської битви, почалася повна реставрація храму, яка була оцінена сучасниками як результат "колосального безперервної праці". Крім реставрації фасадів та інтер'єрів храму за проектом архітекторів А. П. Аплаксіна і Н. Е. Лансере побудували витончену каплицю, сторожку і двоповерховий "Ювілейний будинок" з бібліотекою і квартирами службовців. У цих будівлях - риси петровського бароко і старого російського зодчества.
На фасаді дзвіниці була встановлена чавунна дошка з текстом полтавської мови Петра I. Перед храмом на Б. Сампсонієвской проспекті був відкритий пам'ятник Петру I, відлитий за моделлю М. М. Антокольського.
Богослужіння в храмі проводилися до 1938 року. У 1942 році собор отримав сильні пошкодження - попаданням снаряда були зруйновані головний купол і один з малих куполів.
У 1953 - 1957 роках собор був відновлений. У його приміщеннях був відкритий музей Полтавської битви.