Первую деревянную церковь на Смоленском кладбище построили благодаря содействию императрицы Елизаветы Петровны, ее освятили в 1760 г. Затем здесь вместо деревянного построили каменный храм в формах классицизма (1786–1788), освященный в 1790 г. В 1833 г. построили новую паперть и колокольню, на которой было 12 колоколов (самый большой из них, отлитый в 1831 г., весил более 4 т). Главными святынями храма были образ Божией Матери Одигитрии Смоленской – один из списков с чудотворной Смоленской иконы Божией Матери, – украшенный с 1848 г. богатой ризой с бриллиантовыми и другими дорогими и красивыми украшениями, а также икона святителя Николая Чудотворца в серебряном позолоченном окладе с драгоценными камнями. В 1858 г. подкупольная часть храма была расписана в византийском стиле художником В.В. Васильевым. Интерьер храма был прекрасно расписан и украшен иконами кисти лучших русских художников.
После 1917 г. в Смоленской церкви хозяйничали «обновленцы», в 1940 г. ее закрыли, ценности изъяли и увезли. Но в 1947 г. в церкви возобновились богослужения. В 1950 г. в церковь передали особо чтимую икону Пресвятой Богородицы «Милующая» («Достойно есть») – список с особо чтимого Афонского образа 1887 г.; в 1950 г. в Смоленской церкви был освящен придел во имя иконы Божией Матери «Милующая». В 1990 г. в храме был освящен третий придел – во имя блаженной Ксении Петербургской, в храме есть ее образ. В Смоленском храме есть большой, написанный на стекле запрестольный образ Богоматери с Младенцем, переданный в 1950 г. в этот храм (этот образ был написан в начале ХХ в. для петербургского храма Клинического повивального института). В храме сохранилось много старинных икон: «Казанская», «Ахтырская», «Всех Скорбящих Радость», «Милующая», «Толгская» и др. Особо почитается, естественно, главная храмовая икона Божией Матери – «Смоленская».
Как отмечает З.А. Чесноков (2011, 2012), этот Смоленский храм обладает единственной в Петербурге иконой святой равноапостольной Нины, просветительницы Грузии.