Книготорговую карьеру Смирдин начал с более чем скромной должности «мальчика» в книжной лавке сначала в Москве у П.А. Ильина, затем у А.С. Ширяева и, наконец, после переезда в Петербург стал приказчиком у известного в Северной столице типографа, издателя и книгопродавца Василия Александровича Плавильщикова. После смерти последнего в 1823 году Смирдин, по завещанию покойного, стал владельцем его библиотеки, типографии и книжного магазина. В 1832 году Смирдин перевел теперь уже бывший книжный магазин Плавильщикова из дома Гавриловой на Мойке, 70, что у Синего моста, в центр города, на Невский, 22.
По случаю переезда Смирдин устроил торжественный обед, на который пригласил всех наиболее известных петербургских писателей. На обеде присутствовали: И.А. Крылов, А.С. Пушкин, В.А. Жуковский, П.А. Вяземский и многие другие литераторы, в том числе и представители реакционного крыла русской культуры: Булгарин, Греч, Сенковский. С ними у Смирдина к тому времени сложились деловые отношения. Надо признать, что коммерческий успех книжной торговли Смирдина во многом зависел от творчества и этих писателей. Их книги пользовались неизменным спросом у невзыскательной части петербургских читателей.
Кроме того, Смирдин старался со всеми ладить и всех примирить, не считаясь с убеждениями, литературными и политическими взглядами и предпочтениями тех или иных писателей. Это обстоятельство вызывало раздражение многих либеральных авторов. Известна убийственная эпиграмма на Булгарина, которая, походя, задевала и хозяина магазина. Считается, что эпиграмма принадлежит Пушкину. Ее со смаком повторял весь читающий Петербург:
Владимир Соллогуб в своих воспоминаниях рассказывает, как появился этот блестящий шедевр. Однажды они вместе с Пушкиным зашли в лавку Смирдина. Соллогуб стоял у дверей и импровизировал:
Эти четыре строчки он прочитал выходящему Александру Сергеевичу, который с необыкновенной живостью закончил стихотворение, добавив пятую строку:
Особая заслуга Смирдина перед русской литературой состоит в том, что он был первым в России книгоиздателем, который ввел в практику взаимоотношений с писателями твердые авторские гонорары. По тому времени гонорары были немалые. Так, например, Пушкину он платил по десять рублей за стихотворную строку. Благодаря Смирдину, труд писателей стал профессиональным. Кроме того, Смирдин положил начало изданию в России так называемых толстых журналов.
«Смирдин основал новый книжный магазин, какого еще не было в России», – писала «Северная пчела» по случаю его открытия. И это действительно так. Оказавшись наследником Плавильщикова, Смирдин стал еще и владельцем его богатой библиотеки, которая к 1820 году насчитывала более семи тысяч томов. К 1832 году Смирдин увеличил ее до двенадцати тысяч. Библиотека разместилась в большом светлом зале второго этажа книжной лавки. Она была доступна не только для писателей, но и для всех желающих. Таким образом, магазин книг был превращен Смирдиным в своеобразный литературный клуб, располагавший к работе и общению. Завсегдатаем библиотеки был Пушкин. В его личной библиотеке на Мойке, 12, сохранилось семь книг с экслибрисами Смирдина, которые он не успел вернуть в его библиотеку.
На углу дома № 24 находился кондитерский магазин «Золотой улей», известный в городском фольклоре как «Пчелка».
Дом № 26 на противоположном углу Малой Конюшенной улицы свой современный вид приобрел в 1874 году после серьезной перестройки, предпринятой архитектором В.А. Кенелем. В первом этаже этого дома с давних пор существует нотный магазин «Композитор». В советское время индивидуального названия он не имел, и в городском фольклоре, по аналогии с «Пчелкой», получил прозвище «Птичка».