В 1876 г. Иван Сытин женился на Евдокии Ивановне Соколовой — дочери московского купца-кондитера и получил в приданое за женой 4 тыс. рублей. Это позволило ему, заняв у Шарапова еще 3 тыс., купить свою первую литографскую машину. В конце того же года он открыл печатную мастерскую на Воронухиной горе около Дорогомиловского моста, которая и дала жизнь огромному издательскому делу. Именно это событие считается моментом рождения крупнейшего полиграфического предприятия МПО «Первая образцовая типография».
Литография Сытина была более чем скромной, она занимала всего три комнатки, а ее печатные издания сначала почти не отличались от массовой продукции Никольского рынка. Но Иван Дмитриевич был весьма изобретателен: так с началом русско-турецкой войны 1877–1878 гг. он стал выпускать карты с обозначением боевых действий и надписью: «Для читателей газет. Пособие и батальные картины». Это были первые подобные массовые издания в России. Они не имели конкурентов, товар раскупался мгновенно и принес издателю известность и прибыль.
В 1878 г. литография перешла в собственность Сытина, и уже в следующем году у него появилась возможность купить собственный дом на Пятницкой улице, оборудовать печатню на новом месте и приобрести дополнительное полиграфическое оборудование. Спустя пять лет была учреждена книгоиздательская фирма «И. Д. Сытин и К0», торговая лавка которой располагалась на Старой площади. Поначалу книжки не отличались высоким вкусом. Их авторы в угоду потребителям не брезговали плагиатом, подвергали «перелицовке» некоторые произведения классиков. Сытин в то время говорил: «Чутьем и догадкой я понимал, как далеки мы были от настоящей литературы, но традиции лубочной книжной торговли были очень живучи, и ломать их следовало с терпением».
Очень скоро Иван Дмитриевич смог наладить не только подготовку и выпуск печатной продукции на собственных полиграфических мощностях, но и успешную реализацию лубочных изданий. Он создал уникальную сбытовую сеть разъездных коммивояжеров-офеней, охватившую всю страну. Далее по той же схеме стали распространяться и издания иного типа. Заслугой Сытина явилось то, что он правильно определил, за какими изданиями будущее, и стал постепенно по своей системе сбыта замещать лубок новой литературой. Многие просветительские издательства («Московский комитет грамотности», «Русское богатство» и др.) именно Сытину доверили производство и сбыт своих изданий для народа.
Осенью 1884 г. в лавку на Старой площади зашел Чертков, представлявший интересы Л. Н. Толстого, и предложил для издания рассказы Н. Лескова, И. Тургенева и толстовские «Чем люди живы». Эти более содержательные книги должны были заменить выпускавшиеся примитивные издания и быть предельно дешевыми, по той же цене, что и прежние — 80 копеек за сотню. Сытин охотно принял предложение. Так начало свою деятельность новое издательство культурно-просветительского характера «Посредник», только за первые четыре года выпустившее 12 млн экземпляров изящных книжек с произведениями известных русских писателей.
Иван Дмитриевич искал возможности выпуска и других изданий, способствующих просвещению народа. В том же 1884 г. на Нижегородской ярмарке появился первый сытинский «Всеобщий календарь на 1885 год»: «Я смотрел на календарь, как на универсальную справочную книгу, как на энциклопедию на все случаи жизни». Дела шли успешно, и вскоре был открыт второй книжный магазин в Москве на Никольской улице.
В следующем году Сытин купил печатню Орлова с пятью типографскими машинами, подобрал квалифицированных редакторов. Оформление календарей он поручил первоклассным художникам, по поводу содержания советовался с Л. Н. Толстым. В результате «Всеобщий календарь» достиг огромного тиража — 6 млн экземпляров, выпускались и отрывные «ежедневники». Необыкновенная популярность новой продукции потребовала постепенного увеличения количества названий календарей: постепенно их число достигло 21, причем каждый выпускался многомиллионным тиражом.