Как это водилось в еврейских семьях, сызмальства Нохум был отдан в хедер. С меламедом (наставником) Нохуму очень повезло. Шломо-Майер Яроцкий, который и стал прототипом главного героя будущей повести, был высоко им ценим. Яроцкий был родом из местечка, проживал там без паспорта, преследовался полицией, и так же, как и герой будущей книги Когана, тридцать лет назад уклонился от службы в армии, за что попал в кутузку. Однако прототип воссоздан отнюдь не буквально. Как мы увидим, автор дал образ однолинейно, как талмудиста в химически чистом виде, ярого противника наук, тогда как реальный Шломо-Майер был вовсе не чужд светского образования. Как сообщает никопольский краевед Павел Богуш, в городской общественной библиотеке есть «шкаф имени Ш. Яроцкого», где содержатся поступившие после кончины этого меламеда 514 книг, философского и литературоведческого содержания, многие на русском языке. Примечательно и то, что настоящий Яроцкий вовсе не умер на глазах у повествователя, а пережил Когана почти на пятнадцать лет.
Стараниями ассимилированного отца к образованию юноши были привлечены лучшие местечковые менторы. Нохум вполне овладел русским языком и жадно читал произведения русской литературы, которую, как и многие его соплеменники, считал своей. В гимназии он занимался столь успешно, что ежегодно поощрялся наградным листом, получая тем самым возможность учиться за казённый счёт. Что до его отношений с учителями, то есть сведения, что из-за препирательства с преподавателем математики, не простившим ему запальчиво грубого тона, Коган был отчислен из гимназии. Вообще (это отмечали многие) наш герой был из тех, кто не знал безразличного к себе отношения: его либо любили за чистую, восприимчивую и нетерпимую к ограниченности и фальши душу, за искренность, либо ненавидели за прямолинейность и резкость.
Он продолжил учёбу в Николаевской гимназии, которую, однако, ему вскоре пришлось оставить из-за неожиданно открывшейся болезни (начало злокачественной чахотки). Тем не менее, он сдал экстерном экзамен за полный гимназический курс. А когда настало время выбора профессии, решил сосредоточиться на сугубо практическом деле. От природы добрый и чуткий, он всегда проявлял участие к «братьям нашим меньшим», врачевание которых и вознамерился сделать своим ремеслом, весьма востребованным на Юге России. Потому он едет в Харьков, в тамошний ветеринарный институт. Как и прочие студенты, Нохум слушает лекции по анатомии, физиологии, гистологии, скотоводству и прочим специальным и вспомогательным дисциплинам. Воспитанники этого старейшего вуза получали образование на двух отделениях: «учёно-практическом» и «практическом». Первые обучались четыре года и получали по окончании звание ветеринарного врача, вторые становились «ветеринарными помощниками», и курс их обучения ограничивался тремя годами. На каком именно факультете обучался Нохум, сведений нет. Известно лишь, что уже на третьем курсе он был отчислен из института. Причиной тому стала резко усугубившаяся болезнь: теперь, помимо вялотекущей чахотки, он заболевает тяжёлым нервным расстройством и почти полгода проводит в «тихом отделении» Харьковской университетской клиники.
О своём пребывании там он напишет потом рассказ, который посвятит «своему лучшему другу С.К.» (Софье Коган). Так звали его будущую жену, а тогда заботливую миловидную девушку, что посещала его по нескольку раз на дню, скрашивая тягостные больничные часы. Когда же дело пошло на поправку, молодые обвенчались. К ветеринарии Нохум уже не вернулся, а переехал в родной Никополь. Он озаботился делом просвещения своих единоверцев и вместе с женой открыл частное начальное училище для еврейских мальчиков, а также библиотеку-читальню. Мемуаристы называют его «редким педагогом по своему пониманию детей и, в особенности, еврейской души». Причём ему приходилось ещё и увещевать жестоковыйных родителей школяров, не желавших мириться с его, Когана, «гойскими» методами преподавания. Впрочем, дело это не было прибыльным, недаром Когана называли за глаза «несчастным частным учителем».
Из-за его прогрессирующей чахотки семье пришлось переехать в Крым. Они живут в Симферополе, затем в Ялте, где Нохум пробавляется уроками и случайной канцелярской работой. Казалось, весь мир ощетинился против нашего героя: вот директор Ялтинской прогимназии убеждает родителей не доверять жиду обучение детей православных, так что тот лишается уроков; затем Когана выживают из местной типографии, где он одно время подвизался в качестве заведующего производством. Содержать многочисленную семью (а у него было уже четверо детей!) стало для него невозможным.