После окончания военных действий Николай Иудович некоторое время оставался на Балканах, отвечая за учет и сохранность турецкого военного имущества, захваченного русскими войсками в крепости Рущук. Благодаря хорошим знаниям материальной части артиллерии и большому трудолюбию ему удалось восстановить несколько десятков полевых и крепостных орудий. Позже они составили костяк артиллерийского парка создавшейся национальной болгарской армии. За эту плодотворную работу он был отмечен орденом Св. Анны 2-й степени.
Последующие два года Иванов состоял членом Варшавского окружного суда, затем 6 лет командовал гвардейской артиллерийской батареей. За успехи в службе он был произведен в полковники и награжден орденом Св. Владимира 3-й степени. В 1888 году Николай Иудович назначается заведующим мобилизационной частью Главного артиллерийского управления. Однако канцелярская работа была не по душе 37-летнему полковнику. Он сделал все возможное, чтобы вернуться в строй, и вскоре был назначен командующим артиллерией Кронштадтской крепости.
На новой должности Иванов оказался на виду у высших военных чинов столицы. Он был произведен в генерал-майоры, в сравнительно короткое время награжден тремя орденами: российским орденом Св. Станислава 1-й степени, французским офицерским крестом Почетного легиона и румынским большим крестом ордена Короны. Затем он был приглашен состоять генералом для поручений при генерал-фельдцехмейстере – главном начальнике артиллерии русской армии великом князе Михаиле Николаевиче. Эта перспективная должность не прельстила, однако, деятельного генерала.
В 1900 году резко обострилась обстановка в Маньчжурии, где незначительные формирования русских войск, охранявших Восточно-Китайскую железную дорогу, постоянно подвергались нападениям восставших китайских крестьян. Для наведения порядка в этом районе русское правительство решило выделить специальный экспедиционный корпус. Узнав об этом, Иванов подал рапорт о направлении его на службу в корпус. Вскоре он выехал во Владивосток, заняв должность начальника артиллерии корпуса.
Так для Николая Иудовича началась вторая в его жизни война. Он всячески стремился отличиться на поле боя. Однако ввиду того, что боевые действия носили преимущественно характер карательных экспедиций, а не крупных полевых сражений, возглавляемая Ивановым артиллерия применялась весьма ограниченно. По итогам войны в Китае он был награжден орденом Св. Анны 1-й степени и чином генерал-лейтенанта, после чего вновь вернулся к исполнению обязанностей генерала для поручений при великом князе Михаиле Николаевиче.
С началом Русско-японской войны Иванов подает рапорт с просьбой направить его в действующую армию. Летом 1904 года она была удовлетворена. Он направляется в распоряжение командующего Маньчжурской армией в Ляоян. Выполняя частные служебные поручения, Николай Иудович за отличие в августовских боях, происходивших у стен этого города, был награжден орденом Св. Георгия 4-й степени, а за осенние бои – Золотым георгиевским оружием с надписью: «За храбрость». В июне 1905 года генерал-лейтенант Иванов был назначен командиром Восточного отряда Маньчжурской армии, который вскоре был переформирован в 3-й Сибирский армейский корпус. Он вошел в состав 1-й Маньчжурской армии, возглавлявшейся генералом от инфантерии Н. П. Линевичем. Во главе этого корпуса, а затем 1-го армейского корпуса Николай Иудович провел немало боев, участвуя в Шахейском и Мукденском сражениях. За боевые заслуги генерал Иванов был повторно награжден Золотым георгиевским оружием с надписью: «За храбрость», но на этот раз украшенным бриллиантами.
О личностных качествах Иванова в этот период написано немного. Безусловно, он был храбрым генералом и достаточно грамотным командиром, умел ладить с начальниками и подчиненными. Граф А. А. Игнатьев, встречавшийся с ним на полях Маньчжурии, позже писал:
«Хитрый был мужик Николай Иудович: он в конце войны не раз заходил в нашу столовку в Херсу потолковать с молодежью, подышать штабным воздухом, и нелегко было разгадать, что таится за ласковым взором и еще более сладкими речами этого простака с величественной и уже слегка седеющей бородой».
Новый 1906 год Иванов встретил в Петербурге, куда прибыл со своим 1-м армейским корпусом, дислоцировавшимся в столице и ее окрестностях. На этом посту его и застало восстание матросов Кронштадтской крепости, начавшееся вечером 19 июля этого года. В его подавлении части корпуса генерала Иванова сыграли главную роль. По его указанию уже к утру 20 июля были арестованы свыше 3 тысяч восставших. По приговорам военно-полевых судов 36 человек были расстреляны, 130 сосланы на каторжные работы, 1251 – осуждены на различные сроки тюремного заключения.