Вначале планировалось, что Александр едет на три года, а вышло – почти на всю оставшуюся жизнь, в которой он так и не обретет семью, всецело посвятив себя творчеству и достижению той цели, которую поставил себе с молодых лет. Еще в академические годы юноша проявлял интерес к истории и теории искусства, следил за современными воззрениями в этой области. Он искренне верил, что искусство способно духовно преобразить человека, а значит, и избавить все человечество от пороков. Идея нравственного обновления мира полностью захватила его. Как искренне верующий человек Иванов считал переломным событием приход Мессии на землю. Перечитывая Евангелие, он нашел сюжет, который еще не разрабатывался в живописи, – на берегу реки Иордан Иоанн Креститель с группой людей наблюдает первое появление Христа. Окончательный замысел сформировался весной 1833 г.
Отныне все, что художник знал, видел и рисовал, было подчинено этой идее, хотя, выполняя предписания петербургских наставников, он делал и обязательные работы. Одной из них была копия с плафона Сикстинской капеллы. Посетив Дрезденскую галерею, художник рисует голову Сикстинской Мадонны Рафаэля (этот рисунок висел в его мастерской всегда), работает в Мюнхене, Вене, Флоренции, Венеции, изучает античные памятники и произведения эпохи Ренессанса. Неповторимая природа Италии и возможность соприкоснуться с подлинными шедеврами вдохновляли его лирическую душу. На таком подъеме Иванов написал одно из самых поэтичных полотен – «Аполлон, Гиацинт и Кипарис, занимающиеся музыкой и пением» (1831-1836 гг.), в котором с наибольшей полнотой воплотил принципы классической живописи: продумал четкую композицию, грамотно разместил фигуры античной красоты, выдержал традиционный колорит. Но уже в этой работе просматриваются реалистические черты, которые впоследствии станут доминирующими в творчестве А. Иванова.
Проект задуманной молодым художником картины был настолько грандиозен, что даже отец отговаривал его, предвидя колоссальные трудности в реализации. Не говоря уже об академии, которую заботила прежде всего дороговизна и неопределенность сроков окончания работы. Иванову не разрешили поездку в Палестину, ограничивали в размерах картины (площадь ее достигала 40 кв. м), но художник упорно настаивал на своем, подчеркивая, что это не икона, а историческое полотно и пишется не для церкви.
Грандиозный замысел требовал огромной подготовительной работы. Чтобы выполнить ее, Иванов экономит на всем и отправляется на север Италии изучать классические произведения, пишет пейзажи и огромное количество этюдов, рисунков с обнаженной натуры. Первой попыткой приблизиться к задуманному полотну была картина «Явление Христа Марии Магдалине», над которой художник работал в 1834-1835 гг. Она была сначала выставлена в Риме, потом отправлена в Петербург и принесла автору звание академика. Успех окрылил Иванова. Но подобной радости испытать ему больше не довелось.
Годами художник искал композицию будущей картины, варианты размещения фигур, тщательно прорабатывал характеры персонажей, модели и детали, рисуя с натуры. Натурная работа все больше приближала его к обычной жизни, к бытовым сюжетам и простым лицам. Даже центральная фигура Иоанна Крестителя была лишена у него академической картинности. И уже совсем немыслимым для традиционной живописи было введение в композицию фигуры раба. Большие сдвиги произошли в изображении людей, усилилась психологическая разработка персонажей. Об этом свидетельствует огромное количество написанных с натуры портретов, преимущественно женских, а также появление на полотне героев, имеющих сходство с Н. Гоголем и самим художником.
Значительные успехи были достигнуты Ивановым в пленэрной живописи. Ряд этюдов и картин из серии «купающиеся мальчики» стали настоящими шедеврами. В них он уделял внимание не только колориту, но и свету, причудливой игре бликов утреннего солнца. Всему этому Иванова научила Италия, ведь на родине он не написал ни единого пейзажа.
В течение десяти лет в мастерскую художника-затворника никто не допускался, кроме близких друзей: поначалу доброго советчика, датского скульптора Торнвальдсена, затем Гоголя, следившего за ходом работы, позже переехавшего в Рим младшего брата Сергея. Одиночество и бедность были постоянными спутниками художника. Он так и не смог увидеться с родителями (мать умерла в 1843 г., отец – в 1848-м, причем на погребении присутствовала только внучка; академия, в которой он прослужил почти 33 года, не нашла даже денег на похороны). После этих потрясений Александр некоторое время был не в состоянии работать, но все-таки вернулся к картине, осознавая: «Сего труда ни один человек, кроме меня, кончить не может».