Двумя годами позже Констанций II отдал его на попечение евнуха Мардония, который привил ему страсть к литературе и к старым богам. Юлиан получил образование в Константинополе, занимаясь грамматикой и риторикой. Примерно в 342 г. император перевел его в Никомедию; в скором времени его со сводным братом Констанцием Галлом отправили на укрепленный пункт Мацелл в Каппадокии, где они получили благочестивое христианское образование, хотя Юлиан продолжал жадно поглощать классические труды языческих авторов. После шести лет этой своеобразной ссылки Юлиану позволили вернуться в Константинополь, но подозрительный правитель поспешил убрать его из города и в 351 г. вновь отправил в Никомедию. Отсюда он выезжал для продолжения образования в Пергам и Эфес, слушая проповеди ведущего неоплатоника Максима, который тайно обратил его в особую форму язычества, связанного с мистикой и магическими обрядами.
После ниспровержения и смерти в 354 г. Констанция Галла (до того назначенного цезарем) Юлиана призвали ко двору в Медиолан, благодаря покровительству первой жены императора, Евсевии, ему дозволили отправиться в Афины для завершения образования. После чего его вновь призвали в Медиолан, возвели в цезари и в 355 г. дали в жены сестру Констанция, Елену. Вскоре он получил приказ отправиться к северным границам для отражения опасных набегов франков и алеманнов. В 356 г. он отвоевал Агриппинову колонию и другие города, а в течение следующего года разбил у Аргентората превосходящие силы алеманнов. Он развил успех, совершив вылазку за Рейн; в 358 и 359 гг. оставил свои зимние квартиры в Лютеции и нанес германцам еще несколько поражений. Даже если значение этих побед преувеличивалось его восхвалителями, они все равно были для него большим успехом, поскольку он не получил никакой военной подготовки. Более того, Юлиан заслужил уважение своих воинов тем, что делил с ними тяготы солдатской жизни, а существенное снижение налогов (вопреки сопротивлению префекта претория, Флавия Флоренция) привлекло на его сторону и гражданское население Галлии.
Эти признаки растущей популярности вызывали раздражение при дворе Констанция II. По словам Аммиана Марцеллина, когда поступили известия о деяниях Юлиана,
«все самые влиятельные придворные, признанные знатоки в искусстве лести, высмеяли хорошо продуманные планы цезаря и тот успех, что им сопутствовал. Повсюду распространялись глупые шутки, например, что он «больше походил на козла, чем на человека» (намек на его бороду); «его победы начинают приедаться», заявляли они. «Краснобайствующий прыщ», «обезьяна в пурпуре», «грек-любитель» — этими и другими именами называли его. Поочередно донося их до ушей императора, жаждавшего слышать именно такие слова, враги Юлиана пытались очернить его умения. Они укоряли его в слабости, трусости и в сидячем образе жизни, и обвиняли в том, что он умеет сказать о своих победах блестящим языком».
Зависть охватила Констанция, и он решил отозвать часть войск Юлиана и влить их в свою собственную армию. Но в Лютеции солдаты отказались подчиниться его приказу и в феврале 360 г. провозгласили Юлиана августом. После неудачной попытки вступить в переговоры с Констанцием он понял, что войны не избежать, и в 361 г. стал быстро продвигаться на восток. Вскоре до него дошли вести о смерти императора. В декабре Юлиан без сопротивления добрался до Константинополя.