Из всех многочисленных сыновей Махди только Мусу и Гаруна готовили в преемники халифа. Похоже, отец позаботился дать обоим братьям хорошую политическую подготовку. В более поздние века халифы Аббасиды пробивались на трон, имея за плечами небогатый опыт благодаря жизни за стенами дворца, так как не завязывали реальных кон тактов с политиками и солдатами, от которых зависел впоследствии их успех. Однако Махди поощрял самостоятельность мальчиков и давал им возможность самим находить себе друзей среди придворных. Гаруна наверняка учили в детстве читать и писать, он также изучал основные положения и верования ислама — хотя во взрослой жизни никогда не выказывал больше, чем обычную набожность, пусть и достаточно искреннюю.
Первым большим публичным действием молодого принца стало паломничество в Мекку и Медину, куда отец взял его осенью 777 года. Это было огромное событие. При правлении Мансура святые города оказались центром восстания Мухаммеда Чистая Душа против власти Аббасидов; еще оставались раны, которые требовалось заживлять, и ограды, которые нужно было чинить. Как обычно, Махди делал все по-своему. Он продемонстрировал свою набожность восстановительными работами в больших святилищах. Его предупредили, что здание Каабы в Мекке пребывает в опасном состоянии из-за огромного веса покрывал, которые использовали для его укрытия. Удачливые халифы укладывали каждый раз по одному покрывалу поверх остальных, пока не возникла опасность, что здание рухнет из-за их веса. Одна задругой богатые ткани были сняты: со времени последних Омейядов на крышу укладывали прекрасную шелковую парчу, а более ранние ткани из Йемена были гораздо проще. Должно быть, это была великолепная коллекция старинных тканей, мечта любого историка.
В Медине Махди расширил мечеть Пророка и хотел восстановить первичную простоту ее интерьера. Мы знаем, что он приказал убрать ограждение
Он предпринял ряд шагов на удовлетворение более земных нужд людей святых городов: 300 000 золотых динаров было привезено из Египта и еще 200 000 из Йемена, эти деньги были распределены среди жителей. Как всегда у Аббасидов, вместе с деньгами поступило и огромное количество халатов, так как текстильная дипломатия являлась важным аспектом политики.
Махди добился любви подданных, и молодой Гарун должен был оказаться в лучах славы отца. И это сработало: когда другой член семьи Пророка в 785 году попытался поднять народ святых городов против Аббасидов, большинство населения решительно отказалось присоединиться к нему.
Вскоре после этой поездки образование Гаруна было доверено человеку, который в дальнейшем имел сильное влияние на Гаруна в течение всей его жизни. Яхья ибн Халид ибн Бармак был к этому времени старшим чиновником и близким другом царской семьи. Он стал воспитателем Гаруна и его главным политическим советником, направляя ученика при освоении административных и военных вопросов. Но он стал больше, чем учителем: после смерти Махди Гарун считал его своим отцом, и Яхья действительности оказывал ему моральную поддержку, постоянно ободряя и подбадривая, в чем Гарун необычайно сильно нуждался.
Однако эти отношения являлись улицей с двусторонним движением — потому что выдержанный и утонченный персидский чиновник и вес члены его семьи выпавшей им удачей были привязаны к карьере молодого ученика. Для них был жизненно необходим успех Гаруна. Они так много вкладывали в его успех, что Яхья не мог позволить себе уйти в безвестность, даже если бы захотел. Ставки его и его семьи в этой игре были чрезвычайно высоки.
Как и у молодых членов британской королевской семьи, следующим шагом в образовании Гаруна стало военное дело — с той лишь разницей, что как только Гарун получил статус наследника, он немедленно был назначен лично командовать армией.