Другое решение Харун ал-Рашида, принятое им относительно своего преемника незадолго до опалы Бармакидов, тоже не устраняло хорасанской проблемы. В сущности, халифу пришлось выбирать между двумя старшими сыновьями, один из которых — от арабской жены благородного происхождения — не производил впечатления талантливого правителя, но поддерживался внушительной партией знати, а другой, казавшийся готовым к решению правительственных задач, обладал серьезным, в глазах некоторых, изъяном — был рожден персидской наложницей. После долгих колебаний перед выбором, грозившим привести к разделу империи, Харун решился сделать своим первым наследником «арабского» сына, будущего ал-Амина, а другого, будущего ал-Мамуна, — вторым наследником,
После вспыхнувшей тогда настоящей гражданской войны империя оказалась расколотой надвое, это можно было связывать с конфликтом между арабами и иранцами, масштабы которого были явно преувеличены некоторыми современными Историками: в действительности арабов было достаточно и в рядах армии ал-Мамуна, в то время как ал-Амин взывал к «арабским» чувствам некоторых вождей лишь в самых крайних обстоятельствах. Тем не менее представляется вполне достоверным, Что ал-Мамун по совету некоего новообращенного иранца, оказывавшего на него почти диктаторское давление, не ограничился поощрением политико-религиозной школы мутазилизма, которой еще предстояло сыграть роль первого плана, — он сделал своей верной опорой население Хорасана, признававшее в нем деятельного защитника. В восточных провинциях, где у него было множество сторонников, формировались мощные войска, которые впоследствии обеспечили ему триумф, захватив Ирак и покорив Багдад после долгой осады в 812–813 гг., оставившей в анналах память о страшной войне. При этом ал-Амин, пытаясь защититься всеми возможными средствами, погиб. Вся империя пала к ногам нового халифа ал-Мамуна, но это не означало конца потрясений.
Начавшееся при столь драматических обстоятельствах правление будет ознаменовано оригинальной попыткой решить шиитскую проблему и положить конец непримиримой войне, которую в течение 70 лет вели Аббасиды и Алиды. Ал-Мамун действительно решил назначить наследником потомка ал-Хусайна в лице Али ал-Риды, человека набожного и скромного, проживавшего в Медине, которого он спешно вызвал в Мерв, объявив, что из всех хашимитов он самый достойный звания халифа. Одновременно в качестве символа режима был утвержден зеленый цвет, сменивший черный цвет Аббасидов и предназначенный, по-видимому, отразить дух примирения и обретенного мира. Этот смелый шаг, корректно интерпретировать который современным историкам нелегко, означал неожиданный отказ Аббасидов от власти де-факто, если не де-юре, поскольку способ наследования не был оговорен. Хотя он мог быть и проявлением коварства со стороны лицемерного халифа, что, впрочем, мало согласуется с тем, что мы знаем о его личности. Но первым результатом этого назначения стали охватившая иракское население сумятица и развертывание оппозиции, завершившееся провозглашением другого принца аббасидской фамилии — Ибрахима, сына ал-Махди. Эти события поначалу скрывались от ал-Мамуна его окружением, но, сделавшись явными, побудили его как можно скорее вернуться в Багдад. За время путешествия как нельзя кстати были убиты или отравлены (с ведома халифа или без оного) оба столпа предшествующей политики — вазир ал-Фадл ибн Сахл и несчастный Али ал-Рида.