В 683 году умер халиф Йазид, и сирийское войско, так и не взяв Мекку, ушло восвояси, чтобы принять участие в событиях, развертывавшихся в Сирии. В Дамаске после смерти Йазида халифом был провозглашен его сын Муавия, человек молодой (ему едва исполнилось двадцать лет), болезненный и нерешительный, проявлявший полную беспомощность в делах государственного управления. Кайситы, дислоцированные в Сирии, отказались приносить ему присягу и угрожали признать объявившего себя халифом Абдуллаха ибн аз-Зубайра, на сторону которого склонялись также арабские племена, находившиеся в Иране, Средней Азии и Закавказье. Аналогичные вести приходили из Ирака. По сути, однозначную поддержку Муавии II оказывали только сирийские кельбиты, полностью связавшие свою судьбу с династией Омейядов.
В 683 или 684 году Муавия II, ничем себя не проявивший, умер от чумы. После его смерти войско, вернувшееся из Аравии, выдвинуло кандидатуру Мервана ибн ал-Хакама, который и был провозглашен халифом в Джабии на собрании сторонников Омейядов. Этому событию сопутствовали столкновения между кельбитами и кайситами. Решающее сражение состоялось на равнине Мардж Рахит, к северо-востоку от Дамаска, в котором кельбиты нанесли своим противникам сокрушительное поражение и тем самым сохранили за собой прежние привилегии.
Халиф Мерван, основатель династии Мерванидов, являвшихся младшей линией Омейядов, получил плохую известность еще в правление халифа Османа, при котором он был фактическим правителем государства. При Муавии I и Йазиде он занимал положение их наместника в Хиджазе, будучи главой и представителем членов рода омейя в этой стране. Вместе со своими сородичами он бежал из Хиджаза в Сирию, когда в Медине вспыхнуло восстание против Йазида. Став халифом, он женился на одной из вдов Йазида, чтобы установить родство со старшей линией династии. Приблизительно через год, по некоторым сведениям, эта новая жена задушила его, когда он отказался объявить ее сына наследником престола; по другим данным, он умер от чумы.
После него правили халифы Абд ал-Малик (685–705) и Валид I (705–715). При них произошли крупные завоевания и были проведены важные реформы.
Восстановление власти Омейядов
в Аравии и Ираке
При вступлении Абд ал-Малика на халифский престол под властью Омейядов находились только Сирия и Египет. Даже в самом Дамаске было неспокойно. Здесь вспыхнуло восстание рабов, которые, как пишет Масуди, выступили совместно с «подонками» местного населения и «злоумышленниками». Свою лепту в общее смятение вносили бедуины из кайситов, предпринимающие грабительские налеты в районах Химса, Баальбека и Бекаа.
Население Западной и Центральной Аравии, Ирака и зависевших от него восточных областей Халифата подчинялось власти мекканского халифа Абдуллаха ибн аз-Зубайра. В европейской научной литературе его иногда называют «антихалифом», но на самом деле, как и в последний год правления Али, одновременно правили два халифа (один в Дамаске, другой в Мекке), и их приверженцы вели ожесточенную междоусобную войну.
В это время войска византийского императора Юстиниана II, действовавшие в Киликии, создавали непосредственную угрозу Северной Сирии, а подстрекаемые византийским военным командованием мардаиты — горцы-христиане неизвестного происхождения, которых арабы называли джараджима, — предприняли набег на Внутреннюю Сирию.
Халиф Муавия I укрощал пыл воинственных горцев с помощью золота, которое платил их предводителям. Но его преемники не сумели найти к мардаитам подхода, и те стали для арабов сущим бедствием. Пользуясь содействием византийского военного командования, которое снабжало их золотом и оружием, а иногда присылало к ним военных инструкторов, мардаиты наносили арабам удар за ударом. Они также охотно предоставляли убежище всем тем, кто бежал в ливанские горы от податных тягот и преследований завоевателей из равнинных областей Сирии. Поэтому на переговорах с византийцами послы дамасского халифа особенно настойчиво добивались отказа византийского правительства от союза с мардаитами.
Враждебные отношения с Византией привязывали лучшие омейядские войска к северной границе. Чтобы избавиться от византийской угрозы и получить свободу рук, Абд ал-Малик сделал византийскому императору незначительные территориальные уступки и обязался платить ему дань. Улучшение отношений с Византией вызвало ослабление активности мардаитов. Позже, в начале VIII века, часть мардаитов переселилась в византийские пределы, а остальные слились с ливанскими христианами-маронитами.