Третий праведный халиф Усман ибн Аффан, пришедший к власти в 644 году, после убийства Умара ибн аль-Хаттаба, приблизил ко двору и управлению государством своих родственников, происходивших из ветви племени курайшитов под названием Бану Умайя. Непотизм неизбежно приводит к коррупции и прочим злоупотреблениям властью, а это, в свою очередь, порождает недовольство в народе. Недовольство подогревалось представителями других курайшитских кланов, среди которых было много уважаемых людей, доказавших свою преданность вере и халифату. Главным оппонентом халифа Усмана был Али ибн Абу Талиб, сын предводителя курайшитского клана Бану Хашим, двоюродный брат и сподвижник пророка Мухаммеда, женатый на дочери пророка Фатиме. Сторонники Али считали, что во главе уммы должен стоять он, как наиболее близкий сподвижник пророка Мухаммеда, связанный с пророком двойными родственными узами – и как брат, и как зять.
Противоречия, связанные с преемственностью власти над уммой, а также непотизм и другие недостатки правления халифа Усмана привели к смуте, которую принято называть «Первой фитной» или «Расколом из-за убийства Усмана». В январе 655 года оппозиционно настроенная знать изгнала Абдуллаха ибн Сада из Александрии и взяла управление Египтом в свои руки. Пять сотен египтян под видом паломников пошли в Медину, куда также направились люди из Басры и Куфы, чтобы высказать халифу свои претензии. Халиф Усман был вынужден согласиться с высказанными в его адрес обвинениями и пообещать впредь управлять по справедливости, следуя Корану и Сунне, в чем дал письменное обязательство. Однако же когда посланцы отправились обратно, Усман отрядил гонца к египетским властям с повелением наказать лидеров мятежников. Египтяне вернулись в Медину и потребовали объяснений, но Усман сказал, что ничего не знает о письме. Ему не поверили, в городе начались беспорядки, итогом которых стало убийство халифа 17 июня 656 года. Преемником Усмана был избран Али ибн Абу Талиб, которого часть уммы считала единственным законным халифом.
Наместником Сирии и Палестины был родственник халифа Усмана Муавия ибн Абу Суфьян, состоявший в дальнем родстве с пророком Мухаммедом через общего предка по отцовской линии Абд Манафа ибн Кусая, приходившегося пророку прапрадедом. Муавия отказался присягать на верность халифу Али, обвинив того в связях с убийцами Усмана. В ответ Али назначил в Сирию другого наместника, но Муавия не пустил его в свои владения. Вряд ли в тот момент Муавия думал о власти над халифатом, скорее всего он пытался удержать земли, доверенные его попечению халифом Усманом. Но волею обстоятельств Муавии пришлось вступить в борьбу с Али. На стороне Муавии выступал Амр ибн аль-Ас, которому в случае победы было обещано пожизненное наместничество в Египте, фактически – возможность самостоятельного правления этой богатой областью.
В июле 657 года близ сирийского Сиффина, находившегося к северу от Пальмиры, между войсками Али и Муавии произошло сражение, растянувшееся на девять дней (с перерывами на ночной сон и молитвы). Удача склонялась на сторону Али, но хитроумный Амр ибн аль-Ас остановил сражение, отправив к противнику воинов с прикрепленными к копьям свитками Корана. Посланцы кричали: «Во имя Аллаха, великого и милосердного, подумайте о ваших женах и детях и о том, кто останется для противоборства с румами [византийцами], тюрками и персами!» Эта уловка сработала. Противоборствующие стороны не могли напрямую прийти к соглашению, поэтому они договорились о третейском суде, который должен был состояться до конца рамадана текущего года. Однако 28 января 661 года, незадолго до суда, Али ибн Абу Талиб был убит в соборной мечети Куфы тремя заговорщиками. Они якобы собирались убить всех троих виновников раскола среди мусульман – Али, Муавию и Амра, но о покушениях на двух последних достоверно ничего не известно. Преемником Али стал его сын Хасан, который в августе 661 года уступил власть над уммой Муавии, ставшему шестым праведным халифом. Вопреки сложившейся традиции выборной передачи власти Муавия сделал своим преемником сына Язида, что удалось ему с определенным трудом, но все же удалось. Преемником Язида стал его сын Муавия II ибн Язид. Так принцип выборности халифов был предан забвению и власть начала передаваться по наследству, от одного потомка Муавии к другому
В пору своего расцвета Омейядский халифат простирался более чем на одиннадцать миллионов квадратных километров, на которых проживало тридцать три миллиона человек. С 661 года столицей халифата стал сирийский Дамаск – благодаря центральному расположению города отсюда было удобнее управлять разросшимся государством, нежели из Медины.