Простота исламского вероучения, очевидная в глазах многих, истинность его (раз арабы побеждают, значит их Бог — Аллах — действительно всемогущ) побуждали покоренное население массами переходить в ислам.
Первые халифы создавали на завоеванных землях военные поселения арабов, служившие опорными пунктами для дальнейших завоеваний. Местные жители должны были содержать этих поселенцев. Земли на завоеванных территориях первоначально не раздавались, ибо воин не должен быть привязан к земле. Местное население управлялось по своим законам. Однако для сбора налогов было создано особое казначейство. В органах управления немалую роль играли греки, сирийцы, персы; на языках этих народов велось делопроизводство. Арабы же, особенно вне Аравии, составляли постоянное войско, военные наместники играли все большую роль в Халифате, оттесняя самую влиятельную группу арабов — мекканскую и мединскую знать. Это привело к кризису, в котором опять-таки политические мотивы были неотделимы от религиозных.
Первоначально немногочисленная община «правоверных» была способна выбрать руководителя. Теперь же, после создания Халифата и колоссального расширения подвластных ему территорий, такие выборы стали невозможными. В них принимала участие только сравнительно небольшая группа знатоков Корана. Но Коран, созданный до образования арабского государства, не мог предусмотреть многих вопросов, связанных с управлением Халифатом. Разногласия в толковании учения Мухаммеда привели к расколу мусульман на два религиозно-политических течения. Одно из них — сунниты (от «сунна» — сборник изречений Пророка), утверждали, что их руководители выражают мнение всей общины правоверных. Второе течение — шииты (от арабского «ши'а» — «группа»), сторонники Али, двоюродного брата и зятя Мухаммеда, — заявляли, что в роду пророка существует особая наследственная благодать, обеспечивающая права Али и его потомства на престол и верное толкование Корана. Между обоими течениями разгорелась ожесточенная борьба, в ходе которой Али (656—661) был убит одним из членов своей же секты.
После гибели Али к власти пришла династия Омейядов, правителей Сирии, и столица Халифата была перенесена из Мекки в главный город Сирии Дамаск. Омейяды опирались на арабскую военную знать. Произошла арабизация Халифата, делопроизводство перешло на арабский язык, арабы заняли места не только воинов и законоучителей, но и чиновников.
Омейяды продолжили политику завоеваний. В начале VIII в. арабские воины подчинили себе земли к северу от Аму-Дарьи и к востоку от Инда, они совершали набеги на Малую Азию и дважды осаждали Константинополь. Еще ранее они дошли до Атлантического побережья Северо-Западной Африки. Покоренные народы приняли ислам и многие из них вошли в армию арабов. В 710 г. отряд арабов (жители Северо-Западной Африки назывались также маврами) совершил набег на север, через пролив, который древние называли Столпы Геракла. Прибрежная скала, к которой причалили корабли завоевателей, получила название Джебель-аль-Тарик, т.е. Гора Тарика (так звали предводителя нападавших); позднее это название превратилось в Гибралтар. Впервые нога мусульманина коснулась земли Западной Европы.
История арабского завоевания вестготской Испании малоизвестна, зато расцвечена легендами. Одна из них гласит, что король Родриго, отобравший власть над Испанией у наследников законного монарха, вошел в древнюю «сокровищницу Геракла» в Толедо, в которой хранились несметные богатства. Над сокровищницей тяготело заклятие: тот, кто в нее войдет, увидит на стене изображение народа, которому суждено завоевать Испанию. Родриго узрел нарисованных темнолицых людей на конях и кораблях.
Так или иначе, пророчество сбылось. К 714 г. Испания была завоевана маврами. Свободной осталась лишь Астурия, область на северо-западе Иберийского полуострова. В 718 г. астурийцы нанесли маврам первое поражение. Таким образом, почти сразу же после завоевания началось обратное отвоевание — по-испански — РЕКОНКИСТА. Но в это время арабы уже перешли Пиренеи и захватили города на юго-западе Галлии. Опасность нависла над Франкским государством.