Мухаммаду было около сорока лет, когда ему стали являться странные сны и видения, которые внушили ему мысль, что он есть пророк Аллаха. Он стал обличать заблуждения своих соплеменников, проповедовать им веру в Аллаха и учить их богоугодной жизни. Мухаммад говорил о всемогуществе Бога, о близком конце света и о том, что спасутся лишь те, кто помогает ближним, кто уверовал в Аллаха и последовал за его пророком. Мухаммад назвал их мусульманами, то есть «отдавшими себя». Сначала участниками молений Мухаммада были только члены его семьи, потом к ним присоединился Абу Бакр, богатый купец из рода Тайм, а затем ещё несколько человек. Одним из последних принял ислам Умар, занимавший в Мекке высокий общественный пост - человек с большим авторитетом, с решительным характером и мощным телосложением.
Поначалу успехи нового вероучения были очень скромными. Большинство мекканцев отнеслось к нему очень холодно. Число последователей ислама не превышало нескольких десятков человек. Когда же Мухаммад, обличая почтенных горожан, провозгласил, что их отцы и предки горят за своё неверие в адском пламени, он стал встречать в согражданах уже явную враждебность. Однако пророк не прекращал своих речей, и по прошествии нескольких лет, его проповедь произвела большое впечатление на группу паломников из Йасриба. Они поспешили разнести весть о новом учении, появившемся в Мекке. Вскоре многие жители оазиса приняли ислам, а в сентябре 622 года Мухаммад сам переселился в Йасриб.
Когда положение пророка укрепилось, он перешёл к враждебным действиям против Мекки. После нескольких безуспешных попыток в начале 624 года отряду мусульман удалось захватить у Нахлы мекканский караван. Вслед за тем в марте того же года Мухаммад собрал большие силы для нападения на другой караван с товарами из Газы. В него входило более тысячи верблюдов, а весь груз оценивался в 50 тысяч динаров. Когда мекканцы узнали о приготовлениях Мухаммада, то немедленно собрали войско и поспешили на помощь своим соплеменникам. Случилось так, что сама причина раздора - богатый караван - сумел благополучно ускользнуть от Мухаммада, но обе враждебные армии встретились у Бадр. С Мухаммадом было около 300 человек, а у мекканцев, видимо, раза в три больше. Хотя с обеих сторон в этом сражении едва участвовало полторы тысячи человек, по понятиям того времени оно было крупным событием. Мухаммад построил своих воинов плотным строем на удобной для обороны позиции и сам наблюдал за сражением из шалаша, находившегося в отдалении. Мекканцы, имевшие достаточно многочисленную конницу, первыми атаковали своих врагов, но были отброшены и после короткого боя обратились в бегство.
Эта победа произвела большое впечатление на современников. Авторитет Мухаммада сразу колоссально возрос. Даже местопребывание его стало считаться священным. Йасриб из обычного селения стал для мусульман столицей пророка Мадинатан-Наби, в просторечии Мединой. Своё возросшее могущество Мухаммад прежде всего направил против иудейских племён, издавна проживавших в Медине. В апреле 624 года он призвал евреев из племени бану кайнука принять ислам. Когда те отказались, мусульмане осадили их квартал города. Через две недели кайнука сдались на милость победителя и должны были выселиться из Медины.
Тем временем мекканцы помышляли о мести. Своим военачальником они сделали Абу Суфайн Сахра, и тому удалось собрать войско, численность которого достигала 3 тысяч человек. Эта армия в марте 625 года двинулись походом на Медину. Мухаммад узнал о приходе врага лишь тогда, когда тот был в нескольких часах хода от оазиса, поэтому в войске мусульман едва была тысяча человек. В начавшемся сражении мусульмане сначала одержали верх. Они прорвали строй мекканцев и начали грабить их лагерь. Заметив это, конница мекканцев врезалась в рассыпавшийся строй мусульман, которые в свою очередь обратились в бегство. Сам Мухаммад получил удар мечом по голове. Кровь из раны залила всё его лицо, и на короткое время он лишился чувств. Это ещё более усилило беспорядок - войско мусульман разбежалось, и мекканцы могли торжествовать полную победу.
Неудачи вне города приходилось компенсировать внутри него. Вскоре после возвращения из похода мусульмане изгнали из Медины второе еврейское племя бану надир, старейшины которого будто бы готовили покушение на пророка. Бану надир не смирились сразу с потерей своих земель. Они начали хлопотать о соединении всех врагов Мухаммада и вскоре преуспели в этом деле. Первыми на их призыв откликнулись мекканцы, которые выставили на этот раз более 4 тысяч воинов. Союзниками их стали кочевые арабские племена, так что общая численность войска достигла 10 тысяч. Сборы такого большого числа воинов не могли остаться незамеченными. Мухаммад, заблаговременно обо всём узнавший, сумел собрать около 3 тысяч своих сторонников. С наиболее доступной стороны на севере от Медины мусульмане вырыли ров длиной 6 километров. На долю каждого мужчины был выделен участок в 40 локтей, причём пророк вырыл свою часть наравне со всеми.