Благодаря подобным заявлениям Ираклия часто воспринимают как первого крестоносца, однако между идеологией Крестовых походов, которая позже получила развитие в Западной Европе, и тем, как вели войну против нехристиан византийцы, есть существенная разница. Очевидное отличие заключается в том, что византийское духовенство при этом сохраняло молчание. В то время как на Западе Крестовые походы начал Папа Римский и священнослужители призывали верующих участвовать в них, в Византии такое случалось редко. Хотя именно епископ призвал Юстиниана пойти войной на ариан-вандалов в Северной Африке в 533 году, утверждая, что Бог говорил с ним во сне, никакого духовного вознаграждения тем, кто откликнется на это призыв, Церковь не обещала. Вместо этого византийский император пообещал своим воинам, что Бог вознаградит их усилия. Кроме того, с этой идеологией, основанной на вере в собственное духовное превосходство, соседствовал и своеобразный прагматизм. Византийцы никогда не были склонны к тому, чтобы погибать в бою ради славы, даже если это была битва против нехристиан. В наставлении по военной тактике, написанном примерно в то же время, говорилось, что лучше одолеть врага с помощью планирования и хитрости, а не грубой силы, и избежать сражения. Многие тактики, предлагаемые в этом наставлении, никак не согласуются с романтическими представлениями об овеянных славой Крестовых походах. Посылайте неверные донесения и распространяйте ложные слухи в стане врага, призывает анонимный автор, и тем самым подрывайте его боевой дух. Подбадривайте своих людей, сообщая о победах, якобы одержанных где-то в другом месте, а если кто-то из ваших солдат окажется изменником, сделайте так, чтобы в руки врага попали письма, из которых станет ясно, что этот человек шпион. В глазах византийцев во всем этом не было ни малейшего противоречия. В конце концов, защита христианской империи – дело настолько праведное, что для достижения этой цели годятся любые средства.
Другой характерной для Византии составляющей идеи священной войны были религиозные изображения. Иконы играли в жизни империи все более заметную роль, и теперь Ираклий использовал их и для целей ведения войны. Уже в 610 году, когда он отплывал из Карфагена, направляясь в Константинополь, чтобы свергнуть Фоку, на носу его корабля была икона Богородицы. Теперь же, готовясь выступить против персов, он взял с собой на битву икону Спасителя, якобы не рукотворную, а обретенную чудесным образом. Видимо, это был образ Христа из Камулианы, привезенный в Константинополь в 574 году. Тут Ираклий и Церковь действовали сообща. Когда ситуация стала критической, патриарх Сергий распорядился, чтобы на всех воротах в стенах Константинополя было сделано изображение Богородицы с младенцем на руках. Вероятно, списаны эти образы были с иконы «Одигитрия» («Указующая Путь»), названной так потому, что на ней Богоматерь указывает на путь спасения, а именно на Иисуса. Считалось, что икона была написана евангелистом Лукой и что это реальный прижизненный портрет Богородицы и Иисуса. По преданию икона была привезена из Палестины в Константинополь в V веке. Теперь же она заняла свое место на стенах города вместе с его защитниками.
Когда подготовка завершилась, весной 624 года Ираклий отправился на Восток. Возможно, персы ожидали, что император первым делом попытается вернуть часть утраченных территорий в Сирии. Если так, то их армия ждала там Ираклия долго и безрезультатно: он так и не пришел. Вместо этого византийская армия двинулась на восток через Малую Азию и далее на север, в Армению, которая давно была спорной территорией, поделенной между двумя империями. Оттуда византийцы повернули на юг и вышли к незащищенным северным границам самой Персии. Известие об этом прозвучало для Хосрова II как гром среди ясного неба: он призвал свои войска вернуться и защитить родную землю. Однако пока персидская армия находилась в пути, никто не мог помешать Ираклию захватывать и уничтожать персидские города один за другим. Когда его армия подошла к священному для зороастрийцев городу Шиз, Хосров был уже недалеко со значительными силами, но, услышав о приближении Ираклия, решил уйти, избежав сражения. Таким образом, византийские войска смогли войти в город, не встретив сопротивления, и отомстили за разрушение церквей в Иерусалиме, уничтожив храм, где горел священный огонь. Кампания оказалась настолько успешной, что с приближением зимы Ираклий не стал выводить войска на византийскую территорию в Малой Азии, а решил остаться в Армении. Следующей весной византийцы возобновили военные действия. На этот раз персы были готовы, и на перехват войска Ираклия отправились две крупные армии. После долгого преследования по пересеченной местности Ираклий вступил с ними в бой там, где сам счел нужным, и разбил их одну за другой, захватив золотой щит и доспехи одного из полководцев, который бросил их, убегая с поля боя. После этого византийской армии ничто не мешало возобновить свой победный марш по Персии.