Чан Кайши готовился к заговору, опасаясь усиления коммунистических идей в Китае. Настал день, когда войска мятежников, руководимые Чан Кайши, окружили плотным кольцом место пребывания советников из СССР, охрана была обезоружена. Среди арестованных оказались 25 человек из кадрового состава военной школы в Вампу. Затем подвергся нападению штаб профсоюзов, лидеры которого были арестованы, а стачечный городской комитет — разоружен. С целью поддержания напряженности Чан Кайши ввел в городе комендантский час. Вооруженные отряды, подразделения полиции, уличные патрули прочесывали город, то тут, то там происходили внезапные обыски. В сельских районах полиция расправлялась с вожаками. Вскоре был устранен с поста главы Кантонского правительства Ван Цзинвэй. Несмотря на то что его пост временно занял Тань Янькай, вся полнота власти фактически перешла к Чан Кайши.
Чан Кайши оказался перед трудноразрешимой дилеммой как использовать сотрудничество с СССР и КПК для создания современной армии и в то же время ограничить влияние коммунистов в Гоминьдане. Выход виделся ему в балансировании между различными группировками.
15 мая 1926 года Чан Кайши осудил попытки коммунистов разжечь гражданскую войну в стране и предложил специальную резолюцию «О приведении в порядок партийных дел». Пленум ЦИК Гоминьдана запретил КПК выдвигать своих членов на какие-либо руководящие посты в центральном аппарате Гоминьдана, им предоставлялось право занять не более 1/3 должностных мест Но Чан Кайши не мог пока порвать с единым фронтом, с КПК, с СССР. Он не только полностью отстранил левых, но и ради Северного похода пожертвовал некоторыми своими соратниками справа.
1 июля 1926 года Кантонское правительство опубликовало манифест о Северном походе. Чан Кайши был назначен главнокомандующим всеми выступившими в поход войсками, и 9 июля 1926 года 100 000 человек, объединенных под знаменами НРА, двинулись на Север. Им противостояли силы противника численностью до семисот тысяч человек. Победы достигались лишь благодаря невиданному подъему освободительных настроений в народе.
После победы в Хунани и захвата Ханша Чан Кайши возглавил восточную колонну НРА, которая после освобождения Наньчана должна была двинуться к Шанхаю и Нанкину. Эти силы продвигались в Центральный Китай к уханьскому трехградью — Учану, Ханькоу и Ханьяну. Но попытки войти в Учан оказались безрезультатными. Осада велась больше месяца, штурм следовал за штурмом. Добровольцы, словно пантеры, бросались на высокую толстую стену, карабкались по бамбуковым лестницам, в то время как их товарищи заполняли крепостные рвы своими телами. Со стен сыпались камни, лилась горячая смола, и когда осаждавшие отступили, их провожали пулеметные очереди. Только первый штурм стоил НРА 500 жизней и столько же попали в плен.
Решающий штурм начался 10 октября 1926 года. Первым ворвался в город полк под командованием Е Тина, а бомбовый удар летчика из СССР А. М. Кравцова вынудил армию У Пэйфу к бегству. К концу 1926 года северная колонна овладела провинцией Хунань и южной частью провинции Хубэй.
Между тем в Кантон вернулся Ван Цзинвэй, которому снова было предложено возглавить Национальное правительство. Главнокомандующий Чан Кайши отправил телеграмму, в которой сообщил, что не собирается уходить с поста председателя. Прибыв в Шанхай, он решил без промедления вступить в контакт с англичанами. Чан Кайши обещал принять необходимые меры по охране иностранной собственности, реорганизации военных отрядов, руководимых коммунистами. 1 апреля 1927 года Уханьское правительство (после падения Учана в конце октября 1926 года было принято решение перебраться в Ханькоу, один их городов уханьского трехградья) сместило Чан Кайши с поста главнокомандующего НРА. Он не обратил на это никакого внимания. «Я взял обязательство довести Северный поход до успешного конца. Это обязательство я выполню». Началась внутриполитическая борьба, в ходе которой боевой генерал получил приверженцев, вставших под гоминьдановскими знаменами. 31 июля и 1 августа 1926 года полки 11-го и 20-го корпусов НРА, выполняя инструкции КПК, разоружили гоминьдановские части в Наньчане, и 1 августа 1926 года стал днем рождения китайской Красной Армии. Пять дней восставшие контролировали город, но под натиском противника были вынуждены отступить. Однако Чан Кайши, лидер Нанкинского правительства, в августе объявил об отставке.
Он понимал, что для решительной схватки нужны силы и средства и что должно пройти некоторое время, чтобы не только приверженцы его идей, но и его политические оппоненты увидели в нем лидера революционных преобразований в стране. Уйдя в отставку, Чан Кайши последовал в сопровождении 200 охранников в гористый район провинции Чжэцзян. Здесь он познакомился когда-то со свояченицей Сунь Ятсена, сестрой его жены, Мэйлин. Жениться на ней давно входило в его планы.