Летом 1923 года, спасаясь от преследования полиции как член Французской компартии, Хо проследовал в Москву. Работал в исполкоме Коминтерна, окончил Коммунистический университет народов Востока. На V конгрессе Коминтерна в 1924 году выступал с докладом по национально-колониальному вопросу. В конце того же года отправился в китайский Кантон в качестве переводчика советских военных советников, прикомандированных к Чан Кайши. Хо вернулся в Москву в 1927 году, где ему было поручено заняться созданием компартии Вьетнама.
Для решения этой задачи он отправился в таиландский Бангкок, затем в Гонконг. В 1930 году он организовал и Компартию Вьетнама, и Компартию Индокитая, через год официально признанные Коминтерном.
Попытку восстания против колонизаторов вьетнамские коммунисты предприняли в 1931 году. В ответ французы подвергли бомбежкам восставшие деревни, обезглавили многих местных лидеров. Хо Ши Мин, как и многие другие руководители партии, был арестован и провел полтора года в британской тюрьме в Гонконге. Освобожденный усилиями «Красной помощи» – подразделения Коминтерна, заботившегося о политзаключенных – он вернулся в Москву и работал в Коминтерне. Затем вновь отправился в южный Китай – на границу с родной страной.
После начала в 1940 году японской агрессии в Индокитай проведенный в подполье пленум ЦК КПИК определил в качестве главного противника «франко-японский милитаристский империалистический блок». Этому блоку колонизаторов Компартия противопоставляла единый антифашистский фронт народов Индокитая.
В начале 1941 года, спустя 30 лет после расставания с Родиной, Хо с небольшой группой соратников тайными тропами и на сампанах, как там называют дощатые плоскодонки, вернулся во Вьетнам. Именно тогда он и взял себе псевдоним, под которым вошел в историю, – Хо Ши Мин, или «Несущий свет».
Часто меняя свои убежища в глухих горных районах на севере Вьетнама, покрытых непроходимыми тропическими лесами, он делил со своими бойцами все тяготы партизанской жизни. Он сплачивал вокруг себя революционно настроенную молодежь, среди которой были и будущие герои революции Фам Ван Донг и Во Нгуен Зиап. Хо быстро стал признанным лидером не только локального отряда, но и новой коалиционной организации – «Лиги независимости Вьетнама», сокращенно Вьетминь. Он был создан в мае 1941 года на китайской стороне границы. В Камбодже аналогичную роль сыграла организация «Свободный кхмер», в Лаосе – организация «Освобождение Лаоса».
Истории о подвигах Хо Ши Мина обрастали поэтическим вымыслом, и он чуть ли не сразу превратился в национального героя и живую легенду. Хотя лидеры движения не скрывали специально своих взглядов, лишь много позже они открыто назовут коммунизм единственно правильным учением.
В начале 1942 года «Авангардный отряд» под командованием Во Нгуен Зиапа выдвинулся на юг страны для организации и там партизанского движения. Снабжение Вьетминя во многом шло от Чан Кайши, который также позволял Хо использовать как опорную базу территорию Китая.
К маю 1944 года Вьетминь контролировал уже восемь провинций на севере страны. Даже многие чиновники императора Бао Дая (он все еще считался номинальным правителем центральных и северных провинций Вьетнама – под французским протекторатом, – что никак не стесняло японских оккупантов) стали сотрудничать с Лигой независимости. К завершению войны на Тихом океане Вьетминь объединял социалистов, беспартийных студентов, членов Вьетнамской националистической партии и вьетнамских гоминьдановцев – Национальной партии Вьетнама (Вьеткуок). Но главенствующая роль во Вьетмине по-прежнему принадлежала Компартии. В ходе подготовки всеобщего восстания партизанские отряды преобразовывались в части единой армии.
Военачальником партизанских сил Хо назначил Во Нгуен Зиапа. Крестьянин, не получивший никакого военного образования, Зиап дослужится до звания генерала армии, будет много лет возглавлять Вооруженные силы Вьетнама. Его признают самым выдающимся военачальником стран третьего мира. Бывший учитель истории 22 декабря 1944 года сформировал свой первый вооруженный отряд – так называемый Отряд пропаганды, состоявший из 34 бойцов, включая трех женщин. 15 мая 1945 года этот отряд вошел в состав вновь созданной Освободительной армии Вьетнама.
К тому времени Вьетнам скатывался в хаос. Вызванное войной разрушение экономики, японские реквизиции риса и других продуктов плюс катастрофическая погода – засуха с последующими наводнениями, которая уничтожила два урожая подряд, – все это вызвало голод.