Вторая мировая война буквально перевернула жизнь Шарля де Голля. В сентябре 1939 года он уже командовал танковыми частями одной из французских общевойсковых армий. После того как в марте 1940 года премьер-министром Франции стал его старый знакомый и в некотором смысле поклонник его военных теорий Рейно, продвижение де Голля по службе пошло еще быстрее. Очень скоро он был назначен командиром дивизии. Он командовал новой дивизией в боях при Лаоне 17—20 мая 1940 года, умело сдерживая напор вермахта. В мае того года ему вообще пришлось много повоевать, и, с точки зрения французского правительства, он действовал против немецкой армии настолько удачно, что 1 июня 1940 года де Голлю присвоили звание бригадного генерала. А уже 6 июня Рейно ввел его в реформированный кабинет министров Франции, где генерал отвечал за вопросы национальной безопасности.
В течение следующих нескольких дней он, уже в качестве представителя правительства Франции, посетил Лондон, где 9 июня встретился с Черчиллем. Однако немецкое наступление во Франции шло так быстро, что его переговоры мало к чему привели. К тому же многие военные лидеры Франции, и прежде всего маршал Петен, считали, что наилучшим выходом для страны была бы капитуляция и сохранение таким образом Франции от уничтожения немецкой армией. И точка зрения этих людей возобладала – Франция капитулировала. Кабинет Рейно ушел в отставку, а лидером страны стал маршал Петен. Многие французы приняли происходящее как должное. Однако будущий президент Франции был другого мнения. 17 июня генерал де Голль вылетает в Англию для того, чтобы продолжить борьбу.
18 июня 1940 года он обратился по английскому радио ко всем французам: «Я, Шарль де Голль, ныне находящийся в Лондоне, приглашаю французских офицеров и солдат, которые находятся на британской территории или смогут там оказаться, установить со мною связь. Что бы ни случилось, пламя французского сопротивления не должно погаснуть и не погаснет». Английское правительство посчитало, что молодой и патриотичный французский генерал может оказать весьма серьезное воздействие на французов, если не во время, то после окончания войны, и стало поддерживать его инициативы. В результате активной поддержки английского правительства 7 августа 1940 года де Голль объявил о создании движения «Свободная Франция», членами которого должны были стать французские солдаты и офицеры, находившиеся в этот период вне оккупированной территории. Он часто выступал по радио, призывая всех уцелевших патриотов Франции присоединиться к нему.
Но, несмотря на то что из оккупированной Франции удалось эвакуироваться немалому количеству солдат и офицеров, обращение де Голля привлекло немногих из них. А большинство военных частей, расположенных в колониях Франции, вообще его проигнорировало, подчинившись правительству Петена. По этой причине в середине августа 1940 года в движении де Голля состояли только 140 офицеров и 2100 солдат. Однако это не остановило амбициозного и решительного генерала и его английских друзей. Они решили высадиться в Дакаре и подчинить силам «Свободной Франции» западный берег Африки.
23 сентября 1940 года корабли де Голля в сопровождении британских крейсеров подошли к Дакару. В гавани их поджидала французская эскадра с линкором «Ришелье», а гарнизон крепости не намеревался сдаваться. Боевые действия продолжались два дня и закончились неудачей для де Голля.
Де Голль говорил, что созданная им организация «Свободная Франция» будет вести борьбу с гитлеровской Германией на стороне Англии, США, а позднее и СССР везде, где только возможно. Но свои усилия он направил в первую очередь на овладение французскими колониями в Северной и Экваториальной Африке. Администрация североафриканских колоний осталась верна сформированному профашистскому правительству Виши. Зато в Экваториальной Африке ряд колоний – Чад, Конго, Убанги-Шари, Габон и Камерун – заявили о своем признании де Голля, в результате чего «Свободная Франция» получила собственную территориальную базу. Через две недели генерал де Голль высадился в Камеруне и взял под контроль Экваториальную Африку.
В сентябре 1941 года де Голль издал ордонанс, учреждающий в рамках «Свободной Франции» Французский национальный комитет, временно осуществляющий функции государственной власти. Отношения де Голля с Англией и США складывались очень нелегко. Как Англия, так и США считали претензии генерала необоснованными. Английское правительство не устраивал тот факт, что де Голль проводил агитацию, исходя из имперских интересов Франции, и обращал мало внимания на укрепление дружеских отношений между английскими, американскими и французскими военными. Проблема состояла в том, что французские колониальные части недолюбливали союзников и не очень-то стремились помогать им в борьбе с немцами. А де Голль не смог в этот период стать объединяющим звеном.