История её формирования начинается ещё в конце января 1942 г., когда японские войска захватили город Рабаул на острове Новая Британия в юго-восточной части Тихого океана. Сам по себе город был не очень важным приобретением для японцев, но его захват давал доступ к прекрасной естественной гавани, а также к большим участкам равнинной местности, удобным для строительства аэродромов.
Для обороны Рабаула и окружающего района командование японского флота решило сформировать отдельную авиагруппу базовых бомбардировщиков-торпедоносцев, именовавшихся в японском флоте «базовый ударный самолёт» (на японском «рикудзё коогэкики» или сокращённо «рикко») и палубных истребителей, которая была подчинена 24-й воздушной флотилии, которой командовал вице-адмирала Готоо Эидзи. По штату 4-я авиагруппа должна была насчитывать 72 самолёта в двух авиаотрядах — ударном и истребительном. Каждый авиаотряд должен был по штату иметь 36 самолётов, из которых операционно пригодными были 27 машин (остальные — резервные).
С учётом последовавшего опыта войны на Тихом океане 27 бомбардировщиков-торпедоносцев кажутся ничтожно малым количеством для огромного района от Новой Гвинеи на западе до островов Оушен на востоке и Соломоновых островов на юге, но в начале войны и такое количество считалось грозной силой, способной представлять угрозу даже вражескому авианосному соединению, не говоря уже о соединении артиллерийских кораблей. Тем более, что авиагруппа формировалась не с нуля. Из трёх эскадрилий ударного авиаотряда одну выделила авиагруппа «Титосэ», а две — авиагруппа «Такао». Авиагруппа «Титосэ» также выделила две эскадрильи для формирования истребительного авиаотряда. Это позволило избежать проблем, связанных со слаживанием подразделений. Кроме того, обе эти авиагруппы уже успели побывать в боях, то есть большинство экипажей 4-й АГ уже имело опыт боевых действий. Особенно большой опыт имели лётчики из авиагруппы «Такао», прошедшие с боями от Филиппин до Нидерландской Ост-Индии (ныне Индонезия). Позаботилось командование и о современной технике: 4-я АГ была вооружена новейшими базовыми ударными самолётами Тип 1 (G4M1). Считалось, что высокая скорость и мощное оборонительное вооружение этих машин позволят им отбиваться от вражеских истребителей.
Базовый ударный самолёт Тип 1 модель 11 (G4M1) из состава 4-й авиагруппы в полёте
Хвостовая турель G4M с 20-мм автоматической пушкой
А вот новых истребителей Тип 0 (А6М; легендарный «Рэйсэн») не хватало, и авиагруппа первоначально получила устаревшие истребители Тип 96 (А5М). Впрочем, уже через несколько дней после сформирования группы их начали заменять на истребители Тип 0.
Ударные эскадрильи из авиагруппы «Такао» покинули аэродром в Такао (остров Формоза, ныне Тайвань) 5-6 февраля и через Холо, Пелелиу и Трук прибыли в Рабаул (аэродром Вунаканау) 14-17 февраля. Туда же были переброшены с островов Палау и истребители из АГ «Титосэ». А вот эскадрилья, выделенная из состава авиагруппы «Титосэ», к этому времени только заканчивала переподготовку на G4M1 на острове Тиниан (Марианские острова).
Но американцы не стали ждать, пока японцы закончат организацию авиагруппы. 20 февраля 1942 г. одна из летающих лодок авиагруппы «Йокогама», посланных на разведку из Рабаула, обнаружила в 460 морских милях к востоку-северо-востоку от Рабаула американское авианосное соединение. Летающая лодка (командир — лейтенант Сакаи Нобору) была атакована и сбита истребителями, но успела сообщить в Рабаул о приближении неприятеля. Этим неприятелем было 11-е оперативное соединение Тихоокеанского флота США, основой которого был авианосец «Лексингтон» (CV2 «Lexington»). Командующий соединением вице-адмирал Вильсон Браун собирался совершить воздушный налёт на Рабаул, но после обнаружения своего соединения решил не рисковать и отказался от атаки. Но вместо того, чтобы сразу отступить, Браун решил попугать японцев. Американские корабли временно продолжили движение на запад, к Рабаулу, в надежде, что это заставить японцев перебросить дополнительные силы их авиации с других направлений.