После вторжения вермахта в Польшу в сентябре 1939 г. Карл Вольф был откомандирован в Ставку фюрера в качестве офицера связи частей усиления СС (
Назначение в Ставку[124] поместило Вольфа в самый эпицентр власти Третьего рейха, автоматически введя его в ближайшее окружение Гитлера, открывая ему доступ к важнейшей информации. Притом что оставаясь начальником Личного штаба рейхсфюрера СС, он продолжал получать доклады и записки по линии СС. Несмотря на это, после войны Вольф все же позволил себе заявить, что о преступлениях, творимых СС, он узнал лишь после краха Третьего рейха – впрочем, ему никто не поверил, а доказать ему это не удалось. А, например, что касается «Акции Рейнгард» (уничтожение евреев в генерал-губернаторстве), то ее проведением вообще руководил его близкий друг Одило Глобочник… 30 января 1942 г. Карл Вольф был произведен в обергруппенфюреры СС и генералы войск СС.
Вольф также оказался непосредственно причастен к мероприятиям по «окончательному решению еврейского вопроса». В ходе операции по ликвидации Варшавского гетто в 1942 г. организаторы столкнулись с большими сложностями по обеспечению необходимого числа железнодорожных вагонов. Пришлось вмешаться Вольфу, который обратился к своему хорошему знакомому статс-секретарю Имперского министерства транспорта Альберту Ганцмюллеру и добился выделения необходимого количества составов. 13 августа 1942 г. Вольф написал Ганцмюллеру письмо, где благодарил его за содействие: «С особенной радостью я сообщаю Вам о том, что уже 14 дней ежедневно составы с представителями избранного народа уходят в Треблинку».
Казалось бы, карьере Вольфа ничто не угрожало, но все же в 1943 г. его отношения с рейхсфюрером СС стали ухудшаться и к этому времени Карла Вольфа продолжали называть «№ 3» в СС лишь люди, не владевшие ситуацией. Это было несколько причин. Во-первых, в конце 1942 г. Вольф довольно долго болел и не мог появляться на службе, а в фюрерском государстве, каковым являлся Третий рейх, подобное было черевато потерей влияния. Во-вторых, Гиммлер категорически не одобрил изменения, произошедшие в личной жизни Вольфа. Дело в том, что Вольф 6 марта 1943 г. получил наконец развод от своей супруги Фриды и через семь дней сочетался браком со своей давней возлюбленной, вдовой графиней Ингеборг фон Берншторф (
Внешне же могло показаться, что карьера Вольфа продолжает идти в гору. 18 февраля 1943 г. он был назначен высшим руководителем СС и полиции в Вероне (Северная Италия), причем за ним был оставлен пост начальника Личного штаба рейхсфюрера СС. Мало того, Вольф продолжал считаться и представителем рейхсюфрера в Ставке фюрера, хотя теперь он бывал там крайне редко; эту должность он потерял в сентябре 1943 г., когда на нее был официально назначен бригадефюрер СС и генерал-майор войск СС Герман Фегелейн. Вольф же 23 сентября 1944 г. получил очередное повышение, став верховным руководителем СС и полиции Италии; с этого момента он окончательно перестал заниматься делами Личного штаба, хотя и сохранил пост его начальника до конца войны. 26 июля 1944 г. Карл Вольф, не оставляя прежних должностей, стал также уполномоченным вермахта при правительстве Итальянской социальной республики.