Достигнув аэродрома Чаплинка 23 октября 1941 г., JG52 в лице своей 3-й группы открыла ворота на полуостров Крым у Перекопа. Здесь своих первых успехов добились асы группы: фельдфебель Кёппен, лейтенант Дикфельд и лейтенант Герман Граф. Фельдфебель Кёппен уже 18 декабря получил Рыцарский крест. 24 января на очереди был Граф, а на следующий день он сбил своего 46-го противника. Дикфельд присоединился к ним 9 марта.
30 апреля 12 самолетов JG52 вылетели навстречу приближавшимся русским бомбардировщикам и истребителям. В этот день Герман Граф сбил 6 самолетов и 2 мая получил письменную благодарность от генерал-оберста фон Рихтгофена. Ему тем временем присвоили звание обер-лейтенанта. 27 февраля Герхард Кёппен стал 79-м немецким воином, получившим дубовые листья к Рыцарскому кресту. Он был удостоен этой награды после своей 72-й победы в воздушном бою. (Кёппен погиб 4 мая в воздушном бою над Азовским морем, будучи уже представленным к званию лейтенанта.)
В мае Герману Графу удалось повысить свой рекорд до 7 сбитых самолетов в день.
В боях за полуостров Крым истребители JG52 вновь и вновь сталкивались с сильным противником, пытавшимся отразить удары немцев. Это касалось как штурмовиков, так и бомбардировщиков и истребителей.
Когда началась битва за Изюм, 9./JG52 прибыла в Сары-Биш и обосновалась на здешнем аэродроме. В тот же день эскадрилье прошлось встретить атакующие истребители и бомбардировщики. Граф сбил 2 И-16, а обер-фельдфебель Леопольд Штейнбац — 1 истребитель.
Вместе со своей эскадрильей обер-лейтенант Граф совершил боевой вылет, в котором он увеличил счет своих побед со 100 до 104. В тот день он сбил общим счетом 8 вражеских самолетов. Он получил от рейхсмаршала Геринга письмо, в котором главнокомандующий люфтваффе благодарил его за достигнутые успехи.
16 мая он сбил своего 105-го противника и на следующий день получил дубовые листья к Рыцарскому кресту.
17 мая Граф лежал под своим самолетом на стоянке эскадрильи. К нему подбежал обер-лейтенант и сообщил, что на аэродром только что прибыл командующий.
Генерал авиации Пфлюгбейл, в коротких брюках и спортивных туфлях, пришел в эскадрилью и был узнан только после того, как надел свой генеральский головной убор. Командующий 6-м авиакорпусом подмигнул всем собравшимся и сообщил:
В заключение Граф полетел с Пфлюгбейл ом в его штаб-квартиру, где состоялось небольшое торжество.
20 мая Граф перевел 9-ю эскадрилью на аэродром в непосредственной близости от линии фронта. Вместе с обер-фельдфебелем Зюссом он летел позади эскадрильи. По пути они наткнулись на группу русских бомбардировщиков, которые как раз летели бомбить колонну немецких войск.
Оба истребителя пошли в атаку, и в 17.37 Граф сбил Пе-3.
23 мая командир группы майор Хубертус фон Бонин отослал Германа Графа, который к тому времени стал уже обер-лейтенантом, назад на аэродром Рогань. Там он должен был открыть и возглавить «частную истребительную школу» для семи юных летчиков-истребителей из пополнения. Тем самым фон Бонин хотел «изъять Графа из оборота». На пути туда истребители наткнулись на группу вражеских истребителей, и Граф сбил своего 108-го противника, который хотел атаковать его подопечных.
Утром 25 мая 1942 г. обер-лейтенант Граф и лейтенант Адольф Дикфельд предстали перед Гитлером в «Вольфшанце».
Фюрер вручил Дикфельду дубовые листья, а Граф получил дубовые листья и мечи.
На обратном пути в эскадрилью Герман Граф узнал о гибели своего друга лейтенанта Леопольда Штейнбаца. 23 июня 1942 г. Штейнбац был посмертно награжден мечами к Рыцарскому кресту с дубовыми листьями. Днем его смерти считается 15 июня 1942 г. Впоследствии он получил звание лейтенанта. 30 июня обер-лейтенант Граф вернулся в свою эскадрилью. Собираясь приземлиться на аэродроме, он заметил на высоте 4000 м дальний разведчик русских. Граф набрал еще 1000 м и с дистанции 50 м расстрелял его. Вечером у него уже был боевой вылет, и он сбил уже 110-го и 111-го противника.
Наступление на Воронеж в начале июля происходило без участия 9-й эскадрильи, поскольку она стала первым подразделением JG52, которая должна была пересесть на новые Bf-109G, для чего отправилась в Харьков. Таким образом, для Графа и его эскадрильи июль закончился без боев.
Ад над Волгой
В директиве фюрера № 41, которая переносила центр тяжести кампании на Восточном фронте на южный фланг, в отношении люфтваффе говорилось: