שרותי המודיעין של הצבא האדום הסיקו כי הגרמנים מתכננים מתקפה רחבה בגזרה וכוחות הצבא האדום יצאו במתקפת מנע רחבה באזור חרקוב, כנגד היחידות הגרמניות ששהו בהיערכות באזור. משום כך להק III הוחזר במהרה לחזית ב-12 במאי והצטרף ללהק I, להק II ולמטה הכנף במנחת גדול בארטמובסק, כאן לחמה כל הכנף ביחד לראשונה מזה חודשים, במהלך המחצית השנייה של מאי 1942. ביומיים הראשונים של קרב חרקוב, להק III שוב הוכיח את מקצועיותו לאחר שהפיל 89 מטוסי אויב ובכך עבר הלהק את רף ה-1,000 הפלות, 14 מבין הפלות אלו נזקפו לזכותו של הרמן גראף והוא היה לראשון בכנף לעבור את רף ה-100 הפלות. על כך הוא עוטר בעלי אלון שנוספו לצלב האבירים שלו, ביום השלישי לקרב ב-18 במאי אדולף דיקלפלד עבר אף הוא את רף ה-100 הפלות לאחר שהפיל 11 מטוסי אויב ביום אחד וגם הוא עוטר על כך בעלי אלון. יום לאחר מכן גראף הפיל זוג מטוסים נוסף שהביאו אותו לכדי 104 הפלות, כך רק מספר ימים לאחר שקיבל את עלי האלון, הוא נקרא לפגישה אישית עם היטלר כדי לקבל גם את החרבות לצלב האבירים שלו.