Quando Graf voltou ao serviço ativo no final de julho, o III./JG 52 havia se reequipado com o Bf 109 G e estava de volta a Taganrog, no sul. No terreno, a ofensiva de verão do Exército Alemão, Caso Azul, estava em andamento, e a cidade de Rostov, porta de entrada para o Cáucaso, havia caído. Em meados de agosto, o III./JG 52 avançou para fornecer cobertura aérea enquanto o exército tentava estabelecer cabeças de ponte sobre o rio Cubã para capturar os portos do Mar Negro. O "Geschwaderkommodore" Gordon Gollob, da vizinha JG 77, foi temporariamente nomeado para comandar a JG 52, depois que o Major Herbert Ihlefeld ficou gravemente ferido em um acidente de decolagem. Gollob rivalizava com Graf para o piloto de maior pontuação na Frente Oriental. Em 14 de agosto, os dois pilotos tinham 120 vitórias. Logo depois, Graf liderou um destacamento de ases experientes do III./JG 52 transferido para a JG 3 para cobrir o ataque a Stalingrado. O destacamento veio sob o comando de "Hauptmann" Wolf-Dietrich Wilcke da JG 3.