Dopo le operazioni su Creta, il JG 77 si spostò in Romania, dove iniziò i preparativi in vista del lancio dell'Operazione Barbarossa, l'invasione dell'Unione Sovietica. Durante questo periodo, il III./JG 77 si stava riequipaggiando col nuovo Bf 109F, processo che sarebbe stato completato poco dopo l'apertura delle ostilità con l'Unione Sovietica, il 22 giugno 1941. Il II. ed il III./JG 77, più lo "Stab", sostennero la Heeresgruppe Süd, mentre il I./JG 77 supportò la Heeresgruppe Nord. Il reparto ottenne velocemente diverse vittorie. Il 25 giugno Walter Hoeckner abbatté 8 dei 10 Tupolev SB reclamati quel giorno dalla sua squadriglia, la 6./JG 77, mentre il 26 giugno Kurt Ubben del III./JG 77 abbatté altri 4 SB, mentre Reinhold Schmetzer ne abbatté 5. Nel periodo dal 22 giugno al 5 dicembre 1941, il reparto, assieme al distaccato I.(J)/LG 2, distrusse 1.166 aerei sovietici, perdendo 52 aerei in combattimenti e 2 a terra.