JG 54, 1939'da Polonya'nın İşgaline ve 1940'ta Britanya Savaşı'na ve Balkanlar'ın işgaline katıldı. Birim 1941 baharında Barbarossa Harekatı'nda Sovyetler Birliği'nin işgaline hazırlık olarak Doğu Cephesine transfer edildi. İkinci Dünya Savaşı'nın geri kalanı için orada kaldı. JG 54, daha güçlü Fw 190'a geçmeden önce Bf 109F'leri uçurdu.