Skupina armád Jih ještě naposled vznikla 23. září 1944 ze zbytků Skupiny armád Jižní Ukrajina (Heeresgruppe Südukraine). Jejím velitelem se stal generálplukovník Johannes Frießner. Papírově mělo jít o silné uskupení armád, ale v té době byla bojová hodnota této Skupiny armád již velmi nízká, některé jednotky neměly ani 1/5 stavu, jiné jednotky byly tvořeny jen velitelstvím. Navíc byla neustále skupina armád vystavena sovětsko-rumunským útokům. Během obrany Maďarska byla velká část jejích sil obklíčena u Budapešti, včetně maďarských svazků. Skupina armád Jih přesto sehrála hlavní roli v Operaci Jarní probuzení u maďarského jezera Balaton v březnu 1945, pod taktovkou nového velitele generála pěchoty Otto Wöhlera, který byl po předvídaném neúspěchu operace odvolán a nahrazen generálplukovníkem Dr. Lotharem Rendulicem. V dubnu 1945, během bojů v Rakousku ještě stačila Skupina armád Jih vyměnit znovu velitele za generála pěchoty Friedricha Schulze. Téhož měsíce byla naposledy přejmenována na Skupinu armád Východní marka (Heeresgruppe Ostmark) a definitivně zmizela ze scény.