קבוצת ארמיות דרום אוקראינה הוקמה ב-31 במרץ 1944 על בסיס יחידות קבוצת ארמיות A. בנוסף לארמיות ה-6 וה-8 של הוורמאכט היא כללה את הארמיות הרומניות השלישית והרביעית. באביב 1944 היא הצליחה לבלום את הניסיון הראשון של הצבא האדום לכבוש את רומניה (אפריל-מאי 1944), במסגרת סדרת קרבות שנערכו סביב העיירה טרגו-פרומוס, תוך גרימת אבדות כבדות לכוחות הסובייטיים התוקפים. אולם במהלך המתקפה הסובייטית ברומניה באוגוסט 1944, הושמדו או נפלו בשבי רוב היחידות של קבוצת הארצית, ושרידיה נסוגו להונגריה. לאחר התבוסה שונה שמה של קבוצת הארמיות לקבוצת ארמיות דרום (Heeresgruppe Süd) ב-23 בספטמבר 1944.