קבוצת הארמיות הוקמה ב-1 במרץ 1917, וכמפקדה מונה קונרד פון הצנדורף, לשעבר הרמטכ"ל. הקבוצה גם נקראה "קבוצת ארמיות קונרד" על שם מפקדה. באביב 1918 ספגה הקבוצה מכה קשה בקרב מונטה גראפה ונגרמו לה אבדות כבדות. ב-15 ביולי 1918 הודח פון הצנדורף מתפקידו, והוחלף ביוזף אוגוסט, ארכידוכס אוסטריה, שתחת הנהגתו כונתה הקבוצה "קבוצת ארמיות הארכידוכס יוזף". ב-26 באוקטובר 1918 בעיצומו של קרב ויטוריו ונטו מסר יוזף את הפיקוד על קבוצת הארמיות לגנרל אלכסנדר פון קרובטין, שפיקד עליה עד סוף המלחמה.