קבוצת הארמיות הוקמה ב-19 בספטמבר 1915, וכמפקדה מונה אדוארד פון בהם-ארמולי שעל שמו היא נקראה. הארמייה כללה שתי ארמיות של הצבא האוסטרו-הונגרי, וארמייה אחת של צבא הקיסרות הגרמנית. בקיץ 1916 ניסתה קבוצת הארמיות לבלום ללא הצלחה את מתקפת ברוסילוב, וביולי 1917 בלמה בהצלחה את מתקפת קרנסקי. לאחר מכן ב-3 באוגוסט כבשה בסיוע כוחות גרמניים את צ'רנוביץ. ב-31 בינואר 1918 קודם פון בהם ארמולי לדרגת גנרלפלדמרשל, ולאחר מכן השתתפה הקבוצה ב"מבצע אגרוף" שבמסגרתו פלשו כוחות גרמניים ואוסטרו-הונגריים לאוקראינה. ב-3 במרץ 1918 נחתם חוזה ברסט-ליטובסק, וב-16 במאי הוחלט על פירוק קבוצת הארמיות. בעקבות כך פרש פון בהם-ארמולי מהצבא.