הארמייה הרביעית הוקמה בפרוץ מלחמת העולם הראשונה, ולמפקדה מונה מוריץ פון אופנברג. הארמייה לחמה בקרב גליציה ובכלל זה בקרב קומרוב ובקרב רווה שלאחריו הוחלף מפקד הארמייה ביוזף פרדיננד, ארכידוכס אוסטריה, בשל תוצאות הקרב. בהמשך השתתפה הארמייה בקרב על הוויסלה, ולאחר מכן במתקפת גורליצה-טרנוב ובקרבות הנסיגה הגדולה. בשנת 1916 הותקפה הארמייה על ידי הרוסים כחלק ממתקפת ברוסילוב, ובשנת 1918 השתתפה הארמייה בכיבוש אוקראינה על ידי מעצמות המרכז, ולאחר חתימת הסכם ברסט-ליטובסק פורקה הארמייה..