עם פרוץ המלחמה מונה פון בהם-ארמולי למפקד הארמייה השנייה, שהשתתפה במערכה על סרביה, ולאחר מכן הופנתה לחזית המזרחית. הארמייה בפיקודו לחמה בקרב גליציה, אך הגיעה מאוחר מכדי לשנות את התוצאות. לאחר מכן השתתפה הארמייה בקרב על הוויסלה ובמתקפת הקרפטים.