З пачаткам Першай сусветнай вайны прызначаны камандуючым 2-й арміяй, якой камандаваў да мая 1918 года. У пачатку вайны яго армія была адпраўлена супраць Сербіі, згодна з аўстрыйскім ваенным планам «Б», але неўзабаве яе прыйшлося вярнуць і адправіць на Усходні фронт для адбіцця рускага наступлення ў Галіцыі. Камандаваў арміяй у Карпацкай аперацыі, падчас аўстра-германскага наступлення ў 1915 годзе і рускага наступлення 1916 года. Генерал-палкоўнік (1 мая 1916 года). У жніўні 1917 года яму падараваны баронскі тытул — Freiherr, а 31 студзеня 1918 года Бём-Эрмалі быў выраблены ў генерал-фэльдмаршалы.