С началом Первой мировой войны назначен командующим 2-й армией, которой командовал до мая 1918. В начале войны его армия была отправлена против Сербии, согласно австрийскому военному плану «б», но вскоре её пришлось вернуть и отправить на восточный фронт для отражения русского наступления в Галиции. Командовал армией в Карпатской операции, во время австро-германского наступления в 1915 и русского наступления 1916. Генерал-полковник (1 мая 1916). В августе 1917 ему пожалован баронский титул — Freiherr, а 31 января 1918 Бём-Эрмоли был произведён в генерал-фельдмаршалы.