Durante la Primera Guerra Mundial este ejército luchó en el Frente Occidental participando del Plan Schlieffen contra Francia y Bélgica en agosto de 1914. La misión del segundo ejército, al mando del General Karl von Bülow era apoyar el barrido del Primer Ejército Alemán rodeando el flanco izquierdo del Ejército Francés para concluir con un sitio a París y concluir rápidamente la guerra. Este ejército sitio y tomo las fortalezas belgas alrededor de Namur y lucho contra el Quinto Ejército Francés en la Batalla de Charleroi el 23 y 24 de agosto de 1914 y nuevamente en la Batalla de San Quintín el 29 y 30 de agosto de 1914.