Az első világháború alatt, bár eleinte támogatta a német terjeszkedést, jelentős szerepet játszott a Reichstag 1917. július 19-én meghozott határozatában, mely a német területi gyarapodást feladó béketárgyalások megkezdését szorgalmazta. Erzberger szerepet játszott azokban az eseményekben is, melyek Theobald von Bethmann-Hollweg kancellár lemondásához vezettek. Miután a Reichstagban többségbe kerülő koalíció élére került célja a demokratikus, alkotmányjogi reformok végrehajtása lett. Az 1918-as breszt-litovszki béke támogatása mellett önrendelkezést követelt a kelet-európaiak számára. Már a háború ideje alatt íródott "Der Völkerbund" című könyvében is támogatta a Népszövetség létrehozásának ötletét. A háború végén Erzbergert választották meg a békeküldöttség vezetőjévé és ennélfogva az ő feladata lett a Compiègne-i fegyverszünet aláírása 1918. november 11-én.