Erzberger ble 28 år gammel innvalgt i Riksdagen i 1903, og fremsto tidlig som kritiker av landets kolonialpolitikk. Han gikk i begynnelsen av første verdenskrig sterkt inn for å fremme Tysklands krigsmål, herunder å annektere store landområder. I 1917 endret han sitt syn fullstendig, talte for en «fred i forståelse» med fienden og medvirket til at flertallet i Riksdagen gikk inn for dette.