Da Philipp Scheidemanns regjering tiltrådte 13. februar 1919, ble Erzberger minister uten portefølje og ansvarlig for alle våpenstillstandsspørsmål. Høyresiden kalte ham «novemberforbryter» og «folkeforræder» for de innrømmelser han hadde måtte gjøre overfor den franske general Foch. Han talte for undertegning av Versaillestraktaten, og var overbevist om at landet ville havne i hungersnød og at riket ville gå i oppløsning dersom avtalen ikke ble undertegnet. Utenriksminister Brochdorff-Rantzau nektet imidlertid å undertegne, og regjeringen gikk av.