Fra 1918 var han statssekretær og leder av utenriksdepartementet, og fra februar 1919 til juni samme år, med tittelen utenriksminister i Philipp Scheidemanns regjering. Brockdorff-Rantzau ledet den tyske delegasjonen under fredsforhandlingene i Paris, og som til slutt resulterte i Versaillestraktaten. De alliertes motforslag 20. juni 1919 betegnet han som "diktat", og nektet å underskrive. Hele regjeringen Scheidemann gikk deretter av.