I 1969 ble han valgt til Tysklands president, med seks stemmer mer enn sin konservative motkandidat Gerhard Schröder. Han var da den første tyske sosialdemokratiske president siden Friedrich Ebert. Han understrekte som president hvilket ansvar hver enkelt hadde til å utvise sivilkurasje.