Brandt var SPDs kanslerkandidat i 1961, men tapte for sittende kansler Konrad Adenauer. I 1964 etterfulgte han den da nylig avdøde Erich Ollenhauer som formann for SPD. Året etter var han igjen partiets kanslerkandidat, men tapte på nytt for Ludwig Erhard.