Under berlinblokaden fra juni 1948 til mai 1949 forsøkte han å lindre lidelsen til byens innbyggere, og arbeidet både innenlands og utenlands for å løse konflikten. I 1948 vant han valget for SPD med 60 % av stemmene. Han arbeidet for å knytte Vest-Berlin til vesten, men krevde samtidig gjenforening av byen.