Establecido en Berlín Occidental, fue alcalde de la ciudad desde 1957, por lo que tuvo que enfrentar la crisis que supuso la construcción del Muro de Berlín en 1961.