I 1963 ønsket Globke å slå seg ned i Sveits som pensjonist, men ble nektet oppholdstillatelse. Ifølge New York Times bodde han delvis i Sveits og delvis i Bonn som pensjonist.