Han ble overført til Spandau-fengselet i 1947 for å sone dommen. Tross et løfte innledningsvis om å vise sin skyldfølelse ved å avstå fra å søke benådning, fikk han senere startet en kampanje for å bli løslatt før tiden. Denne mislyktes, og han ble først løslatt midnatt 1. oktober 1966, på dagen 20 år etter at han fikk fengselsdommen.