Den 17. mars 1975 ble han titulær­biskop av Vina og hjelpe­biskop i Erfurt-Meiningen. Han ble bispeviet i Erfurt av den apostoliske administrator Hugo Aufderbeck den 17. mai samme år. Den 22. april 1980 utnevnte pave Johannes Paul II, som han personlig kjente, ham til biskop av Berlin.