Pave Johannes Paul II kalte ham i 1981 til Roma som prefekt for Kongregasjonen for troslæren, president for Den pontifikale bibelkommisjon og president for Den internasjonale teologiske kommisjon. På grunn av dette gikk han av som erkebiskop av München und Freising den 15. februar 1982, og han tiltrådte sin nye stilling den 1. mars samme år.