Han gikk deretter inn i Vatikanets tjeneste. Fra 1970 til 1974 utførte han administrative oppgaver og gikk deretter over til den diplomatiske seksjon, der han ledet den tyskspråklige avdeling i Statssekretariatet frem til 1990.