I 1947 ble han personlig sekretær for erkebiskop Angelo Roncalli, den senere pave Johannes XXIII, da denne var nuntius i Paris. Heim forble i Paris i fire år, og der la han sammen med erkebiskop Roncalli grunnlaget for en renessanse innen den katolske kirkes heraldikk. Heim ble deretter postert til nuntiaturet i Wien (1950-1954). Deretter kom han til det apostoliske nuntiatur i Bonn (1954–1961). Etter at erkebiskop Aloysius Muench fratrådte som nuntius til Tyskland (Vest-Tyskland) den 9. desember 1959 var Heim for det tyske nuntiatur inntil utnevnelsen av Corrado Bafile til ny apostolisk nuntius til Tyskand den 13. hebruar 1960.