I tillegg til sin rolle som bispedømmebiskop ble O'Hara utnevnt av pave Pius XII til for det apostoliske nuntiatur i Bucuresti den 19. februar 1947. Det var etter at den sittende nuntius, Andrea Cassulo, var blitt erklært av de kommunistiske myndigheter.