I 1921 ble Herbigny kalt til Roma for å undervise, især ved det pavelige universitet Gregoriana. Da Det pavelige orientalske institutt (grunnlagt i 1917) i året 1922 ble overdratt av pave Pius XI til jesuittenes ledelsesoppdrag, ble pater Herbigny utnevnt til dets rektor. Han løftet instituttet ut av dets oppstartsproblemer og gav det avgjørende anstøt. Som grunnlegger av , som ble feltets viktigste fagtidsskrift, fikk instituttet en egen identitet som distingverte det fra . Fra desember 1924 ble Herbigny konsultor for Kongregasjonen for de katolske østkirker, selv om han stilte seg kritisk til den måte Pavestolen håndterte russiske anliggender på. Han var også et aktivt medlem av kommisjonen Pro Russia.