Han var konvertitt til den katolske kirke og ble utnevnt til pavelig kammerherre av Benedikt XV i 1921. Han overtok da den stillingen som baron Wilhelm Wedel-Jarlsberg som første nordmann hadde hatt før ham, og ble gjenutnevnt i embetet av Pius XI i 1922 og av Pius XII i 1939. Han ble tildelt tittelen greve av Pius XI i 1923. Utenfor Norge skrev han og andre slektninger gjerne navnet , og han ble adlet under dette navnet. Han solgte i 1938 sitt gods Herresta nær Stockholm til sin slektning og mangeårige gårdsbestyrer Herman Paus, som var gift med et barnebarn av Leo Tolstoj; et maleri av ham i pavelig kammerherredrakt henger fortsatt på gården. Han mottok et stort antall pavelige og nordiske ordener. Paus døde i 1943 i Skodsborg på Sjælland i Danmark og ble begravet på Vår Frelsers gravlund i Oslo.