Den 9. april 1921 ble han utnevnt til titulærbiskop av og til militærbiskop. Den 29. mai 1921 ble han bispeviet av erkebiskop Louis Humbrecht av Besançon; medkonsekrerende var biskop Gabriel-Roch de Llobet av Gap, og Florent-Michel-Marie-Joseph du Bois de la Villerabel, hjelpebiskop i Tours. Fra 1921 til 1929 var han militærbiskop (med titulærbispedømmet ) for i det okkuperte Rhinlandet, med sete i Mainz og et virkeområde som strakk seg til Ruhrområdet. Han opprettholdt gode relasjoner til biskopene i Mainz, Trier, Limburg, Köln og Münster, samt med nuntien Eugenio Pacelli, som senere ble pave Pius XII.