Den 10. oktober 1922 ble pater Brems utnevnt av pave Pius XI til apostolisk vikar for Danmark med titulærtittel til Roskilde. Han ble bispeviet 25. januar 1923 av kardinal Desiré-Félicien-François-Joseph Mercier og biskopene Thomas Heylen og Arnold Diepen som medkonsekratorer. Biskop Brems ble pensjonert i 1938 og ble etterfulgt av Theodor Suhr den 13. desember 1938. Han var kommandør av 2. grad av Dannebrogordenen.