Pave Pius XII utnevnte ham til biskop av Bismarck den 23. januar 1952. Han ble ordinert til biskop av den apostoliske delegat til USA, Amleto Giovanni Cicognani, 25. mars samme år; medkonsekratorer var biskopen av Sioux Falls, William Otterwell Brady, og biskopen av Crookston, Francis Joseph Schenk. Hoch var den første katolske biskop født i Sør-Dakota. Han anstrengte seg på å fremme kall til prestetjeneste og ordensliv, og fra 1952 til 1960 ble 29 prester ordinert for bispedømmet og videre 13 for i Richardton.