Den 28. november 1952 ble Josef Zimmermann utnevnt av pave Pius XIII til hjelpebiskop i bispedømmet Augsburg og til titulærbiskop av . Hans bispevielse fant sted 25. januar 1953 og ble foretatt av biskop Joseph Freundorfer av Augsburg. Medkonsekratorer var hjelpebiskopene Johannes Neuhäusler fra München og Artur Michael Landgraf fra Bamberg.