Som hjelpebiskop var Bolte ansvarlig for hele den kirkelige byggevirksomhet som var betydelig etter Andre Verdenskrigs ødeleggelser, han hadde også tilsyn med gjenoppbyggingen av katedralen i Fulda, som sto ferdig i 1954 til Bonifatius-jubileet. I 1955 ble Bolte også generalvikar for bispedømmet.