Schrübbers var utdannet jurist og begynte sin karrière som statsadvokat i 1935, et yrke han utøvet frem til 1955 med et avbrudd mellom 1941 og 1945 da han gjorde krigstjeneste.