Den 30 januari 1933 utnämndes Adolf Hitler till Tysklands rikskansler. Schäfer blev medlem i SA och utnämndes den 20 april till SA-Truppführer. Året därpå befordrades han till SA-Obertruppführer och ledare för Gestapo i Regierungsbezirk Oppeln. Schäfer inträdde dock inte i SS förrän 1936 och uppnådde 1938 tjänstegraden Hauptsturmführer. Den 31 augusti 1939, dagen innan andra världskriget utbröt, var Schäfer involverad i Gleiwitzincidenten, som av Nazityskland användes som ett av skälen för att inleda krigshandlingarna.