Reinhard gikk i mars 1933 inn i SS med medlemsnummer 121174, og han ble kort tid etter medlem av NSDAP. Mens han studerte juss hadde han praksis hos Reichsführer-SS Sicherheitsdienst i Leipzig fra 1935. Senere tjenestegjorde han ved SDs hovedkontor Reichssicherheitshauptamt. I 1939 ble han overført til Sicherheitspolizei. Han søkte seg ved flere anledninger til Waffen-SS, men ble avvist blant annet på grunn av en skade. Fra august 1940 arbeidet han i Amsterdam ved sentralkontoret for jødisk utvandring fra Nederland. Han kom til Norge i januar 1942 og tjenestegjorde i SD avdeling IV, kjent som Gestapo.