Tras el comienzo de la Segunda Guerra Mundial, Gerstein se presentó voluntario, sucesivamente, para ingresar en la Wehrmacht, (octubre de 1939), en la Luftwaffe ( junio de 1940) y, por último, en las Waffen-SS (diciembre de 1940).