Rau meldte seg inn i NSDAP og SS i 1933 og fikk graden Hauptsturmführer i 1938. Han tjenestegjorde i Waffen-SS under andre verdenskrig og ble tatt til fange av sovjetiske styrker i slutten av krigen. Han ble skutt under et fluktforsøk og døde senere av skadene.