Na de uitbraak van de Tweede Wereldoorlog werd Reinefarth als Feldwebel ingezet tijdens de Poolse Veldtocht. Tijdens de Slag om Frankrijk in mei/juni 1940 was hij bevelhebber van de 14e compagnie van het 337e Infanterieregiment. Hij werd toen onderscheiden met het Ridderkruis van het IJzeren Kruis. Midden 1942 werd hij ongeschikt geacht voor militaire dienst vanwege bevroren ledematen die hij opgelopen had tijdens de veldtocht in Rusland. Hij verliet de Wehrmacht in de rang van luitenant en werkte tussen juni 1942 en midden 1943 als Inspecteur-generaal in het Protectoraat Bohemen en Moravië. Na een jaar gewerkt te hebben op het "Hauptamt Ordnungspolizei" werd hij in april 1944 benoemd tot Höheren SS- und Polizeiführer Warthe. In deze functie voerde hij het bevel over twaalf politiecompagnieën tijdens de Opstand van Warschau. Zijn eenheden waren betrokken bij moordpartijen in Warschau, onder andere de massamoord in Wola. Voor zijn verrichten in Warschau werd Reinefarth op 30 september 1944 onderscheiden met het Ridderkruis van het IJzeren Kruis met Eikenloof.