V druhé světové válce dostal za úkol založit jednotku SS z odsouzených zločinců a politických vězňů. Tato jednotka se stala známa pro svoji extrémní brutalitu a nedisciplinovanost. Účinkovala pouze na východní frontě. Účastnila se potlačení Varšavského povstání i akcí proti SNP. Jednotka pod jeho vedením spáchala vícero válečných zločinů, mezi nejznámější patří vypálení běloruské vesnice Chatyň či masakr ve varšavských čtvrtích Wola a Ochota. Byl prvním velitelem 36. divize granátníků SS, která vznikla z brigády Dirlewanger. Jednotce však velel pouze krátce, protože na druhý den po oficiálním vzniku jednotky byl těžce raněn a evakuován z fronty.