En junio de 1941, Reinhard Heydrich nombra a Ohlendorf comandante del Einsatzgruppe D que operaba en el sur del frente oriental, especialmente en Ucrania y Crimea, en el exterminio de judíos y la represión de los grupos partisanos y las actividades de la resistencia rusa.