I juni 1941 ble Ohlendorf utnevnet til kommandant for Einsatzgruppe D og under hans ledelse ble sivile massakrert hovedsakelig i det tyskokkuperte Ukraina. Ohlendorf holdt fast ved tallet som ble bekreftet av rapport sendt fra Einsatzgruppe D i Simferopol 8. april 1942 der det fremgår at var skutt og drept så langt.