Il est condamné à mort le ; après la sentence, Ohlendorf déclare au procureur Ferencz, que . Maintenu en détention dans l'attente de son exécution, il proteste à nouveau de son innocence, affirmant qu'il avait essayé d'annuler l'ordre de Heinrich Himmler, qu'il avait commandé le plus petit des et qu'il était donc un martyr. Malgré plusieurs appels, des interventions visant à commuer les peines de mort et un concert de protestations émanant notamment de la presse allemande et du vice-chancelier Franz Blücher, le haut commissaire américain John McCloy confirme les condamnations à mort. Ohlendorf est exécuté par pendaison dans la nuit du au à la prison de Landsberg, comme trois autres condamnés du procès, Paul Blobel, Werner Braune et Erich Naumann, ainsi que Oswald Pohl, condamné lors du procès du WVHA.