Ohlendorf studerte økonomi og jus ved Universitetet i Leipzig og Universitetet i Göttingen 1928–1931. I 1931 fikk han stipend for et ettårig opphold ved universitetet i Pavia i Italia for å studere organiseringen av den fascistiske staten. Oppholdet førte til at han foraktet den italienske fascismen, og ble mer overbevist nazist. Ohlendorf begynte på en doktorgrad uten å fullføre, trolig fordi han brukte tiden på å arbeide for partiet eller fordi en konflikt internt i NSDAP (nazipartiet) hemmet hans akademiske karriere. Han arbeidet en tid for påtalemakten i Alfeld og Hildesheim. miniatyr|Jens Jessen (1895–1944), foto 1930.