Oswald Pohl var sønn av verktøymester Hermann Otto Emil Pohl og hans hustru Auguste Seifert i Duisburg. Pohl gikk på gymnasiet og tok abitur i 1912. Fra april samme år begynte han i forvaltningen i den tyske keiserlige marine.