Josef Kaspar Oberhauser ble født 20. september 1915 i München. Etter grunnskolen arbeidet han på onkelens gård til 1934 da han meldte seg frivillig til militærtjeneste. Han ble dimittert 18 måneder senere og meldte seg da inn i NSDAP (nazistpartiet) og ble medlem av Han ble stasjonert i Oranienburg og tjenestegjorde trolig som vakt i Sachsenhausen. Etter den tyske invasjonen av Polen tjenestegjorde Oberhauser i .