Under andre verdenskrig var han ubåtkaptein i den tyske marinen. Han skal ha senket 22 skip på totalt 115 656 registertonn, og ble dermed nr. 24 på listen over tyske ubåtsjefer med flest senkede skip. Hardegen ble dekorert av Hitler personlig for sin innsats, blant annet ridderkorset med eikeløv, men personlig skal han ha mislikt Hitlers regime.