Karl Hermann Frank ble født 24. januar 1898 i Karlsbad i Bøhmen som da var en del av Østerrike-Ungarn. Familien var sudettysk. Frank studerte juss et år i Praha før han forlot universitetet for å ta dårlig betalte småjobber.