Herakleios ble født i en armensk familie fra Kappadokia, men bortsett fra denne detaljen er det svært lite som er kjent om hans bakgrunn. Hans mor het Epiphania og hans far het Herakleios, og hadde vært en betydelig general under keiser Maurikios i 590-årene i dennes krig med Bahram VI Chobin av Persia, en usurpator i Sasanideriket. Etter krigen utpekte keiseren Herakleios den eldre som eksark av Afrika. Selv om den unge Herakleios’ fødested er ukjent vokste han opp i romerske Afrika. I henhold til en tradisjon var han opptatt av gladiatorkamp med løver som ung mann.