Han ble satt på tronen av stormennene som gjorde opprør mot Hormizd IV i 590, og kort tid etter var hans far blindet og drept. Men samtidig hadde generalen Bahram VI Chobin utropt seg til konge, og Khosrau II var ikke i stand til å opprettholde makten.