Han tilhørte fyrstehuset Schleswig-Holstein-Sonderburg-Glücksburg. Prins Carl var sønn av kong Frederik VIII av Danmark og prinsesse Lovisa av Sverige, bror av Christian X av Danmark, og sønnesønn av Christian IX av Danmark. Han skiftet navn til Haakon da han ble valgt til Norges konge etter unionsoppløsningen. Carl ble dermed konge i Norge før faren og den eldre broren ble konge i Danmark.