Carlos nasceu em 24 de fevereiro de 1500 na cidade flamenga de Gante, parte dos Países Baixos Habsburgos no Sacro Império Romano. Ele era o filho mais velho de Filipe, o Belo da Casa Austríaca de Habsburgo (filho de Maximiliano I da Áustria e Maria da Borgonha) e Joana, a Louca da Casa Espanhola de Trastámara (filha de Fernando de Aragão e Isabel de Castela). O casamento de seus pais foi concebido durante a Primeira Guerra Italiana no contexto de uma aliança política, conhecida como "Liga Sagrada" ou Liga de Veneza, estabelecida contra a Casa de Valois com o objetivo de cercar o Reino da França, formando um anel de poderes hostis ao seu redor. Os acidentes dinásticos acabaram por trazer a pessoa de "Carlos de Gante", como era conhecido em seu nascimento, as quatro heranças da Borgonha, Castela, Aragão e Áustria.