Ferdinand ble født som sønn av Filip I av Castilla og Johanna av Castilla. Han var yngre bror av keiser Karl V, som i 1521 overdro til ham de østerrikske arvelandene. Dette landområdet svarer noenlunde til dagens Østerrike og Slovenia.