Druhorozený syn Ferdinanda I. byl v dětství vychováván spolu se svým starším bratrem Maxmiliánem. V letech 1533–1543 pobýval s většinou své rodiny v Innsbrucku, a to z důvodu ohrožení Vídně Osmanskou říší. Poté se rodina přesunula do Prahy, kde Ferdinand dostal vlastní dvůr. První politické a vojenské zkušenosti získal na vojenských taženích svého strýce, císaře Karla V.: nejprve ve válce proti Francii (1543) a poté v bitvě šmalkaldské války u Mühlberka (1547).