Filippo ricevette una buona educazione nelle arti militari da Juan de Zúñiga e da Fernando Álvarez de Toledo, Duca d'Alba, con il quale partecipò alle guerre d'Italia, presenziando all'assedio di Perpignano del 1542. Non vide però l'azione in cui le truppe del suo mentore, il duca d'Alba, decisamente inferiori di numero, sconfissero gli assedianti francesi guidati dal delfino Enrico. Di ritorno da Perpignano, ricevette il giuramento di fedeltà delle "cortes" di Aragona a Monzón. Alla morte della moglie, Carlo V decise di prendere sotto la propria personale tutela il figlio, incominciando la sua formazione politica in modo che potesse affiancarlo nel governo del vasto impero, come testimoniano le istruzioni dell'imperatore al figlio in cui sono elencate le virtù del buon governante: pietà, pazienza, modestia e diffidenza.