Después de dejar Gordonstoun en 1939, Felipe se unió a la Marina Real británica, graduándose al año siguiente del "Britannia Royal Naval College ("mejor conocido como "Dartmouth)", como el mejor cadete de su promoción. Durante la Segunda Guerra Mundial, continuó sirviendo en las fuerzas británicas, mientras que dos de sus cuñados, el príncipe Cristóbal de Hesse y el margrave Bertoldo de Baden, lucharon en el lado alemán. Fue nombrado guardiamarina en enero de 1940. Felipe pasó cuatro meses en el acorazado HMS Ramillies, protegiendo convoyes de la Fuerza Expedicionaria Australiana en el océano Índico, seguido de expediciones más cortas en HMS Kent, en HMS Shropshire y en Ceilán (ahora Sri Lanka). Después de la Guerra greco-italiana en octubre de 1940, fue transferido desde el Océano Índico al acorazado HMS Valiant, en la Flota del Mediterráneo.