Poté, co na začátku roku 1939 opustil Gordonstoun, dokončil Philip Britskou námořní univerzitu v Dartmouthu jako kadet, poté se vrátil do Řecka a v polovině roku 1939 žil se svou matkou v Aténách. Na popud řeckého krále Jiřího II. (jeho bratranec) se v září vrátil do Británie, aby obnovil výcvik pro Britské královské námořnictvo. Příští rok absolvoval Dartmouth jako nejlepší kadet ve svém kurzu. Během druhé světové války pokračoval ve službě u britských sil, zatímco dva jeho švagři, princ Christoph z Hesenska a Berthold, markrabě Badenský, bojovali na opačné německé straně. Philip byl v lednu 1940 jmenován námořníkem. Strávil čtyři měsíce na bitevní lodi HMS "Ramillies", chránící konvoje australských expedičních sil v Indickém oceánu, následované kratšími službami na HMS "Kent", na HMS "Shropshire" a na britském Cejlonu. Po invazi do Řecka Itálií v říjnu 1940 byl převelen z Indického oceánu k bitevní lodi HMS "Valiant" ve středomořské flotile.