Setelah meninggalkan Gordonstoun pada 1939, Philip bergabung dengan angkatan laut Britania, lulus pada tahun berikutnya dari Britannia Royal Naval College sebagai kadet terbaik di angkatannya. Pada Perang Dunia Kedua, Philip bergabung dengan pasukan Britania bersama dua iparnya, Pangeran Christop (suami Sophie) dan Berthold (suami Theodora) dan melawan pihak Jerman. Philip juga ikut serta dalam Pertempuran Kreta. Pada Oktober 1942, Philip menjadi letnan di HMS Wallace pada usia 21 tahun, menjadikannya sebagai salah satu letnan termuda di angkatan laut.