Philip Fleming va néixer a Newport-on-Tay, Escòcia i era fill del banquer Robert Fleming. Estudià a l'Eton College i al Magdalen College, de la Universitat d'Oxford. El 1910 va debutar a la Regata Oxford-Cambridge. Com a membre del Leander Club el 1912 va prendre part als Jocs Olímpics d'Estocolm, on guanyà la medalla d'or en la competició del vuit amb timoner del programa de rem.