Nato nella Zona del Canale di Panama, allora territorio controllato dagli Stati Uniti, nel 1918, Murphy fu l'ultimo di cinque fratelli. Dopo aver terminato di frequentare le high school in New Jersey, entrò nell'Accademia Militare degli Stati Uniti a West Point, laureandosi nel 1940. Negli stessi anni accettò un incarico nell'United States Army, e intraprese l'addestramento come pilota con l'United States Army Air Corps nel 1941. Durante la seconda guerra mondiale fu dispiegato nelle operazioni Pacifico, in India, Cina e Birmania, raggiungendo il grado di maggiore.