Lahir di Zona Terusan Panama pada 1918, Murphy adalah anak tertua dari lima bersaudara. Setelah menamatkan sekolah menengah di New Jersey, dia melanjutkan pendidikan militer di Akademi Militer Amerika Serikat di West Point, lulus pada 1940. Pada tahun yang sama dia menerima sebuah komisi ke Angkatan Darat Amerika Serikat, dan melakukan pelatihan pilot dengan Korps Angkatan Udara Amerika Serikat pada 1941. Selama Perang Dunia II ia bertugas pada Perang Pasifik di India, Tiongkok dan Burma (sekarang dikenal sebagai Myanmar), mencapai pangkat mayor.