Jersey City, New Jersey doğumlu olan Murphy Amerikan İç Savaşı patlak verdiğinde Newark Academy'de okumaktaydı. Temmuz 1862'de henüz 16 yaşında olmasına karşın askere alınan Murphy gönüllü piyade birliğine yazılmış; 25 Ağustos 1862'de onbaşı, 22 Şubat 1863'te asteğmen, 24 Şubat 1864'te üsteğmen olmuştur. Murphy kendisine bağlı alayla Antietam, Chancellorsvile, Gettysburg muharebeleri, Atlanta Seferi, Savannah Seferi ve Bentonville Muharebesi'ne katılmıştır. Murphy askerlik hizmetini 8 Haziran 1865'te tamamlamıştır.