Mentre lavorava come commesso in un negozio di stoviglie scoppiò la guerra civile americana e l'8 settembre 1861 si arruolò come volontario nell'esercito unionista, ricevendo quasi immediatamente il grado di capitano. Prestò servizio come aiutante del generale Oliver O. Howard, e venne ferito nella Battaglia di Seven Pines. Promosso colonnello al comando del "22nd Massachusetts Volunteer Infantry Regiment", il 31 maggio 1862 raggiunse il grado di tenente colonnello e posto al comando del "61st New York Volunteer Infantry" per meriti conseguiti in battaglia e si distinse particolarmente nella battaglia di Antietam, dove sostituì dimostrando tutte le sue capacità il suo diretto superiore gravemente ferito. Partecipò successivamente alla battaglia di Fredericksburg, alla campagna dell'Appomatox e alla battaglia di Chancellorsville nella quale fu gravemente ferito al collo e all'addome, ricevendo il brevetto di brigadiere generale nel 1867 e la medaglia d'onore nel 1892. Per il suo valore durante la battaglia del Wilderness e in quella di Spotsylvania Court House ricevette gli onori del Congresso e la promozione a generale maggiore il 12 maggio 1864 a soli 26 anni.