A comienzos de la guerra civil fue nombrado Coronel en el primer regimiento de infantería de Ohio en abril de 1861. Sirvió en las defensas de Washington D.C. y vio acción en la Primera batalla de Bull Run. El 3 de septiembre de 1861, fue promovido a brigadier general de voluntarios tocándole comandar una división en Tennessee. Ganó a las insignias de teniente coronel del ejército regular por su participación en la captura de Nashville, Tennessee, y posteriormente comandó la segunda división del ejército de Ohio en la Batalla de Shiloh durante el segundo día de lucha, y luego en la campaña subsecuente contra Corinth. Fue promovido a mayor General de voluntarios el 17 de julio de 1862.