Au début de la guerre, il est enrôlé comme soldat dans le régiment d'infanterie du Wisconsin mais devient, en 1862, lieutenant-colonel, puis colonel avec le commandement du d'infanterie du Wisconsin qui fait partie de l'Iron Brigade. À la tête de son régiment, il participe à la seconde bataille de Bull Run, à la bataille d'Antietam et à celle de South Mountain ainsi qu'aux batailles de Fredericksburg et de Gettysburg où il perd un bras à la suite d'une blessure et est fait prisonnier. Il est promu au grade de général de brigade le .