Com eclosão da Guerra da Secessão foi transferido da California para as defesas de Washington, já com a patente de General de Brigada dos Voluntários. Lutou contra tropas de Jeb Stuart em Dranesville. Promovido a Major General dos voluntários, foi gravemente ferido na vitória contra Earl van Dorn na Batalha de Corinth, retornando aos combates apenas em Julho de 1863 para comandar o XIII Corpo do Exército na campanha de Grant contra Vicksburg em substituição ao John McClernand, um deputado nomeado general por suas conexões políticas.  Foi gravemente ferido na perna em Setembro de 1864, enquanto comandava o XVIII corpo na frente oriental. Em Janeiro de 1865 assumiu o comando do Exército do James. Atuou no Cerco a Petersburg e na perseguição final ao Exército da Virginia do Norte até a rendição em Appomattox Court House.