Sherman berkhidmat di bawah Jeneral Ulysses S. Grant pada tahun 1862 dan 1863 semasa kempen-kempen yang membawa kepada kejatuhan kubu kuat Gabungan di Vicksburg di Sungai Mississippi dan berkesudahan dengan kekalahan tentera Gabungan di negeri Tennessee. Pada tahun 1864, Sherman menggantikan Grant sebagai panglima Tentera Kesatuan di kancah barat peperangan. Beliau seterusnya memimpin tentera menawan bandar Atlanta, suatu kemenangan yang membantu kejayaan pemilihan semula Abraham Lincoln sebagai Presiden Amerika Syarikat pada tahun 1864. Kemaraan Sherman merentasi Georgia dan Carolina melemahkan lagi keupayaan Gabungan untuk terus berperang. Beliau menerima penyerahan kalah tentera-tentera Gabungan di negeri-negeri Carolina, Georgia dan Florida pada bulan April 1865.