1862年12月18日、グラントのテネシー軍は4個の軍団に分割された。即ち、ジョン・A・マクラーナンドの第13軍団、シャーマンの第15軍団、スティーブン・ハールバット（）の第16軍団、およびジェイムズ・マクファーソンの第17軍団である。1863年5月18日 - 7月4日のビックスバーグの包囲戦でも引き続きシャーマンが軍団長を務め、シャーマンがミシシッピ方面軍（Military Division of the Mississippi）司令官に昇進した後はジョン・A・ローガン少将が軍団長として1864年5月7日-9月2日のアトランタ方面作戦に参加した。続く海への進軍（1864年11月15日 - 12月22日）ではピーター・オスターハウス（）准将が軍団長となったが、カロライナ方面作戦では再びローガンが軍団長に復帰した。その後ローガンがテネシー軍司令官に昇進したため、ウィリアム・ヘイズンが最後の軍団長を務めた。