Army of the Tennessee
マクファーソンの軍歴はこの配属の後で上がり始めた。ヘンリー砦とドネルソン砦を占領した時はユリシーズ・グラント准将の下で中佐かつ工兵技師だった。シャイローの戦い後、准将に昇進した。1862年10月8日、少将に昇進しその後直ぐにグラントのテネシー軍で第17軍団指揮官を任された。1864年3月12日、テネシー軍指揮官ウィリアム・シャーマン少将が西部戦線全軍の指揮官に昇進した（グラントが全北軍の総司令官となって東部に移動したため）あとで、テネシー軍の指揮官を任された。そのテネシー軍はシャーマンの右翼となり、カンバーランド軍とオハイオ軍と行動を共にした。1864年5月5日シャーマンはアトランタ方面作戦を開始した。