William Rosecrans
1861年早く、アンドリュー・ジョンソンは、内戦が起こった場合にカーターが合衆国（北軍）に対しての忠誠を守るという文書を受け取り、陸軍省に対するジョンソンの影響力を行使して、カーターに東テネシーにおける民兵の組織化と訓練を任せた。1862年1月19日、カーターはミル・スプリングスの戦いで騎兵隊の攻撃を成功させ、5月には准将の位を受けて、6月のカンバーランド峡谷の戦いと、12月のホルストン、カーターズ・ステーションおよびジョーンズビルに対する襲撃を指揮し、ウィリアム・ローズクランズ将軍のマーフリーズボロ攻撃を支援した。