Confederate States Army
1862年3月18日、ランドルフはアメリカ連合国大統領ジェファーソン・デイヴィスからアメリカ連合国陸軍長官に指名され、1862年3月24日に陸軍長官に就任した。ランドルフは野戦指揮官として効果的な戦略調整を行ったが、デイヴィス大統領はランドルフが大統領承認なしに行動したことを憤慨した。ランドルフはこの問題をきっかけとして、1862年11月17日に陸軍長官を辞任した。