1861 gab Hardee, inzwischen Oberstleutnant, sein Offizierspatent zurück und schloss sich den Konföderierten an. Er stieg rasch zum Brigadegeneral und Generalmajor auf und führte eine Brigade in Arkansas. Als diese 1862 in die konföderierte Mississippi-Armee unter Albert Sidney Johnston integriert wurde, wurde Hardee Kommandierender General und nahm als solcher an der Schlacht von Shiloh und später, unter Braxton Bragg, an der konföderierten „Heartland“ Offensive in Kentucky teil. Im Oktober 1862 gehörte Hardee zu den ersten Angehörigen des konföderierten Heeres, die zum neu geschaffenen Rang des Generalleutnants befördert wurden. Sein Kommando behielt er, nun in der aus der Mississippi-Armee neu aufgestellten Tennessee-Armee.