Fra den 10. oktober 1862, var han en af de første konfødererede generalløjtnanter. Hans første opgave som general var at organisere en brigade af regimenter fra Arkansas og han imponerede sine mænd og officerer ved at løse vanskelige forsyningsproblemer og for den omhyggelige træning han gav sin brigade. Han vik tilnavnet "Old Reliable", mens han havde denne brigade. Hardee opererede i Arkansas indtil han blev beordret til at slutte sig til general Albert Sidney Johnston's Army of Mississippi som korpschef i Slaget ved Shiloh. Han blev såret i armen der den 6. april 1862. Johnston blev dræbt ved Shiloh og Hardee's korps sluttede sig til General Braxton Bragg's Army of Tennessee.