När inbördeskriget bröt ut utnämndes Harvey Hill till överste och regementschef för ett infanteriregemente från North Carolina. Redan på sommaren 1861 blev han befordrad till brigadgeneral och ett knappt år senare till generalmajor. Han deltog som arméfördelningschef bland annat i slaget vid Antietam. Han befordrades till generallöjtnant sommaren 1863 och kommenderades som armékårchef till Braxton Braggs undsättning vid Chickamauga. I en skrivelse till presidenten föreslog han att Bragg skulle avsättas som fältarméchef på grund av sin inkompetens. President Jefferson Davis tog så illa vid sig av denna skrivelse, att han inte skickade Hills generallöjtnantsfullmakt till senaten för konfirmation. Hill återgick till generalmajorsgraden, men presidenten fråntog honom även allt aktivt befäl ända till krigets slutskede.