1861 legte Gartrell alle öffentlichen Ämter nieder und bildete das 7. Georgia Freiwilligen Infanterieregiment, das Teil der Armee der Südstaaten wurde. Er selbst wurde zum Colonel ernannt. Mit dieser Einheit nahm er am 21. Juli 1861 an der Ersten Schlacht am Bull Run teil. Im November 1861 wurde Gartrell in den ersten Kongress der Konföderierten gewählt und betätigte sich von nun an wieder in der Politik, wo er auch verschiedenen Ausschüssen angehörte und zu den stärksten Unterstützern von Jefferson Davis zählte. Etwa Mitte 1864 übernahm er wieder seine Tätigkeit als Offizier, bildete vier Regimenter aus Reservisten und wurde am 22. August 1864 zum Brigadegeneral ernannt. Mit diesen vier Regimentern hielt er Generalmajor William T. Sherman auf seinem Marsch entlang Georgias Küste nach South Carolina auf, kämpfte erfolgreich bei Coosawhatchie und unterstützte William Joseph Hardee bei Savannah, wobei er schwer verwundet wurde. Seine Genesungszeit verbrachte er in Augusta, wo er auch die Mitteilung über das Kriegsende erhielt.