Nachdem sich Louisiana zu Beginn des Jahres 1861 von der Union abgespalten hatte, gehörte Gibson zunächst zum Stab von Gouverneur Thomas Overton Moore. Im März 1861 verließ er die Hauptstadt Baton Rouge und schloss sich dem 1. Artillerieregiment aus Louisiana an. Er wurde noch im selben Jahr zum Colonel des 13. Infanterieregiments ernannt und kämpfte später in der Schlacht von Shiloh. Mit der Army of Tennessee nahm er 1862 am Kentucky-Feldzug und der Schlacht am Chickamauga teil. Am 11. Januar 1864 wurde Gibson zum Brigadegeneral befördert. Er war danach am Atlanta-Feldzug und am Franklin-Nashville-Feldzug beteiligt, ehe ihm die Verteidigung der Hafenstadt Mobile in Alabama übertragen wurde. Dabei gelang es ihm und seinen Truppe, bei der Schlacht um Spanish Fort lange Zeit standzuhalten und schließlich zu entkommen.