Gibson trat am 31. Juli 1861 seinen Dienst an. Am 31. August 1861 wurde er dann zum Colonel im 49. Infanterieregiment von Ohio ernannt. Gibson war über den gesamten Kriegsverlauf befehlshabender Offizier des Regiments. Im August und September 1861 organisierte und bildete er die "49. Ohio Infantry" bei Camp Noble aus, was in der Nähe seines Zuhauses in Tiffin (Ohio) lag. Das Regiment wurde für drei Jahre einberufen und nahm unter dem Kommando von Gibson an 42 Schlachten teil, darunter: die Schlacht von Shiloh, die Belagerung von Corinth, die Schlacht am Stones River, der Tullahoma-Feldzug, die Schlacht am Chickamauga, die Schlacht von Missionary Ridge, der Atlanta-Feldzug, die Schlacht von Resaca, die Schlacht am Kennesaw Mountain, die Belagerung von Atlanta, die Schlacht von Jonesboro, die Zweite Schlacht von Franklin und die Schlacht von Nashville.