Nach seinem Abschied in Kansas kehrte Geary nach Pennsylvania zurück. Beim Ausbruch des Bürgerkrieges wurde er Kommandeur eines Regiments mit Soldaten aus Pennsylvania. Im Verlauf des Krieges nahm er an vielen Schlachten teil, darunter auch denen von Gettysburg und Chancellorsville. Er gehörte auch zu der Armee, die unter dem Kommando von General William T. Sherman im Jahr 1864 Teile des Südens eroberte. Ende 1864 wurde er Kommandeur der Besatzungstruppe von Savannah in Georgia. Bis zum Jahr 1865 war er zum Brevet-Generalmajor der Freiwilligen aufgestiegen.