I starten af borgerkrigen opstillede Geary de 147. og 28. Pennsylvania infanteriregimenter og blev oberst for det sidste. Med kommandoen over militærdistriktet for den øvre Potomacflod blev han såret og taget til fange nær Leesburg, Virginia, den 8. marts 1862, men blev straks udvekslet og vendte tilbage til tjenesten. Han blev forfremmet til brigadegeneral og fik kommando over en brigade i Nathaniel P. Banks's Korps, som han førte i Shenandoah kampagnen mod Stonewall Jackson. Hans brigade tilsluttede sig John Pope's Army of Virginia i slutningen af juni. Han førte den i Slaget ved Cedar Mountain den 9. august 1862, hvor han blev alvorligt såret i armen og benet. Han vendte tilbage til tjenesten den 15. oktober som kommandør over divisionen. Korpset var nu en del af Army of the Potomac, hed XII Korps og var under kommando af generalmajor Henry W. Slocum.