Ondanks dat Gordon geen enkele militaire ervaring had kreeg hij bij het uitbreken van de Amerikaanse Burgeroorlog de rang van kapitein. Hij wist snel op te klimmen in de militaire hiërarchie en zou in 1865 de rang van luitenant-generaal behalen. Hij was aanwezig bij de Eerste Slag van Bull Run, maar kwam daar nog niet in actie. Zijn eerste gevechtservaring deed hij op bij de Slag bij Seven Pines. Vervolgens zou hij ook deelnemen aan de Slag bij Gaines' Mill en raakte hij aan het oog gewond tijdens de Slag bij Malvern Hill. Tijdens de Slag bij Antietam raakte Gordon opnieuw gewond. Een minié-kogel ging door zijn kuit heen, een tweede kogel raakte hem in hetzelfde been en een derde kogel in zijn linkerarm. Ondanks deze verwondingen ging Gordon verder met aanvoeren van zijn soldaten. Een vierde kogel raakte hem in zijn schouder en vervolgens raakte een laatste kogel hem in de kaak. Hij herstelde onder de verpleging van zijn vrouw in Virginia.