Ved udbruddet af borgerkrigen var Sedgwick oberst og assisterende generalinspektør i Militærdepartementet i Washington. Han kom ikke med i det Første slag ved Bull Run, hvor han var ved at blive rask efter kolera. Efter at være blevet forfremmet til brigadegeneral den 31. august 1861 kommanderede han 2. brigade i generalmajor Samuel P. Heintzelmans division i Army of the Potomac og derefter sin egen division, som blev benævnt 2. division i II Korps under Peninsula kampagnen. I Virginia kæmpede han i Slaget ved Yorktown og Slaget ved Seven Pines og blev såret i armen og benet i slaget ved Glendale. Han blev forfremmet til generalmajor den 4. juli 1862.