Au début de la guerre, Sedgwick a le grade de colonel. Il est inspecteur général assistant au département militaire de Washington. Il ne peut pas participer à la première bataille de Bull Run car il est atteint par le choléra. Promu au grade de brigadier général le , il prend le commandement de la de la division du major général Samuel P. Heintzelman au sein de l'armée du Potomac. Il participe à la campagne de la Péninsule. En Virginie, il combat à la bataille de Yorktown et à celle de Seven Pines. Il est blessé au bras et à la jambe lors de la bataille de Glendale. Il est promu major général le .