Sumner ble i november 1861 hentet østover igjen for å lede en divisjon, og den 5. mai 1862 ble han forfremmet til generalmajor i unionshæren. Da generalmajor George B. McClellan begynte å organisere Army of the Potomac i mars, fikk Sumner ledelsen over ett av dens nye korps. McClellan hadde opprinnelig ikke dannet korps i hæren. Sumner ble valgt som en av fire korpskommandanter av president Lincoln, basert på hans ansiennitet. II Corps som ble ledet av Sumner, Darius N. Couch, Winfield Scott Hancock og Andrew A. Humphreys i løpet av krigen, fikk ryktet som det beste korpset på den østlige krigsskueplassen. Sumner var den eldste av generalene i Army of the Potomac, ledet sitt korps gjennom Peninsula-felttoget og syvdagersslaget.