Commençant la guerre avec le grade de colonel, Sigel fut nommé "brigadier general" par le président Abraham Lincoln en 1861. Battu à Wilson's Creek (), il s'illustra lors de la Bataille de Pea Ridge (7-), lors de laquelle il commanda deux divisions en tant que commandant en second de l'armée du Sud-Ouest et dirigea l'artillerie de l'Union qui défait le général sudiste Earl Van Dorn. Promu " major general" (général de division) à la suite de cette victoire, il fut blessé à la main lors de la Seconde bataille de Bull Run (28-).Sigel fut relevé de son commandement en 1863, avant d'être envoyé en Virginie-Occidentale, où Grant lui confia l'invasion de la vallée de Shenandoah, étape préalable à la prise de la gare de Lynchburg (Virginie), indispensable au ravitaillement de l'armée du général Lee. Sigel fut cependant intercepté et sévèrement défait par le sudiste John Cabell Breckinridge lors de la bataille de New Market (). Il prit sa revanche le mois suivant en affrontant Jubal Anderson Early à Harpers Ferry (Virginie-Occidentale), mais il ne put empêcher le général de la confédération de traverser le Potomac.En raison de cet échec, il fut à nouveau relevé de son commandement et remplacé par David Hunter.