En mayo de 1861, renunció a su cargo cuando Carolina del Norte se separó de la Unión. Aunque personalmente se opuso al concepto de secesión, Baker fue leal a su estado. Se convirtió en teniente coronel del 1er Regimiento de Caballería de Carolina del Norte y luego fue ascendido a coronel el 1 de marzo de 1862, liderando el regimiento en la Campaña Península de 1862. Vio acción en la Batalla de los Siete Días, la Segunda Batalla de Bull Run (Segunda Manassas) y la Batalla de Antietam (Sharpsburg) más tarde en 1862.