Casi inmediatamente después de la batalla de Fort Sumter, Holmes renunció a su comisión en el Ejército de los Estados Unidos y a su mando en Fort Columbus, Governors Island en la ciudad de Nueva York (22 de abril de 1861), habiendo aceptado una comisión como coronel en el Ejército de los Estados Confederados en marzo. Comandó las defensas costeras del Departamento de Carolina del Norte y luego sirvió como brigadier general en la Milicia de Carolina del Norte. Fue nombrado brigadier general el 5 de junio de 1861, comandando el Departamento de Fredericksburg. Holmes fue asignado al General P.G.T. Beauregard, para la Primera Batalla de Manassas, donde Beauregard envió a Holmes órdenes de atacar la izquierda de la Unión, pero para cuando las órdenes llegaron a él la Confederación ya estaba victoriosa. Fue promovido a general de división el 7 de octubre de 1861. Posteriormente comandó el Distrito de Aquia antes de ser asignado al Departamento de Carolina del Norte.