Disgustado por la situación, Marmaduke renunció a su comisión en la Guardia Estatal de Missouri y viajó a Richmond, Virginia, donde fue comisionado como primer teniente en el ejército regular de los Estados Confederados. El Departamento de Guerra de la Confederación le ordenó que se presentara al servicio en Arkansas, donde pronto fue elegido teniente coronel del 1er Batallón de Arkansas y sirvió en el personal del teniente general William J. Hardee, antiguo instructor de tácticas de infantería de la Academia Militar de los Estados Unidos. El antiguo comandante de la Guerra de los Mormones, Albert Sidney Johnston, le pidió que se uniera a su personal a principios de 1862. Marmaduke fue herido en acción en la Batalla de Shiloh como coronel del 3º Regimiento Confederado, lo que le incapacitó durante varios meses.