Après la sécession de l'Alabama et le bombardement du Fort Sumter, Allen s'engage dans la nouvelle armée confédérée qui est levée et est élu lieutenant de la compagnie A, des « "Montgomery Mounted Rifles" ». L'année suivante, lorsque l'État organise le " Alabama Cavalry", Allen obtient le grade de commandant le , et participe à la bataille de Shiloh en avril le long de la rivière Tennessee. À la suite, il est promu colonel du régiment avant la campagne du Kentucky, et mène le " Alabama Cavalry" à la bataille de Perryville, où il est blessé légèrement. Plus tard dans l'année, il est sérieusement blessé lors de la bataille de Murfreesboro alors qu'il commande une brigade.