Le régiment de Walker combat à la bataille de Mill Springs et à la bataille de Shiloh, où l'unité et Walker sont félicités pour actes de bravoure. Walker reçoit l'épée du général de l'Union Benjamin Prentiss lors de sa reddition à Shiloh. Walker est élu colonel du 19th Tennessee Infantry le . Par la suite, il mène le régiment à la bataille de Stone's River, à la bataille de Chickamauga et lors de la campagne de Chattanooga. Le régiment combat au cours de la campagne d'Atlanta. Combattant dans les tranchées, le régiment décime les soldats de l'Union montant à l'assaut lors de la bataille de Kennesaw Mountain le .