Il s'enrôle dans le "3rd Ohio Infantry", un régiment de trois mois, étant nommé commandant. Il sert en Virginie occidentale, combattant lors des batailles de Rich Mountain et Cheat Mountain et est ensuite promu lieutenant-colonel du régiment. Au terme de son engagement, il rejoint le "110th Ohio Infantry" et devient son colonel. Il sert sur le théâtre oriental, menant son régiment lors de la seconde bataille de Winchester. Alors que l'armée de l'Union est lourdement défaite et que la plupart se rend, le régiment de Keifer parvient à éviter la capture. À la suite de la bataille de Gettysburg, Keifer est affecté au commandement de la brigade dans le IIIe corps et participe à la bataille de Wapping Heights. Après le retrait en sécurité de l'armée de Robert E. Lee en Virginie, Keifer et son régiment sont envoyés à la ville de New York pour aider à réprimer les émeutes de la conscription.