Harper retourne chez lui dans la vallée de la Shenandoah et est élu une nouvelle fois à la législature de Virginie pour représenter cette région jusqu'en 1864. Le , Harper est renommé colonel dans l'armée confédérée et reçoit la permission de former un régiment à partir de compagnies de réservistes de la vallée de la Shenandoah. Il les commande lors de la campagne de la vallée de la Shenandoah de 1864, prenant part à la bataille de Piedmont les 5 et , et puis à la bataille de Waynesboro, Virginie, le . Le commandement de Harper est mis en déroute lors de ces deux défaites confédérées.