Le , Long est nommé colonel du "4th Ohio Cavalry", un régiment qui, récemment, s'est rendu au guérillero confédéré, le brigadier général John Hunt Morgan. Long améliore le moral du régiment et le conduit lors de la campagne de Tullahoma. Il commande le régiment de la brigade de la deuxième brigade de la deuxième division, du corps de cavalerie du département du Cumberland entre mars 1863, et le , servant y compris lors de la bataille de Chickamauga. Long est blessé au côté gauche lors de la bataille de Farmington, dans le Tennessee le . Il se distingue lors de la campagne d'Atlanta où il subit une blessure à la tête lors de la bataille de Jonesboro, en Géorgie, le et des blessures au bras droit et à la cuisse droite lors de la bataille de Lovejoy's Station, en Géorgie, le . Long obtient des brevets de commandant, lieutenant-colonel et de colonel dans l'armée régulière des États-Unis pour « bravoure et services méritoires » à la bataille de Farmington, à la bataille de Fort Sanders (Knoxville) dans le Tennessee et à la bataille de Lovejoy's Station en Géorgie, respectivement.