Kautz est capitaine dans le de cavalerie lors de la campagne de la Péninsule d' à . Transféré sur le théâtre occidental, Kautz participe plus tard aux opérations en tant que colonel du 2nd Ohio Cavalry contre le général confédéré John Hunt Morgan lors de son raid particulièrement réussi derrière les lignes de l'Union dans l'Indiana et l'Ohio durant les mois de –, et sous le commandement du major général Ambrose Burnside, à la bataille de Knoxville de à .