En 1862, Chaffee a été promu au grade de sergent et a pris part à la Bataille d'Antietam. En septembre, il est le premier sergent de la compagnie K. Il le commande en tant que sous-lieutenant en . Sa cavalerie est détachée au général John Buford, mais en infériorité numérique pour attaquer un régiment de cavalerie confédérée à Fairfield, en Pennsylvanie, proche de Gettysburg, le . Dans l'action suivante, il est blessé et brièvement détenu prisonnier par les Confédérés. Il a servi dans la le restant de la guerre, étant blessé deux fois. En , il est promu premier lieutenant.