Gregg kreeg begin 1864 het bevel over het cavaleriekorps van het Army of the Potomac tot generaal-majoor Philip Sheridan aankwam. Het hoogtepunt was de Slag bij Yellow Tavern, waar J.E.B. Stuart sneuvelde. Gregg vocht in de Slag bij Haw's Shop tegen Wade Hampton III. Hampton had meer mannen, maar Gregg beschikte over Spencer repeating rifles.