En , il est promu colonel, à compter de . Il est nommé brigadier général le , à la suite de la campagne de la Wilderness. Le lendemain, il reçoit le commandement d'une brigade formée par les survivants de la brigade de Stonewall et des brigades réduites de John M. Jones et George H. Steuart. Terry mène l'unité consolidée dans les combats à Cold Harbor et lors de la défense de Petersburg.