Op 21 mei 1864 werd Johnson bevorderd tot generaal-majoor. Hij diende met het Army of Northern Virginia onder Robert E. Lee. Johnson voerde het bevel over een divisie troepen uit South Carolina in loopgraven in de Slag van de Krater. Ze namen 130 krijgsgevangenen en veroverden drie vlaggen. Zijn mannen zaten tijdens het Beleg van Petersburg in de loopgraven en vochten in de Slag bij White Oak Road en de Slag bij Five Forks. Zijn divisie werd op 6 april 1865 uiteengeslagen in de Slag bij Sayler's Creek, maar zelf kon hij ontsnappen. Bij Appomattox Court House werd hij op erewoord vrijgelaten.