Den 19. marts 1865 lykkedes det for Johnston at overraske en del af Shermans hær i Slaget ved Bentonville og opnåede nogle kortvarige, taktiske gevister, før overlegne styrker tvang ham tilbage. Efter at have hørt om Lees overgivelse ved Appomattox overgav Johnston sin hær til Sherman i nærheden af Durham i North Carolina to uger senere, den 26. april 1865, selv om han havde fået ordre til ikke at overgive sig af Jefferson Davis.