Après sa capture à la bataille de Vicksburg, il rencontre des compatriotes de sa période dans la milice d'Indianapolis, mais ils le rejettent en raison de son combat pour la Confédération. Après sa libération sur parole, il part en Géorgie et combat lors de la bataille d'Atlanta. Il conçoit une ligne défensive et, à la suite de son approbation par le général Johnston, supervise la construction, à la fin juin 1864, de ce qui va devenir connu comme la ligne de la rivière de Johnston. Le projet de Shoup se compose de uniques, plus tard appelés . Alors que la ligne de la rivière est considérée comme un succès d’ingénierie, sa efficacité potentielle est annulée lorsque le l'armée du général Sherman traverse le Chattahoochee au nord de la ligne. La ligne de la rivière de Johnston est répertoriée sur le Registre national des lieux historiques. Pendant la guerre, il écrit des textes sur l’entraînement de l'infanterie et de l'artillerie et préconise l'emploi des noirs dans l'armée Confédérée. Il sert également comme chef d'état-major du commandant de l'armée du Tennessee, John Bell Hood.