Longstreet významně přispěl k několika důležitým vítězstvím Konfederace, většinou ve východní oblasti bojů jako jeden z hlavních podřízených Roberta E. Leeho v armádě Severní Virginie. Selhal v bitvě u Seven Pines proto, že omylem vyslal své muže nesprávnou cestou, což způsobilo, že dorazili na bojiště pozdě, ale hrál důležitou roli v úspěchu sedmi dní bitev v létě 1862, kde pomáhal řídit opakované útoky, jež vyhnaly armádu Unie z konfederačního hlavního města Richmondu. Longstreet pak vedl ničivý protiútok, který v srpnu porazil armádu Unie ve druhé bitvě u Bull Runu. Jeho muži udrželi obrannou pozici v bitvách u Antietamu a u Fredericksburgu. Longstreetova nejkontroverznější role byla v bitvě u Gettysburgu v červenci 1863, kde otevřeně nesouhlasil s generálem Leem ohledně taktiky, která má být použita, a neochotně velel několika neúspěšným útokům na síly Unie včetně katastrofálního Pickettova útoku. Poté byl Longstreet na vlastní žádost odeslán na západ bojovat pod Braxtonem Braggem. Zde Longstreetovy jednotky zahájily zuřivý útok na linie Unie v bitvě u Chickamaugy, který rozhodl tento den bojů. Poté jeho téměř samostatné velení během knoxvillského tažení vyústilo v porážku Konfederace. Longstreetovo působení na západě bylo poznamenáno jeho ústřední rolí v mnoha konfliktech mezi generály Konfederace. Nešťastný ze služby pod Braggem byl Longstreet se svými muži odeslán zpět k Leeovi. Zručně velel během bitvy ve Wildernessu v roce 1864, kde byl vážně zraněn palbou vlastních jednotek. Později se vrátil na bitevní pole a sloužil pod Leeem během obléhání Petersburgu a appomattoxského tažení.