Po absolvování vojenské akademie Spojených států ve West Pointu sloužil Longstreet v mexicko-americké válce. V bitvě u Chapultepecu byl zraněn do stehna. Poté se oženil se svou první manželkou Louisou Garlandovou. V padesátých letech 19. století sloužil v pohraniční armádě na americkém jihozápadě. V červnu 1861 Longstreet vystoupil z americké armády a připojil se k armádě Konfederace. Velel vojákům Konfederace během počátečního vítězství v červencové bitvě u Blackburn's Fordu a měl menší roli v první bitvě u Bull Runu.