Johnston naît à Farmville en Virginie à Longwood House, actuel résidence du Recteur de la Longwood University. Ses prénoms font référence au Major Joseph Eggleston sous qui son père a servi durant la guerre d'indépendance. Il entre à West Point et est diplômé en 1829 (la même année que Robert E. Lee). Il participe à la deuxième guerre séminole ainsi qu'à la guerre du Mexique où il est blessé à la bataille de Cerro Gordo et à celle de Chapultepec.