Mary Augusta Kennedy lo instó para que asistiera al colegio público de mayor prestigio de la ciudad, Boston Latin School, donde Joe fue un estudiante promedio pero tenía una gran popularidad con sus compañeros de curso, ganando elecciones de presidente de clase y jugando en el equipo de béisbol del colegio.