En 2000, l'Américain améliore de nouveau le record d'Amérique du Nord en franchissant 6,03 m lors du meeting de Jonesboro (Arkansas). En 2002, Jeff Hartwig réalise un saut à 6,02 m lors du meeting « indoor » de Sindelfingen, en Allemagne et devient le deuxième meilleur performeur en salle de l'histoire, après Sergueï Bubka. Il remporte par ailleurs la finale du Grand Prix à Paris avec un saut à 5,75 m, et se classe deuxième de la Coupe du monde à Madrid. Éliminé au stade des qualifications lors des Championnats du monde d'athlétisme 2003 et 2007, Hartwig se qualifie à 41 ans pour ses premiers Jeux olympiques. À Pékin, il ne parvient pas à obtenir son billet pour la finale.