Participó también en los Juegos Olímpicos en el verano de 1988, obteniendo la medalla de bronce, en los Campeonatos Europeos de 1988, 1992 y 1996, llegando hasta la final en 1992 y proclamándose campeón en 1996. Klinsmann fue el primer jugador que consiguió marcar en tres Campeonatos Europeos diferentes de la UEFA, logrando esta proeza en todas las participaciones que tuvo con su seleccionado. En toda la historia, solamente otros tres jugadores consiguieron repetir este hito, en concreto Vladimir Smicer, Thierry Henry y Nuno Gomes. En 2016 Cristiano Ronaldo supera este récord anotando durante 4 participaciones consecutivas (2004, 2008, 2012 y 2016).