Με την εθνική ομάδα, ο Κλίνσμαν κατέκτησε το χάλκινο μετάλλιο στους Ολυμπιακούς Αγώνες της Σεούλ το 1988. Επίσης αγωνίστηκε στο Ευρωπαϊκό Πρωτάθλημα Ποδοσφαίρου 1988, 1992 και 1996, στα οποία σκόραρε. Το 1992 η Γερμανία αναδείχθηκε δεύτερη ενώ το 1996 κατέκτησε το τρόπαιο. Ακόμη, ο Κλίνσμαν αγωνίστηκε σε τρία Μουντιάλ, το 1990, το 1994 και το 1998, στα οποία και σκόραρε συνολικά 11 τέρματα σε 17 αγώνες. Το 1990 αναδείχθηκε παγκόσμιος πρωταθλητής.