Pada tahun 1987, beliau beraksi dalam penampilan sulungnya buat Jerman menentang Brazil yang berkesudahan seri 1-1. Beliau mengambil bahagian dalam Sukan Olimpik 1988 yang meraih pingat gangsa. Klinsmann beraksi dalam tiga edisi Kejohanan Eropah iaitu pada 1988, 1992 dan 1996 (Jerman dinobatkan juara edisi tersebut). Klinsmann merupakan pemain pertama yang menjaringkan gol dalam tiga edisi Kejohanan Eropah berbeza. Seterusnya empat pemain lain iaitu Vladimír Šmicer, Thierry Henry, Nuno Gomes dan Cristiano Ronaldo menyamakan rekod ini.