带领国家队打入四强，便必须辞职。然而，克林斯曼大力提拔年轻人的策略取得了成功，德国队的平均年龄大大下降，远低于拥有卡福、罗伯托·卡洛斯的巴西和拥有马克莱莱、齐达内的法国等队。2006年德国世界盃上，克林斯曼带领赛前并不被看好的德国队一路过关斩将，击败瑞典（註：上次击败瑞典的时间为1992上半年）、阿根廷（上次为1990下半年）等强队，仅于四强战中负于意大利，夺得大赛季军。然而，他最后决定与意大利冠军教练里皮一同离任，结束了两年的国家队执教生涯。世界盃后，克林斯曼受到了多家大球会和欧美其他国家队的邀请