2006年7月12日，勒夫被任命为新的德国国家队主教练，并与德国足协签下了2年合约。勒夫在签约后表示，他将继续奉行克林斯曼制定的执教方针，并且定下在2008年欧洲杯夺冠的目标。2006年8月16日，勒夫带领下的德国迎来首场比赛，在盖尔森基兴迎战瑞典，结果德国以3-0取胜。随后3个月内，勒夫的球队在欧洲杯预选赛中取得3连胜，对手分别是爱尔兰、圣马力诺和斯洛伐克。在战胜斯洛伐克后，勒夫已率领的德国取得5连胜，创下了德国新任教练战绩最好的纪录。