Egy hónappal Joachim Löw kinevezését követően, 2006. augusztus 23-án kinevezték a német válogatott másodedzőjének. A Nationalelffel 2008-ban ezüstérmet szerzett az Európa-bajnokságon, és aranyérmet a Brazíliában rendezett 2014-es világbajnokságon. A döntőben az argentin válogatottat győzték le, és megszerzték Németország negyedik világbajnoki trófeáját, 1990 óta az elsőt.