Després de retirar-se com a jugador, va voler aïllar-se del futbol als Estats Units. Quan, després d'alguna conversa, Oliver Bierhoff i el seu entorn el van convèncer perquè fos seleccionador alemany, va tornar al futbol per dirigir l'equip del seu país al Mundial 2006, del qual n'eren amfitrions. Dirigint la selecció alemanya va quedar tercer tant a la Copa Confederacions 2005 com a la Copa del Món de Futbol de 2006.