Nel biennio 2004-2006 affiancò Jürgen Klinsmann alla guida della nazionale tedesca in qualità di vice-allenatore. La Germania partecipò alla Confederations Cup 2005 e al Mondiale 2006 (organizzato proprio in Germania), ottenendo un terzo posto in entrambe le manifestazioni.