Ha entrenado a muchos equipos, incluyendo al Bayern de Múnich, (con el que logró tres Ligas alemanas y la UEFA Champions League 2012/13), al Club Deportivo Tenerife (con el que fue semifinalista de la Copa de la UEFA tras dejar en la cuneta a históricos como el Feyenoord o la SS Lazio), al Athletic Club y al Real Madrid (con el que ganó la UEFA Champions League 1997/98).