1999-től lett a Real Madrid vezetőedzője. Korábban, 1994-ben és 1996-ban csak néhány mérkőzésen vezette a madridi együttest. A csapattal 2000-ben és 2002-ben UEFA-bajnokok ligáját nyert. A sikerek közé tartozik két bajnoki cím, és egy spanyol-szuperkupa győzelem is. A 2002-es BL-sikert követően európai szuperkupát és Világkupát is nyert a királyi gárdával. Az akkori játékoskeretekben többek között Luís Figo és Zinédine Zidane is szerepelt.