C'est donc tout naturellement comme entraîneur de l'équipe junior puis de l'équipe B du Real Madrid qu'il commence sa nouvelle carrière. Après avoir entraîné avec plus ou moins de succès l'Espanyol Barcelone et le Séville FC, il est appelé en 1998 pour diriger l'équipe d'Espagne avec laquelle il obtient d'assez bons résultats. Les Espagnols sont éliminés en quart de finale de l'Euro 2000 par la France à l'issue d'un match très disputé puis échouent aux portes des demi-finales de la coupe du monde 2002, battus d'une manière discutable par la Corée après tirs au but.