Iniziò ad allenare subito dopo il suo ritiro, subentrando a Juan Carlos Lorenzo sulla panchina dei "colchoneros" all'inizio del campionato 1974-75. Il suo esordio in panchina fu positivo in quanto riuscì subito a conquistare la Coppa Intercontinentale. Rimase all'Atlético fino al 1980, prima di lasciare l'incarico. Durante questo primo periodo da allenatore dell'Atletico riesce a vincere anche la Coppa del Generalissimo nel 1976 e il Campionato spagnolo nel 1977. Dal 1974 allenò la squadra madrilena in altre tre distinte occasioni: dal 1982 al 1987, dal 1991 al 1993 e dal 2001 al 2003 per un totale di 611 partite. Dopo essere rimasto inattivo per circa un anno nel 1981 passò al , dove rimase però solamente pochi mesi, rassegnando le dimissioni per insopportabili problemi fisici. Ritornò alla guida di una squadra all'inizio della stagione 1982-1983 di nuovo con l'Atlético Madrid. Durante questo secondo periodo alla guida dei "colchoneros", riuscì a conquistare una Coppa del Re nel 1985, terminando anche il campionato al secondo posto, e una Supercopa de España sempre nel 1985 ma riuscì a rimediare anche 3 sconfitte in finali di coppe: Coppa de la Liga 1984, Coppa de la Liga 1985, Coppa delle Coppe 1985-1986. La sua avventura si doveva concludere al termine del campionato 1985-1986, ma l'anno seguente fu richiamato dopo gli esoneri di Vicente Miera e Jesús Martínez Jayo: concluse il torneo con un modesto 7º posto che non garantì l'accesso al girone per la qualificazione alle competizioni europee e perse la finale di Coppa del Re.