I 1982 ble han generalsekretær for hushold og offentlige utgifter i det spanske finansdepartementet, og fra 1984 til 1991 var han finansminister i Spania. Spania ble medlem av EU i 1986, og som finansminister hadde Borrell dermed ansvaret for å tilpasse den spanske finanspolitikken til EU-systemet.