No obstante, en las elecciones primarias celebradas el 24 de abril de 1998, fue derrotado con gran sorpresa por un 55% de votos por Josep Borrell, ex Ministro de Obras Públicas con Felipe González, que acabó renunciando en favor de Almunia, debido a la falta de apoyo de la dirección y a su supuesta responsabilidad en un escándalo de fraude fiscal de Ernesto Aguiar y José María Huguet, dos antiguos colaboradores suyos cuando era secretario de Hacienda.