לקראת הבחירות שנערכו ב-14 במרץ 2004 הובילה המפלגה העממית בראשותו של רחוי בסקרים. אולם הפיגועים במדריד שהתרחשו שלושה ימים לפני הבחירות, ב-11 במרץ שינו את התמונה. הממשלה, כולל רחוי עצמו, טענה כי ככל הנראה המחתרת הבסקית אט"א עמדה מאחורי הפיגועים. אולם כשהתברר יותר ויותר שמבצעי הפיגוע היה טרוריסטים מוסלמיים שפעלו בהשראת אל-קאעידה חלה התמרמרות בציבור נגד הממשלה, מה שהוביל לניצחון מפתיע של המפלגה הסוציאליסטית בראשות ספאטרו.