Para piorar, o Real não se recuperaria por um tempo, justamente no momento em que o arquirrival Barcelona se reerguia, faturando os dois campeonatos espanhóis que se seguiram e a Liga dos Campeões da UEFA em 2006. No torneio europeu, Chamartín amargou duas eliminações nas oitavas-de-final: em 2005, novamente para a Juventus, sofrendo um gol a quatro minutos do fim da prorrogação; em 2006, foi para o Arsenal, que ganhou em pleno Santiago Bernabéu. Zidane não viveria má fase apenas no clube, encarando uma decepcionante campanha com a França na Eurocopa de 2004. Anunciou que se aposentaria no clube ao fim da temporada 2005–06, retirando-se dos gramados depois da Copa do Mundo de 2006, a ser realizada ao término daquela temporada. Mesmo assim, Zidane é considerado um dos maiores jogadores de toda a historia do Real Madrid.