Etter VM 02 gikk karrieren til Sand gradvis nedover. Han scoret ikke lenger like mye, i 2002-2003 scoret Sand 6 mål, mens i 2003-2004 scoret han åtte mål. s innsats i Europamesterskapet 2004 var bedre enn de to foregående mesterskapene og Danmark tok seg videre til finalespillet, men Sand gikk glipp av kvartfinalen grunnet skade. Etter EM 04 tok Ebbe Sand beslutningen om at han trekker seg fra videre landslagsspill siden han ville fokusere mer på klubbfotballen i Schalke. 2004-2005 sesongen gikk like dårlig som de to foregående årene, og han scoret bare åtte mål i serien. Sommeren 2005 tok Ebbe Sand beslutningen om at den forestående sesongen skulle bli hans siste som aktiv spiller. Han ville gjøre virkelighet av drømmen om å bli talentspeider og ville flytte tilbake til Danmark. Han avslo tilbud fra Schalke om videre trenervirke i klubben. I hans siste sesong for Schalke ble han også valgt som lagkaptein, selv om både Søren Larsen og Kevin Kurányi viste plass til benken og reservespiller. Hans siste kamp som aktiv fotballspiller kom mot Stuttgart i mai 2006 og det endte med scoring og seier, samt stående applaus da han ble byttet ut.