A VB után már nem Romancev volt a szövetségi kapitány. Helyére a CSZKA Moszkva és az orosz utánpótlás-válogatott akkori edzője, Valerij Gazzajev került, és a korábbi kapitányokhoz hasonlóan az volt a feladata, hogy vezesse ki a válogatottat a soron következő tornára. Gazzajev fealadata nem volt egyszerű, ugyanis a 2004-es EB selejtezőire az orosz együttes Svájccal, Írországgal, Albániával és Grúziával került össze. Itt Írországot és Svájcot is esélyesebbnek tartották, mint őket. Ennek ellenére az oroszok számára jól indult a selejtező, ugyanis 2 győzelemmel indítottak Írország és Albánia ellen. A következő meccsek már nem sikerültek ilyen jól, a grúz és az albán csapattól is kikaptak. Ekkor még haladékot adtak Gazzajevnek, ám mikor Bázelben csak egy csalódást keltő 1:1-es döntetlent értek el Svájc ellen, már nem maradt tovább. A következő, Írország elleni meccsen már Georgij Jarcev vezetésével értek el egy újabb 1:1-es döntetlent. Az utolsó 2 fordulóban, hazai pályán Svájc és Grúzia ellen is győzni tudtak, így végül 2. helyen végeztek a csoportban, és ez azt jelentette, hogy Wales ellen, pótselejtezőn kellett kivíviuk az EB-szereplést. Az első meccsen, Moszkvában csak 0:0 lett az eredmény, így a visszavágót a walesiek várhatták kedvezőbb helyzetből. Azonban Cardiffban kisebb meglepetésre az oroszok 1:0-ra győzni tudtak Vadim Jevszejev góljával. Ezzel az orosz együttes teljesítette minimális célját, és kijutott a 2004-es EB-re. Ezt a győzelmet azonban beárnyékolta Jegor Tyitov pozitív drogtesztje. Sokan az orosz válogatott kizárását követelték, ám végül csak Tyitov kapott 1 éves eltiltást.