Időközben az utánpótlás-válogatottal kijutott az olimpiára, és az U21-es Európa-bajnokságon is a döntőig jutott a spanyol csapat, melyben ismét nagy szerepe volt Raúlnak. A fináléban Olaszország volt az ellenfél, és a döntő felemás érzésekkel zárult számára: ő szerezte ugyan csapata egyenlítő találatát, de a tizenegyes-párbajban rontott, és ez azt jelentette, hogy a trófea az olaszoké lett. Ráadásul 1996 nyarán még egy csalódás érte: noha a legtöbben a felnőtt válogatottban szerették volna látni, Javier Clemente nem vitte ki az angliai Európa-bajnokságra, hanem úgy döntött, hogy inkább az olimpián szerepeljen. Az ötkarikás játékok azonban szintén nem sok sikerélményt hoztak a számára: a csoportból ugyan simán továbbjutottak (Franciaország ellen kétszer volt eredményes), ám a nyolcaddöntőben Argentína ellen súlyos vereséget szenvedtek és kiestek.