Seine Fußballkarriere begann Yeste 1991 bei seinem Heimatverein "Athletic Bilbao", wo er sich zu einem der besten Jugendspieler Spaniens entwickelte. 1999 wurde er mit Spanien U20-Juniorenweltmeister.