Yu ble så etterhvert borgermester Qingdao og i Yantai. Etter 1992 ble han partisjef i Qingdao. Yu ble stedfortredende konstruksjonsminister da han ble kalt til Beijing i 1997; året etter overtiok han ministerposten. Han forble minister i Zhu Rongjis kabinett fra 1998 til 2001.