После того как Юй Гэньвэй стал лучшим молодым игроком Китайской футбольной ассоциации в 1996 году, он получил приглашение в основную сборную Китая. Дебют за сборную состоялся 30 августа 1997 года в товарищеском матче против Южной Кореи (0:0). Но после неудачных матчей квалификации на чемпионат мира 1998 и вылета «Тяньцзинь Тэда» в Лигу Цзя-Б Юй Гэньвэя не вызывали в сборную. Только после того как «Тяньцзинь» вернулся в Лигу Цзя А ему дали ещё один шанс. Новый главный тренер сборной Бора Милутинович включил его в состав на товарищеский матч против КНДР 3 августа 2001 года (2:2). После этого матча он зарекомендовал себя как игрока основы. Был включен в сборную на чемпионат мира 2002 года в Южной Корее / Японии.