Wei iniciou a carreira de ginasta treinando na escola local de Xiantao. Oito anos depois, em sua primeira competição, conquistou cinco medalhas de ouro. Aos dezessete anos, fez sua estreia na categoria sênior nos Jogos Nacionais, no qual foi campeão por equipes. Em 1998, participou do Campeonato Nacional, do qual saiu com a prata no solo, e dos Jogos Asiáticos, no qual conquistou o ouro por equipes e no solo, e a prata no concurso geral. No ano seguinte, fez sua estreia internacional em nível mundial. No Campeonato de Taijin, o atleta, competindo na China, conquistou a primeira colocação por equipes e a terceira na barra fixa.