O ano 2000, Yang iniciou participando do Nacional, no qual subiu pela primeira vez ao pódio do concurso geral, com a prata. Nos Jogos Olímpicos de Sydney, o ginasta, estreante em Olimpíadas aos vinte anos, saiu-se como campeão por equipes e vice-campeão, superado pelo russo Alexei Nemov por 0,013, na disputa geral individual. Em 2001, Wei conquistou sua primeira medalha de ouro no concurso geral, nos Jogos Universitários, no qual ainda foi o medalhista de ouro por equipes e o de prata, no salto. No ano seguinte, o atleta participou de três grandes competições. Na primeira, o Nacional, Yang foi o vitorioso do individual geral pela primeira vez na carreira, além de tornar-se bicampeão nos exercícios de solo. Nos Jogos Asiáticos, o ginasta conquistou o bicampeonato por equipes e o campeonato do individual geral. Nas finais por aparelhos, conquistou o bronze no solo e a prata no salto sobre a mesa. Por fim, no Mundial de Debrecen, na Hungria, sem disputas por equipes, Yang conquistou uma medalha individualmente, o bronze, no salto.