Em 2003, disputou o Campeonato Mundial de Anaheim, conquistando a primeira medalha chinesa no individual geral: um bronze, atrás da russa Svetlana Khorkina e Carly Patterson, ouro e prata, respectivamente. No mesmo ano, competiu no Campeonato Asiático de Ginástica, conquistando a medalha de ouro na trave e no solo. Em sua primeira aparição olímpica, nos Jogos Olímpicos de Atenas, em 2004, Zhang conquistou a medalha de bronze na prova geral individual, novamente superada por Khorkina e Patterson. Coletivamente, só terminou como a sétima melhor equipe da competição, a Romênia, conquistou a medalha de ouro. Nas provas individuais por aparelhos, classificou-se apenas para a final da trave, encerrando na sétima colocação, após sofrer uma queda em seus exercícios, somando 9,237 pontos, insuficientes para superar a medalhista de bronze, Alexandra Eremia.