Zhang fue seleccionado para el equipo nacional en 2002. En el Campeonato Mundial de Natación 2003, fue el único nadador masculino chino en lograr llegar a las finales individuales, acabando en octavo lugar. En el 2005, rompió el récord chino de 400 m estilo libre en los Juegos Nacionales, y se coronó campeón en 200 m y 1 500 m estilo libre.