Zhang comincia a nuotare all'età di sei anni e nel 2002, a soli quindici anni, comincia a fare parte della nazionale cinese. L'anno successivo, ai Mondiali di Barcellona, è stato l'unico nuotatore cinese in grado di qualificarsi per una finale in una gara individuale.