Nach vier Jahren im Nachwuchsbereich der Shanghai Sharks spielte Yao ab dem Alter von 17 Jahren für fünf Jahre in der ersten Mannschaft, mit der er in seinem letzten Jahr in China den Titel der Chinese Basketball Association (CBA) gewann. Anschließend wechselte er in die NBA. Beim NBA-Draft im Jahr 2002 wählten ihn die Houston Rockets an der ersten Stelle des Drafts aus. Seit Yao bei den Houston Rockets spielte, kam das Team allerdings nur ein einziges Mal über die erste Runde der Play-offs hinaus. In den letzten fünf Spielzeiten fiel er durch Verletzungen jeweils für längere Zeit aus. Bereits von seiner ersten Saison an wurde Yao jedes Jahr als "Starter" in das Team der Western Conference für das NBA All-Star Game gewählt, zudem fünfmal in ein All-NBA Team berufen. 2016 wurde er in die Naismith Memorial Basketball Hall of Fame berufen.