En junio de 2004, los Rockets se hicieron con los servicios de la estrella de los Magic Tracy McGrady a cambio de Steve Francis y Cuttino Mobley. Yao dijo de sus dos ex-compañeros que "le habían ayudado en sus dos primeras temporadas en la liga", pero sobre McGrady añadió que "estoy emocionado por jugar junto a él. Es un jugador que puede hacer cosas asombrosas". Tras el traspaso, los Rockets se convirtieron en candidatos al título, y la pareja Yao-McGrady fue comparada con O'Neal-Bryant de los Lakers. Tanto McGrady como Yao fueron votados como titulares para disputar el All-Star Game, y el chino consiguió el récord de más votos para el All-Star que poseía Michael Jordan, con un total de 2.558.278. Los Rockets ganaron 51 partidos y finalizaron quintos en el Oeste, alcanzando los playoffs por segunda temporada consecutiva y se enfrentaron con Dallas Mavericks en primera ronda. Houston ganó los dos primeros duelos en Dallas, con Yao anotando 13 de los 14 lanzamientos que intentó, récord de la franquicia, y 33 puntos. Sin embargo, los Mavericks ganaron cuatro de los siguientes cinco partidos, incluyendo el séptimo y definitivo duelo por una diferencia de 40 puntos (116-76), el mayor déficit en un séptimo encuentro en la historia de la NBA. Yao promedió 21.4 puntos y 7.7 rebotes por partido en la serie con un 65 % en tiros de campo.