Яо дебютував у збірній Китаю на літніх Олімпійських іграх 2000 року в Сіднеї, і разом з Ван Чжічжі і Менгке Батиром вони склали так звану «Велику стіну». Під час Олімпійських ігор в Афінах 2004, Яо ніс китайський прапор на церемонії відкриття, за його словами він «здійснив свою давню мрію». На олімпійських іграх 2004 року в Афінах у цілому команда виступила невдало, але Яо увійшов до символічної збірної баскетбольного турніру. На чемпіонаті світу 2006 року Китай дійшов лише до 1/16 фіналу.