第二个赛季， 更是在自己的职业生涯当中，首次帮助火箭队在2003-04赛季以西部联盟第7名的成绩杀入季后赛。不过可惜的是在第一轮与湖人队进行5场比赛后就被淘汰了。姚明首次季后赛平均每场15分7.4个篮板。在2004年的雅典奥运会的开幕式上，姚明高举中国国旗率代表队入场。随后他爆炸性地宣布：如果中国国家篮球队打不进四分之一决赛，他将半年不刮胡子。经过几场低迷比赛（中国队以58–83、57–82和52–89先后负于西班牙、阿根廷和意大利）后，中国队奇迹般地以67-66的微弱优势战胜了世界冠军强队——塞尔维亚和