21世纪，随着原韩国男子乒乓球队主力刘南奎退役，以及金泽洙状态下滑，吴尚垠成为了国家队主力。2001年世乒赛男子团体赛准决赛，吴尚垠在第四盘出场，战胜中国队主力孔令辉，差点协助韩国队淘汰对手。在该届赛事中，吴尚垠还与队友金茂校打进混双决赛，负于中国组合秦志戬/杨影而获得银牌。此后，吴尚垠和削球手朱世赫，直板选手柳承敏成为韩国队的核心成员，并多次在世乒赛男团比赛中充当中国队的挑战者的角色。2005年，吴尚垠于上海世乒赛杀入四强，获得季军，创造了个人最好的单打成绩。