中国奥会只短暂共存4年多。1959年5月，当时台北的中华奥会（Chinese Olympic Committee），遭苏联及东欧籍委员在国际奥会慕尼黑年会上，以中华奥会并未掌控中国大陆的体育事务为由，成功提案将中华奥会除名。不过中华民国政府隔年又以联合国会员国名「中华民国」作为新名称－－Republic of China Olympic Committee，重新向国际奥会申请承认获得通过，但在出席奥运开幕典礼及比赛时，中华民国代表团必须以「台湾」为名。中华民国代表团自此以台湾（Formosa）的名义参加