该组织成立于1920年。由于当时朝鲜半岛是日本的殖民地，因此，半岛的运动员是以日本的名义参与奥运会。1948年，韩国首次以独立国家的身份参与在英国伦敦举行的夏季奥运会。2000年6月，南北韩进行朝韩首脑会谈，两国的奥林匹克委员会同意在数个月后举行的奥运会的开幕式共同入场。此后，两国先后在2004年的雅典奥运会、2005年东亚运动会、2006年冬季奥运会等数个国际综合运动会同时入场。现时，大韩体育会的总部设在大韩民国首都首尔，现任会长是Lee Kee-heung。