该组织成立于1895年。翌年，首次派员参加在希腊雅典举行的现届现代奥运会。德国在二战分裂后，组织由西德掌管，东德另立东德国家奥林匹克委员会。1990年，两德统一后，德国奥林匹克体育同盟再次建立。现时，德国奥林匹克体育同盟是国际奥林匹克委员会和欧洲奥林匹克委员会的成员。它的总部设在法兰克福，主席是Alfons Hörmann。