오픈 소스 인공지능

오픈 소스 인공지능(open-source artificial intelligence)은 자유롭게 사용, 연구, 수정 및 공유할 수 있는 AI 시스템이다. 이러한 특성은 데이터 세트, 코드 및 모델 매개변수를 포함하여 시스템의 각 구성 요소에 적용되어 AI 개발에 대한 협업적이고 투명한 접근 방식을 촉진한다. 아파치 라이선스, MIT 허가서, GNU 일반 공중 사용 허가서와 같은 자유-오픈 소스 소프트웨어 (FOSS) 라이선스는 오픈 소스 인공지능에 접근, 수정 및 재배포할 수 있는 조건을 명시한다.

오픈 소스 모델은 AI 기술에 대한 더 넓은 접근을 제공하여 더 많은 개인과 조직이 AI 연구 및 개발에 참여할 수 있도록 한다. 이와 대조적으로 폐쇄형 인공지능은 독점적이며 소스 코드 및 내부 구성 요소에 대한 접근을 제한한다. 기업들은 시장에서 경쟁 우위를 유지하기 위해 종종 폐쇄형 제품을 개발한다. 그러나 일부 전문가들은 오픈 소스 AI 도구가 폐쇄형 제품보다 개발 우위를 가질 수 있으며 시장에서 이를 추월할 잠재력이 있다고 제안한다.

인기 있는 오픈 소스 인공지능 프로젝트 범주에는 대형 언어 모델, 기계 번역 도구 및 챗봇이 포함된다. 소프트웨어 개발자가 오픈 소스 인공지능(AI) 자원을 생산하려면 개발에 사용하는 다양한 다른 오픈 소스 소프트웨어 구성 요소를 신뢰해야 한다. 오픈 소스 AI 소프트웨어는 악의적인 행위자가 공개 모델의 안전 프로토콜을 원하는 대로 제거할 수 있으므로 폐쇄형 AI에 비해 잠재적으로 증가된 위험을 가질 수 있다고 추측된다. 마찬가지로, 폐쇄형 AI도 의존성, 프라이버시, 불투명한 알고리즘, 기업 통제 및 제한된 가용성 문제로 인해 오픈 소스 AI에 비해 위험이 증가할 수 있으며, 이는 유익한 혁신을 늦출 수 있다고 추측된다.

개방성은 차별화되므로 AI 시스템의 개방성에 대한 논쟁도 있다. Nature의 기사에서는 Meta의 Llama 3와 같이 개방형으로 제시된 일부 시스템이 "API 또는 명확히 비개방적인 사용 제한이 적용되는 모델을 다운로드하는 기능 외에는 거의 제공하지 않는다"고 제안한다. 이러한 소프트웨어는 "오픈워싱" 시스템으로 비판받았으며, 폐쇄형으로 이해하는 것이 더 좋다. AI 시스템의 개방성을 평가하는 몇 가지 연구와 프레임워크가 있으며 오픈 소스 이니셔티브에 의한 오픈 소스 AI를 구성하는 요소에 대한 새로운 정의도 있다. 일부 대형 언어 모델은 훈련 코드와 데이터가 공개되지 않더라도 훈련된 매개변수가 공개적으로 사용 가능한 오픈 웨이트로 출시된다.

 역사 

오픈 소스 인공지능의 역사는 AI 기술 개발과 오픈 소스 소프트웨어 운동의 성장과 밀접하게 얽혀 있다. 오픈 소스 AI는 지난 수십 년 동안 다양한 학술 기관, 연구소, 기술 기업 및 독립 개발자들의 기여로 크게 발전했다. 이 섹션에서는 오픈 소스 AI의 초기부터 현재까지의 주요 발전 단계를 살펴본다.

 1990년대: AI 및 오픈 소스 소프트웨어의 초기 개발 
AI의 개념은 앨런 튜링과 존 매카시와 같은 컴퓨터 과학자들이 현대 AI 이론과 알고리즘의 기초를 다진 20세기 중반으로 거슬러 올라간다. AI의 초기 형태인 자연어 처리 "의사" ELIZA는 1977년 제프 슈라거(Jeff Shrager)에 의해 BASIC 프로그램으로 재구현되어 공유되었으며, 곧 다른 많은 언어로 번역되었다. 초기 AI 연구는 기호 추론 시스템과 규칙 기반 전문가 시스템 개발에 초점을 맞추었다.

이 시기에 오픈 소스 소프트웨어의 개념이 형성되기 시작했으며, 리처드 스톨먼과 같은 선구자들은 프로그래밍에서 협업과 혁신을 촉진하기 위한 수단으로 자유 소프트웨어를 옹호했다. 1985년 스톨먼이 설립한 자유 소프트웨어 재단은 소프트웨어를 자유롭게 사용, 수정 및 배포할 수 있다는 아이디어를 홍보한 최초의 주요 조직 중 하나였다. 이 운동의 아이디어는 AI 모델 및 알고리즘을 포함한 소프트웨어 생성에서 공개 협업의 잠재적 이점을 더 많은 개발자들이 인식하기 시작하면서 오픈 소스 AI 개발에 영향을 미쳤다.

1990년대에 오픈 소스 소프트웨어가 더 많은 인기를 얻기 시작했고, 기계 학습과 통계적 방법의 부상 또한 더 실용적인 AI 도구 개발로 이어졌다. 1993년에는 다양한 공개 소프트웨어가 포함된 CMU 인공지능 저장소(CMU Artificial Intelligence Repository)가 시작되었다.

 2000년대: 오픈 소스 AI의 등장 
2000년대 초반, 누구나 사용하고 기여할 수 있는 더 사용자 친화적인 기반 라이브러리 및 프레임워크의 출시와 함께 오픈 소스 AI가 인기를 얻기 시작했다.

OpenCV는 2000년에 출시되었으며 결정 트리, k-최근접 이웃 (kNN), 나이브 베이즈 및 서포트 벡터 머신 (SVM)과 같은 다양한 전통적인 AI 알고리즘을 포함했다.

2007년에는 Scikit-learn이 출시되었다. 이는 사용 편의성과 견고한 기능성 덕분에 일반적인 기계 학습을 위한 가장 널리 사용되는 라이브러리 중 하나가 되었으며, 회귀, 분류 및 클러스터링과 같은 일반적인 알고리즘을 구현했다. Theano 또한 같은 해에 출시되었다.

 오픈 소스 AI 프레임워크의 부상 (2010년대) 
오픈 소스 딥 러닝 프레임워크인 Torch는 2002년에 출시되었고 2011년에 Torch7과 함께 오픈 소스화되었으며, 나중에 PyTorch 및 텐서플로로 보강되었다. 이러한 프레임워크는 연구원과 개발자들이 이미지 인식, 자연어 처리 (NLP) 및 자율 주행과 같은 작업을 위한 신경망을 구축하고 훈련할 수 있도록 했다.

알렉스넷은 2012년에 출시되었고, Google의 Word2vec은 자연어 처리를 위해 2013년에 출시되었다.

2014년에는 Word2vec의 경쟁자인 GloVe가 아파치 2.0 라이선스 하에 소스 코드를 출시했으며, 훈련된 데이터 세트를 문서화하고 모델 가중치를 퍼블릭 도메인 헌정 및 라이선스 하에 출시했다.

 오픈 소스 생성형 AI (2020년대~현재) 
GPT-2가 발표되면서 OpenAI는 악의적인 응용 프로그램에 대한 우려를 이유로 모델의 소스 코드를 비공개로 유지할 계획이었다. 그러나 OpenAI는 대중의 비난에 직면한 후 출시 3개월 만에 GPT-2의 소스 코드를 GitHub에 공개했다. OpenAI는 GPT-3 또는 GPT-4 모델의 소스 코드나 사전 훈련된 가중치를 공개적으로 출시하지 않았지만, 개발자는 OpenAI API를 통해 해당 기능을 통합할 수 있다.

OpenAI의 GPT-3(2020)와 같은 대형 언어 모델 (LLM)과 생성형 인공지능의 부상은 오픈 소스 AI 프레임워크에 대한 수요를 더욱 촉진했다. 이러한 모델들은 챗봇, 콘텐츠 생성 및 코드 생성과 같은 다양한 응용 분야에서 사용되어 AI 시스템의 광범위한 기능을 보여주었다. GPT-3 출시 당시 GPT-2는 여전히 세계에서 가장 강력한 오픈 소스 언어 모델이었으며, EleutherAI가 2021년에 GPT-Neo 및 GPT-J를 훈련하고 출시하게 만들었다.

2022년 2월 EleutherAI는 GPT-NeoX-20B를 출시하여 Meta의 FairSeq Dense 13B 모델이 2021년 말에 GPT-J를 넘어선 이후로 세계에서 가장 강력한 오픈 소스 언어 모델이라는 타이틀을 되찾았다. 2022년에는 Meta의 OPT 및 Galactica, BigScience Research Workshop의 BLOOM, 및 칭화대학교의 GLM을 포함한 다양한 비오픈 소스 라이선스 하의 더 크고 강력한 모델들이 부상했다.

2021년과 2022년에 유럽에서 AI 입법을 둘러싼 초기 협상 중에 오픈 소스 AI에 대한 과도한 규제를 피하기 위한 제안이 이루어졌다. 일부 조직이 "오픈 소스"라는 레이블을 자신들의 작업에 잘못 적용하고 있다는 점을 지적하며, 2022년 오픈 소스 이니셔티브는 1998년에 오픈 소스 소프트웨어에 대한 널리 받아들여지는 표준을 처음 고안했으며, AI 소프트웨어 및 모델의 요구 사항에 맞는 "오픈 소스"의 정의를 전문가들과 함께 연구하기 시작했다. 가장 논란이 되는 측면은 데이터 접근과 관련이 있다. 일부 모델은 민감한 데이터를 기반으로 훈련되므로 공개할 수 없기 때문이다. 2024년에 그들은 오픈 소스 AI 정의 1.0(OSAID 1.0)을 완성했으며, 20개 이상의 조직으로부터 지지를 받았다. 이는 데이터를 처리하고 모델을 훈련하며 모델로부터 추론하는 소프트웨어의 전체 공개를 요구한다. 데이터의 경우 "숙련된 사람이 실질적으로 동등한 시스템을 구축할 수 있도록 시스템 훈련에 사용된 데이터에 대한 충분히 상세한 정보"만을 요구한다.

2023년에는 LLaMA 1과 2, MosaicML의 MPT, 그리고 미스트랄 AI의 Mistral 및 Mixtral 모델이 출시되었다.

2024년에 Meta는 LLaMA 3.1 405B를 포함한 대규모 AI 모델 컬렉션을 출시했으며, 이는 가장 진보된 폐쇄형 모델과 비교할 만하다. 이 회사는 AI에 대한 접근 방식이 다른 주요 기술 회사들과 달리 오픈 소스라고 주장했다. 오픈 소스 이니셔티브 및 기타 기관들은 Meta가 Llama를 오픈 소스로 설명함에도 불구하고 Llama의 소프트웨어 라이선스가 일부 용도로 사용되는 것을 금지하기 때문에 오픈 소스가 아니라고 주장했다.

딥시크는 2024년 12월에 V3 LLM을 출시했고, 2025년 1월 20일에는 R1 추론 모델을 MIT 라이선스 하의 오픈 웨이트 모델로 출시했다.

2022년 말 OpenAI의 독점 ChatGPT 모델이 출시된 이후, 완전히 개방된(가중치, 데이터, 코드 등) 대형 언어 모델은 극히 일부만이 출시되었다. 이 중에는 OLMo 모델 시리즈가 포함된다. 2025년 9월, 스위스 컨소시엄은 Apertus라는 완전히 개방된 모델을 출시하여 이 짧은 목록에 추가했다. 이 모델은 8B와 70B의 두 가지 크기로 출시되었다. 라틴 아메리카에 초점을 맞춘 오픈 모델인 Latam-GPT는 이 분야에서 진행 중인 다른 지역적 노력 중 하나이다.

 윤리 
AI 모델 개발과 병행하여 AI 개발에서 윤리적 기준을 보장하는 것에 대한 관심이 증가하고 있다. 여기에는 편향, 프라이버시 및 AI 시스템 오용 가능성과 같은 우려 사항을 다루는 것이 포함된다. 그 결과, 책임 있는 AI 개발을 위한 프레임워크와 Google이 도입한 모델 카드 개념과 같은 윤리적 고려 사항을 문서화하기 위한 지침이 인기를 얻었지만, 연구에 따르면 의도하지 않은 부정적인 결과를 피하기 위해 계속해서 채택되어야 할 필요가 있다.

 프레임워크 
리눅스 재단의 프로젝트인 LF AI & Data 재단은 협업과 혁신을 촉진하고 오픈 소스 프로젝트를 지원함으로써 오픈 소스 AI 환경에 큰 영향을 미쳤다. LF AI & Data는 중립적인 플랫폼을 제공함으로써 개발자, 연구원 및 조직이 최첨단 AI 및 데이터 솔루션을 구축하고 중요한 기술적 문제를 해결하며 윤리적인 AI 개발을 촉진하기 위해 단결한다.

2024년 10월 현재, 이 재단은 북미, 유럽 및 아시아의 77개 회원사로 구성되어 있으며, 엔비디아, 아마존, 인텔, 마이크로소프트와 같은 실리콘밸리 거대 기업을 포함한 다양한 조직이 기여한 67개의 오픈 소스 소프트웨어(OSS) 프로젝트를 호스팅하고 있다. 알리바바, 틱톡, AT&T 및 IBM과 같은 다른 대기업들도 기여했다. NYU, 미시간 대학교 AI 연구소, 컬럼비아 대학교, 펜실베이니아 주립 대학교와 같은 연구 기관도 LF AI & Data 재단의 준회원이다.

2024년에 OSAID가 개발 중인 동안, 리눅스 재단은 AI 시스템 구성 요소에 대한 기준표를 개발하고 있었으며, 모델 개방성 프레임워크(MOF) 초안을 발표했다. MOF는 기계 학습 모델의 완전성과 개방성을 평가하고 분류하기 위한 시스템이다. 여기에는 더 개방적인 것부터 덜 개방적인 것까지 세 가지 개방성 클래스가 포함된다: 클래스 I: 오픈 사이언스 모델; 클래스 II: 오픈 툴링 모델; 클래스 III: 오픈 모델. 리눅스 재단은 OSAID 개발에 참여했으며, OSAID는 동일한 구성 요소 기준표를 채택했다.

2022년 9월, Meta가 기부한 널리 사용되는 PyTorch 딥러닝 프레임워크를 감독하기 위해 PyTorch 재단이 설립되었다. 재단의 임무는 PyTorch와 통합된 오픈 소스, 공급업체 중립 프로젝트의 생태계를 조성하고 유지하여 AI 도구 채택을 촉진하고, 최첨단 도구, 라이브러리 및 기타 구성 요소에 대한 접근을 민주화하여 이러한 혁신을 모든 사람이 접근할 수 있도록 하는 것이다.

PyTorch 재단은 또한 비즈니스 및 기술 거버넌스를 분리하여 PyTorch 프로젝트는 기술 거버넌스 구조를 유지하고, 재단은 자금 조달, 호스팅 비용, 이벤트 및 프로젝트 웹 사이트, GitHub 저장소, 소셜 미디어 계정과 같은 자산 관리를 처리하여 개방형 커뮤니티 거버넌스를 보장한다. 재단 설립 시, 초기 회원사인 AMD, 아마존 웹 서비스, 구글 클라우드, 허깅 페이스, IBM, 인텔, Meta, 마이크로소프트 및 엔비디아의 대표들로 구성된 이사회를 구성했다.

 응용 분야 

 자연어 처리 

오픈 소스 AI는 대형 언어 모델 (LLM)의 개발 및 채택을 지원했다. OpenAI의 GPT 시리즈와 같은 독점 모델이 대화형 시스템 및 자동화된 콘텐츠 생성과 같은 응용 분야에서 가능한 것을 재정의한 반면, 완전 오픈 소스 모델도 상당한 발전을 이루었다. Google의 BERT는 엔티티 인식 및 언어 번역과 같은 작업에 널리 사용되는 오픈 소스 모델로, NLP에서 다재다능한 도구로 자리매김했다. 이러한 오픈 소스 LLM은 고급 언어 기술에 대한 접근을 민주화하고 독점 시스템에 대한 의존도를 줄였다.

 기계 번역 

Hugging Face의 MarianMT는 광범위한 언어 쌍을 지원하는 기계 번역의 한 예이다. 또 다른 주목할 만한 모델은 OpenNMT이다. 이러한 오픈 소스 모델과 함께 유럽의회 말뭉치 및 OPUS를 포함한 WMT (Workshop on Machine Translation) 데이터 세트와 같은 오픈 소스 데이터 세트가 이 분야에 기여하며 개발자들이 특정 언어에 대한 모델을 훈련하고 미세 조정하는 데 도움을 준다.

 컴퓨터 비전 모델 

OpenCV와 같은 라이브러리는 이미지 인식, 동작 추적 및 얼굴 감지와 같은 실시간 컴퓨터 비전 응용 프로그램을 지원한다. 원래 인텔에서 개발한 OpenCV는 컴퓨터 비전을 위한 가장 인기 있는 라이브러리 중 하나가 되었다. YOLO (You Only Look Once) 및 Detectron2를 포함한 다른 오픈 소스 컴퓨터 비전 모델도 유사한 기능을 제공한다.

이전 세대의 컴퓨터 비전 모델은 컨볼루션 레이어를 통해 이미지 데이터를 처리했지만, 새로운 세대의 컴퓨터 비전 모델은 비전 트랜스포머를 사용한다. 이는 이미지를 작은 패치로 분할하여 이미지에서 가장 관련성이 높은 영역을 식별하며 일반적으로 더 정확한 결과를 생성한다.

 로봇공학 

오픈 소스 인공지능은 학계와 산업계 모두에서 유연하고 확장 가능한 개발 환경을 제공함으로써 로봇공학에 상당한 영향을 미쳤다. 로봇 운영체제 (ROS)는 개발자들이 다양한 하드웨어 플랫폼과 로봇 아키텍처에서 작업하는 데 사용하는 프레임워크의 한 예이다. 가제보는 실제 배포 전에 가상 환경에서 로봇 시스템을 테스트하는 데 사용되는 또 다른 오픈 소스 로봇 시뮬레이션 소프트웨어이다.

 보건분야 

의료 산업에서 오픈 소스 AI는 진단, 환자 관리 및 개인 맞춤형 치료 옵션에 사용되었다. 오픈 소스 라이브러리는 종양 감지와 같은 작업을 위한 의료 영상 분야에서 사용되어 진단 과정의 속도와 정확성을 향상시켰다. 또한, 화학 및 생물학 응용 분야에 특별히 맞춰진 오픈 소스 라이브러리인 OpenChem은 약물 발견을 위한 예측 모델 개발을 가능하게 하여 연구자들이 치료를 위한 잠재적 화합물을 식별하는 데 도움을 준다.

 군사 

Meta가 오픈 소스로 설명한 Meta의 Llama 모델은 중국 인민해방군 (PLA)과 제휴한 중국 연구자들의 무단 개조가 드러난 후 록히드 마틴 및 오라클과 같은 미국 국방 계약업체에 채택되었다. 오픈 소스 이니셔티브 및 기타 기관들은 Llama의 라이선스에 비미국 군사적 사용을 포함한 사용 사례를 금지하는 이용 목적 제한 방침이 포함되어 있기 때문에 Meta가 Llama를 오픈 소스로 설명한 것에 대해 이의를 제기했다. 중국 연구자들은 Llama의 초기 버전을 사용하여 군사 정보 및 의사 결정에 최적화된 ChatBIT와 같은 도구를 개발했으며, 이에 Meta는 국가 안보를 위해 기술이 전략적으로 사용될 수 있도록 미국 계약업체와의 파트너십을 확장했다. 이러한 응용 분야에는 이제 물류, 유지 보수 및 사이버 보안 강화가 포함된다.

 이점 
 접근의 민주화 
오픈 소스 AI는 최첨단 도구에 대한 접근을 민주화하여 자원이 부족할 수 있는 개인 및 소규모 조직의 진입 장벽을 낮춘다. 이러한 기술을 자유롭게 사용할 수 있도록 함으로써 오픈 소스 AI는 개발자들이 재정적 제약으로 인해 접근하기 어려웠던 AI 솔루션을 혁신하고 만들 수 있도록 하여 독립 개발자, 연구원, 소규모 조직 및 스타트업이 독점 소프트웨어 라이선스의 재정적 부담 없이 고급 AI 모델을 활용할 수 있도록 한다. 이러한 경제성은 개발자들이 기존 모델을 수정하여 고유한 요구 사항을 충족할 수 있으므로 틈새 또는 전문화된 응용 분야에서 혁신을 장려한다.

 협업 및 더 빠른 발전 
코드, 데이터 및 연구 결과를 공유함으로써 오픈 소스 AI는 집단적 문제 해결 및 혁신을 가능하게 한다. 텐서플로 및 PyTorch와 같은 프레임워크 개발에서 볼 수 있는 대규모 협업은 기계 학습 (ML) 및 딥 러닝 분야의 발전을 가속화했다.

이러한 플랫폼의 오픈 소스 특성은 또한 전 세계의 기여자(contributor)들이 기존 도구에 대한 수정 및 개선 사항을 제안할 수 있으므로 빠른 반복 및 개선을 용이하게 한다. ML 및 딥 러닝 내의 직접적인 개선을 넘어 이러한 협업은 공유된 지식과 전문 지식이 결합됨에 따라 AI 제품의 더 빠른 발전으로 이어질 수 있다.

 공평한 개발 
개발 프로세스의 개방성은 다양한 기여를 장려하여 소외된 그룹도 AI의 미래를 형성할 수 있도록 한다. 이러한 포용성은 더욱 공평한 개발 환경을 조성할 뿐만 아니라 더 큰 이윤 중심의 기업들이 간과할 수 있는 편향을 해결하는 데 도움이 된다. 다양한 관점의 기여를 통해 오픈 소스 AI는 전 세계 커뮤니티에 더 공정하고 책임감 있으며 영향력 있는 기술을 만들 잠재력을 가지고 있다.

 투명성과 불투명성 
섬네일|디지털 의학에서 AI 투명성의 중요성에 대한 비디오
오픈 소스 AI의 한 가지 주요 이점은 폐쇄형 대안과 비교하여 제공하는 향상된 투명성이다.MACHADO, J. (2025). Toward a Public and Secure Generative AI: A Comparative Analysis of Open and Closed LLMs. Conference Paper. arXiv:2505.10603. 오픈 소스 모델을 통해 기본 알고리즘과 코드를 검사할 수 있으므로 책임감을 높이고 개발자가 모델이 결론에 도달하는 방식을 이해하는 데 도움이 된다. 또한 Llama 및 스테이블 디퓨전과 같은 오픈 웨이트 모델을 통해 개발자는 모델 매개변수에 직접 접근할 수 있어 응용 분야에서 편향을 줄이고 공정성을 높이는 데 도움이 될 수 있다. 이러한 투명성은 특히 의료, 형사 사법 및 금융과 같은 중요한 응용 분야에서 AI 시스템이 내린 결정의 결과가 상당할 수 있는 경우 (그러나 우려 사항 섹션에서 언급된 특정 위험을 초래할 수도 있음) 인간이 읽을 수 있는 출력을 가진 시스템, 즉 "설명 가능한 AI"를 생성하는 데 도움이 될 수 있다.

 개인정보 보호 및 독립성 
Nature 사설은 의료 서비스가 언제든지 중단될 수 있고 평가하기 어렵고 환자 프라이버시를 위협할 수 있는 AI 모델에 의존하게 될 수 있다고 제안한다. 저자들은 전 세계의 의료 기관, 학술 연구원, 임상의, 환자 및 기술 기업이 협력하여 기본 코드와 기본 모델에 쉽게 접근할 수 있고 자체 데이터 세트로 자유롭게 미세 조정할 수 있는 의료용 오픈 소스 모델을 구축해야 한다고 제안한다.

 우려 사항 
 품질 및 보안 
현재 오픈 소스 모델은 대부분의 작업에서 폐쇄형 모델보다 성능이 떨어지지만, 오픈 소스 모델은 격차를 좁히기 위해 더 빠르게 개선되고 있다.

모델의 오픈 소스 개발은 이론적인 위험을 가질 수 있다고 여겨져 왔다. 일단 모델이 공개되면 심각한 보안 문제가 감지되더라도 롤백하거나 업데이트할 수 없다. 예를 들어, 오픈 소스 AI는 옴진리교와 같은 바이오테러리즘 그룹이 AI 모델의 파인 튜닝 및 기타 안전 장치를 제거하여 AI가 더 파괴적인 테러 계획을 개발하는 데 도움을 줄 수 있도록 허용할 수 있다. 실제 테러 계획을 개발하는 데 주요 장애물은 필요한 재료와 장비에 대한 엄격한 제한에 있다. 또한, AI 발전의 빠른 속도는 오래된 모델을 사용하는 것을 덜 매력적으로 만들며, 이는 공격에 더 취약하지만 능력도 떨어진다.

2024년 7월, 미국은 모델 가중치 공개를 제한할 충분한 증거를 찾지 못했다고 명시한 대통령 보고서를 발표했다.

 공평성, 사회적 및 윤리적 함의 
인공지능이 의도치 않게 편향된 제품을 만들어낸 수많은 사례가 있었다. 주목할 만한 예로는 아프리카계 미국인의 미래 범죄 및 재범 위험을 백인보다 높게 예측하는 AI 소프트웨어, 비원어민 화자에게 성능이 떨어지는 음성 인식 모델, 여성과 피부색이 어두운 사람에게 성능이 떨어지는 안면 인식 모델 등이 있다.

연구원들은 또한 오픈 소스 인공지능이 기존의 보안 및 윤리적 문제로 인해 비판을 받아왔다. Bandit, FlawFinder 및 Semgrep과 같은 취약점 스캐너를 사용하여 허깅 페이스와 깃허브에 있는 100,000개 이상의 오픈 소스 모델을 분석한 결과 30% 이상의 모델이 심각한 취약점을 가지고 있는 것으로 나타났다. 또한, 폐쇄형 모델은 일반적으로 오픈 소스 모델보다 안전 위험이 적다. 오픈 소스 모델을 증강할 수 있는 자유는 개발자들이 GPT4-Chan과 같이 윤리적 지침 없이 모델을 출시하게 만들었다.

 데이터 품질 
편향된 데이터, 모델 생성의 결함, 이러한 결과의 가능성을 인식하거나 계획하지 못하는 등의 원인으로 인해 불공평하고 편향된 AI 결과로 이어질 수 있는 수많은 시스템적 문제가 존재한다. 연구에서 강조되었듯이, 데이터 세트에서 특정 인구 통계 그룹의 과소 대표와 같은 낮은 데이터 품질과 데이터 큐레이션 과정에서 발생하는 편향은 왜곡된 모델 출력으로 이어진다.

오픈 소스 AI 프로젝트에 대한 연구에 따르면 데이터 품질 검증에 실패했으며, 프로젝트의 28% 미만이 문서에 데이터 품질 문제를 포함했다. 이 연구는 또한 개발자들이 모델의 윤리적 함의에 충분한 강조를 두지 않으며, 개발자들이 윤리적 함의를 고려할 때에도 특정 지표 (모델의 동작)에 과도하게 초점을 맞추고 다른 지표 (데이터 품질 및 위험 완화 단계)를 간과하는 더 광범위한 우려를 보여주었다.

 투명성 및 "블랙박스" 
안전 및 편향과 같은 문제와 관련하여 많은 AI 시스템의 또 다른 주요 우려 사항은 투명성 부족이다. 많은 오픈 소스 AI 모델은 "블랙박스"로 작동하며, 의사 결정 과정을 생성자조차 쉽게 이해할 수 없다. 이러한 해석 가능성 부족은 책임감을 방해하여 모델이 특정 결정을 내린 이유를 식별하거나 다양한 그룹에 걸쳐 공정하게 작동하는지 확인하기 어렵게 만들 수 있다.

또한, AI 모델이 폐쇄형(독점형)일 경우, 널리 채택된 수많은 안면 인식 시스템의 경우와 같이 편향된 시스템이 간과될 수 있다. 이러한 숨겨진 편향은 독점 시스템이 AI가 내린 결정에 대한 신뢰 구간과 같이 이러한 편향을 드러내는 데 도움이 될 수 있는 결정 과정에 대해 아무것도 공개하지 않을 때 지속될 수 있다. 특히 의료 분야에서 사용되는 시스템의 경우, 시스템의 추론을 보고 이해하거나 답변이 어떻게 얻어졌는지에 대한 "[정확한] 설명"을 얻는 것은 "신뢰와 투명성을 보장하는 데 중요하다".

 개선을 위한 프레임워크 
이러한 문제에 대응하기 위한 노력은 AI의 윤리적 개발 및 배포를 안내하는 구조화된 문서화 프레임워크의 개발로 이어졌다.

 모델 카드: Google 연구 논문에서 소개된 이 문서는 AI 모델의 의도된 용도, 제한 사항 및 다양한 인구 통계에 걸친 성능 지표에 대한 투명성을 제공한다. 이들은 윤리적 고려 사항을 강조하고 정보에 입각한 사용을 용이하게 하는 표준화된 도구 역할을 한다. 아직 비교적 새로운 개념이지만, Google은 이 프레임워크가 AI 투명성을 높이는 데 중요한 역할을 할 것이라고 믿는다.
 측정 모델링: 이 방법은 사회 과학적 관점을 통해 질적 및 양적 방법을 결합하여 개발자가 AI 시스템이 주장하는 것을 정확하게 측정하는지 확인하는 데 도움이 되는 프레임워크를 제공한다. 이 프레임워크는 재검사 신뢰도 ("구조 신뢰도") 및 모델이 모델링하려는 것을 측정하는지 여부 ("구조 타당성")라는 두 가지 핵심 개념에 중점을 둔다. 이러한 개념을 통해 이 모델은 개발자가 직접 측정할 수 없는 추상적인 아이디어 (예: 사회경제적 지위)를 구체적이고 측정 가능한 구성 요소로 분해하는 데 도움을 주며, 편향으로 이어질 수 있는 오류 또는 불일치를 확인한다. 이러한 가정을 명확히 함으로써 이 프레임워크는 더 공정하고 신뢰할 수 있는 AI 시스템을 만드는 데 도움이 된다.
 데이터세트를 위한 데이터시트: 이 프레임워크는 데이터세트의 동기, 구성, 수집 과정 및 권장 사용 사례를 문서화하는 것을 강조한다. 데이터세트의 수명 주기를 자세히 설명함으로써 데이터시트는 사용자가 데이터세트의 적절성과 제한 사항을 평가할 수 있도록 한다.
 ChatGPT 개방: 명령어 튜닝 LLM의 개방성 추적: 텍스트 생성 모델의 개방성을 평가하는 커뮤니티 주도형 공개 리소스이다.
 모델 개방성 프레임워크: 이 새로운 접근 방식은 모델과 데이터세트의 접근성을 중심으로 투명한 AI 개발 원칙을 포함하여 감사 및 책임성을 가능하게 한다.
 유럽 오픈 소스 AI 지수: 이 지수는 생성형 AI 시스템 및 공급업체의 모델 개방성, 라이선스 및 EU 규제에 대한 정보를 수집한다. 이는 네이메헌 랏바우트 대학교에서 호스팅하는 비영리 공공 리소스이다.

AI 사용이 증가함에 따라 AI 투명성을 높이고 모델 편향을 줄이는 것이 점점 더 강조되는 우려 사항이 되었다. 이러한 프레임워크는 개발자와 이해 관계자가 편향을 식별하고 완화하여 AI 시스템의 공정성과 포용성을 증진하는 데 도움이 될 수 있다.

 같이 보기 

 설명가능 인공지능
 위키미디어 프로젝트의 인공지능
 오픈 소스 인공지능 소프트웨어 목록

 각주 

 외부 링크 
 AI를 폐쇄형으로 유지하는 것이 AI를 오픈 소스로 제공하는 것보다 사회에 더 안전하고 더 좋은가?, 키알로의 대화형 논증 지도
 (Ocean of AI) AI 커뮤니티