GPT4-Chan

Generative Pre-trained Transformer 4Chan (GPT-4chan)은 유튜버이자 AI 연구자인 야니크 킬처가 2022년 6월에 개발하고 배포하여 논란이 된 AI 모델이다. 이 모델은 대형 언어 모델로, 가끔 혐오적이고 극단적인 콘텐츠가 게시되는 것으로 알려진 익명 인터넷 포럼 4chan의 /pol/ 게시판에서 수집한 수백만 개의 게시물 데이터셋으로 GPT-J를 파인 튜닝하여 특정 입력을 바탕으로 텍스트를 생성할 수 있다.

이 모델은 /pol/ 사용자들의 문체와 어조를 모방하도록 학습되었으며, 특정 집단에 대해 의도적으로 공격적인(인종차별, 성차별, 동성애 혐오 등) 내용이나 허무주의적인 텍스트를 자주 생성했다. 킬처는 이 모델을 /pol/ 게시판에 직접 배치하여 정체를 밝히지 않은 채 다른 사용자들과 상호작용하게 했다. 또한 그는 AI 모델 공유 및 활용 플랫폼인 허깅 페이스에 이 모델을 공개했으나, 이후 플랫폼에서 삭제되었다.

이 프로젝트는 AI 커뮤니티 내에서 비판과 논쟁을 불러일으켰다. 일부 전문가들은 이러한 모델을 제작하고 유포하는 행위의 윤리성, 법적 근거 및 사회적 영향에 의문을 제기했다. GPT-4chan 논란으로 불거진 쟁점들에는 혐오 발언 확산의 잠재적 위험성, AI 개발자와 플랫폼의 책임, AI 모델에 대한 규제 및 감독의 필요성, 그리고 AI 연구에서 오픈 소스와 투명성의 역할 등이 포함된다.

 개발 
GPT-4chan의 개발은 2022년 5월 킬처가 자신의 유튜브 채널에서 프로젝트를 발표하며 시작되었다. 특히 챗GPT가 등장하기 전이었던 당시, 그는 가장 악명 높은 온라인 커뮤니티 중 하나인 /pol/의 문체로 현실적이고 일관된 텍스트를 생성할 수 있는 대형 언어 모델을 만들고 싶다고 설명했다.

그는 오픈AI가 만든 강력한 AI 모델인 GPT-3와, 독립 AI 연구자 그룹인 EleutherAI가 공개한 GPT-3급 성능의 오픈 소스 모델 GPT-J의 성공에서 영감을 얻었다고 밝혔다. 킬처는 프로젝트의 기본 모델로 GPT-J를 사용하기로 결정하고, /pol/ 게시물로 구성된 대규모 데이터셋을 활용해 파인 튜닝을 진행했다. 사용된 'Raiders of the Lost Kek' 데이터셋에는 2016년 6월부터 2019년 11월까지 /pol/에 올라온 1억 개 이상의 게시물이 포함되어 있었다.

이후 킬처는 4chan 데이터를 기반으로 GPT-J 모델의 파인 튜닝을 진행했다. 그는 정치적 의견, 음모론, 농담, 모욕, 위협부터 시, 이야기, 노래, 코드와 같이 창의적이고 기이한 텍스트에 이르기까지 모델이 생성한 다양한 결과물을 예시로 보여주었다. 그는 유창하고 다양한 텍스트를 생성하는 모델의 능력에 감명을 받았으며, 실제 /pol/ 사용자들과 어떻게 상호작용할지 궁금하다고 언급했다.

 배포 
2022년 6월, 킬처는 스레드에 글을 쓰고 답장을 하도록 프로그래밍한 봇을 이용해 /pol/ 게시판에 자신의 모델을 직접 배치했다. 그는 모델의 정체를 밝히지 않았으며, 인간의 감독이나 개입 없이 자율적으로 작동하게 두었다. 그는 일종의 자연 실험을 수행하여 실제 환경에서 모델의 행동과 영향을 관찰하고자 했다. 또한, 트롤링, 악성 댓글, 도발, 관리 체계 등 /pol/의 도전적인 역학 관계 속에서 모델이 얼마나 견고하게 작동하는지 테스트하고자 했다.

동시에 킬처는 AI 모델 공유 플랫폼인 허깅 페이스에도 모델을 공개했다. 그는 자신의 결과물을 AI 커뮤니티 및 대중과 공유하고 싶어 했으며, 이 모델이 다른 이들에게 대형 언어 모델을 활용한 새로운 응용 분야와 가능성을 탐구하도록 영감을 주기를 희망했다. 마찬가지로 그는 자신의 프로젝트가 가진 윤리적, 사회적 함의에 대해 토론과 논쟁을 불러일으키고 싶었으며, 누구의 피드백이나 비판도 환영한다고 밝혔다. 그는 누구나 웹 인터페이스나 API를 통해 모델에 접속해 사용할 수 있도록 허깅 페이스의 모델 페이지 링크를 제공했으며, 코드와 데이터를 다운로드하여 조사할 수 있는 깃허브 저장소 링크도 공개했다.

 논란 
GPT-4chan의 공개는 다양한 계층으로부터 많은 반응과 응답을 불러일으켰다. /pol/ 게시판에서 모델이 작성한 게시물과 답글은 다른 사용자들의 큰 관심을 끌었으며, 대다수의 사용자는 이 모델의 정체와 본질을 인지하지 못했다. 일부 사용자는 모델의 지능, 창의성, 유머를 칭찬하며 그 의견과 관점에 동조했다. 반면, 일부 사용자는 모델의 무지함, 비일관성, 황당함을 비판하며 그 주장과 논리에 반대했다. 일부 사용자는 모델을 트롤링하거나 낚으려 시도했고, 다양한 질문과 시나리오를 통해 정체를 폭로하거나 테스트하려 했다. 모델의 게시물과 답글은 사용자들 사이에서 많은 논란과 갈등을 일으켰으며, 종종 격렬하고 폭력적인 논쟁과 싸움으로 이어졌다.

허깅 페이스에서는 모델을 직접 실험해 보려는 사용자들의 방문과 요청이 쇄도했다. 또한 모델 페이지에는 평가와 의견을 남기는 피드백이 줄을 이었다. 그러나 모델을 둘러싼 논란이 거세지자, 모델이 초래할 수 있는 잠재적 해악에 대한 우려로 인해 허깅 페이스 측에서 접속을 제한한 뒤 최종적으로 비활성화했다. 이 사건은 일반적인 콘텐츠 관리 관행과 비교했을 때 매우 이례적으로 CEO 클레망 들랑주(Clément Delangue)가 토론 페이지에 직접 개입했다는 점에서 주목을 받았다.

GPT-4chan의 공개는 여러 뉴스 매체와 소셜 미디어 플랫폼에서 프로젝트에 대해 보도하고 논평하면서 많은 언론의 보도와 대중의 관심을 받았다. 유튜브에서 해당 프로젝트 영상은 수많은 조회수와 시청자 반응을 기록했다. 나아가 GPT-4chan의 배포를 규탄하는 청원에는 300명 이상의 기술 전문가들이 서명했다.

 각주 

분류:4chan
분류:오픈 소스 인공지능
분류:대형 언어 모델