생성형 AI 포르노그래피

생성형 AI 포르노그래피(Generative AI pornography) 또는 AI 포르노그래피(AI pornography)는 생성형 인공지능 (AI) 기술을 통해 디지털 방식으로 제작된 포르노그래피이다. 실제 배우와 카메라를 사용하는 기존의 포르노그래피와 달리, 이 콘텐츠는 AI 알고리즘에 의해 전적으로 합성된다. 생성적 적대 신경망 (GAN) 및 텍스트-이미지 모델을 포함한 이러한 알고리즘은 텍스트 설명이나 데이터 세트에서 실물과 같은 이미지, 비디오 또는 애니메이션을 생성한다.

역사
성 산업에서 생성형 AI의 사용은 2010년대 후반에 시작되었으며, 처음에는 인공지능 예술, 음악 및 시각 콘텐츠에 중점을 두었다. 이러한 추세는 2022년 스태빌리티 AI가 스테이블 디퓨전 (SD)을 출시하면서 가속화되었다. 스테이블 디퓨전은 LAION-5B 데이터 세트의 LAION-Aesthetics 서브셋을 사용하여 텍스트 프롬프트에서 NSFW 콘텐츠를 포함한 이미지를 생성할 수 있는 오픈 소스 텍스트-이미지 모델이다. 스태빌리티 AI가 성적 이미지를 경고했음에도 불구하고, SD의 공개 출시는 예술적 및 노골적인 콘텐츠를 모두 탐구하는 전용 커뮤니티로 이어졌고, 오픈 액세스 AI와 성인 미디어에서의 사용에 대한 윤리적 논쟁을 촉발했다. 2020년까지 AI 도구는 고도로 사실적인 성인 콘텐츠를 생성하는 데 발전했으며, 인공지능 규제 요구를 증폭시켰다.

AI 생성 인플루언서
인공지능의 응용 기술 중 하나는 OnlyFans 및 인스타그램과 같은 플랫폼에서 AI 생성 인플루언서를 만드는 것이다. 이 AI 페르소나는 실제 인간의 상호 작용을 모방할 수 있는 방식으로 사용자와 상호 작용하여 완전히 합성되지만 설득력 있는 경험을 제공한다. 틈새 시장에서 인기가 있지만, 이러한 버추얼 인플루언서는 특히 성인 엔터테인먼트 분야에서 진정성, 동의, 그리고 인간과 AI 생성 콘텐츠 사이의 경계가 모호해지는 것에 대한 논의를 촉발했다.

AI 포르노 사이트의 성장
2023년까지 AI 생성 성인 콘텐츠 전용 웹사이트는 맞춤형 경험을 추구하는 사용자들에게 인기를 얻었다. 이러한 플랫폼은 사용자가 자신의 취향에 맞춰 AI 생성 포르노그래피를 만들거나 볼 수 있도록 한다. 이러한 플랫폼은 프롬프트와 태그를 통해 사용자가 신체 유형, 얼굴 특징, 예술 스타일을 맞춤 설정하여 다양한 취향에 맞는 AI 생성 성인 콘텐츠를 만들거나 볼 수 있도록 한다. 태그는 출력을 더욱 정교하게 만들어 틈새 시장과 다양한 콘텐츠를 만든다. 많은 사이트는 광범위한 이미지 라이브러리와 지속적인 콘텐츠 피드를 제공하여 개인화와 발견을 결합하고 사용자 참여를 향상시킨다. 따라서 AI 포르노 사이트는 독특하거나 틈새 시장 경험을 추구하는 사람들을 유치하여 성인 미디어에서 AI의 창의성과 윤리적 경계에 대한 논쟁을 촉발시킨다.

 생성형 AI 포르노 "커뮤니티" 
civitai.com과 같은 인기 사이트를 통해 사용자는 다양한 포르노 장면이나 효과를 생성하도록 특별히 설계된 SDXL, Flux의 오픈 소스 모델을 미세 조정하여 만들고, 업로드하고, 다운로드할 수 있다.

윤리적 문제 및 오용
생성형 AI 포르노그래피의 성장은 비판의 원인이 되기도 했다. AI 기술은 리벤지 포르노와 AI 생성 NCII (비동의 성적 이미지)에서 볼 수 있는 것과 유사한 위험을 초래하는 비동의 포르노그래피 자료를 만드는 데 악용될 수 있다. 2023년 분석에 따르면 온라인 딥페이크 비디오의 98%는 포르노그래피이며, 피해자의 99%는 여성인 것으로 나타났다. 딥페이크의 유명인 피해자로는 스칼렛 요한슨, 테일러 스위프트, 메이지 윌리엄스 등이 있다.

오픈AI는 딥페이크 금지를 유지하면서 에로티카와 같은 NSFW 콘텐츠가 연령에 적합한 맥락에서 책임감 있게 생성될 수 있는지 여부를 탐색하고 있다. 이 제안은 오픈AI의 "안전하고 유익한" AI 개발 임무를 훼손한다고 주장하는 아동 안전 운동가들로부터 비판을 받았다. 또한 인터넷 감시 재단은 AI가 아동과 관련된 성적 학대 콘텐츠를 생성하는 데 사용될 수 있다는 우려를 제기했다.

 AI 생성 비동의 성적 이미지 (AI Undress) 
생성형 AI는 동의하지 않는 개인의 포르노 이미지와 비디오를 제작하는 데 광범위하게 사용되었다. 404 Media는 특정 AI 생성 포르노 봇이 텔레그램에서 월간 사용자 10만 명 이상을 보유하고 있다고 보고했다. 중국 기술 기업 알리바바는 2025년에 Wan 2.1이라는 AI 비디오 생성 모델을 출시했는데, 이 모델은 비동의 포르노를 제작하도록 수정되었다.

일부 미국 주에서는 딥페이크 앱 사용 및 인터넷 공유에 대해 조치를 취하고 있다. 2024년, 샌프란시스코는 주법 위반을 이유로 비동의 AI 누드 이미지를 생성할 수 있는 "언드레스" 앱을 폐쇄하기 위한 획기적인 소송을 제기했다. 이 사건은 캘리포니아주의 최근 입법인 SB 926, SB 942, SB 981과 일치한다. 이 법안은 아이샤 와합 상원의원과 조쉬 베커 상원의원이 주도하고 개빈 뉴섬 주지사가 서명했다. 이 법안들은 비동의 배포를 범죄화하고, 공개를 의무화하며, 피해자들이 유해 콘텐츠를 보고하고 플랫폼에서 제거할 수 있도록 권한을 부여함으로써 AI 생성 노골적인 이미지로부터 개인을 보호하는 것을 목표로 한다.

딥페이크 포르노그래피와의 차이점

생성형 AI 포르노그래피와 딥페이크 포르노그래피 모두 재현 데이터에 의존하지만, 방법론과 윤리적 고려 사항이 다르다. 딥페이크 포르노그래피는 일반적으로 AI를 사용하여 얼굴을 겹치거나 장면을 수정하는 방식으로 실제 인물의 기존 영상을 종종 동의 없이 변경하는 것을 포함한다. 이와 대조적으로 생성형 AI 포르노그래피는 알고리즘을 사용하여 생성되며, 실제 사람의 사진을 업로드할 필요 없이 초현실적인 콘텐츠를 제작한다. 이미지 분석 전문가인 하니 파리드는 "AI 포르노"와 "딥페이크 포르노"의 차이점을 설명하기도 했다.

합법성
생성형 AI 포르노그래피의 합법성은 관할권에 따라 크게 다르며 계속해서 진화하는 문제이다. 일부 국가에서는 디지털 사칭, 음란물 또는 딥페이크 기술을 다루는 법률이 간접적으로 적용될 수 있으며, 특히 AI 생성 콘텐츠가 동의 없이 실제 인물의 초상을 포함하는 경우 더욱 그렇다. 물리적 공연자가 없다는 점은 공연자 보호 및 배포 법률에 근거하는 전통적인 규제 프레임워크를 더욱 복잡하게 만든다.

미국에서는 법적 대응이 주로 비동의 딥페이크 및 사칭에 초점을 맞추고 있다. 버지니아주, 캘리포니아주, 텍사스주와 같은 일부 주에서는 비동의 노골적인 딥페이크 콘텐츠의 제작 또는 배포를 범죄화하는 법안을 제정했다. 그러나 AI 생성 포르노그래피를 다루는 포괄적인 연방 법률은 없으며, 이는 다양한 관할권에 걸쳐 법적 해석과 집행 표준의 혼란을 야기한다.

2023년 보고서에 따르면 대한민국은 전 세계 딥페이크 포르노그래피 생산의 약 53%를 차지한다. 2024년 9월, 대한민국 국회는 성폭력범죄의 처벌 등에 관한 특례법을 개정하여 딥페이크 콘텐츠와 관련된 두 가지 중요한 개혁을 도입했다. 첫 번째는 비동의 딥페이크 자료의 소유, 시청, 구매 및 저장을 범죄화하며, 최대 3년의 징역 또는 최대 3천만 원(약 2만 달러)의 벌금형에 처한다. 두 번째 개혁은 미성년자 착취를 구체적으로 다루며, 딥페이크를 사용하여 미성년자를 위협하거나 블랙메일하는 개인은 최소 3년의 징역형에 처하고, 미성년자를 원치 않는 행위로 강요하는 경우 최소 5년의 징역형에 처한다.

 같이 보기 
 인공지능 논쟁

 각주 

 외부 링크 
 

분류:포르노그래피
분류:성애 미술
분류:텍스트-이미지 생성
분류:생성형 인공지능