딥페이크

딥페이크(deepfake), 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다. 음성이나 그림을 모조하는 기술은 이전에도 존재했지만, 딥페이크는 얼굴 인식 알고리즘과 변분 오토인코더(VAE), 생성적 적대 신경망(GAN) 등의 인경신경망 기술과 같은 기계 학습과 인공지능 기술을 활용한다는 점에서 차이가 있다. 이미지 포렌식 분야에서는 조작된 이미지를 탐지하는 기술을 개발하고 있다. 딥페이크는 딥페이크 포르노그래피를 포함한 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노, 가짜 뉴스나 날조, 집단 따돌림, 금융 사기를 위해 사용되어 논란이 되기도 한다. 학계에서는 딥페이크가 허위 정보나 혐오 표현을 퍼뜨리거나 선거에 개입할 가능성에 대해 우려하고 있다. 정보기술 산업계와 각국 정부들을 이에 대응해 딥페이크를 탐지하거나 사용처를 제한할 것을 권장하고 있다. 사진 조작은 19세기에 개발되어 곧 영화에 적용되었다. 기술은 20세기에 꾸준히 발전했으며, 디지털 비디오의 출현으로 더욱 빠르게 발전했다. 딥페이크 기술은 1990년대부터 학술 기관의 연구원들에 의해 개발되었고 이후에는 온라인 커뮤니티의 아마추어들에 의해 개발되었으며, 최근에는 업계에서도 사용하기 시작했다. 딥페이크라는 용어가 처음 등장한 것은 2017년 말 한 레딧 이용자의 합성 포르노그래피 게시물이었다. 레딧 커뮤니티 r/deepfakes에서는 사용자들이 만든 딥페이크를 서로 공유했는데, 대부분은 포르노그래피 영상에 등장하는 신체에 유명인의 얼굴을 합성한 것이었으며 니콜라스 케이지의 얼굴을 각종 영화 장면에 합성한 것과 같이 포르노그래피가 아닌 것도 일부 있었다. r/SFWdeepfakes 등의 온라인 커뮤니티에서는 포르노그래피가 아닌 딥페이크를 공유했다. 레딧에서 딥페이크 포르노그래피 게시가 금지된 다음에는 다른 온라인 커뮤니티로 옮겨졌다. 2018년 1월 사용자가 얼굴을 쉽게 엇바꿀수있는. 사유 데스크톱 애플리케이션인 FakeApp이 출시되었다. 이후 페이스앱의 대체제로 Faceswap, DeepFaceLab 등 오픈 소스 소프트웨어와 DeepfakesWeb.com와 같은 웹 기반 앱들이 등장했다. 대기업들도 딥페이크를 사용하기 시작했다. Synthesia는 아바타와 그들의 목소리를 사용한 딥페이크 기술로 맞춤형 기업 교육 영상을 제작한다. 모바일 앱 Momo는 Zao라는 애플리케이션을 만들어 사용자가 한 장의 사진만으로 TV와 영화 클립에 자신의 얼굴을 합성할 수 있게 했다. 2019년 일본의 AI 기업 DataGrid는 처음부터 사람 전신을 만들어낼 수 있는 딥페이크를 제작했다.. 2020년 3월에는 모바일 기기에서 유명인의 딥페이크 영상을 만들 수 있는 앱인 Impressions가 출시되었다. 딥페이크 기술은 고인을 영상으로 다시 불러오는데도 사용되고 있다. 2020년 10월 29일 킴 카다시안은 Kaleida가 움직임, 모션 트래킹, SFX, VFX, 그리고 딥페이크 기술을 조합하여 제작한 로버트 카다시안의 홀로그램 영상을 게시했다. 2022년 《아메리카 갓 탤런트 시즌 17》에서 엘비스 프레슬리의 딥페이크 영상이 사용되었다. 2018년 4월 17일, 미국 배우 조던 필, 버즈피드 및 몽키포 프로덕션스(Monkeypaw Productions)는 버락 오바마가 도널드 트럼프의 이름을 저주하고 부르는 모습을 묘사한 버락 오바마의 딥페이크를 유튜브에 게시했다. 이 딥페이크에서는 필의 목소리와 얼굴이 오바마의 목소리와 얼굴로 변형되고 조작되었다. 이 영상의 목적은 딥페이크의 위험한 결과와 위력, 그리고 딥페이크가 어떻게 누군가를 말하게 만들 수 있는지를 묘사하는 것이었다. 2019년 5월 5일, 더프페이크스(Derpfakes)는 NBC의 더 투나잇 쇼(The Tonight Show)에서 지미 팰런의 촌극을 바탕으로 도널드 트럼프의 딥페이크를 유튜브에 게시했다. 2016년 5월 4일 방영된 원작 촌극에서 지미 팰런은 도널드 트럼프 복장을 하고 버락 오바마와의 전화통화에 참여하는 척하며 인디애나에서의 첫 승리를 자랑하는 듯한 방식으로 대화를 나누었다. 딥페이크에서는 지미 팰런의 얼굴이 도널드 트럼프의 얼굴로 바뀌었지만 오디오는 동일하게 유지되었다. 이 딥페이크 영상은 더프페이크스가 코믹한 의도로 제작했다. 2023년 3월, 트럼프를 제지하는 뉴욕 경찰국의 모습을 보여주는 일련의 이미지가 등장했다. Midjourney를 사용하여 생성된 이미지는 처음에 엘리엇 히긴스(Eliot Higgins)가 트위터에 게시했지만 나중에 맥락 없이 다시 공유되어 일부 시청자는 이 사진이 실제 사진이라고 믿게 되었다. 생성형 인공지능 가상 비서 불쾌한 골짜기 Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (2022년 7월 1일). “Countering Malicious DeepFakes: Survey, Battleground, and Horizon”. 《International Journal of Computer Vision》 130 (7): 1678–1734. doi:10.1007/s11263-022-01606-8. ISSN 1573-1405. PMC 9066404. PMID 35528632. 2024년 6월 10일에 원본 문서에서 보존된 문서. 2023년 7월 15일에 확인함.  Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). “Deepfakes: Trick or treat?” (PDF). 《Business Horizons》 63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006. S2CID 213818098. 2022년 12월 29일에 원본 문서 (PDF)에서 보존된 문서. 2022년 12월 30일에 확인함.  Waldrop, M. Mitchell (2020년 3월 16일). “Synthetic media: The real trouble with deepfakes”. 《Knowable Magazine》 (Annual Reviews). doi:10.1146/knowable-031320-1. 2022년 11월 19일에 원본 문서에서 보존된 문서. 2022년 12월 19일에 확인함.  Farid, Hany (2019년 9월 15일). “Image Forensics”. 《Annual Review of Vision Science》 5 (1): 549–573. doi:10.1146/annurev-vision-091718-014827. ISSN 2374-4642. PMID 31525144. S2CID 263558880. 2024년 6월 10일에 원본 문서에서 보존된 문서. 2023년 9월 20일에 확인함.  Banks, Alec (2018년 2월 20일). “What Are Deepfakes & Why the Future of Porn is Terrifying”. 《Highsnobiety》. 2021년 7월 14일에 원본 문서에서 보존된 문서. 2018년 2월 20일에 확인함.  Roose, Kevin (2018년 3월 4일). “Here Come the Fake Videos, Too”. 《The New York Times》. ISSN 0362-4331. 2019년 6월 18일에 원본 문서에서 보존된 문서. 2018년 3월 24일에 확인함.  Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damian (October 2019). “Adversarial Learning of Deepfakes in Accounting”. arXiv:1910.03810 [cs.LG].  더 이상 지원되지 않는 변수를 사용함 (도움말) “정부, '딥페이크 소지·구입·시청 시 처벌' 입법 추진(종합)”. 《연합뉴스》. 2024년 8월 30일. 2024년 8월 30일에 확인함.  Harwell, Drew (2019년 6월 12일). “Top AI researchers race to detect 'deepfake' videos: 'We are outgunned'”. 《The Washington Post》. 2019년 10월 31일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  Sanchez, Julian (2018년 2월 8일). “Thanks to AI, the future of 'fake news' is being pioneered in homemade porn”. 《NBC News》. 2019년 11월 9일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  Porter, Jon (2019년 9월 2일). “Another convincing deepfake app goes viral prompting immediate privacy backlash”. 《The Verge》. 2019년 9월 3일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  Cole, Samantha (2018년 1월 24일). “We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now”. 《Vice》. 2019년 9월 7일에 원본 문서에서 보존된 문서. 2019년 5월 4일에 확인함.  Haysom, Sam (2018년 1월 31일). “People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018”. 《Mashable》. 2019년 7월 24일에 원본 문서에서 보존된 문서. 2019년 4월 4일에 확인함.  “r/SFWdeepfakes”. 《Reddit》. 2019년 8월 9일에 원본 문서에서 보존된 문서. 2018년 12월 12일에 확인함.  Hathaway, Jay (2018년 2월 8일). “Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban”. 《The Daily Dot》. 2019년 7월 6일에 원본 문서에서 보존된 문서. 2018년 12월 22일에 확인함.  Robertson, Adi (2018년 2월 11일). “I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it”. 《The Verge》. 2018년 3월 24일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  “What is a Deepfake and How Are They Made?”. 《Online Tech Tips》. 2019년 5월 23일. 2019년 11월 8일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  “Deepfakes web | The best online faceswap app”. 《Deepfakes web》. 2021년 7월 14일에 원본 문서에서 보존된 문서. 2021년 2월 21일에 확인함.  “Faceswap is the leading free and Open Source multi-platform Deepfakes software.”. 2019년 10월 15일. 2021년 5월 31일에 원본 문서에서 보존된 문서. 2021년 7월 14일에 확인함 – WordPress 경유.  “DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab”. 2019년 6월 19일. 2019년 5월 9일에 원본 문서에서 보존된 문서. 2019년 3월 6일에 확인함 – GitHub 경유.  Chandler, Simon. “Why Deepfakes Are A Net Positive For Humanity”. 《Forbes》. 2020년 11월 16일에 원본 문서에서 보존된 문서. 2020년 11월 3일에 확인함.  Pangburn, D. J. (2019년 9월 21일). “You've been warned: Full body deepfakes are the next step in AI-based human mimicry”. 《Fast Company》. 2019년 11월 8일에 원본 문서에서 보존된 문서. 2019년 11월 8일에 확인함.  Thalen, Mikael. “You can now deepfake yourself into a celebrity with just a few clicks”. 《daily dot》. 2020년 4월 6일에 원본 문서에서 보존된 문서. 2020년 4월 3일에 확인함.  Matthews, Zane (2020년 3월 6일). “Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies”. 《Kool1079》. 2020년 3월 24일에 원본 문서에서 보존된 문서. 2020년 3월 6일에 확인함.  “Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead?”. 《BBC News》. 2020년 10월 31일. 2020년 11월 15일에 원본 문서에서 보존된 문서. 2020년 11월 11일에 확인함.  “Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday”. 《themodems》. 2020년 10월 30일. 2020년 11월 11일에 원본 문서에서 보존된 문서. 2020년 11월 11일에 확인함.  Bowenbank, Starr (2022년 9월 14일). “Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch”. 《Billboard》. 2022년 9월 15일에 원본 문서에서 보존된 문서. 2022년 11월 8일에 확인함.