{{위키데이터 속성 추적}}
[[파일:Dictators - Kim Jong-Un by RepresentUs.webm|섬네일|upright=1.2|2020년 미국의 비영리 단체 {{임시링크|RepresentUs|en|RepresentUs}}가 제작한 [[김정은]]의 딥페이크 동영상.]]
{{인공지능}}
'''딥페이크'''(deepfake), [[딥 러닝]](deep learning)과 가짜(fake)의 [[혼성어]]로 [[인공 지능]]을 기반으로 한 인간 이미지 합성 기술이다. [[생성적 적대 신경망]](GAN)라는 [[기계 학습]] 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다.

음성이나 그림을 모조하는 기술은 이전에도 존재했지만, 딥페이크는 [[얼굴 인식 시스템|얼굴 인식]] 알고리즘과 [[변분 오토인코더]](VAE), [[생성적 적대 신경망]](GAN) 등의 인경신경망 기술과 같은 [[기계 학습]]과 [[인공지능]] 기술을 활용한다는 점에서 차이가 있다.<ref>{{저널 인용|last1=Juefei-Xu |first1=Felix |last2=Wang |first2=Run |last3=Huang |first3=Yihao |last4=Guo |first4=Qing |last5=Ma |first5=Lei |last6=Liu |first6=Yang |date=2022-07-01 |title=Countering Malicious DeepFakes: Survey, Battleground, and Horizon |url=https://doi.org/10.1007/s11263-022-01606-8 |journal=International Journal of Computer Vision |volume=130 |issue=7 |pages=1678–1734 |doi=10.1007/s11263-022-01606-8 |issn=1573-1405 |pmc=9066404 |pmid=35528632 |access-date=15 July 2023 |archive-date=10 June 2024 |archive-url=https://web.archive.org/web/20240610170121/https://link.springer.com/article/10.1007/s11263-022-01606-8 |url-status=live }}</ref><ref name="Kietzmann-2020">{{저널 인용|last1=Kietzmann|first1=J.|last2=Lee|first2=L. W.|last3=McCarthy|first3=I. P.|last4=Kietzmann|first4=T. C.|title=Deepfakes: Trick or treat?|journal=Business Horizons|volume=63|issue=2|pages=135–146|doi=10.1016/j.bushor.2019.11.006|year=2020|s2cid=213818098|url=https://irep.ntu.ac.uk/id/eprint/38737/1/1247050_Lee.pdf|access-date=30 December 2022|archive-date=29 December 2022|archive-url=https://web.archive.org/web/20221229113358/https://irep.ntu.ac.uk/id/eprint/38737/1/1247050_Lee.pdf|url-status=live}}</ref><ref name="Waldrop">{{저널 인용|last1=Waldrop |first1=M. Mitchell |title=Synthetic media: The real trouble with deepfakes |journal=Knowable Magazine |publisher=Annual Reviews |date=16 March 2020 |doi=10.1146/knowable-031320-1 |doi-access=free |url=https://knowablemagazine.org/article/technology/2020/synthetic-media-real-trouble-deepfakes |access-date=19 December 2022 |archive-date=19 November 2022 |archive-url=https://web.archive.org/web/20221119155941/https://knowablemagazine.org/article/technology/2020/synthetic-media-real-trouble-deepfakes |url-status=live }}</ref>  이미지 포렌식 분야에서는 조작된 이미지를 탐지하는 기술을 개발하고 있다.<ref name="Farid">{{저널 인용|last1=Farid |first1=Hany |title=Image Forensics |journal=Annual Review of Vision Science |date=15 September 2019 |volume=5 |issue=1 |pages=549–573 |doi=10.1146/annurev-vision-091718-014827 |pmid=31525144 |s2cid=263558880 |url=https://www.annualreviews.org/doi/full/10.1146/annurev-vision-091718-014827 |issn=2374-4642 |access-date=20 September 2023 |archive-date=10 June 2024 |archive-url=https://web.archive.org/web/20240610171713/https://www.annualreviews.org/content/journals/10.1146/annurev-vision-091718-014827 |url-status=live }}</ref> 딥페이크는 [[딥페이크 포르노그래피]]를 포함한 유명인의 가짜 [[섹스 동영상]]이나 가짜 [[리벤지 포르노]], [[가짜 뉴스]]나 [[날조]], [[집단 따돌림]], [[분식회계|금융 사기]]를 위해 사용되어 논란이 되기도 한다.<ref name="HighSnobiety2018">{{뉴스 인용|last=Banks |first=Alec |date=2018-02-20 |title=What Are Deepfakes & Why the Future of Porn is Terrifying |work=Highsnobiety |url=https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/ |url-status=live |access-date=2018-02-20 |archive-url=https://web.archive.org/web/20210714032914/https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/ |archive-date=14 July 2021}}</ref><ref>{{뉴스 인용|last=Roose |first=Kevin |date=2018-03-04 |title=Here Come the Fake Videos, Too |work=The New York Times |url=https://www.nytimes.com/2018/03/04/technology/fake-videos-deepfakes.html |url-status=live |url-access=limited |access-date=2018-03-24 |archive-url=https://web.archive.org/web/20190618203019/https://www.nytimes.com/2018/03/04/technology/fake-videos-deepfakes.html |archive-date=18 June 2019 |issn=0362-4331}}</ref><ref>{{ArXiv 인용|title=Adversarial Learning of Deepfakes in Accounting |eprint = 1910.03810 |last1=Schreyer |first1=Marco |last2=Sattarov |first2=Timur |last3=Reimer |first3=Bernd |last4=Borth |first4=Damian |date=October 2019|class=cs.LG }}</ref>

학계에서는 딥페이크가 허위 정보나 혐오 표현을 퍼뜨리거나 선거에 개입할 가능성에 대해 우려하고 있다. [[정보기술]] 산업계와 각국 정부들을 이에 대응해 딥페이크를 탐지하거나 사용처를 제한할 것을 권장하고 있다.<ref>{{뉴스 인용 |제목=정부, '딥페이크 소지·구입·시청 시 처벌' 입법 추진(종합) |url=https://www.yna.co.kr/view/AKR20240830130051001?input=1195m |날짜=2024-08-30 |확인날짜=2024-08-30 |뉴스=연합뉴스}}</ref>

== 역사 ==
[[파일:53271755473 - Flickr - torstenbehrens.jpg|섬네일|[[스테이블 디퓨전]]으로 생성된 여배우 [[시드니 스위니]]의 딥페이크 모습]]
사진 조작은 19세기에 개발되어 곧 영화에 적용되었다. 기술은 20세기에 꾸준히 발전했으며, 디지털 비디오의 출현으로 더욱 빠르게 발전했다.

딥페이크 기술은 1990년대부터 학술 기관의 연구원들에 의해 개발되었고 이후에는 온라인 커뮤니티의 아마추어들에 의해 개발되었으며,<ref name="Harwell-2019">{{뉴스 인용|last=Harwell |first=Drew |date=12 June 2019 |title=Top AI researchers race to detect 'deepfake' videos: 'We are outgunned' |newspaper=The Washington Post |url=https://www.washingtonpost.com/technology/2019/06/12/top-ai-researchers-race-detect-deepfake-videos-we-are-outgunned/ |url-status=live |url-access=subscription |access-date=2019-11-08 |archive-url=https://web.archive.org/web/20191031051258/https://www.washingtonpost.com/technology/2019/06/12/top-ai-researchers-race-detect-deepfake-videos-we-are-outgunned/ |archive-date=31 October 2019}}</ref><ref>{{웹 인용|url=https://www.nbcnews.com/think/opinion/thanks-ai-future-fake-news-may-be-easily-faked-video-ncna845726|title=Thanks to AI, the future of 'fake news' is being pioneered in homemade porn|last=Sanchez|first=Julian|date=8 February 2018|website=NBC News|access-date=2019-11-08|archive-date=9 November 2019|archive-url=https://web.archive.org/web/20191109084341/https://www.nbcnews.com/think/opinion/thanks-ai-future-fake-news-may-be-easily-faked-video-ncna845726|url-status=live}}</ref> 최근에는 업계에서도 사용하기 시작했다.<ref name="Porter-2019">{{웹 인용|url=https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns|title=Another convincing deepfake app goes viral prompting immediate privacy backlash|last=Porter|first=Jon|date=2019-09-02|website=The Verge|access-date=2019-11-08|archive-date=3 September 2019|archive-url=https://web.archive.org/web/20190903202859/https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns|url-status=live}}</ref>
===아마추어 개발 시기===
딥페이크라는 용어가 처음 등장한 것은 2017년 말 한 [[레딧]] 이용자의 합성 포르노그래피 게시물이었다.<ref name="Cole-2018b">{{웹 인용|url=https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley|title=We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now|last=Cole|first=Samantha|date=24 January 2018|website=Vice|access-date=4 May 2019|archive-date=7 September 2019|archive-url=https://web.archive.org/web/20190907194524/https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley|url-status=live}}</ref> 레딧 커뮤니티 r/deepfakes에서는 사용자들이 만든 딥페이크를 서로 공유했는데, 대부분은 포르노그래피 영상에 등장하는 신체에 유명인의 얼굴을 합성한 것이었으며<ref name="Cole-2018b" />  [[니콜라스 케이지]]의 얼굴을 각종 영화 장면에 합성한 것과 같이 포르노그래피가 아닌 것도 일부 있었다.<ref>{{웹 인용|url=https://mashable.com/2018/01/31/nicolas-cage-face-swapping-deepfakes/|title=People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018|last=Haysom|first=Sam|date=31 January 2018|website=Mashable|access-date=4 April 2019|archive-date=24 July 2019|archive-url=https://web.archive.org/web/20190724221500/https://mashable.com/2018/01/31/nicolas-cage-face-swapping-deepfakes/|url-status=live}}</ref>

r/SFWdeepfakes 등의 온라인 커뮤니티에서는 포르노그래피가 아닌 딥페이크를 공유했다.<ref>{{웹 인용|url=https://www.reddit.com/r/SFWdeepfakes/|title=r/SFWdeepfakes|website=Reddit|access-date=12 December 2018|archive-date=9 August 2019|archive-url=https://web.archive.org/web/20190809091757/https://www.reddit.com/r/SFWdeepfakes|url-status=live}}</ref> 레딧에서 딥페이크 포르노그래피 게시가 금지된 다음에는 다른 온라인 커뮤니티로 옮겨졌다.<ref name="Hathaway-2018">{{웹 인용|url=https://www.dailydot.com/unclick/deepfake-sites-reddit-ban/|title=Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban|last=Hathaway|first=Jay|date=8 February 2018|website=The Daily Dot|access-date=22 December 2018|archive-date=6 July 2019|archive-url=https://web.archive.org/web/20190706092234/https://www.dailydot.com/unclick/deepfake-sites-reddit-ban/|url-status=live}}</ref>
=== 상업적 개발 ===
2018년 1월 사용자가 얼굴을 쉽게 엇바꿀수있는.<ref>{{웹 인용|url=https://www.theverge.com/2018/2/11/16992986/fakeapp-deepfakes-ai-face-swapping|title=I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it|last=Robertson|first=Adi|date=2018-02-11|website=The Verge|access-date=2019-11-08|archive-date=24 March 2018|archive-url=https://web.archive.org/web/20180324223908/https://www.theverge.com/2018/2/11/16992986/fakeapp-deepfakes-ai-face-swapping|url-status=live}}</ref> [[사유 소프트웨어|사유]] 데스크톱 애플리케이션인 FakeApp이 출시되었다.<ref>{{웹 인용|url=https://www.online-tech-tips.com/computer-tips/what-is-a-deepfake-and-how-are-they-made/|title=What is a Deepfake and How Are They Made?|date=2019-05-23|website=Online Tech Tips|access-date=2019-11-08|archive-date=8 November 2019|archive-url=https://web.archive.org/web/20191108161241/https://www.online-tech-tips.com/computer-tips/what-is-a-deepfake-and-how-are-they-made/|url-status=live}}</ref> 이후 페이스앱의 대체제로 Faceswap, DeepFaceLab 등 오픈 소스 소프트웨어와 DeepfakesWeb.com와 같은 웹 기반 앱들이 등장했다.<ref>{{웹 인용|title=Deepfakes web {{!}} The best online faceswap app|url=https://deepfakesweb.com/|access-date=2021-02-21|website=Deepfakes web|archive-date=14 July 2021|archive-url=https://web.archive.org/web/20210714032902/https://deepfakesweb.com/|url-status=live}}</ref><ref name="Faceswap-2019">{{웹 인용|url=https://faceswap.dev|title=Faceswap is the leading free and Open Source multi-platform Deepfakes software.|date=15 October 2019|via=WordPress|access-date=14 July 2021|archive-date=31 May 2021|archive-url=https://web.archive.org/web/20210531200049/https://faceswap.dev/|url-status=live}}</ref><ref name="Github-2022">{{웹 인용|url=https://github.com/iperov/DeepFaceLab|title=DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab|date=19 June 2019|via=GitHub|access-date=6 March 2019|archive-date=9 May 2019|archive-url=https://web.archive.org/web/20190509223348/https://github.com/iperov/DeepFaceLab|url-status=live}}</ref>

대기업들도 딥페이크를 사용하기 시작했다.<ref name="Porter-2019" /> Synthesia는 아바타와 그들의 목소리를 사용한 딥페이크 기술로 맞춤형 기업 교육 영상을 제작한다.<ref>{{웹 인용|last=Chandler|first=Simon|title=Why Deepfakes Are A Net Positive For Humanity|url=https://www.forbes.com/sites/simonchandler/2020/03/09/why-deepfakes-are-a-net-positive-for-humanity/|access-date=2020-11-03|website=Forbes|archive-date=16 November 2020|archive-url=https://web.archive.org/web/20201116050152/https://www.forbes.com/sites/simonchandler/2020/03/09/why-deepfakes-are-a-net-positive-for-humanity/|url-status=live}}</ref> 모바일 앱 Momo는 Zao라는 애플리케이션을 만들어 사용자가 한 장의 사진만으로 TV와 영화 클립에 자신의 얼굴을 합성할 수 있게 했다.<ref name="Porter-2019" /> 2019년 일본의 AI 기업 DataGrid는 처음부터 사람 전신을 만들어낼 수 있는 딥페이크를 제작했다..<ref>{{웹 인용|url=https://www.fastcompany.com/90407145/youve-been-warned-full-body-deepfakes-are-the-next-step-in-ai-based-human-mimicry|title=You've been warned: Full body deepfakes are the next step in AI-based human mimicry|last=Pangburn|first=D. J.|date=2019-09-21|website=Fast Company|access-date=2019-11-08|archive-date=8 November 2019|archive-url=https://web.archive.org/web/20191108161240/https://www.fastcompany.com/90407145/youve-been-warned-full-body-deepfakes-are-the-next-step-in-ai-based-human-mimicry|url-status=live}}</ref>
2020년 3월에는 모바일 기기에서 유명인의 딥페이크 영상을 만들 수 있는 앱인 Impressions가 출시되었다.<ref>{{웹 인용|url=https://www.dailydot.com/debug/impressions-deepfake-app///|title=You can now deepfake yourself into a celebrity with just a few clicks|last=Thalen|first=Mikael|website=daily dot|access-date=2020-04-03|archive-date=6 April 2020|archive-url=https://web.archive.org/web/20200406221457/https://www.dailydot.com/debug/impressions-deepfake-app/|url-status=live}}</ref><ref>{{웹 인용|url=https://kool1079.com/fun-or-fear-deepfake-app-puts-celebrity-faces-in-your-selfies//|title=Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies|last=Matthews|first=Zane|website=Kool1079|date=6 March 2020 |access-date=2020-03-06|archive-date=24 March 2020|archive-url=https://web.archive.org/web/20200324141612/https://kool1079.com/fun-or-fear-deepfake-app-puts-celebrity-faces-in-your-selfies/|url-status=live}}</ref>

===부활===
딥페이크 기술은 고인을 영상으로 다시 불러오는데도 사용되고 있다. 2020년 10월 29일 [[킴 카다시안]]은 Kaleida가 움직임, 모션 트래킹, SFX, VFX, 그리고 딥페이크 기술을 조합하여 제작한 [[로버트 카다시안]]의 [[홀로그래피|홀로그램]] 영상을 게시했다.<ref>{{뉴스 인용|date=2020-10-31|title=Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead?|work=BBC News|url=https://www.bbc.com/news/entertainment-arts-54753214|access-date=2020-11-11|archive-date=15 November 2020|archive-url=https://web.archive.org/web/20201115150249/https://www.bbc.com/news/entertainment-arts-54753214|url-status=live}}</ref><ref>{{웹 인용|date=2020-10-30|title=Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday|url=https://www.themodems.com/post/kanye-west-gave-kim-kardashian-a-hologram-of-her-father-for-her-birthday|access-date=2020-11-11|website=themodems|archive-date=11 November 2020|archive-url=https://web.archive.org/web/20201111121855/https://www.themodems.com/post/kanye-west-gave-kim-kardashian-a-hologram-of-her-father-for-her-birthday|url-status=live}}</ref>

2022년 《[[아메리카 갓 탤런트 시즌 17]]》에서 [[엘비스 프레슬리]]의 딥페이크 영상이 사용되었다.<ref>{{잡지 인용|last1=Bowenbank |first1=Starr |date=2022-09-14 |title=Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch |url=https://www.billboard.com/culture/tv-film/simon-cowell-duet-elvis-deepfake-agt-performance-1235138799/ |access-date=2022-11-08 |magazine=Billboard |archive-date=15 September 2022 |archive-url=https://web.archive.org/web/20220915081446/https://www.billboard.com/culture/tv-film/simon-cowell-duet-elvis-deepfake-agt-performance-1235138799/ |url-status=live }}</ref>

== 예시 사건 ==
=== 버락 오바마 ===
2018년 4월 17일, 미국 배우 [[조던 필]], [[버즈피드]] 및 몽키포 프로덕션스(Monkeypaw Productions)는 버락 오바마가 도널드 트럼프의 이름을 저주하고 부르는 모습을 묘사한 버락 오바마의 딥페이크를 유튜브에 게시했다. 이 딥페이크에서는 필의 목소리와 얼굴이 오바마의 목소리와 얼굴로 변형되고 조작되었다. 이 영상의 목적은 딥페이크의 위험한 결과와 위력, 그리고 딥페이크가 어떻게 누군가를 말하게 만들 수 있는지를 묘사하는 것이었다.

=== 도널드 트럼프 ===
[[파일:Trump’s arrest (2).jpg|섬네일|[[Midjourney]]로 만든 도널드 트럼프 체포 이미지]]
2019년 5월 5일, 더프페이크스(Derpfakes)는 NBC의 더 투나잇 쇼(The Tonight Show)에서 [[지미 팰런]]의 촌극을 바탕으로 [[도널드 트럼프]]의 딥페이크를 유튜브에 게시했다. 2016년 5월 4일 방영된 원작 촌극에서 지미 팰런은 도널드 트럼프 복장을 하고 버락 오바마와의 전화통화에 참여하는 척하며 인디애나에서의 첫 승리를 자랑하는 듯한 방식으로 대화를 나누었다. 딥페이크에서는 지미 팰런의 얼굴이 도널드 트럼프의 얼굴로 바뀌었지만 오디오는 동일하게 유지되었다. 이 딥페이크 영상은 더프페이크스가 코믹한 의도로 제작했다.

2023년 3월, 트럼프를 제지하는 뉴욕 경찰국의 모습을 보여주는 일련의 이미지가 등장했다. [[Midjourney]]를 사용하여 생성된 이미지는 처음에 엘리엇 히긴스(Eliot Higgins)가 트위터에 게시했지만 나중에 맥락 없이 다시 공유되어 일부 시청자는 이 사진이 실제 사진이라고 믿게 되었다.

== 같이 보기 ==
* [[생성형 인공지능]]
* [[가상 비서]]
* [[불쾌한 골짜기]]
== 각주 ==
{{각주}}
{{전거 통제}}


[[분류:딥페이크| ]]
[[분류:컴퓨터 그래픽스]]
[[분류:논란]]
[[분류:딥 러닝]]
[[분류:2010년대 신조어]]
[[분류:인공지능의 응용]]
[[분류:2020년 인터넷 밈]]