ディープフェイク

ディープフェイク（deepfake）は「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語（かばん語）で、人工知能にもとづく人物画像合成の技術を指す。「敵対的生成ネットワーク（GANs）」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて（スーパーインポーズ）、結合することで生成される。 既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。
そのような偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる。これらの機能により、有名人のポルノビデオまたはリベンジポルノの偽造作成のため、ディープフェイクが使用される可能性がある。さらに、ディープフェイクは、虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る 。

ポルノグラフィ

2017年にインターネット上で、特にRedditでディープフェイクのポルノが初めて現れた、現在ではReddit、Twitter、Pornhubなどのサイトで禁止されている  。2017年秋、"Deepfakes" というハンドルネームの匿名のRedditユーザーがインターネットにいくつかのポルノビデオを投稿した。注目を集めた最初のものは、デイジー・リドリーのディープフェイクだった。それはまた、よく知られたディープフェイクビデオの1つで、いくつかの記事の中でひときわ目立つものであった。ほかのディープフェイクとして、継兄弟と性行為をしているワンダーウーマンを演じた女優のガル・ガドット、また、エマ・ワトソン、ケイティ・ペリー、テイラー・スウィフト、スカーレット・ヨハンソンがあった。人工知能を使用して作成された、それらのビデオは本物ではなく、ほどなく偽物であることが暴かれた。 
時間が経つにつれて、Redditのコミュニティは偽造ビデオの多くのバグを修正し、偽物と本物のコンテンツを区別することが次第に困難になった。オンラインで容易に入手できる女優の非ポルノの写真やビデオは、ソフトウェアのための訓練データとして使用された。ディープフェイク現象は、2017年12月に、雑誌Vice（en:Vice (magazine)）の技術と科学の欄で初めて報告され、他のメディアでも広く報道された 。 
2018年12月、頻繁にディープフェイクポルノの対象となっているスカーレット・ヨハンソンが、ワシントン・ポストの取材に対し、以下のように語っている。用意した声明の中で、彼女はこの現象についての懸念を表明し、インターネットを「自分自身を食べる暗黒の巨大なワームホール」と表現している。しかし、それが自分の公共のイメージに影響を及ぼさないこと、そして国によって法律が異なること、インターネット文化の性質（ストライサンド効果）によりディープフェイクを削除するどのような試みも無駄な努力になること、以上の考えから、彼女は、自分のディープフェイクの削除を試みようとはしないと述べた。彼女は、自分自身のような有名人は名声によって保護されているが、一般女性にとっては、不本意なポルノやリベンジポルノの描写によって評判が損なわれる可能性のある深刻な脅威をもたらす、と考えている。 
英国では、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている。米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある。

政治

ディープフェイクは、有名な政治家を、ビデオポータルやチャットルームで、事実と異なるかたちで伝えるために使用されている。例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた。トランプが中国を訪問していた2017年11月に中国企業のiFlytekは流暢な中国語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ。2018年4月、ジョーダン・ピールとJonah Peretti(en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した。2019年1月、KCPQは、オーバルオフィス（大統領執務室）におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった。

メディア

中国では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており、政府の重要な会議の報道でも使用された。この技術はロシアやアラブ首長国連邦の国営メディアでも採用されている。
しかし、ディープフェイクは虚偽報道であるフェイクニュースを助長させるとしてアメリカでは問題視されている。

ディープフェイクのソフトウェア

2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。 
そのソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDream（en:DeepDream）のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている  。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子供をプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した。
2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった。

フィクションにおけるディープフェイク

ディープフェイクや有名人のフェイクポルノの現象は、 Michael Grothaus(en:Michael Grothaus)による小説「Epiphany Jones」で探求されている。この小説は、文学的なスリラー、社会風刺、であり、セックス、有名人、インターネット対するアメリカの強迫観念についての暗いコメディである、またポルノ中毒者と神と話すことができると考える女との不本意な関係、およびハリウッドエリートへ性的な人身売買を行う業者との交絡を探る内容である。小説の主人公、ジェリー・ドレスデンは、有名人のフェイクポルノへの中毒に苦しんでいる。小説で言及されている特定の有名人の偽物には、 ナタリー・ポートマン、スカーレット・ヨハンソン、ハレ・ベリー、アンジェリーナ・ジョリー、ケイト・ベッキンセール、プッシーキャット・ドールズ、が含まれる。さらに、ジュディ・ガーランドとオードリー・ヘップバーンといった死亡した有名人の偽物についても小説に記載されている。

悪用

スイスに本社を置く新聞社であるAargauer Zeitung(en:Aargauer Zeitung)は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。しかし、画像やビデオの改ざん自体は、動画編集ソフトウェアや画像編集ソフトウェアの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある。 
標的を絞ったデマやリベンジポルノにディープフェイクを使用することも可能である 。

信頼性と信憑性への影響

ディープフェイクのもう1つの効果は、その内容が標的となった偽物（例えば風刺）なのか本物なのかを区別できなくなることである。人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報とジャーナリズムの信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである。

インターネットの反応

TwitterやGfycatなどのいくつかのウェブサイトでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。以前、チャットプラットフォームのDiscordは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている 。  Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit（Redditのサブフォーラム）が一時停止されるまで、初期の状態が削除されないまま残っていた  。2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」追加した。