ディープフェイク
2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。
そのソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDream(en:DeepDream)のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている 。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子供をプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した。
2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった。
有名な政治家を、ビデオポータルやチャットルームで、事実と異なるかたちで伝えるために使用されている。例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた。トランプが中国を訪問していた2017年11月に中国企業のiFlytek(英語版)は流暢な中国語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ。2018年4月、ジョーダン・ピールとJonah Peretti(en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した。2019年1月、KCPQは、オーバルオフィス(大統領執務室)におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった。
2023年、AI技術を駆使しニュース番組の画面に見せかけた上で当時の日本の内閣総理大臣岸田文雄が卑猥な言葉を発してるように見せたディープフェイク動画がSNSで拡散された。また、動画は日テレニュース24の番組ロゴを無断使用していたため、日本テレビは「放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできません。フェイク動画について今後も必要に応じて然るべき対応をして参ります」とコメントし動画の一部が自主規制を施した上、地上波で放映された。
このように政治的な虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る 。
ディープフェイク現象は、2017年12月に、雑誌Vice(en:Vice (magazine))の技術と科学の欄で初めて報告され、他のメディアでも広く報道された 。
英国では、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている。米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある。アメリカ合衆国の一部の州やオーストラリア等の一部の国ではフェイクポルノの温床となっているディープフェイクの製作を規制する法律を設けているところがある。しかし、どこまでを規制の対象とするかは表現の自由の観点から議論となっている。
サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4678件のディープフェイク動画が確認され、1年で倍増しており、その96%がポルノ動画だった。
声を失った人など向けに開発されてきたディープフェイク音声(英語版)(ボイス・クローニング)であるが、詐欺などに悪用されている。セキュリティソフトメーカーのマカフィーが2023年5月15日に発表した調査では、調査対象の7,000 人のうち4人に1人の割合で自分もしくは知人が被害に遭遇した経験があるとし、被害者の77%が騙されて金銭を支払ったと回答した。