ディープフェイクは、「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語（かばん語）で、人工知能にもとづく人物画像合成の技術を指す。「敵対的生成ネットワーク（GANs）」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて（スーパーインポーズ）、結合することで生成される。 既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。

分類
ディープフェイクを使った偽動画として以下のものがある。
ポルノ
有名人の顔とポルノビデオを合成することで、実際にはしていない性行為をしているように見せかける偽ポルノ動画が作成されることがある。

政治
 有名な政治家を、ビデオポータルやチャットルームで、事実と異なるかたちで伝えるために使用されている。例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた。トランプが中国を訪問していた2017年11月に中国企業のは流暢な中国語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ。2018年4月、ジョーダン・ピールとJonah Peretti(:en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した。2019年1月、KCPQは、オーバルオフィス（大統領執務室）におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった。
このように政治的な虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る 。

アナウンサー
 中国では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており、政府の重要な会議の報道でも使用された。この技術はロシアやアラブ首長国連邦の国営メディアでも採用されている。

風刺
ハリウッドの名作映画の俳優を別人に入れ替える際にディープフェイクを用いることで、笑いを取るものがある。コントローラーシフトフェイスというYoutuberは映画「ホーム・アローン」の主演であるマコーレ・カルキンをシルバー・スタローンに入れ替えた動画を作成したり、ダープフェイクスというYoutuberが映画「サウンド・オブ・ミュージック」から「ファイト・クラブ」まで出演者の顔をニコラス・ケイジの顔に替えた映画を集めた「ニコラス・ケイジ・メガ・ミックス」を作成した。

歴史
ディープフェイク現象は、2017年12月に、雑誌Vice（:en:Vice (magazine)）の技術と科学の欄で初めて報告され、他のメディアでも広く報道された 。

英国では、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている。米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある。アメリカ合衆国の一部の州やオーストラリア等の一部の国ではフェイクポルノの温床となっているディープフェイクの製作を規制する法律を設けているところがある。しかし、どこまでを規制の対象とするかは表現の自由の観点から議論となっている。

サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4678件のディープフェイク動画が確認され、1年で倍増しており、その96％がポルノ動画だった。

声を失った人など向けに開発されてきた（ボイス・クローニング）であるが、詐欺などに悪用されている。セキュリティソフトメーカーのマカフィーが2023年5月15日に発表した調査では、調査対象の7,000 人のうち4人に1人の割合で自分もしくは知人が被害に遭遇した経験があるとし、被害者の77％が騙されて金銭を支払ったと回答した。

ソフトウェア 
2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。 

そのソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDream（:en:DeepDream）のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている  。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子供をプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した。

2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった。

批評

悪用 
スイスに本社を置く新聞社であるAargauer Zeitung(:en:Aargauer Zeitung)は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。しかし、画像やビデオの改ざん自体は、動画編集ソフトウェアや画像編集ソフトウェアの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある。 

標的を絞ったデマやリベンジポルノにディープフェイクを使用することも可能である 。

信頼性と信憑性への影響 
ディープフェイクのもう1つの効果は、その内容が標的となった偽物（例えば風刺）なのか本物なのかを区別できなくなることである。人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報とジャーナリズムの信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである。

インターネットの反応 
TwitterやGfycatなどのいくつかのウェブサイトでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。以前、チャットプラットフォームのDiscordは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている 。  Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit（Redditのサブフォーラム）が一時停止されるまで、初期の状態が削除されないまま残っていた  。2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」を追加した。