ノート:ディープフェイク

message: @消費者保護系編集者さんの2024年3月21日 (木) 08:26の編集において、
”ディープフェイクは元来否定的な用語で単なる生成AI応用事例は削除した”とありますが、その根拠と議論を行いたく中立性のテンプレートの貼り付けを行いました。
日本語においてのディープフェイクの語釈には以下のようにあり”元来否定的な用語”であるとの主張は誤りであると考えます。
「AI（人工知能）の深層学習であるディープラーニングと、偽物のフェイクを組み合わせた造語です。ディープフェイクとは、AI技術を活用した合成メディアともいえます。（中略）ディープフェイクはエンターテインメントの分野で活用されていますが、問題は技術の悪用です。」[1]
「ディープフェイク（deepfake）は本来、機械学習アルゴリズムの一つである深層学習（ディープラーニング）を使用して、2つの画像や動画の一部を結合させ元とは異なる動画を作成する技術である。」[2]
「ディープフェイクとは、AIを用いて動画や音声を合成する技術のことです。」[3]
以上のように、ディープフェイクとは元とは異なるメディアを作成する技術自体を指す語であり、”悪用もされうる”のであって、ディープフェイクという語ないしは技術を主題とするならば活用事例も適切に記述すべきではないでしょうか？
実際、ディープフェイクという技術の名前で実際活用[4][5]が為されていますので本項で言及することは私は必要であると考えます。
[1]NTT西日本,"ディープフェイク",https://www.ntt-west.co.jp/business/glossary/words-00030.html
[2]NECソリューションイノベータ,"ディープフェイク",https://www.nec-solutioninnovators.co.jp/ss/insider/security-words/33.html
[3]大和総研,"ディープフェイク",https://www.dir.co.jp/world/entry/deepfake
[4]THOMSON REUTERS","Practice Innovations: Seeing is no longer believing — the rise of deepfakes,https://www.thomsonreuters.com/en-us/posts/technology/practice-innovations-deepfakes/
[5]Vidnoz,"ディープフェイクで合成音声を作成する方法",https://jp.vidnoz.com/ai-solutions/deep-fake-audio.html--B himajin（会話） 2024年3月21日 (木) 12:12 (UTC)
replies: text: B himajinさま、いつもお世話になっております。

text: ディープフェイクの用法について当方の行った編集について不快に感じられてしまったようで大変申し訳ございません。

text: 当方も最初はそう考えたのですが、翻訳立項にあたり英語版を参照したところ英語版にはという記事があり、Deepfakeはその副題として扱われていたと考えました。

text: 学術論文を参照したところ、ディープフェイクの語源は2017年にRedditでのフェイクポルノ製作が発祥となっており[6]、これより基盤技術を指すものではなく技術の悪用を指すものと考えました。

text: この件に関しましてはすぐに結論を出すのではなく、慎重に議論を重ねていければより良い結果につながると考えております。

text: 案としてはディープフェイクとディープフェイクに使われる技術を明確に分離して扱うことを考えております。

text: [6]Are Deepfakes Concerning? Analyzing Conversations of Deepfakes on Reddit and Exploring Societal Implications,https://dl.acm.org/doi/fullHtml/10.1145/3491102.3517446

text: --消費者保護系編集者（会話） 2024年3月26日 (火) 08:56 (UTC)
replies: text: :消費者保護系編集者さんご返事ありがとうございます。

text: :ぜひ、議論によって良き結論につなげられればと思います。そこで、議論を以下の論点について分けて考えたいと思います。

text: :①"DeepFake"という英単語について

text: :②"ディープフェイク"という日本語の単語について

text: :③ディープフェイクの技術的側面について

text: :①"DeepFake"という語について

text: :　ご指摘の通り、最初に"DeepFake"という英単語が用いられ始めたのは2017年後半のRedditであるということは複数の文献において指摘されており[7][8][9]、GoogleTrendの動きから見てもおそらく正しいと考えることができます[10]。そうすると、現在は削除されている"DeepFake"という語の発祥はそのように記述することが適当であろうと考えます。他方で、2017年のフェイクポルノ動画によって"知られるようになった"とあり、究極の出典は探れていないとしています[7]。

text: :また、これら文献においてDeepFakeとは何かという議論がされており、以下のような定義がされています。

text: :「「ディープラーニング」と「フェイク」を組み合わせたディープフェイクは、実際には起こらなかった人々の発言や行動を描写するためにデジタル処理された非常にリアルなビデオです。」[7]

text: :「オーディオビジュアルでは、ディープフェイクとは、従来の知覚ではそれが真実か偽りかを判断できない、極限まで本物を再現するものを指す」[8]

text: :「ディープフェイク、 人工知能(AI)テクノロジーによって生成された、現実には存在しないものや、これまでに起こったことのない出来事を描写する画像、ビデオ、音声などの合成メディア。」[9]

text: :これらのように単に、"DeepFake"という語それ自体には否定的な意味は記述されていません。

text: :またその範囲については、

text: :「このコミュニティ(Reddit)は、ディープフェイクという言葉の使用を、AIで作成されたすべての動画を指すように広げた。」[8]

text: :などの記述もあり、これを踏まえると"DeepFake"という語自体は"AI技術を用いた真偽判別困難なコンテンツ"であると解釈できます。

text: :一方で、「テクノロジーに関して言えば、ディープフェイクは敵対的生成ネットワーク (GAN)、つまり本物のように見えるメディアを作成するために連携する 2 つの人工ニューラル ネットワークの産物です。」[7]

text: :とあるように"DeepFake"それ自体には"コンテンツ作成技術"としての意味は薄いと解釈できます。そういった意味では英語版における合成メディアの1分野としてのディープフェイクという扱いは適当であるといえそうです。

text: :②"ディープフェイク"という日本語の単語について

text: :さて、Wikipedia日本語版の充実には英語版の翻訳は非常に重要です。ただし、ここはWikipedia日本語版であるから日本語としての"ディープフェイク"の解釈についても考えなくてはなりません。ただ、これについては前述ものを参照すると[1][2][3]

text: :日本語"ディープフェイク"という語には英語の語釈以外にも"真偽判別困難なコンテンツを作成する技術体系"としての意味合いが含まれると解釈できます。

text: :以上より、日本語版においては"コンテンツ若しくは作成技術"の語釈の両方を記述すべきではないかと考えます。

text: :③ディープフェイクの技術として

text: :さて、前述のとおり日本語におけるディープフェイクは"真偽判別困難なコンテンツを作成する技術体系"としても考えることができ、その最適な手法は技術の進化に依りますものになります。空中での移動を可能とする"飛行機"のような内部的技術の変化に依らない結果ないしは用法を見た語であるとすることができます[7][8][9]。そのため、"ディープフェイク"に使われる技術については「GANなどを用いる」などの最小限の説明にしかなりえないと考えます。一方で、その"技術体系"としての使われ方についてについては日本語版において記述すべきと考えます。

text: :以上のような解釈の中において"DeepFake"においても活用事例が紹介されています[7][8]。ただ、やはりどの文献においても懸念や危険性に多くの紙幅を割いているのはその通りであるため、百科事典Wikipediaとしては適切な割合で記述する必要はあります。

text: :[7]Mika Westerlund,"The Emergence of Deepfake Technology: A Review",Technology Innovation Management Review, 9(11),2019. DOI: 10.22215/timreview/1282

text: :[8]Victor Cerdan,Graciela Padilla-Castillo,"Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso",Historia y Comunicacion Social,2019. DOI: 10.5209/hics.66293

text: :[9]Laura Payne,"deepfake",Britannica,2024. https://www.britannica.com/technology/deepfake.

text: :[10]Google Trend,"deepfake". https://trends.google.co.jp/trends/explore?date=all&q=deepfake&hl=ja--B himajin（会話） 2024年4月1日 (月) 07:37 (UTC)
replies: text: ::いつもお世話になっております。

text: ::B himajinさまのおっしゃる通り、ディープフェイクは"AI技術を用いた真偽判別困難なコンテンツ"と定義することも可能であると存じます。

text: ::その一方で"ディープフェイク"はもっぱらリスクや危険性に言及する文脈で使用されているため、その点を留意していただければ幸いです。

text: ::もう少し専門的な文献も調査してみたいと思いますので今暫くお待ちいただけますと幸いです。--消費者保護系編集者（会話） 2024年4月9日 (火) 08:17 (UTC)
replies: text: :::消費者保護系編集者さん、お疲れ様です

text: :::前回の返信から一か月程度経過しましたが、文献調査についてはいかがでしょうか？

text: :::自分で問題提起をした以上、議論が有耶無耶の状態で本ページを放置を行うことも、また自分の判断のみで活用事例の記述の復活ないし追記を行うのも不適かと思います。そのため、反応がない場合はコメント依頼を出し合意形成を行いたいと存じますがいかがでしょうか？--B himajin（会話） 2024年5月14日 (火) 16:41 (UTC)
＜コメント依頼向け＞論点と主張の整理
消費者保護系編集者さんの主張
論点1　"DeepFake"という語について
→　そもそも否定的な意味を含む単語である(主張:消費者保護系編集者　2024年3月21日 (木) 08:26の編集)
論点2　"ディープフェイク"という日本語の単語について
→　主張無し
論点3　"ディープフェイク"の技術として
→　そもそも否定的な意味を含む単語であるから活用事例は存在しない(（編集）消費者保護系編集者　2024年3月21日 (木) 08:26)
→　ディープフェイクとディープフェイクに使われる技術を明確に分離して扱うべき（（ノート）消費者保護系編集者 2024年3月26日 (火) 08:56）
→　リスクや危険性に言及する文脈で使用されているため、分量等を要検討（（ノート）消費者保護系編集者 2024年4月9日 (火) 08:17 (UTC)）
B himajin（筆者）の主張
論点1　"DeepFake"という語について
→　"AI技術を用いた真偽判別困難なコンテンツ"を指す語である（（ノート）B himajin 2024年4月1日 (月) 07:37）
論点2　"ディープフェイク"という日本語の単語について
→　"真偽判別困難なコンテンツを作成する技術(体系)"も含みうる（（ノート）B himajin 2024年4月1日 (月) 07:37）
論点3 "ディープフェイク"の技術としての側面
→その"技術"としての使われ方（活用事例）については日本語版において適切な割合で記述すべき。（（ノート）B himajin 2024年4月1日 (月) 07:37）--B himajin（会話） 2024年5月21日 (火) 10:17 (UTC)
B himajinさま、いつもお世話になっております。
私生活で忙しく前回より返信が大変遅れてしまったことをお詫びします。
さて、議題のディープフェイクにつきましていくつか信頼性の高い資料を閲覧して定義について調査したところ、有益な情報が得られましたので共有させていただきます。
ディープフェイクの衝撃―ＡＩ技術がもたらす破壊と創造
笹原 和俊【著】p.46-47より
ディープフェイク 【Deepfake】
「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語。広義には人工知能（AI）や機械学習によって生成・編集されたメディアやそのための技術のこと。狭義には、人をだます目的で、写真、音声、映像の一部を入れ替えて（別人の顔や声にすり替えるなど）、本物そっくりに合成された偽画像、偽音声、偽映像を指す。
（略）
高度なメディア合成技術が悪意を持って使われた場合にのみディープフェイクと呼び、そうでない場合には「シンセティックメディア(Synthetic Media)」と呼ぶことがある（この文脈だと、シンセティックメディアを悪用したものがディープフェイクということになる）。例えば、ニュースや気象情報を合成音声で読み上げるAIアナウンサーや、伝統的なCG（コンピュータグラフィックス）に代わって使われるようになったエンターテインメント技術などが該当する。
AI vs.民主主義 : 高度化する世論操作の深層 (NHK出版新書) p.46より
ディープフェイク とは、AIの画像認識技術を利用して生み出される嘘の情報（一般には動画）のこと
ディープフェイク　ニセ情報の拡散者たち　ニーナ・シック【著】p.7-9より
ディープフェイクは、AIを利用して改ざんもしくは生成されたメディア（写真、音声、動画など）のこと
（略）
悪意をもってニセ情報として使われたり、誤情報として使われたりした合成メディアを「ディープフェイク 」と呼ぶことにする。これは私なりの定義だ。極めて新しい分野なので、まだ明確に分類されているわけではないが、合成メディアは悪用されるばかりではなく、有益なことにも使用される。そこで、誤情報やニセ情報を流す目的で作られた合成メディアだけを区別して、ディープフェイクと呼ぶことにした。
--消費者保護系編集者（会話） 2024年5月28日 (火) 08:30 (UTC)
thread_title:  活用事例の削除について