生成的人工知能

生成的人工知能（せいせいてきじんこうちのう、）または生成AIは、プロンプトに応答してテキスト、画像、または他のメディアを生成することができる人工知能システムの一種である。生成AIモデルは、入力された訓練データの規則性や構造を学習し、同様の特性を持つ新しいデータを生成する。ジェネレーティブAI、ジェネラティブAIともよばれる。

著名な生成AIシステムとして、OpenAIがGPT-3やGPT-4の大規模言語モデルを使用して構築したチャットボットのChatGPT（および別形のBing Chat）や、GoogleがLaMDA基盤モデルに構築したチャットボットBardがある。その他の生成AIモデルとして、Stable DiffusionやDALL-Eなどの人工知能アートシステムがあげられる。

生成AIは、アート、執筆、ソフトウェア開発、ヘルスケア、金融、ゲーム、マーケティング、ファッションなど、幅広い業界で応用できる可能性がある。生成AIへの投資は2020年代初頭に急増し、Microsoft、Google、Baiduなどの大企業だけでなく、多数の中小企業も生成AIモデルを開発している。しかし、人をだましたり操作したりするフェイクニュースやディープフェイクの作成など、生成AIの悪用の可能性も懸念されている。

歴史 
機械学習の分野では、その誕生以来、データをモデル化し予測することを目的として、統計的モデルを使用してきた。2000年代後半、ディープラーニング（深層学習）の登場により、画像や動画処理、テキスト分析、音声認識などのタスクで進化と研究が進んできた。しかし、ほとんどのディープニューラルネットワークは識別的モデルとして、画像認識のような分類タスクを実行していた。

2014年、変分オートエンコーダや敵対的生成ネットワークなどの進歩により、画像のような複雑なデータの生成的モデルを学習し、生成することができる実用的なディープニューラルネットワークが登場した。

2017年、Transformerネットワークはより大規模な生成的モデルの実現を可能にし、2018年に最初の生成的事前学習トランスフォーマー（GPT）が開発された。2019年、GPT-2がこれに続き、基盤モデルとして教師なし学習を多くの異なるタスクに汎化する能力を実証した。

これ以降の応用面における進化については次節のモダリティを参照のこと。

モダリティ 

生成AIシステムは、教師なしまたは自己教師ありの機械学習を、データセットに適用することにより構築される。生成AIシステムの能力は、訓練に使用するデータセットのモダリティやによって異なる。

生成AIは、ユニモーダルシステムとに大分でき、ユニモーダルは1種類の入力（例：テキスト）しか受け入れないのに対し、マルチモーダルは複数種類の入力（例：テキストと画像）を受け入れることができる。たとえば、OpenAIのGPT-4はテキストと画像の両方の入力を受け入れる。

 テキスト
単語や単語トークンで訓練された生成AIシステムには、GPT-3、LaMDA、LLaMA、、GPT-4などがある（大規模言語モデルを参照）。これらは自然言語処理、機械翻訳、自然言語生成が可能であり、他のタスクの基盤モデルとして使用することができる。データセットとして、BookCorpus、Wikipediaなどがある（を参照）。
 コンピュータープログラム
自然言語のテキストに加えて、プログラミング言語のテキストを大規模な言語モデルに訓練することで、新しいコンピュータプログラムのソースコードを生成することができる。たとえば、OpenAI Codexがある。
 画像
付きの画像セットで訓練された生成AIシステムには、、DALL-E、Midjourney、Stable Diffusionなどがある（人工知能アート、生成的アート、参照）。これらは、やによく使われる。データセットにはなどがある（コンピュータビジョンにおけるデータセット参照）。
 分子
生成AIシステムは、アミノ酸の配列や、DNAやタンパク質を表すSMILESなどの分子表現で訓練することができる。AlphaFoldのようなこれらのシステムは、タンパク質の構造予測や創薬に利用されている。データセットには、さまざまなが含まれる。
 音楽
MusicLMのような生成AIシステムは、レコード音楽のオーディオ波形とテキスト注釈をともに訓練することで、たとえば「歪んだギターリフに乗った落ち着きのあるバイオリンのメロディ」といったテキスト記述に基づいて、新しい音楽サンプルを生成することができる。  
 動画
注釈付き動画で訓練された生成AIは、時間的に一貫性のあるビデオクリップを生成することができる。システムの例として、RunwayMLのGen1や、Meta PlatformsのMake-A-Videoがあげられる。
 ロボット制御
ロボットシステムの動きを学習させた生成AIは、のために新しい軌道を生成することができる。たとえば、Google ResearchのUniPiは、「青いボウルを取る」や「黄色のスポンジで皿を拭く」といったプロンプトを使用して、ロボットアームの動きを制御する。

課題

著作権侵害の問題 

生成AIには訓練データが必要になるが、訓練に使用された著作物を巡り、著作権やデータ倫理上の問題が指摘されている。生成AIの普及に伴い、出版社やクリエイターを中心として、AIの訓練データに彼らの著作物が使われることへの懸念が広がっており、AI企業への訴訟が多数発生している。欧州連合で検討中の生成AI規制法案では、AIシステム構築時に使用する著作物についての情報の表示が義務づけられる見込みである。。

アメリカサンフランシスコ在住のアーティスト、カーラ・オルティスは2023年1月、仲間のアーティスト2人とともに画像生成AI「Stable Diffusion」を運営する英スタビリティーAI社やMidjourney社などを相手取り、著作権侵害で集団訴訟を起こした。原告側は訴状で「生成AI企業がAIの訓練に使う許可を（我々から）得ずに勝手に使い、原告の作品を複製した」と主張している。被告のスタビリティーAI社の側は日本の新聞社の取材に対し「係争中なのでコメントしない」と回答しつつも、実際には「次のバージョンの訓練データから、アーティストが希望すればその作品をAIの訓練データから除外できる「オプトアウト」の対応を進めている」とコメントした。

フェイク情報の作成に利用される可能性 

生成AIは、詐欺や思考誘導や世論操作を行う目的で、捏造した顔画像や映像、フェイク音声、フェイク文章などを作成し流通させるために悪用される可能性がある。すでに日本国内においてもStable Diffusionを使って捏造された災害画像が拡散した事例もあり、AIを悪用した詐欺や詐称、名誉毀損は現実の脅威となっている。このため国内外でディープフェイク対策のための研究が進められている。

日本赤十字社東京都支部が、2023年（令和5年）8月26日から9月7日にかけて、関東大震災の体験記などを生成AIに読み込ませることで、新たな「証言」を作成し展示する企画展を計画した。ところが、この計画に対し、SNS上で「記録の捏造である」などの批判が殺到し、同支部は企画展の中止に至った。専門家からは「生成AIは情報の信頼性が担保されておらず、これを使って史実を伝えようとしたことは問題」との指摘が出ている。

ハルシネーション (幻覚) 

人工知能の用語のハルシネーション（hallucination。幻覚)とは、AIの訓練に用いたどの学習データとも整合しない回答をAIが堂々としてしまうという問題である。人間の幻覚に喩えて「幻覚」と呼ばれているが、作話（confabulation）という表現のほうを好む研究者もいる。

アメリカでは2023年、ニューヨーク州の弁護士が審理中の民事訴訟の資料作成にChatGPTを利用した結果、存在しない判例を「引用」 してしまったことが問題となっている。弁護士がニューヨーク州連邦裁判所に提出した資料の中で引用された判例が実際には見つからなかったため、裁判官が確認したところ、その弁護士が資料作成にChatGPTを使っていたことが発覚した。弁護士は資料の中で、デルタ航空やユナイテッド航空などが関連しているとする実在しない判例の「引用」を6件行っていた。

脚注

関連項目 
 
コンピュータを使用して創造性をモデル化、シミュレート、または複製することを目指した学際的な試み
 
人間の想像力を人工的にシミュレーションすること
 人工知能アート
人工知能プログラムによって制作されたアートワーク、特に画像や楽曲
 
国際コンピュータ音楽会議におけるさまざまな課題（音楽の作曲、演奏、理論、デジタル音響処理におけるAIの応用など）
 敵対的生成ネットワーク
生成AIに対応する機械学習の枠組みの一つで、2つのニューラルネットワークが互いに競い合う
 Generative pre-trained transformer (GPT)
transformerアーキテクチャに基づく人工ニューラルネットワークの一種
 大規模言語モデル
多数のパラメータを持つニューラルネットワークで構成される言語モデル
 無限の猿定理、中国語の部屋

人工知能
人工ニューラルネットワーク
ディープラーニング
新技術
機械学習