生成的人工知能
生成AIシステムは、教師なしまたは自己教師ありの機械学習を、データセットに適用することにより構築される。生成AIシステムの能力は、訓練に使用するデータセットのモダリティや種類(英語版)によって異なる。
生成AIは、ユニモーダルシステムとマルチモーダルシステム(英語版)に大分でき、ユニモーダルは1種類の入力(例:テキスト)しか受け入れないのに対し、マルチモーダルは複数種類の入力(例:テキストと画像)を受け入れることができる。たとえば、OpenAIのGPT-4はテキストと画像の両方の入力を受け入れる。
テキスト 単語や単語トークンで訓練された生成AIシステムには、GPT-3、LaMDA、LLaMA、BLOOM(英語版)、GPT-4などがある(大規模言語モデルを参照)。これらは自然言語処理、機械翻訳、自然言語生成が可能であり、他のタスクの基盤モデルとして使用することができる。データセットとして、BookCorpus、Wikipediaなどがある(テキストコーパスの一覧(英語版)を参照)。
コンピュータープログラム 自然言語のテキストに加えて、プログラミング言語のテキストを大規模な言語モデルに訓練することで、新しいコンピュータプログラムのソースコードを生成することができる。たとえば、OpenAI Codexがある。
画像 説明文(英語版)付きの画像セットで訓練された生成AIシステムには、Imagen(英語版)、DALL-E、Midjourney、Stable Diffusionなどがある(人工知能アート、生成的アート、合成メディア(英語版)参照)。