GPT-3
BERT (言語モデル) - Transformerアーキテクチャに基づく言語モデルの一種
Generative pre-trained transformer - 大規模なテキストデータで学習し、人間に近いテキストを生成する言語モデル
LaMDA - Googleが開発した会話型ニューラル言語モデルのファミリー
自然言語処理(NLP) - 自然言語データに対するコンピュータ処理に関する学際的な分野
ChatGPT - OpenAIによるGPTファミリー上に構築されたチャットボット
幻覚 (人工知能) - 人工知能モデルによる学習データで正当化されない欺瞞的な応答
OpenAIによると、InstructGPTは、より適切に指示に従うことで、よりユーザーの意図に沿ったコンテンツを生成し、でっち上げの事実を減らし、有害なコンテンツをいくらか少なくできるとされた。
GPT-3は、『人間の評価者が人間が書いた記事と区別するのが難しいニュース記事を生成できる』ため、GPT-3には『言語モデルの有益な応用と有害な応用の両方を進める可能性がある』と評される。2020年5月28日の論文で、研究者らは『GPT-3が潜在的にもつ有害作用』について詳細に説明した。それには『誤った情報、スパム(英語版)、フィッシング、法律や政府のプロセスの悪用(英語版)、不正な学術論文の作成、ソーシャルエンジニアリングの口実(英語版)』が含まれている。著者らは、これらの危険性への注意を喚起し、リスクを軽減するための研究を呼びかけた。
GPT-3は、ゼロショット(英語版)、少数ショット、ワンショット(英語版)の学習を行うことができる。
2022年6月、Almira Osmanovic Thunströmは、GPT-3が自身に関する論文の主な著者であり、発表のために投稿し、査読を待っている間に事前公開されたと記した。