GPT-3

GPT-3（ジーピーティースリー、Generative Pre-trained Transformer 3）は、2020年に発表された自己回帰型の言語モデルで、ディープラーニング（深層学習）により人間のようなテキスト（文章）を生成する。プロンプト（命令）として最初のテキストを与えると、そのプロンプトを継続するテキストを生成する。
アーキテクチャは、デコーダのみのTransformerネットワークで、2048トークン長のコンテキストと、750億個のパラメータという前例のないサイズを持ち、保存するのに800 GBを必要とした。このモデルは、生成的な事前学習を用いて訓練され、以前のトークンに基づいて次のトークンが何であるかを予測するように訓練をされる。このモデルは、多くのタスクに対し、強力なとを実証した。著者らは、自然言語処理（NLP）における言語理解性能が、GPT-"n"の『ラベル付与されていないテキストの多様なコーパスに対する言語モデルの生成的事前学習と、それに続く各特定タスクにおける識別的な微調整』のプロセスによって向上したことを説明した。これにより、人間による監督や、時間のかかる手作業でのラベル付けが不要になった。
GPT-3は、サンフランシスコの人工知能研究所OpenAIが開発したGPT-2の後継で、GPTシリーズの第3世代の言語予測モデルである。2020年5月に公開され、2020年7月にベータテストが実施されたGPT-3は、事前学習言語表現による自然言語処理（NLP）システムにおけるトレンドの一翼を担った。
GPT-3が生成するテキストの品質は、それが人間によって書かれたものであるかどうかを判断することは困難なほど高く、利点と危険性の両面があるとされる。GPT-3を紹介する原論文は、2020年5月28日、31人のOpenAIの研究者と技術者が発表した。彼らは論文の中で、GPT-3の潜在的な危険性を警告し、その危険性を軽減するための研究を呼びかけた。オーストラリアの哲学者デイヴィッド・チャーマーズは、GPT-3を『これまでに作られた最も興味深く、重要なAIシステムの一つ』と評した。2022年4月のニューヨーク・タイムズ紙では、GPT-3の能力について、人間と同等の流暢さで独自の散文を書くことができると論評している。
2020年9月22日、マイクロソフトは、GPT-3の『独占的な利用』を許諾したと発表した。他の企業が公開APIを使用して出力を受け取ることは引き続き可能だが、GPT-3の基礎モデルにアクセスできるのはマイクロソフトのみである。
背景.
エコノミスト紙によると、アルゴリズムの改良、強力なコンピューター、デジタル化されたデータの増加が、機械学習の革命を促進し、2010年代の新しい技術によって、言語の操作を含む『タスクの急速な改善』をもたらしたという。ソフトウェアモデルは、『脳の神経アーキテクチャに大まかに基づいた構造』で、数千から数百万の事例を使用して学習するように訓練される。自然言語処理（NLP）で使用されるアーキテクチャの1つは、2017年に初めて登場した深層学習モデルTransformerに基づくニューラルネットワークである。GPT-"n"モデルは、Transformerに基づく深層学習ニューラルネットワーク型のアーキテクチャである。入力されたテキストを処理、マイニング、整理・結合し、対比し、質問に正しく答えることができるNLPシステムは多数存在する。2018年6月11日、OpenAIの研究者と技術者は、データセットを介して膨大で多様なテキストのコーパスを用いて事前学習できる生成モデル（言語モデル、人工知能システム）に関する、彼らが生成的事前学習（generative pre-training、GP）と呼ぶプロセスの原論文を発表した。著者らは、GPT-"n"で『ラベル付けされていない多様なテキストのコーパスを用いて言語モデルを生成的に事前学習し、その後、特定のタスクごとに識別的に微調整する』プロセスを通じて、自然言語処理（NLP）における言語理解の性能が向上したことを説明した。これにより、人間による監督や、時間のかかる手作業によるラベル付けが不要になった。
2020年2月、マイクロソフトは、『170億個のパラメータを持つ、これまでに発表された最大の言語モデル』と主張するTuring Natural Language Generation（T-NLG）を発表した。これは、テキストの要約や質問への回答を含む、さまざまタスクで、他のどの言語モデルよりも優れた性能を発揮した。
訓練と能力.
2020年5月28日、OpenAIの31人の技術者と研究者のグループによるarXivの査読前論文で、第3世代の『最先端の言語モデル』であるGPT-3の開発について説明された。チームは、GPT-3の容量をその前身のGPT-2よりも2桁以上増やし、GPT-3をこれまでで最大の非スパース言語モデルにした。（補足: スパースモデルでは、の多くが定数に設定されているため、パラメータの総数が多くても、意味のある情報は少なくなる。）GPT-3は構造的に前身モデルと類似しているので、精度が向上したのは容量とパラメータ数の増加によると考えられる。GPT-3の容量は、当時知られていた2番目に大きなマイクロソフトのTuring NLGの10倍になる。
モデル.
GPT-3のモデルアーキテクチャはGPT-2モデルのマイナーチェンジ版である。アーキテクチャ上の変更点は以下の通り：
アーキテクチャはほぼ同一であるが、GPT-3はGPT-2より大きなモデルとなっている。モデル上の変更点は以下の通り：
データセット.
GPT-3の重み付き事前学習データセットの60%は、Common Crawlのフィルタ処理された版から取得されたもので、4,100億バイト対符号化トークンで構成される。その他の情報源としては、WebText2からの190億トークン（加重合計の22%）、Books1からの120億トークン（8%）、Books2からの550億トークン（8%）、Wikipediaからの30億トークン（3%）がある。
能力.
GPT-3は数千億個の単語で訓練されており、CSS、JSX、Pythonなどのプログラミング言語でコーディングすることも可能である。GPT-3の学習データはすべてを網羅しているため、個別の言語タスクのために訓練を追加する必要はない。この学習データにはときどき有害言語が含まれており、GPT-3は学習データを模倣した結果、有害言葉を発生することがある。ワシントン大学の研究によると、GPT-3は、同様の自然言語処理モデルであるGPT-2やCTRLと同程度の毒性基準で有毒言語を生成することがわかった。OpenAIは、GPT-3が生成する有毒言語の量を制限するために、いくつかの戦略を実装した。その結果、GPT-3は、前身モデルであるGPT-1よりも有毒言語の生成が少なくなったものの、Wikipediaのデータのみで学習した言語モデルであるCTRL Wikiよりも有毒言語は生成が多く、毒性基準も高かった。
2020年6月11日、OpenAIは、ユーザーがこの新しい技術の『長所と限界を探る』ために、使いやすいGPT-3 API『機械学習ツールセット』へのアクセスを要求できることを発表した。招待状には、このAPIは、通常の単一のユースケースではなく、ほぼ「あらゆる英語のタスク」を完了できる汎用的な『テキスト入力、テキスト出力』型のインターフェースを備えていると説明されている。OpenAI GPT-3 APIの非公開の早期リリースにアクセスしたあるユーザーによると、GPT-3は、いくつかの簡単なプロンプトだけで『驚くほど意味の通ったテキスト』を書くことができ、『不気味なほど優秀』だったという。最初の実験では、米国の80名の被験者に、200語程度の短い記事が人間によって書かれたものか、GPT-3によって書かれたものかを判断するように求められた。その結果、被験者は52%の確率で正しく判断し、ランダムに推測するよりもわずかに優れていた。
2021年11月18日、OpenAIは、APIに無制限にアクセスできるように保護手段を実装したことを発表した。OpenAIは、開発者がOpenAIのコンテンツポリシーを順守するのに役立つコンテンツモデレーションツールを提供した。2022年1月27日、OpenAIは、InstructGPTと総称される最新のGPT-3言語モデルが、同社のAPIで使用されるデフォルトの言語モデルになることを発表した。OpenAIによると、InstructGPTは、より適切に指示に従うことで、よりユーザーの意図に沿ったコンテンツを生成し、でっち上げの事実を減らし、有害なコンテンツをいくらか少なくできるとされた。
GPT-3は、『人間の評価者が人間が書いた記事と区別するのが難しいニュース記事を生成できる』ため、GPT-3には『言語モデルの有益な応用と有害な応用の両方を進める可能性がある』と評される。2020年5月28日の論文で、研究者らは『GPT-3が潜在的にもつ有害作用』について詳細に説明した。それには『誤った情報、、フィッシング、、不正な学術論文の作成、』が含まれている。著者らは、これらの危険性への注意を喚起し、リスクを軽減するための研究を呼びかけた。
GPT-3は、、、の学習を行うことができる。
2022年6月、Almira Osmanovic Thunströmは、GPT-3が自身に関する論文の主な著者であり、発表のために投稿し、査読を待っている間に事前公開されたと記した。
モデル.
7種類のモデルがある。これらには GPT-3.5 と Codex は含まれない。
反応.
批判.
GPT-3の構築者であるOpenAIは、もともと、2015年に非営利法人として設立された。2019年、OpenAIは、このモデルがフェイクニュース（虚偽報道）を永続させるという懸念を挙げて、それまでのオープンソースの慣習を破り、GPT-3の前身モデルを公開しなかった。OpenAIは最終的に、オリジナルなモデルの8%のサイズのGPT-2を公開した。同年、OpenAIは営利企業となるため再編成された。2020年、マイクロソフトは、OpenAIへ数十億ドルを投資し、マイクロソフトの製品とサービス向けにGPT-3の独占的ライセンスを取得したと発表した。この契約により、OpenAIは公開APIを提供し、ユーザーはGPT-3にテキストを送信してモデルの出力を受け取ることができるが、GPT-3のソースコードにアクセスできるのはマイクロソフトのみとなる。
GPT-3のような大規模な言語モデルは、Googleの一部のAI倫理研究者から、モデルの訓練と保存が環境に与える影響についての批判を受けており、2021年にとが共著した論文で詳述されている。
GPT-3やその他の言語ジェネレーターに基づく自動文章作成技術の使用が増加していることから、学問的誠実性に関する懸念が高まり、大学や学校が何をもって剽窃（ひょうせつ、盗作）などの学問的不正行為とみなすのかという問題が生じている。GPTは、12年間に6,000万ドメインから収集された著作権保護された記事、インターネット上の投稿、ウェブページ、書籍のコレクションであるCommon Crawlデータセットのデータを用いて構築された。"TechCrunch"によると、この学習データにはBBC、"The New York Times"、"Reddit"、オンライン書籍の全文などの著作物が含まれているという。OpenAIは、米国特許商標庁（USPTO）からの「人工知能イノベーションの知的財産保護に関する2019年のコメント要請」に対する回答で、『現行法のもとでは、（GPTモデルなどの）AIシステムの訓練は公正利用に合致する』と主張したが、『この点に関する適切な判例がないことから、OpenAIや私たちのような他のAI開発者は、かなりの法的不確実性とコンプライアンス・コストに直面している』と述べている。
GPT-3.5.
沿革.
OpenAI は GPT-3.5 を GPT-3 に含めていない。GPT-3.5 の後継は GPT-4 。
モデル.
5種類のモデルがある。