OpenAI（2. 2018~2020年ごろ：GPT1.0〜GPT3.0）

本記事は下記の続きです。

https://qiita.com/akagi_hayato/items/9821c62364e743e4e60e

![スクリーンショット 2025-02-05 15.49.21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3982238/c83544ea-c2f4-f5d9-f7bd-428f95545b86.png)

## GPT 1.0
2018年6月、OpenAIは自然言語処理タスクに対する新規のAIモデルとしてGPT（Generative Pre-Training）に関する論文（[Improving Language Understanding by Generative Pre-Training](https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf)）を発表した。TransformerのSelf-Attention機構により単語間の文脈的関係をキャプチャでき、RNN系のAIモデルに比べて文脈的に正確なテキスト生成が可能になった[^10]。

GPT1.0以前は、ほとんどのモデルは教師あり学習が行われており、特定のタスクごと（感情分類、質問回答、テキスト含意など）にラベル付きデータが必要だった（ラベルをつける作業が人力で行われているため大量データの用意にコストがかかる）。GPT1.0では、大量のラベルなしテキストデータを用いて教師なし学習が行われ（事前学習）、タスク固有の自然言語処理アプリケーション向けに微調整する（ファインチューニング）という形式をとり、ラベル付きデータを最小限に抑えてさまざまな自然言語処理タスクを一般化できることを実証したことで、チャットボットやコンテンツ生成の可能性を示した。扱える文章の長さや生成されるテキストの精度が実用レベルまでには至らなかったが、GLUE (General Language Understanding Evaluation、一般言語理解評価) ベンチマークの12タスクのうち9つで他の教師ありモデルを上回るなど、大きなインパクトを残した。GPTはこの後もアップデートを続けるため、この時点でのバージョンはGPT1.0と呼ばれる。

:::note info
事前学習（大量データによる教師なし学習）、ファインチューニング（タスクごとの微調整）による言語処理AIモデルの高度化
:::

>![](https://upload.wikimedia.org/wikipedia/commons/thumb/5/51/Full_GPT_architecture.svg/1920px-Full_GPT_architecture.svg.png)
[*Original GPT architecture*](https://en.wikipedia.org/wiki/GPT-1)

## GPT 2.0
財政上の課題に対処するため、OpenAIは2019年3月に営利法人OpenAI LPを設立した[^14]。投資家の利益に上限を設けて超過分を非営利団体のOpenAIに譲渡すること、Sam Altman氏がOpenAI LPの株式を取得しないことなど異例な事態がいくつかあり物議を醸したが[^11]、これにより2019年7月にMicrosoftから10億ドルを調達し[^13]、AIモデルを追求するために必要な資本を調達できるようにした。
またOpenAIは強化学習に関する研究も中止していたわけではなく、2019年10月にOpenAI FiveとADR（Automatic Domain Randomization）と呼ばれる徐々に難易度の高いシミュレーション環境を作り出す技術を組み合わせて、ロボットが片手でルービックキューブを解くタスクを達成した（ロボットハンドでルービックキューブを解くタスクには2017年から取り組まれていた）[^22][^23]。

>![](https://images.ctfassets.net/kftzwdyauwt9/9267c72e-6cc1-42f6-d23abb5fa261/3bb199192cd8749d8adc83a71751833c/solving-rubiks-cube.jpg?w=2048&q=90&fm=webp)
[*Solving Rubik’s Cube with a robot hand*](https://openai.com/index/solving-rubiks-cube/)

そんな中、2019年11月、GPT2.0がリリースされた[^15]。GPT2.0では、モデルへの入力にどんなタスクが期待されているか（例：翻訳、要約など）を含ませることで、コンピューティングコストのかかるファインチューニングなしで様々なタスクへの対応を目指しており[^17]、GPT1.0のモデル構造をほぼ変えずに、パラメータ数（モデルサイズ）と学習のためのデータセット量を大幅に増やして精度を向上させた[^16]。これにより、より大規模なモデルサイズ・データセット量が精度を向上させることを示され、さらなる大規模化が期待された[^18]。
GPT2.0はその高いパフォーマンスを有する一方で、ディープフェイクや回答の倫理性の問題など、規制されていない展開に伴う潜在的なリスクが懸念され、当初OpenAIはモデルサイズ124Mの小規模バージョンのみの公開にとどめ、人間によるフィルタリングされたWebページのみ利用する等のデータキュレーションや、過激派グループによる利用リスク評価を行うなど、フィルタリング・モデレーションシステムの実装を経て段階的に公開をしていく運びとなった[^19]。

:::note info
プロンプトの工夫（Task Conditioning、Zero shot learning等）によるファインチューニングなしでのタスク対応
:::

## GPT 3.0
OpenAIは2020年1月に、TransformerベースのAIモデルのパフォーマンスは、モデルサイズ・学習データ量・コンピューティングリソースを変数としたべき乗法則に従う（スケーリング則）といった論文を発表し（[Scaling Laws for Neural Language Models](https://arxiv.org/abs/2001.08361)）、これらを増加することでのモデルの高度化が注目されることになる。また同月、Image GPTと呼ばれる、GPT2.0の構造に画像のピクセルデータをシーケンス化して利用することで画像生成を行うモデルを発表し、画像生成AIの可能性を示した[^29][^30]。

そして2020年5月、GPT3.0が発表された（[Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165)）。GPT3.0は、計算量削減のためSparse Transformerが用いられるなどの変更はあったが、基本的な構造はGPT2.0と変わらず、GPT2.0よりもさらに大規模なモデルサイズ（175B）・データセットが用いて学習が行われた[^20]。さまざまなカテゴリの数十の自然言語処理ベンチマークで評価され、多くの場合、パフォーマンスは最先端に近いかそれ以上を叩き出した[^21]。そして、GPT3.0では、GPT1.0の様なファインチューニングなしでかつGPT2.0よりも入力プロンプト自体に埋め込まれた指示や例に基づいてタスクを実行するようにするIn-Context Learningを導入し、学習フェーズでは未知だったタスクへの対応も目指した[^17]。それもあり、LLMに対するFew-shot/One-shot/Zero-shot learningのコンセプトがさらに注目を浴びることになった。

- Few-shot Learning：いくつかのタスク例をLLMに提供して応答を導く
- One-shot Learning：1つのタスク例をLLMに提供して応答を導く
- Zero-shot Learning：例を使用せずにタスクの指示のみで応答させる

:::note info
プロンプトの工夫（Few-shot/One-shot/Zero-shot learning等）によるファインチューニングなしでの未学習タスク対応の拡大
:::

翌月の6月に、研究用にGPT3.0にアクセスできるOpenAI GPT-3 APIを用意し、出力の精度は開発者から高い評価を受けている[^25][^26]。ただし、長文の生成や一般常識に欠ける部分や[^21]、フェイクニュースへの危惧などが問題として挙げられた[^28]。そして2021年11月には、十分な安全対策が実装され、APIへのアクセスが制限されなくなると発表され[^27]、さらにアプリケーション化への期待が高まったとみられる。
一方、2020年10月に、Roboticsチームの解散が発表された。当初OpenAIでは、自己生成データと強化学習を使用して大幅な進歩を遂げることができると考えていたが、予想以上に困難であることが判明したため、AGIの実現にはデータ不足としてこの決定がなされた[^24]。


次の記事はこちら

https://qiita.com/akagi_hayato/items/65bb9b3b7d4d06aef47b

[^10]: [The Evolution of the GPT Series: A Deep Dive into Technical Insights and Performance Metrics From GPT-1 to GPT-4o](https://www.marktechpost.com/2024/05/28/the-evolution-of-the-gpt-series-a-deep-dive-into-technical-insights-and-performance-metrics-from-gpt-1-to-gpt-4o/)
[^11]: [The secret history of Elon Musk, Sam Altman, and OpenAI](https://www.semafor.com/article/03/24/2023/the-secret-history-of-elon-musk-sam-altman-and-openai)
[^12]: [OpenAI Founders' Journey - A Transformer Organization, Transformed](https://www.coffeespace.com/blog-post/openai-founders-journey-a-transformer-company-transformed)
[^12]: [GPT-2: 1.5B release](https://openai.com/index/gpt-2-1-5b-release/)
[^13]: [Microsoft invests in and partners with OpenAI to support us building beneficial AGI](https://openai.com/index/microsoft-invests-in-and-partners-with-openai/)
[^14]: [OpenAI LP](https://openai.com/index/openai-lp/)
[^15]: [Language Models are Unsupervised Multitask Learners](https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf)
[^16]: [[上級編]LLMへ至る道~GPT-2の話~[21日目]](https://dev.classmethod.jp/articles/road-to-llm-advent-calendar-2023-21/)
[^17]: [The Evolution of OpenAI’s GPT Model](https://nathanbaileyw.medium.com/the-evolution-of-openais-gpt-model-1b23a6b1b30d)
[^18]: [Evolution of GPT Models, GPT 1 to GPT 4](https://medium.com/@vipul.koti333/evolution-of-gpt-models-gpt-1-to-gpt-4-0238ee07a29b)
[^19]: [Release Strategies and the Social Impacts of Language Models](https://cdn.openai.com/GPT_2_August_Report.pdf)
[^20]: [[上級編]LLMへ至る道~GPT-3の話~[22日目]](https://dev.classmethod.jp/articles/road-to-llm-advent-calendar-2023-22/)
[^21]: [OpenAI Announces GPT-3 AI Language Model with 175 Billion Parameters](https://www.infoq.com/news/2020/06/openai-gpt3-language-model/)
[^22]: [Solving Rubik’s Cube with a robot hand](https://openai.com/index/solving-rubiks-cube/)
[^23]: [Automatic Domain Randomization](https://medium.com/dataseries/automatic-domain-randomization-80ff49736e)
[^24]: [OpenAI abandons robotics research](https://www.therobotreport.com/openai-abandons-robotics-research/)
[^25]: [OpenAI API](https://openai.com/index/openai-api/)
[^26]: [GPT-3](https://en.wikipedia.org/wiki/GPT-3#cite_note-Arram_20200709-20)
[^27]: [OpenAI’s API now available with no waitlist](https://openai.com/index/api-no-waitlist/)
[^28]: [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165)
[^29]: [Generative Pretraining from Pixels](https://cdn.openai.com/papers/Generative_Pretraining_from_Pixels_V2.pdf)
[^30]: [Image GPT](https://openai.com/index/image-gpt/)