OpenAI

OpenAIとは、営利法人OpenAI LPとその親会社である非営利法人OpenAI Inc. からなるアメリカの人工知能の開発を行っている企業である。人類全体に利益をもたらす汎用人工知能を普及・発展させることを目標に掲げ、AI分野の研究を行っている。対話型生成AIのChatGPTが代表的なサービス。Microsoftが49％の株式を保有する筆頭株主である。

OpenAIは、カリフォルニア州・サンフランシスコのミッション地区 にあるパイオニア・ビル に本社を構えている。

1. 沿革
-----

2015年12月11日、サム・アルトマン、イーロン・マスクらによってOpenAI Inc.がサンフランシスコで設立され、合わせて10億米ドルが提供された。
2018年2月、イーロン・マスクがOpenAIから離れ、役員を辞任した
2019年
3月11日、営利部門のOpenAI LPを設立。Khosla VenturesとReid Hoffman Foundationから出資を受けた。
7月23日、OpenAI LPはマイクロソフトから10億米ドルの出資を受けた
2022年
1月1日、Matthew Brown Companiesが流通市場にてOpenAI LPの株式を取得。
7月20日、DALL・Eのβサービスを開始。
11月30日、ChatGPTを公開。
2023年1月23日、OpenAI LPはマイクロソフトから100億米ドルの出資を受け、マイクロソフトが49%の株式を取得。

2. サービス
-------

2.1. ChatGPT
------------

2022年11月30日、GPTに基づく、チャットボットのChatGPTを発表した。GPT-3の後継のGPT-3.5系のモデルがベースになっている。2023年2月1日、月額20ドルのChatGPT Plusを開始。その後 GPT-4 も追加。

2.2. DALL・E
-----------

2022年7月20日、自然言語から画像を生成するDALL・Eのβサービスを開始。βサービス開始当初の価格は、無料分超過後は15ドルで460画像。

2.3. Whisper
------------

Whisperは音声認識と機械翻訳のサービス。価格は2023年4月現在$0.006/分。

2.4. マイクロソフト
------------

マイクロソフトからも以下のような OpenAI の技術を使用したサービスが提供されている。

Bing Chat - 検索エンジンにチャットボットを組み込んだもの
Microsoft Bing Image Creator
Microsoft Designer
Copilot in Windows - Bing Chat に相当する物が Windows 11 に標準搭載されている。Bing Chat の機能に加えてアプリケーションの起動も可能。
Microsoft 365 Copilot - Microsoft Office での提供
Dynamics 365 Copilot
Copilot in Microsoft Fabric
GitHub Copilot - プログラミング用
Azure OpenAI Serviceマイクロソフトのサービスと ChatGPT でプラグインは共通で利用可能。

3. 技術
-----

3.1. GPT-1
----------

2018年6月11日にGPTを発表。GPTは教師なし学習のTransformer言語モデルである。

3.2. GPT-2
----------

2019年2月14日にGPT-2を発表。

3.3. GPT-3
----------

GPT-3は2020年5月に発表された、Generative Pre-trained Transformer 2の後継モデルである。OpenAIによると、GPT-3には1,750億個のパラメータが含まれ、GPT-2より2桁大きい。

OpenAIは、GPT-3は特定の「メタ学習」タスクで成功すると述べた。単一の入出力ペアの目的を一般化できる。この論文は、英語-ルーマニア語間、および英語-ドイツ語間の翻訳および言語間転移学習の例を示している。

GPT-3のベンチマーク結果は、GPT-2のそれと比較して劇的に改善している。OpenAIは、そのような言語モデルのスケールアップは、予測言語モデルの基本的な機能制限に近づいたり遭遇したりする可能性があると警告した。訓練に要した計算量は、GPT-1が0.96ペタFLOPS・日、GPT-2では数十ペタFLOPS・日だったのに対し、GPT-3では、3,640ペタFLOPS・日を要した。

GPT-2と同様、GPT-3の完全に訓練されたモデルは、悪用される可能性があるという理由ですぐには一般公開されなかった。OpenAIは、2か月の無料プライベートベータ版の提供後に有料クラウドAPIを介したアクセスを許可する予定だった。

GPT-3が書いたことを伏せたオンライン記事がニュースサイトで、ランキング1位を獲得するなど、人間並みに自然な文章を実現している。ただし、GPT-3を含む「言語AI」の言語処理は「定量的アプローチ」であり、人間の言語能力とは根本的に異なる。

また、将来的には「自然言語を用いたプログラミング」が可能になることも期待されていた。

3.4. GPT-3.5
------------

2022年3月15日、GPT-3.5 を公開。ChatGPT は GPT-3.5 以降を使用している。

3.5. GPT-4
----------

2023年3月14日、Generative Pre-trained Transformer 4のリリースを発表。テキストに加え、画像での入力にも対応した。OpenAIは、GPT-4に司法試験の模擬テストを受けさせたところ、人間の受験者と比べても上位10%程度のスコアで合格したと発表している。最大25,000語のテキストの読み取り・分析・生成が可能で、主要なプログラミング言語のコードを記述することもできる。

3.6. OpenAI Codex
-----------------

OpenAI Codex は GPT-3 のプログラミング用。2021年8月10日に公開し、2023年3月に非推奨となった。

3.7. DALL・E
-----------

自然言語処理と画像生成モデルを組み合わせたAI「DALL・E」を2021年1月5日に発表。人間でも見分けが付かないほど高精度な文章を生成するAI「GPT-3」のパラメータを使用し、文章からイラストや写真を作り出すことができる。

3.8. DALL・E 2
-------------

自然言語処理と画像生成モデルを組み合わせたAI「DALL・E 2」を2022年4月6日に発表。同じくGPT-3のパラメータを使用している。

3.9. DALL・E 3
-------------

DALL・E 3 を2023年10月3日に発表。ChatGPT、Bing Chat、Copilot in Windows などでも利用可能。

3.10. Whisper
-------------

Whisper は自動音声認識のモデル。2023年現在、有償API版と無償オープンソース版がある。単純なテキストの他、SubRipファイルやWebVTTなどの字幕ファイルで出力できる。

2022年12月6日時点で68万時間の訓練データで学習させている。訓練データには97言語を含み、英語以外の言語は11.7万時間、英語以外の言語の音声から英語の文章に翻訳と音声認識を同時に行った訓練データが12.5万時間ある。モデルは特に大きな工夫は無くTransformerを採用。訓練データの量と質を上げることに手間をかけていて、量を増やすことで誤認識率が下がる。

3.11. CLIP
----------

CLIP は Contrastive Language-Image Pretraining の略で、画像からそれを説明する文章を生成するモデル。2021年に発表。無償版の CLIP とオープンソース版の OpenCLIP が公開されている。

4. 脚注
-----

4.1. 出典
-------

5. 外部リンク
--------

[1]
[2]
[3]
[4]