OpenAI（5. 2023年ごろ：GPT-4, ChatGPT Plus/Enterprise, GPTs, GPT-4o, DALL-E 3, Q*）

本記事は下記の続きです。

https://qiita.com/akagi_hayato/items/864ddd5bbf24055152ac

## Microsoftとのパートナーシップ延長
2023年1月、Microsoft社は2019、2021年の投資に続き、数年にわたって数十億ドル規模の投資を通じて OpenAIと長期パートナーシップを結ぶことを発表した[^600]。OpenAIは全てのモデルの学習をAzureで行っており、引き続きクラウドプロバイダーとしてAzureを利用していくことが実質確定したこととなる[^601]。
また、2023年2月には検索エンジンのBingへChatGPT機能を連携させることを発表するなど[^602][^603]、MicrosoftのサービスのAI機能強化を積極的に行っている。

[^600]:[Microsoft and OpenAI extend partnership](https://blogs.microsoft.com/blog/2023/01/23/microsoftandopenaiextendpartnership/)
[^601]:[Microsoft Confirms Its $10 Billion Investment Into ChatGPT, Changing How Microsoft Competes With Google, Apple And Other Tech Giants](https://www.forbes.com/sites/qai/2023/01/27/microsoft-confirms-its-10-billion-investment-into-chatgpt-changing-how-microsoft-competes-with-google-apple-and-other-tech-giants/)
[^602]:[Microsoft Announces ChatGPT Capabilities Coming To Bing](https://www.searchenginejournal.com/microsoft-announces-chatgpt-capabilities-coming-to-bing/478803/)
[^603]:[Microsoft’s AI-Powered Bing Search Now On Mobile](https://www.searchenginejournal.com/microsofts-ai-powered-bing-search-now-on-mobile/480762/)

## ChatGPT plus, ChatGPT Enterprise, GPTs
ChatGPTのビジネス規模を拡大するため、2023年2月にChatGPTのより早い応答速度や新機能への優先アクセスが可能なサブスクリプションプラン（$20/month）であるChatGPT Plusがリリースされ[^620]、同年8月にエンタープライズグレードのセキュリティとプライバシーが担保された最もパワフルなバージョンであるChatGPT Enterpriseも発表された[^621]。
さらに、より多岐のタスクに対応するAI開発需要に対してリーチするため、5月にはChatGPTに追加機能を提供するChatGPT Plugins[^623]、11月に特定の目的のためのカスタムで作成したChatGPTを他の人と共有できるGPTsを発表した[^622]。2024年春の時点で、それぞれ最も活発だったタイミングで、Pluginsは1000強、GPTsは数十万のリリースと、GPTsの方が好まれていることが明らかだったこともあり[^624]、2024年の4月にChatGPT Pluginsは提供終了となっている[^625]。

>![](https://media.datacamp.com/legacy/v1699444395/image1_84b524b5f5.png)
[OpenAI Announces GPTs and ChatGPT Store](https://www.datacamp.com/blog/openai-gpts-and-chatgpt-store)


[^620]:[Introducing ChatGPT Plus](https://openai.com/index/chatgpt-plus/)
[^621]:[Introducing ChatGPT Enterprise](https://openai.com/index/introducing-chatgpt-enterprise/)
[^622]:[Introducing GPTs](https://openai.com/index/introducing-gpts/)
[^623]:[ChatGPT plugins](https://openai.com/index/chatgpt-plugins/)
[^624]:[ChatGPT Plugins are being replaced by GPTs. Here's why - and what it means for you](https://www.zdnet.com/article/on-march-19-chatgpt-plugins-get-replaced-by-gpts-heres-why-and-what-it-means-to-you/)
[^625]:[Winding down the ChatGPT plugins beta](https://help.openai.com/en/articles/8988022-winding-down-the-chatgpt-plugins-beta)


## GPT-4
2023年3月、OpenAIは大幅に改良されたGPT-4.0を発表した。GPT-4.0は、テキストの理解力、長文の整合性、コード生成の精度、そして創造的な文章の作成能力が向上しており、特にテキスト＋画像を入力とし、テキストを出力する「マルチモーダル対応」が大きな進化点となった[^610]。内部構造等についてはOpenAIから明らかにされていないが、MoE（Mixture of Experts）と呼ばれる構造を利用しているなどの推測がされている[^611][^612]（詳細を明らかにしないことについて、コミュニティ内で批判があったが方向性については後述）。
GPT-4は継続的に改善され、2023年11月にはGPT-4 Turboがリリースされている[^613]。

> ![](https://self.systems/wp-content/uploads/2023/09/%E3%82%B9%E3%82%AF%E3%83%AA%E3%83%BC%E3%83%B3%E3%82%B7%E3%83%A7%E3%83%83%E3%83%88-2023-09-07-17.56.20.png)
[*【性能比較】GPT-3.5 vs GPT-4、違いはどこにある？*](https://self.systems/laboratory-model-comparison/)

> ![](https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/moe/01_moe_layer.png)
[*Mixture of Experts Explained*](https://huggingface.co/blog/moe)

[^610]:[GPT-4](https://openai.com/index/gpt-4-research/)
[^611]:[GPT-4: How does it work?](https://www.speechmatics.com/company/articles-and-news/gpt-4-how-does-it-work)
[^612]:[[No.116]OpenAIは性能の壁に突き当たる、GPT-4の規模を拡大しても性能が伸びない、新たなアーキテクチャを開発中、GPT-4は小型モデルを組み合わせた複合型AIか](https://gdep-sol.co.jp/newtech-report/no116/)
[^613]:[New models and developer products announced at DevDay](https://openai.com/index/new-models-and-developer-products-announced-at-devday/)

## DALL-E 3
2023年9月、画像生成AIであるDALL-E 2の後継であるDALL-E 3がリリースされた[^650]。ChatGPTとの統合により、ユーザーが簡単な指示をプロンプトとして入力するだけで、ChatGPTが適切な詳細プロンプトを作成し、DALL-E 3がそれを元に高品質な画像を生成する仕組みになっている[^651]。
技術的な詳細は公表されていないが、Stable Diffusionのように潜在空間から画像を出力できる可能性や、Deepfloyd IFのようなテキストエンコーダーの利用が考察されている[^652]。

>![](https://image.osiro.it/pass/image_uploads/586111/images/original/01_latent_diffusion_model.png?1662823772)
[Stable Diffusion の仕組み](https://cdle.jp/blogs/a9fff27cca63)

>![](https://the-decoder.com/wp-content/uploads/2023/04/deepfloyd_if_scheme-770x520.jpg)
[DeepFloyd IF is a crazy good text-to-image model - and open-source](https://the-decoder.com/deepfloyd-if-is-a-crazy-good-text-to-image-model-and-open-source/)

[^650]:[DALL-E 3 Announcement, Coming Soon](https://community.openai.com/t/dall-e-3-announcement-coming-soon/385170)
[^651]:[OpenAI’s DALL-E 3 Explained: Generate Images with ChatGPT](https://encord.com/blog/openai-dall-e-3-what-we-know-so-far/)
[^652]:[Technical Details of DALL-E 3?](https://www.reddit.com/r/dalle2/comments/16xinem/technical_details_of_dalle_3/)

## Q*
2023年11月ロイター通信から、OpenAIがQ*（Q star）と呼ばれるプロジェクトが進んでいると報じた[^660]。OpenAIから公式には詳細を公表されていない（Altman 氏自身は、プロジェクトを肯定も否定もせず、Q* について質問されたときに「残念なリーク」についてコメントした[^662]）が、2023年5月に発表されたプロジェクトに関連しており、出力結果を教師データとするOutcome supervisionではなく、出力過程を教師とするProcess supervisionという手法を用いているとされている[^663][^664]。
取材によると（GPT等の）現状の言語モデルが直感的な推論に過ぎず、　論理的な推論ができていないことを問題視して取り組まれたものであり、Tromeroの共同設立者Sophia Kalanovska氏が、下記のことを言及している[^661]。
- Q* の名前はQ学習とA* 検索という2つのよく知られたAI技術の組み合わせであることを示唆している
- 新しいモデルが、ChatGPT を動かすディープラーニング技術と人間がプログラムしたルールを組み合わせる可能性があることを示唆している。


[^660]:[OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say](https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/)
[^661]:[Everyone's talking about OpenAI's Q*. Here's what you need to know about the mysterious project.](https://www.businessinsider.com/openai-project-q-sam-altman-ia-model-explainer-2023-11)
[^662]:[OpenAI’s Q* Project: Unraveling the Mystique](https://medium.com/@aarondiblasi/openais-q-project-unraveling-the-mystique-9906a5df610d)
[^663]:[OpenAIの謎のプロジェクト「Q*」の正体とは？ 渦巻く疑問と不安、そして見えてきたヒント](https://wired.jp/article/fast-forward-clues-hint-openai-shadowy-q-project/)
[^664]:[Improving mathematical reasoning with process supervision](https://openai.com/index/improving-mathematical-reasoning-with-process-supervision/)

## Codexのサポート問題
2022年11月、Microsoft Copilotとそれを支えるCodexにより、著作権侵害と不当利益があるとして、Microsoft社、Github社、OpenAI社は集団訴訟を起こされている （原告側の主張は棄却されているが、2024年現在で訴訟は継続中）[^632]。
このような動きを受けてか、OpenAIはCodexユーザーに対して「Codexのサポートを3月23日に終了する」と通知するメールを、その3日前に送信してGPT-3.5 Turboに移行することを推奨したが[^631][^633]、Codexが約100件もの学術論文で使用されていたなどのことから、Codexへのアクセスを引き続きサポートするプログラムを開始した。しかし、結局は公にアクセスすることは困難で、Codexの利用は非推奨となっている。

[^631]: [OpenAI to discontinue support for the Codex API](https://news.ycombinator.com/item?id=35242069)
[^632]: [Copyright Claim Fails in GitHub Case](https://www.deeplearning.ai/the-batch/judge-dismisses-key-arguments-in-ai-copyright-lawsuit-against-github-microsoft-and-openai/)
[^633]: [OpenAI Might Invite Legal Trouble](https://analyticsindiamag.com/ai-highlights/openai-might-invite-legal-trouble/)


## その他、マネジメント関連の動向  
OpenAIの主任科学者兼共同創設者（2023年3月時点）のIlya Sutskever氏が、AIの能力が向上したことによる公開のリスクに懸念を示し、クローズドなアプローチに切り替える表明を行った。倫理や将来のAI開発の方向性などさまざまな観点から意見が飛び交い、物議を醸す決定となる[^630]。

> Sutskever replied simply, *“We were wrong. Flat out, we were wrong. If you believe, as we do, that at some point, AI — AGI — is going to be extremely, unbelievably potent, then it just does not make sense to open-source. It is a bad idea... I fully expect that in a few years it’s going to be completely obvious to everyone that open-sourcing AI is just not wise.”*[^630]
>> *Google翻訳*
OpenAI が研究の共有に対するアプローチを変えた理由を尋ねられたとき、Sutskever 氏は *「私たちは間違っていました。はっきり言って間違っていました。私たちと同じように、AI (AGI) がいつか信じられないほど強力になると信じているなら、オープンソース化しても意味がありません。それは悪い考えです...数年後には、AI をオープンソース化するのは賢明ではないことが誰の目にも明らかになると確信しています。」* と答えました。

そして11月、共同創設者の一人であるCEOのSam Altman氏が、コミュニケーションに率直さがないことなどを理由に、取締役会により突然解任されるという事件が発生した。しかし、社員の大多数がAltman氏とともにMicrosoftへ入社する署名を集めるなど復帰を支持した結果、5日後に復職し、Altman氏に反対していた取締役がほとんど解任されるなど取締役会の再編が行われた。この騒動の真の原因は現在でも謎のままであり、Altman氏の評判も二極化されたとされている[^635][^636]。  

> ![](https://media.wired.com/photos/6557d52b0f07920d5ed0d3f9/master/w_2240,c_limit/Sam-Altman-Fired-Business-GettyImages-1797579058.jpg)
[*OpenAI Ousts CEO Sam Altman*](https://www.wired.com/story/openai-ceo-sam-altman-is-out-after-losing-confidence-of-board/)

[^630]: [OpenAI co-founder on company’s past approach to openly sharing research: ‘We were wrong’](https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview)
[^635]: [OpenAI Ousts CEO Sam Altman](https://www.wired.com/story/openai-ceo-sam-altman-is-out-after-losing-confidence-of-board/)
[^636]: [How OpenAI's five days of chaos sparked fresh debate about the future of AI](https://www.thedrum.com/news/2023/11/22/the-many-faces-sam-altman)

---

続きはこちら

https://qiita.com/akagi_hayato/items/03fb1f855cf696d84c57