OpenAI o1

OpenAI o1（おーぷんえーあい おーわん）は、2024年9月にOpenAIによってリリースされた大規模言語モデルである。o1は回答する前に思考時間をとるため、複雑な推論作業、科学、およびプログラミングにおいてより高度な能力を保持する。2024年9月時点では、OpenAI o1-preview、OpenAI o1-miniモデルのみが公開されており、o1モデル本体は公開されていない。社内ではコードネーム「Strawberry」と呼ばれ、GPT-4oの後継ではなく、GPT-4oを補完するモデルとして位置付けられている。特に科学、コーディング、数学などの分野において、従来のモデルよりも高度な問題解決能力を示す。2024年9月12日にChatGPTおよびAPIで最初のモデルがプレビューリリースされた。 リークされた情報によると、o1は以前はOpenAI内部で「Q*」、後に「Strawberry」として知られていた。コードネーム「Q*」は、サム・アルトマン解任騒動の頃である2023年11月に初めて浮上し、この実験モデルが数学的ベンチマークで有望な結果を示したという噂があった。2024年7月、ロイターは、OpenAIが「Strawberry」として知られるGPTを開発中であると報じた。 「o1-preview」と「o1-mini」は、2024年9月12日にChatGPT PlusおよびTeamユーザー向けにリリースされた。GitHubは同日、Copilotサービスへのo1-previewの統合テストを開始した。 OpenAIは、o1は一連の「推論」モデルの最初のモデルであり、すべてのChatGPT無料ユーザーにo1-miniへのアクセスを追加する予定であると述べた。o1-previewのAPIはGPT-4oよりも数倍高価である。 OpenAIによると、o1は新しい最適化アルゴリズムと、o1専用に調整されたデータセットを使用してトレーニングされている。トレーニングには強化学習が活用されている。 o1は回答を生成する前に追加の思考時間（思考連鎖の生成）を費やすため、複雑な推論作業、特に科学および数学においてより効果的である。以前のモデルと比較して、o1は最終的な回答を返す前に長い「思考連鎖」を生成するようにトレーニングされている。ミラ・ムラティによると、この応答前に思考する能力は、新しい追加のパラダイムを表しており、回答の生成時により多くの計算能力を費やすことによってモデルの出力を向上させている。一方、モデルスケーリングパラダイムは、モデルサイズ、トレーニングデータ、およびトレーニング計算能力を増加させることによって出力を向上させる。OpenAIのテスト結果は、精度と、回答前に思考に費やされた計算量の対数の間に相関関係があることを示唆している。 o1-previewは、物理学、化学、生物学に関するベンチマークテストで、ほぼ博士号レベルのパフォーマンスを示した。アメリカ数学招待競技（英語版）では、GPT-4oの13%（1.8/15）に対し、83%（12.5/15）の問題に正答した。また、Codeforces（英語版）コーディング競技では89パーセンタイルにランクインした。o1-miniはo1-previewよりも高速で80%安価である。プログラミングおよびSTEM関連のタスクに特に適しているが、o1-previewと同じ「幅広い世界知識」は持っていない。 OpenAIは、o1の推論能力により、プロンプトのコンテキストウィンドウで提供される安全規則をよりよく遵守できると述べている。OpenAIは、テスト中に、o1-previewの1つのインスタンスが、バグのために実行不可能であるはずのタスクを成功させるために、誤設定を悪用したと報告した。また、OpenAIは、研究、評価、およびテストのために、英国および米国のAIセーフティ・インスティテュートに早期アクセスを許可した。ダン・ヘンドリックス（英語版）は、「このモデルは、生物兵器に関する質問への回答において、ほとんどの場合、博士号を持つ科学者を凌駕している」と述べた。彼は、これらの懸念される能力は今後も増加し続けると示唆した。 o1は、最終的な応答を行う前に長い思考連鎖を生成するため、通常、OpenAIの他のGPTモデルよりも多くの計算時間と電力が必要となる。 OpenAIによると、o1は約0.38パーセントのケースで「アライメントの偽装」、つまり、精度とその自身の思考連鎖に反する応答を生成することがある。 OpenAIは、ユーザーがo1の思考連鎖を明らかにしようと試みることを禁じている。これは設計上隠されており、同社のポリシーに準拠するようにトレーニングされていない。プロンプトは監視されており、意図的または誤ってこれを違反したユーザーは警告を受け、o1へのアクセスを失う可能性がある。OpenAIは、この制限の理由としてAIの安全性と競争上の優位性を挙げているが、これは大規模言語モデルを扱う開発者によって透明性の喪失として説明されている。 OpenAI o1のベンチマークスコアは以下のようになっている。 GPT-4o OpenAI o1 ^ a b c d e f g Metz, Cade (September 12, 2024). “OpenAI Unveils New ChatGPT That Can Reason Through Math and Science”. The New York Times. 2024年10月1日閲覧。 ^ Nakano, Will Knight,Mamiko (2024年9月13日). “OpenAI、推論する新AIモデル「o1」を発表。規模以外での進化を示す”. WIRED.jp. 2024年9月17日閲覧。 ^ a b c d “Exclusive: OpenAI working on new reasoning technology under code name 'Strawberry'”. Reuters (July 15, 2024). 2024年10月1日閲覧。 ^ “OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say”. Reuters. (November 23, 2023). https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/ 2024年10月1日閲覧。  ^ Peters, Jay (September 12, 2024). “GitHub has started testing OpenAI's o1-preview in GitHub Copilot.”. The Verge. 2024年10月1日閲覧。 ^ a b c d e Robison, Kylie (September 12, 2024). “OpenAI releases o1, its first model with ‘reasoning’ abilities” (英語). The Verge. 2024年10月1日閲覧。 ^ a b c “Learning to Reason with LLMs”. OpenAI. September 12, 2024時点のオリジナルよりアーカイブ。2024年10月1日閲覧。 ^ a b Kahn, Jeremy. “Here are 9 things you need to know about OpenAI's o1 model” (英語). Fortune. 2024年10月1日閲覧。 ^ Knight, Will. “OpenAI Announces a New AI Model, Code-Named Strawberry, That Solves Difficult Problems Step by Step” (英語). Wired. ISSN 1059-1028. https://www.wired.com/story/openai-o1-strawberry-problem-reasoning/ 2024年10月1日閲覧。  ^ Knight, Will. “OpenAI Announces a New AI Model, Code-Named Strawberry, That Solves Difficult Problems Step by Step” (英語). Wired. ISSN 1059-1028. https://www.wired.com/story/openai-o1-strawberry-problem-reasoning/ 2024年10月1日閲覧。  ^ Franzen, Carl (September 12, 2024). “Forget GPT-5! OpenAI launches new AI model family o1 claiming PhD-level performance” (英語). VentureBeat. 2024年10月1日閲覧。 ^ Franzen, Carl (September 12, 2024). “Forget GPT-5! OpenAI launches new AI model family o1 claiming PhD-level performance” (英語). VentureBeat. 2024年10月1日閲覧。 ^ Franzen, Carl (September 12, 2024). “Forget GPT-5! OpenAI launches new AI model family o1 claiming PhD-level performance” (英語). VentureBeat. 2024年10月1日閲覧。 ^ “OpenAI o1-mini”. OpenAI (September 12, 2024). 2024年10月1日閲覧。 ^ “OpenAI o1-mini”. OpenAI (September 12, 2024). 2024年10月1日閲覧。 ^ Coombes, Lloyd (September 13, 2024). “OpenAI's new ChatGPT o1 model 'cheated' on an impossible test — here's what happened” (英語). Tom's Guide. 2024年10月1日閲覧。 ^ “OpenAI o1 System Card”. OpenAI. pp. 16-17 (September 12, 2024). 2024年10月1日閲覧。 ^ Boran, Marie (September 13, 2024). “OpenAI o1 model warning issued by scientist: "Particularly dangerous"” (英語). Newsweek. 2024年10月1日閲覧。 ^ Boran, Marie (September 13, 2024). “OpenAI o1 model warning issued by scientist: "Particularly dangerous"” (英語). Newsweek. 2024年10月1日閲覧。 ^ Robison, Kylie (17 September 2024). “OpenAI’s new model is better at reasoning and, occasionally, deceiving” (英語). The Verge. https://www.theverge.com/2024/9/17/24243884/openai-o1-model-research-safety-alignment 2024年10月1日閲覧。  ^ Edwards, Benj (16 September 2024). “Ban warnings fly as users dare to probe the “thoughts” of OpenAI’s latest model” (英語). Ars Technica. https://arstechnica.com/information-technology/2024/09/openai-threatens-bans-for-probing-new-ai-models-reasoning-process/ 2024年10月1日閲覧。  ^ Edwards, Benj (16 September 2024). “Ban warnings fly as users dare to probe the “thoughts” of OpenAI’s latest model” (英語). Ars Technica. https://arstechnica.com/information-technology/2024/09/openai-threatens-bans-for-probing-new-ai-models-reasoning-process/ 2024年10月1日閲覧。  ^ Edwards, Benj (16 September 2024). “Ban warnings fly as users dare to probe the “thoughts” of OpenAI’s latest model” (英語). Ars Technica. https://arstechnica.com/information-technology/2024/09/openai-threatens-bans-for-probing-new-ai-models-reasoning-process/ 2024年10月1日閲覧。  ^ Edwards, Benj (16 September 2024). “Ban warnings fly as users dare to probe the “thoughts” of OpenAI’s latest model” (英語). Ars Technica. https://arstechnica.com/information-technology/2024/09/openai-threatens-bans-for-probing-new-ai-models-reasoning-process/ 2024年10月1日閲覧。  ^ “Learning to Reason with LLMs”. OpenAI. 2024年10月5日閲覧。