決定論的設計からの脱却：Agentic AI時代に求められる非決定性との向き合い方

# はじめに

エージェンティックAIアーキテクチャにおける非決定論的（non-deterministic）思考へのシフトは、LLM（大規模言語モデル）駆動型システムが本質的に予測不可能であること、そしてこの複雑性を管理するために新たなアプローチが必要であることを指摘する複数の情報源に支えられています。ここではそれぞれのソースを読み解いて(と言ってもPerplexityとChatGPTにやらせたんですが😆)、現状把握をしておきたいと思います。

## 非決定性はAIシステムの根本的な課題

Google Cloud Techは、LLMが出力にばらつき（例：言い回しの変化、画像内のピクセルの違い）を生むことを強調しており、これが金融や医療といった規制産業でのコンプライアンスを難しくしていると指摘しています[1]。

このため、エージェントベースのワークフロー（例：予約システム）では、各ステップでの出力評価フレームワークの導入が必須となります。これは出力が予測可能かつ再現可能な従来の決定論的システムとは対照的です。

## エージェンティック・アーキテクチャは適応的なワークフローを要求する

SAM Solutionsは、エージェント型LLMシステムが計画 → 行動 → 観察 → 内省のサイクルを通じて動作すると説明し、これにより環境からのフィードバックに動的に適応する必要があると述べています[2]。
たとえば：
- 熟慮型エージェントは「チェイン・オブ・ソート（思考の連鎖）」によって実行中に計画を調整します
- 認知型エージェントは学習と記憶を取り入れ、非決定性をさらに強化します[2]

このようなアーキテクチャは、固定的な決定論的プログラミングとは本質的に相容れません。

## 非決定性が管理されないリスク

QueryPieのホワイトペーパーは、AIエージェントがMCPサーバー経由で外部システムに直接アクセスする場合、構造的な制御がなければポリシー逸脱や予測不能な行動が生じうると警告しています[4]

これを防ぐためには、AIエージェントの「頭脳」（意図の解釈）と、「手足」に相当するMCPサーバーのポリシー準拠な実行層を分離すべきだと提唱しています[4]

## 非決定性は創造性の源泉にもなる

LinkedInの記事では、非決定性をポジティブに捉え、多様な解決策や新しいアイデアの創出を可能にする創造的エンジンとしてLLMを評価しています[5]

たとえば臨床判断の比喩を用い、人間の認知的多様性を模倣する力があることを指摘しつつ、想定外の出力も時に価値を持ち得ると論じています[5]


## 反論：ハイブリッド型への期待

Rainbirdは、リスクの高い領域においては決定論的エージェントを主張していますが[6]、これは裏を返せば非決定性だけでは不十分であることを認めているとも言えます。

確率的なLLM出力に、決定論的な検証レイヤーを重ねるハイブリッド型が、実用上のギャップを埋める可能性があります[6][4]

# まとめ

LLMの出力のばらつきにより、非決定論的思考への移行は不可避です。それは創造性や適応性をもたらす一方で、制御の困難さというリスクも孕みます。
開発者は、評価フレームワークの導入、役割分離、ハイブリッド構成の採用などを通じて、創造性と信頼性の両立を図る必要があります[1][2][4][5]

# 情報源

[1] Evaluating and Debugging Non-Deterministic AI Agents - YouTube https://www.youtube.com/watch?v=4u64WEuQHYE&vl=en
[2] Agentic LLM Architecture: How It Works, Types, Key Applications https://sam-solutions.com/blog/llm-agent-architecture/
[3] From RAG to Memory: Non-Parametric Continual Learning for Large ... https://arxiv.org/abs/2502.14802
[4] Your Architecture vs. AI Agents: Can MCP Hold the Line? - QueryPie https://www.querypie.com/resources/discover/white-paper/22/your-architect-vs-ai-agents
[5] Non-Deterministic AI and the Emergence of Generative AI - LinkedIn https://www.linkedin.com/pulse/non-deterministic-ai-emergence-generative-new-kalogeropoulos-phd-rxpyf
[6] Beyond Probability: The Case for Deterministic Agents in Agentic AI https://rainbird.ai/the-case-for-deterministic-agents-in-agentic-ai/
[7] What is Agentic AI? | UiPath https://www.uipath.com/ai/agentic-ai
[8] Non-deterministic automation with Agentic AI https://jaamautomation.com/agentic-ai/non-deterministic-automation-with-agentic-ai/
[9] Why RPA and AI Agents Will Co-Exist - LinkedIn https://www.linkedin.com/pulse/deterministic-vs-non-deterministic-approaches-why-rpa-gomez--ertxf
[10] If you're unsure what Agentic AI is and what's the difference between ... https://www.reddit.com/r/AI_Agents/comments/1hqzzrg/if_youre_unsure_what_agentic_ai_is_and_whats_the/

# 主要な情報源のまとめ

以下は、LLM駆動のエージェンティックAIシステムにおいて非決定論的思考の必要性を支持する情報源からの要点を簡潔にまとめたものです。

## Google Cloud Blog

高性能なモデルを使用しても、テキストからSQLへの変換などのLLMベースのシステムは本質的に非決定的であり、同じ入力でも異なる出力が生成されるため、信頼性や予測可能性に課題が残るとしています[1]

## Google Cloud Tech（YouTube)

AIにおける非決定性とは、毎回異なる出力が得られることを意味し、説明可能性や検証の重要性が高まります。特に規制産業においては、ワークフロー全体に評価ステップを組み込むことが求められます[2]

## arXiv論文（“決定論的”設定の非決定性）

LLMを決定論的に設定しても、出力や精度には依然としてばらつきが見られ、非決定性がLLMに固有かつ持続的であることを示す実証的研究が報告されています[3]

## Vertex AI ドキュメント

同じプロンプトと文脈キャッシュを使っても、一貫した応答は保証されず、LLMの予測不能な性質が強調されています[4]

## Sitation

同一のプロンプトに対して異なる出力が返される非決定性は創造性を刺激する反面、一貫性や明瞭性を損なうリスクがあり、特にビジネスやブランドの信頼性にとっては問題となり得ます[5]

## LinkedIn 記事

生成AIの非決定性は、創造性やパーソナライズの可能性を広げる一方で、出力の不安定さ、幻覚（hallucination）、再現性の欠如といった課題も抱えます。開発者は確率論的思考への転換と、これらのリスクを管理する新たな戦略の採用が求められます[6]

## ACM 論文：
ChatGPTのようなLLMにおける非決定性は、コードの正しさ、一貫性、再現性に影響を与え、開発者の信頼を損なう可能性があるとし、信頼性確保のための新しいアプローチの必要性を訴えています[7]

## Substack（The Finest Tuners）

LLMは出力空間が非常に広いため、非決定性は避けられない現象であると認識しつつ、開発者は不必要なばらつきを制御し、有用な一貫性を維持することに注力すべきとしています[8]


# 主要な情報源のまとめのリンク

[1] Google Cloud Blog: テキストからSQL変換の改善手法 https://cloud.google.com/blog/products/databases/techniques-for-improving-text-to-sql

[2] YouTube: 非決定論的AIエージェントの評価とデバッグ https://youtu.be/4u64WEuQHYE?si=Pqi2oXvy9slxoQLX

[3] arXiv: “決定論的”設定の非決定性 https://arxiv.org/html/2408.04667v4

[4] Vertex AI: コンテキストキャッシュ概要 https://cloud.google.com/vertex-ai/generative-ai/docs/context-cache/context-cache-overview?hl=ja

[5] Sitation: LLM出力の非決定性とは https://www.sitation.com/non-determinism-in-ai-llm-output/

[6] LinkedIn: 生成AIの非決定性がもたらす影響 https://www.linkedin.com/pulse/gen-ai-non-deterministic-why-matters-how-changes-way-we-monnette-vrldc?utm_source=share&utm_medium=member_ios&utm_campaign=share_via

[7] ACM: ChatGPTにおける非決定性の実証研究 https://dl.acm.org/doi/10.1145/3697010

[8] Substack: LLMの非決定性との付き合い方 https://barryzhang.substack.com/p/making-peace-with-llm-no