LLMの推論力を引き出す Chain of Thoughtプロンプティング 技術解説

## 1. はじめに

大規模言語モデル（LLM）の能力を最大限に引き出すプロンプトエンジニアリングにおいて、Chain of Thought（CoT）プロンプティングは複雑な推論や問題解決タスクでLLMの性能を著しく向上させる強力な手法です。本稿では、CoTプロンプティングの実践的な実装戦略を、技術的な詳細、アルゴリズム、実験結果、具体的な例示を交えながら解説します。

## 2. Chain of Thoughtプロンプティングの基本概念

CoTプロンプティングは、複雑な問題を解決するために人間が段階的に思考するプロセスを模倣するアプローチです。LLMに対して、最終的な答えを直接求めるのではなく、その答えに至るまでの思考過程を段階的に生成させることで、より正確で信頼性の高い出力を得ることが可能になります。この手法は、LLMの注意メカニズムを特定のサブ問題に集中させ、全体的な推論の失敗を防ぐ効果があります。CoTプロンプティングの基本的な考え方は、複雑な問題をより小さく、管理しやすい部分に分解することにあり、数学的な問題解決、論理的な推論、複数ステップの質問応答など、さまざまな複雑なタスクで有効性が示されています。

## 3. Zero-Shot Chain of Thought (CoT)

Zero-Shot CoTは、特定のタスクに関する事前の例示なしに、LLMに推論プロセスを生成させる手法です。プロンプトに「段階的に考えてみましょう」のような簡単なフレーズを追加するだけで実現できます。

### 3.1 技術的詳細とアルゴリズム

Zero-Shot CoTのアルゴリズムは主に二段階のプロンプト処理から構成されます。

1.  **推論抽出**: 最初のプロンプトで、質問に加えて「段階的に考えてみましょう」のようなトリガーフレーズを含め、LLMに推論の連鎖を生成させます。
2.  **回答抽出**: 次に、最初のプロンプト、生成された推論、「答えは」のようなトリガーフレーズを連結した第二のプロンプトをLLMに与え、推論に基づいて最終的な答えを生成させます。

Zero-Shot CoTは、タスク固有の微調整や追加の学習データを必要としないため、汎用性が高く、新しい問題や多様な問題タイプへの適用が容易です。

### 3.2 実装戦略と例示

実装は簡単で、質問の最後に「段階的に考えてみましょう」というフレーズを追加するだけです。

**例:**

```
**質問:** 15本の木がある果樹園に、今日、果樹園の作業員が木を植えます。
作業が終わると、木は21本になります。今日、果樹園の作業員は何本の木を植えましたか？
段階的に考えてみましょう。
```

**期待される出力:**

```
元の木は15本です。その後、さらに木が植えられて21本になりました。
したがって、21 - 15 = 6本が植えられたはずです。答えは6本です。
```

### 3.3 実験結果と性能評価

Zero-Shot CoTは、特に算術、常識推論、記号推論などのタスクにおいて、LLMの性能向上に効果的です。例えば、PaLMモデルにおいて、CoTプロンプティングによりGSM8Kベンチマークでの性能が大幅に向上しました。ただし、性能向上はモデルのサイズに大きく依存し、小規模なモデルでは逆効果になる可能性があります。また、複雑なタスクでは、後述のFew-Shot CoTほど効果的ではない場合があります。

## 4. Few-Shot Chain of Thought (CoT)

Few-Shot CoTは、プロンプト内でLLMに対して、推論ステップを含む少数の例を提供することで、モデルの推論能力を向上させる手法です。これらの例は、モデルが新しい問題に対して同様の推論パターンを学習し、適用するのに役立ちます。Few-Shot CoTは、Zero-Shot CoTよりも複雑なタスクや、より専門的な知識を必要とするタスクにおいて、一般的に優れた性能を発揮します。

### 4.1 技術的詳細とアルゴリズム

Few-Shot CoTでは、プロンプトに解決しようとしているタスクの説明に加え、そのタスクと類似した問題とその推論ステップ、最終的な答えを含む例をいくつか含めます。

**プロンプトの構成例:**

* **質問 (例1):** \[問題文1]
* **思考プロセス (例1):** \[段階的な推論の説明]
* **答え (例1):** \[最終的な答え]
* **質問 (例2):** \[問題文2]
* **思考プロセス (例2):** \[段階的な推論の説明]
* **答え (例2):** \[最終的な答え]
* **質問 (ターゲット):** \[解決したい問題文]
* **思考プロセス (ターゲット):** \[LLMに生成させる推論の説明]
* **答え (ターゲット):** \[LLMに生成させる最終的な答え]

### 4.2 実装戦略と例示

Few-Shot CoTの実装では、ターゲットのタスクに関連する高品質な例を慎重に選択することが重要です。これらの例は、望ましい推論のパターン、出力の形式、スタイルを示す役割を果たします。

**例:**

```
**質問:** 
公園に3台の車が駐車していて、さらに2台の車が到着しました。
駐車場には何台の車がありますか？

**思考プロセス:** 
最初は3台の車があります。さらに2台の車が到着しました。
3 + 2 = 5。答えは5台です。

**質問:** 
レアは32個のチョコレートを持っていて、妹は42個持っていました。
もし2人で35個食べたら、全部で何個残っていますか？

**思考プロセス:** 
最初、レアは32個のチョコレートを持っていました。妹は42個持っていました。
合計で32 + 42 = 74個ありました。
35個食べた後、74 - 35 = 39個残っています。答えは39個です。

**質問:** 
ジェイソンは20個のロリポップを持っていました。
彼はデニーにいくつかのロリポップをあげました。
今、ジェイソンは12個のロリポップを持っています。
ジェイソンはデニーに何個のロリポップをあげましたか？

**思考プロセス:** \[LLMに生成させる思考プロセス]

**答え:** \[LLMに生成させる最終的な答え]
```

### 4.3 実験結果と性能評価

Few-Shot CoTは、Zero-Shot CoTと比較して、より複雑な推論タスクにおいて高い性能を示すことが報告されています。特に、算術推論、常識推論、記号推論などの分野で効果が顕著です。ただし、性能はプロンプトに含める例の質と数に大きく依存し、コンテキストウィンドウの制限により例の数には上限があります。

## 5. Algorithm of Thoughts (AoT)

Algorithm of Thoughts（AoT）は、LLMがアルゴリズムのような思考プロセスを模倣するように設計されたプロンプトエンジニアリング手法です。AoTは、問題を明確に定義し、情報を収集・分析し、仮説を立て、検証し、最終的な結論に至るという、構造化されたステップに従ってLLMをガイドします。

### 5.1 技術的詳細とアルゴリズム

AoTは、Chain of Thought（CoT）の直線的な推論と、Tree of Thoughts（ToT）の複数の探索パスの概念を組み合わせたハイブリッドなアプローチと言えます。典型的なステップは、問題の定義、情報の収集、分析、仮説の構築、検証、結論の導出です。AoTは、CoTのように段階的な推論パスに従いながらも、ToTのように代替案を検討する柔軟性を持っています。

### 5.2 実装戦略と例示

AoTの実装には、特定の構造化されたプロンプトを使用します。一般的な構造は以下の通りです。

`[背景情報]。[問題文]を与えられたとき、私は[初期仮説]と考えます。あなたは[推論]? あなたの[結論]は何ですか？`

**例 (Game of 24):**

```
**背景情報:** 
以下のルールに従って、4つの数字を使って24を作るゲームです。
使用できる演算は加算、減算、乗算、除算のみです。
各数字は一度だけ使用する必要があります。
途中計算で負の数や分数が出ないようにしてください。

**問題文:** 
14, 8, 8, 2

**初期仮説:** 
まだ仮説を立てていません。段階的に考えてみましょう。

**推論:**
1.  8 / 2 = 4 (残りの数字: 14, 8, 4)
2.  14 + 8 = 22 (残りの数字: 22, 4)
3.  22 + 4 = 26 (24ではありません)

(試行錯誤が続く...)

**結論:** 
14 + 8 + (8 / 2) = 22 + 4 = 26 (まだ不正解 - 制約条件の厳密な適用が必要)
```

### 5.3 実験結果と性能評価

AoTは、様々な推論タスクにおいて、LLMの性能向上に大きな可能性を示しており、特にGame of 24のような数学的推論タスクにおいて、標準的なプロンプティングやCoTを上回る性能を発揮することが報告されています。また、Tree of Thoughts (ToT)と比較しても、同等以上の性能を、より少ないクエリ数で達成できる場合があります。

## 6. Tree of Thoughts (ToT)

Tree of Thoughts（ToT）は、LLMが複雑な問題を解決するために、複数の推論パスを並行して探索し、自己評価を行いながら最適な解決策を見つけ出すことを可能にするフレームワークです。ToTは、思考の単位（"thoughts"）をノードとするツリー構造を構築し、探索を行う点が特徴です。

### 6.1 技術的詳細とアルゴリズム

ToTの基本的なアルゴリズムは、思考の分解、思考の生成、思考の評価、探索アルゴリズムの適用というステップで構成されます。探索アルゴリズムとしては、幅優先探索（BFS）や深さ優先探索（DFS）などが用いられ、必要に応じてバックトラッキングも可能です。

### 6.2 実装戦略と例示

ToTの実装には、複数のラウンドにわたるLLMとのインタラクションが必要となり、より複雑なプロンプティング戦略と、場合によっては探索アルゴリズムの実装が求められます。

**例 (ボールとカップ):**

```
**プロンプト (協調的な専門家による議論):** 
3人の異なる専門家がこの質問に答えていると想像してください。
すべての専門家は、思考の最初のステップを書き留め、グループと共有します。
次に、すべての専門家は次のステップに進みます。
もし途中で間違いに気づいた専門家がいれば、その時点で議論から離れます。
質問は次のとおりです：ボブは居間にいます。
彼はカップを持って台所へ歩いて行きます。
彼はカップにボールを入れ、カップを寝室へ運びます。
彼はカップを逆さまにし、その後、庭へ歩いて行きます。
彼は庭にカップを置き、その後、ガレージへ歩いて行きます。
ボールはどこにありますか？

**期待される出力 (専門家3がボールは寝室にあると正しく特定):**
```

### 6.3 実験結果と性能評価

ToTは、数学的推論、創造的な文章作成、パズルなどの複雑なタスクにおいて、標準的なプロンプティングやCoTを大幅に上回る性能を示すことが実験的に確認されています。例えば、Game of 24において、ToTはCoTと比較して大幅な成功率の向上を達成しています。しかし、ToTは複数の推論パスを探索し、評価を行うため、CoTやAoTと比較して計算リソースをより多く消費する傾向があります。

## 7. 比較分析と実践的考察

| 手法                          | 技術的詳細/アルゴリズム                      | 主な利点                                       | 主な欠点/制約                              | 代表的なユースケース             | 相対的な性能 (他のCoT手法と比較して) | 実装の複雑さ |
| :-------------------------- | :-------------------------------- | :----------------------------------------- | :----------------------------------- | :--------------------- | :-------------------- | :----- |
| Zero-Shot CoT               | トリガーフレーズ追加、二段階抽出                  | 簡単な実装、例示不要、汎用性が高い                          | 大規模モデル依存、複雑なタスクに不向き                  | 簡単な推論、算術、常識推論          | 低～中                   | 低      |
| Few-Shot CoT                | プロンプトに推論ステップを含む例を提供               | Zero-Shotより複雑なタスクで高性能、専門知識が必要なタスクにも有効      | 良質な例の選択が重要、コンテキスト長制限                 | 算術、常識、記号推論、特定パターンの誘導   | 中～高                   | 中      |
| Algorithm of Thoughts (AoT) | 問題定義～結論までの構造化ステップ                 | 効率性と柔軟性のバランス、ToTより少ないクエリ数で同等以上の性能、構造化された思考 | 比較的新しい手法、複雑なタスクではToTに劣る可能性           | プログラミング、データ分析、複雑な意思決定  | 中～高                   | 中      |
| Tree of Thoughts (ToT)      | 思考の分解・生成・評価・探索（BFS/DFS）、バックトラッキング | 非常に複雑な推論タスクで高性能、戦略的先読み、バックトラッキング可能         | 計算リソース消費大、実装が複雑、タスクによっては過剰な複雑さになる可能性 | 数学的推論、創造的な文章作成、複雑な計画立案 | 高                     | 高      |

CoT戦略を選択する際には、タスクの複雑さ、利用可能なモデルのサイズと能力、例の入手可能性、計算リソースの制約、許容されるレイテンシを考慮する必要があります。プロンプトエンジニアリングのベストプラクティスとしては、明確で曖昧さのないプロンプト作成、適切なコンテキストの提供、簡潔さと複雑さのバランス、そして実験と改良の繰り返しが重要です。

## 8. 結論

Chain of Thoughtプロンプティングは、LLMの推論能力を向上させるための強力なツールであり、不可欠な技術です。適切なCoT戦略を選択し、効果的なプロンプトエンジニアリングを行うことで、LLMはより複雑な問題を解決し、その推論プロセスをより透明かつ理解しやすい形で提示することが可能になります。今後の研究では、より効率的で効果的な推論誘発方法の開発、高品質な例の自動生成と選択、異なるCoT手法を組み合わせたハイブリッドアプローチの探求などが期待されます。