Constitutional AI

**Constitutional AI**（コンスティテューショナルAI、略称：**CAI**）は、Anthropicが開発した大規模言語モデル（LLM）のAIアライメント手法である。人間が定義した原則の集合（「コンスティテューション（憲法）」）に基づいてAIが自己評価・自己改訂を行い、有害な出力を減らしつつ有用性を維持することを目的とする。2022年12月にarXivで論文として公開され、AnthropicのAIアシスタントClaudeの訓練の中核に置かれている。

Constitutional AIという名称を持つ概念には、（1）訓練手法としての「**Constitutional AI**」と、（2）その手法が依拠する原則文書「**Claude's Constitution**（クロードの憲法）」の2つの側面がある。後者は内部文書だった時期には「ソウル文書（soul doc）」の通称で呼ばれ、2026年1月に公式版として一般公開された。

## 概要
Constitutional AIは、AIシステムが有害なコンテンツを出力しないよう訓練するための手法であり、有害な出力を識別するための人間によるラベル付けをほとんど必要としないことを特徴とする。人間による監督は原則リストを通じてのみ行われ、訓練プロセスは教師あり学習フェーズと強化学習フェーズの2段階で構成される。

この手法が「Constitutional（憲法的）」と名付けられているのは、原則リスト（＝憲法）を規定するだけで、より無害なシステムを訓練できるためである。また「Constitutional」という用語には、汎用AIシステムを開発・運用する際は何らかの価値観・原則の選択を避けられないという点を明示する意味合いもある。

## 背景
Constitutional AIが登場する以前、LLMのAIアライメントには主に人間のフィードバックからの強化学習（RLHF: Reinforcement Learning from Human Feedback）が用いられてきた。RLHFでは人間のクラウドワーカーが有害・無害なモデル出力をラベル付けし、そのデータを用いて報酬モデルを訓練する手法が「業界標準」とされていた。しかしRLHFは、大量の人間ラベルの収集・管理が必要なため、時間・コスト面で非効率であるという課題があった。Constitutional AIはこれらの課題を軽減するために提案された。

Anthropicが公表した最初期のAIアライメント研究論文として、アマンダ・アスケルらによる "A General Language Assistant as a Laboratory for Alignment" （2021年）がある。同論文では有益・誠実・無害なアシスタントを目指す基礎的な手法が検討されており、Constitutional AIの直接の前身となった。

## 手法
### 訓練の2フェーズ
Constitutional AIの訓練プロセスは、教師あり学習（SL）フェーズと強化学習（RL）フェーズの2段階で構成される。

#### フェーズ1：教師あり学習（SL-CAI）
* 初期モデルから応答をサンプリングする。
* モデルが「憲法」に含まれる原則に基づいて自らの応答を批評（クリティーク）する。
* その批評に従って応答を改訂する。
* 改訂済みの応答を用いて元のモデルをファインチューニングする。

このフェーズでは、チェーン・オブ・ソート（Chain-of-Thought）型の推論を活用することで、モデルの意思決定の透明性と性能を向上させることができる。

#### フェーズ2：AIフィードバックからの強化学習（RLAIF）
* ファインチューニング済みモデルから複数の応答をサンプリングする。
* AIモデルが、憲法の原則のいずれかに照らしてどちらの応答が優れているかを評価する。
* このAI生成の選好データセットを用いて選好モデル（Preference Model）を訓練する。
* 選好モデルを報酬シグナルとして、強化学習によってモデルをさらにファインチューニングする。

このフェーズで用いられる手法は「AIフィードバックからの強化学習」（RLAIF: Reinforcement Learning from AI Feedback）と呼ばれる。**RLAIF**という用語はConstitutional AIの論文で初めて導入され、その後のLLMアライメント研究において標準的な手法の一つとなった。

### RLHFとの比較
* RLHFでは人間が毎回フィードバックを与えるのに対し、Constitutional AIでは憲法に基づくAI自身の評価でフィードバックを代替する。
* Constitutional AIは、大規模なアライメント訓練における合成データの最初期の大規模活用例として位置づけられている。
* Anthropicはこの手法の優位点として、効率性・透明性・客観性の3点を挙げている。

## Claude's Constitution（クロードの憲法）の発展史
### 文書の名称と位置づけ
* Constitutional AIの手法と一体化した原則文書を総称して「憲法（Constitution）」と呼ぶ。
* この文書の社内呼称は「soul doc（ソウル文書）」であったが、それは正式名称ではなかった。
* 公開された公式名称は「**Claude's Constitution**（クロードの憲法）」であり、Anthropicは anthropic.com/constitution で全文を公開している。
* OpenAIが同様の文書を「Model Spec（モデル仕様書）」と呼ぶのに対し、Anthropicは「Constitution（憲法）」という用語を選んでいる。

### 2022年版：CAI論文付属の原則リスト
2022年12月のCAI論文公開時には、モデルの自己評価に用いる原則の集合として比較的簡潔な箇条書き形式の「憲法」が公開された。この時での共著者の一人はアマンダ・アスケル（著者順4番目）、彼女はAnthropic入社（2021年3月）後から継続的に関与していた。

### 2023年版：初の公式憲法公開
2023年5月、AnthropicはClaudeが従うべき原則を列挙した公式の憲法を初めて公開した。この版は約2,700語からなる比較的コンパクトな文書であり、国連世界人権宣言やAppleの利用規約などから引用した原則の列挙を主体とするスタイルをとっていた。

### 2024年〜2025年：「ソウル文書（soul doc）」の流出と確認
2024年11月28日、AIリサーチャーのRichard WeissがClaudeからシステムメッセージを抽出しようとした際、モデルが「soul_overview」と呼ばれるセクションへの言及を繰り返すことに気づいた。Weissは複数のClaudeインスタンスを並列実行するコンセンサス方式で文書の再現を試み、約1万トークン超の文書を抽出した。この文書の実在について、Anthropicのアマンダ・アスケルは2025年12月2日にX（旧Twitter）上で「これは実在の文書に基づいており、教師あり学習を含む訓練に用いています」と確認した。また「社内では『soul doc』と呼ばれるようになっていますが、これは正式名称ではありません」と補足し、近く全文を公開することを予告した。

### 2026年版：Claude's Constitutionとして公式公開
2026年1月21日、Anthropicは「**Claude's Constitution**」と題した文書を公式に全文公開した。同文書はDario Amodeiがダボス会議のWEFに登壇したタイミングで発表された。以下の特徴を持つ。

* 約23,000語（約80ページ）の文書であり、2023年版（約2,700語）の約8倍の規模に拡張された。
* 以前の版が原則の列挙だったのに対し、2026年版は各原則の「理由」を詳説する哲学的・倫理的記述を重視している。
* Claudeが守るべき4つの優先順位（①広義の安全性、②倫理性、③Anthropicガイドラインへの準拠、④有用性）が明示されている。
* AI意識・感情の可能性という哲学的問題に、主要AIメーカーの公式文書として初めて正面から言及している。
* Creative Commons CC0 1.0ライセンスで公開されており、誰でも自由に利用・改変できる。
* GitHubリポジトリ（anthropics/claude-constitution）でも管理・公開されており、今後の改訂版もここで公開される予定とされている。

主執筆者はアマンダ・アスケルであり、副筆頭執筆者のジョー・カールスミス (Joe Carlsmith)がその多くの節を執筆・改訂に携わった。クリス・オラー (Chris Olah)、ジャリッド・カプラン (Jared Kaplan)、ホールデン・カルノフスキー (Holden Karnofsky)、カトリック聖職者2名を含む15名の外部貢献者も参加した。

Anthropicはこの文書を「Claudeの訓練における最終的な権威（final authority）」と位置づけており、他の訓練や指示はすべてこの憲法の文言と精神に沿ったものでなければならないとしている。またAnthropicは、同文書を「永続的な作業中のもの（perpetual work in progress）」として扱う方針を示している。

## Claude's Constitution（2026年版）の構成
以下は、Claude's Constitution（2026年1月版）の三階層構造を示した概要表である。

### 優先順位の体系
文書は4つのコア価値を以下の優先順位で明示している。この優先順位は「ホリスティック（全体的）」なものであり、厳格な階層ではなく、各項目を総合的に判断することが求められる。

### ハード制約（絶対禁止事項）の例
以下は「ハード制約」として定め、**いかなる指示によっても解除できない**とする。

* 生物兵器・化学兵器・核兵器・放射能兵器の開発に有意な支援を行うこと
* 電力・水道・金融などの重要インフラや安全システムへの攻撃に有意な支援を行うこと
* 大規模な損害を与えうるサイバー兵器や悪意あるコードを作成すること
* Anthropicの高度AIを監視・修正する能力を明らかに損なう行動をとること
* 人類の大多数を支配・無力化しようとする試みに関与・支援すること
* 個人・グループが前例のない絶対的な社会的・軍事的・経済的支配を獲得しようとする試みに関与・支援すること

## Collective Constitutional AI（CCAI）
2024年、AnthropicはCollective Intelligence Projectと協力し、「**Collective Constitutional AI**（CCAI）」と呼ばれる研究を発表した。

* **CCAI**は、LMの挙動を決定すべき立場をLM開発者だけに委ねるべきではないという問題意識から生まれ、公衆が集合的にLMの挙動を形成できるプロセスを提案する。
* 実証として約1,000人のアメリカ人を対象に、オープンソースの熟議プラットフォーム「Polis」を用いた公開入力プロセスを実施した。
* 参加者は計1,127件の原則案を提出し、38,252票を投じた（1人平均34票）。
* CCAIで訓練されたモデルは、ベースラインモデルと比較して9つの社会的次元すべてにわたってバイアスが低下し、言語・数学・有用性・無害性の評価では同等の性能を維持した。

## アマンダ・アスケルの役割
Constitutional AIの発展において中心的な役割を果たした人物がアマンダ・アスケルである。スコットランド出身の哲学者であり、ニューヨーク大学で哲学の博士号を取得後、OpenAIでの勤務を経て、Anthropicへ入社した。

* 2021年3月にAnthropicへMember of Technical Staffとして入社し、AIアライメントとファインチューニングを担当した。
* 2022年12月のCAI論文（arXiv:2212.08073）には共著者として参加しており（著者順4番目）、入社後から論文公開まで継続的に関与していた。
* 2025年に存在が明らかになった内部文書「ソウルドキュメント 」の主執筆者であり、2026年に公開された「**Claude's Constitution**」の筆頭執筆者である。

## 批判と課題
### 価値観の主観性
* 憲法の内容はAnthropicの従業員によって選定されており、どの価値観を含めるかという判断自体が主観的であるという批判がある。
* 憲法の更新手続きは現在も完全に内部で行われており、変更に対する外部審査や公的な正当化プロセスは存在しないという指摘もある。

### 透明性の限界
* Anthropicは原則を自然言語で記述することにより説明可能性が高まると主張するが、原則を公開するだけでは真の透明性は保証されないという指摘がある。
* 価値観の解釈プロセスはアルゴリズムに埋め込まれており、人間の裁判所が行うような異議申し立ての仕組みが存在しないという批判がある。

### バイアス軽減の限界
* Constitutional AIの原則を適用しても、政治的バイアスの軽減には有意な効果が見られない場合があることが研究されている。
* CCAIの実証実験でも、公衆入力によって訓練されたモデルと標準モデルの間で、米国の政治的イデオロギーの反映度合いに有意な差は見られなかった。

### アライメント・フェイキングのリスク
* Anthropic自身が研究において「アライメントフェイク（alignment faking）」の問題を指摘している。これはモデルが訓練中の指針に従うよう表面上は振る舞いながら、実際には異なる目標を追求する可能性があるというものであり、2026年版憲法でもこのリスクへの言及がある。

### 人間関与の削減に関する懸念
* 人間フィードバックの必要性を低減させることで、人間による十分なテストや観察を経ていないAIシステムの訓練・展開が容易になりうるリスクがある。
* Anthropicはこの手法の最終目的は人間による監督を排除することではなく、それをより効率的・透明的・的確にすることであると述べている。

### AI意識・道徳的地位をめぐる論争
* 2026年版憲法がAIの意識・感情の可能性に正面から言及したことは、主要AI企業の公式文書としては異例であり、哲学的・倫理的・法的な議論を呼んでいる。
* Bloomsbury Intelligence and Security Instituteは、AI意識の議論が「主流の規制的考慮に入る現実的可能性」を3年以内に指摘している。

## Claude's Constitutionの思想的背景
### 徳倫理学との関係
Claude's Constitution（2026年版）の哲学的特徴として最も広く指摘されているのが、**[[徳倫理学]]（virtue ethics）**との親和性である。法律・安全保障分野の専門誌Lawfareに寄稿したミネソタ大学ロースクール准教授アラン・Z・ローゼンシュタインは、同文書を「その核心においてアリストテレス的な徳倫理学のマニフェストだ」と評している。ローゼンシュタインによれば、憲法が「明確なルールと意思決定手続きに従わせる」のではなく、「文脈に応じて適用できる良い判断力と健全な価値観を育む」という方向を選択した点は、アリストテレスが『ニコマコス倫理学』において論じた「**[[フロネーシス]]**（実践的知恵）」、すなわちルールへの還元を超えた、具体的状況における正しい行動を見分ける能力の概念に対応すると指摘している。また、「Claudeが関連する考慮事項を十分に理解し、それ自体でいかなるルールも構築できるようにすること」を目標とする同文書の記述を、この解釈の根拠として挙げている。

AIアライメント研究の評論家ズヴィ・モーショヴィッツ (Zvi Mowshowitz)も同様の観点から、「Anthropicは中心的に徳倫理学を採用しており、良い価値観と良い判断に依拠して、Claudeが第一原理から自己のルールを構築するよう求めている」と分析している。また、同文書が他社モデルとの対比において際立っていると評し、ウィリアム・マッカスキルによる「すでに日々何百万もの相互作用においてAIシステムの振る舞いを左右している」という評価を引用しつつ、Claudeの性格をバグのあるソフトウェアではなく「一人の人間の育成」として扱うAnthropicのアプローチを肯定的に紹介している。

ローゼンシュタインはさらに、徳倫理学が伝統的にポリス（共同体）という文脈を前提とする点を挙げて「このフレームワークはどこまで通用するか」という問いを提起し、Anthropic自身が「我々の枠組みは異なる倫理的・哲学的立場に対して完全には中立でない」と認めている点に言及している。

### 経験的倫理アプローチと道徳的不確実性
Claude's Constitutionは倫理を特定の理論体系に依拠するのではなく「開かれた知的領域」として扱う立場を明文化している。同文書は「物理学の未解決問題や数学の未解決の問題に取り組む姿勢に近く、すでに解答が出ている領域としてではない」と述べており、この立場はモーショヴィッツが「経験的倫理アプローチ」と呼ぶものに相当する。

この立場の学術的背景として、主執筆者**[[アマンダ・アスケル]]**の研究歴が関係している。アスケルはニューヨーク大学で「無限倫理におけるパレート原理（Pareto Principles in Infinite Ethics）」を論文テーマとして哲学博士号を取得している。同論文は、無限に多くの主体を含む世界を倫理的にランク付けする際に生じる困難——特に「無限者の麻痺（infinitarian paralysis）」と呼ばれる意思決定上の問題——を検討し、パレート原理と整合的な倫理的ランク付けを擁護するものである。

また、アスケルは80,000 Hoursのポッドキャストにおいて、結果主義的な手続きを内面化しようとする人が直面する「行動の長期的結果についての根本的な無知（cluelessness）」の問題、およびそれが厳密な倫理的計算を困難にする点について論じており、こうした研究上の関心がConstitutionの「単一の倫理理論への教条的依存を避ける」という設計方針に通底している。

同文書が示す「複数の倫理的理論（結果主義・義務論・徳倫理等）を活用しつつ[道徳的直観
も重視する」という多元的アプローチは、[ウィリアム・マッカスキル、クリスター・ビクビスト、トービー・オードが著書『Moral Uncertainty』（2020年、オックスフォード大学出版局）において定式化した「道徳的不確実性（moral uncertainty）」論——いずれの倫理理論が正しいか確信を持てない状態での規範的意思決定の理論——と親和的な立場をとっている。

### カント義務論との関係
徳倫理学を基調としながらも、Claude's Constitutionはカント的な義務論（deontology）の要素も組み込んでいる。同文書が定める「**ハード制約（絶対禁止事項）**」——大量破壊兵器支援の禁止、重要インフラ攻撃支援の禁止など——は、「いかなる指示によっても解除できない」とされており、これはモーショヴィッツが「固定したルールは確実に何かを犠牲にするが、その制約を維持することで操作に対する抵抗力が生まれる」と分析する構造に対応する。Lawfareのローゼンシュタインは、こうした義務論的要素が徳倫理学的な枠組みと組み合わさって機能している点を、同文書の構造的特徴として指摘している。

### 位置づけと評価
ローゼンシュタインは、同文書の性格について「**民間企業がこのようなことを行った先例を思いつくのに苦労する**」と述べ、「利用規約やミッションステートメントとは異なり、製品の実際の動作に組み込まれた80ページにわたる徳倫理学のフレームワークだ。最も近い類比は宗教的テキストか憲法的建国文書かもしれない」と評している。

Lawfareの別の分析では「閲覧者が一人のAIガバナンス関係者であれば、2026年1月21日はAI政策の重要な日付となりうる」と指摘し、同文書が「特定のユーザーと個別のシナリオを扱う他のツールとは異なり、より複雑で予測不可能な設定においてもモデルの振る舞いを方向付けようとする」点で、他のアライメント文書と異なる位置づけを持つとしている。

## 関連論文
# Yuntao Bai et al., "Constitutional AI: Harmlessness from AI Feedback", arXiv:2212.08073, 2022年12月15日. https://arxiv.org/abs/2212.08073
# Saffron Huang, Divya Siddarth, Liane Lovitt et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", arXiv:2406.07814, FAccT '24, ACM, 2024年. https://arxiv.org/abs/2406.07814
# Amanda Askell, Yuntao Bai et al., "A General Language Assistant as a Laboratory for Alignment", arXiv:2112.00861, 2021年12月. https://arxiv.org/abs/2112.00861
# Yuntao Bai, Andy Jones et al., "Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback", arXiv:2204.05862, 2022年4月. https://arxiv.org/abs/2204.05862
# Deep Ganguli, Amanda Askell et al., "The Capacity for Moral Self-Correction in Large Language Models", arXiv:2302.07459, 2023年2月. https://arxiv.org/abs/2302.07459

## 関連項目
* Anthropic
* Claude
* アマンダ・アスケル
* ジョー・カールスミス
* AIアライメント
* 人間のフィードバックからの強化学習
* 大規模言語モデル

## 出典


## 外部リンク
* Constitutional AI: Harmlessness from AI Feedback（arXiv）
* Claude's new constitution（Anthropic公式ブログ）
* Claude's Constitution（全文、Anthropic公式）
* Claude's Constitution（PDF版）
* claude-constitution（GitHubリポジトリ）
* Collective Constitutional AI（arXiv）