集合知プロジェクト

**集合知プロジェクト**（しゅうごうちプロジェクト、、略称：**CIP**）は、変革的テクノロジーに対する新たなガバナンスモデルを研究・開発することを目的としたアメリカ合衆国の非営利研究開発組織である。2022年8月にディヴィヤ・シッダース（Divya Siddarth）とサフラン・フアン（Saffron Huang）によって設立された。本部はカリフォルニア州サンフランシスコに置く。

CIPのミッションは、集合知（Collective Intelligence）の能力——集団が共有された目標に向けて協力する意思決定技術、プロセス、および制度——を研究・開発し、それを変革的テクノロジーのガバナンスに応用することである。

## 設立と背景

CIPは2022年8月、マイクロソフト最高技術責任者室（Office of the CTO）出身の政治経済学者ディヴィヤ・シッダースと、Google DeepMind出身の研究エンジニア、サフラン・フアンによって共同設立された。ジャスミン・ワン（Jasmine Wang）も創設時の共同創設者として参加した。

設立の背景には、既存の民主主義制度や市場機構が、パンデミック、気候変動、技術リスクといった複雑な集合的課題に対して不十分であるという認識があった。CIPの創設者たちは、AIをはじめとする変革的テクノロジーのガバナンスに集合知の手法を適用することで、より公正で民主的な技術開発のあり方を模索しようとした。

2024年、シダースとファンはその活動が評価され、TIMEが選出する「2024年AIにおける最も影響力のある100人」（TIME 100 Most Influential People in AI 2024）に選ばれた。

## 組織

CIPは非営利のR&D機関として運営されており、エグゼクティブ・ディレクターはディヴィヤ・シッダースが務める。サフラン・フアンは現在テクノロジー・アドバイザーを務め、Anthropicの研究科学者として在籍している。

### 主なスタッフ

;ディヴィヤ・シッダース（Divya Siddarth）
:共同創設者・エグゼクティブ・ディレクター。スタンフォード大学で計算意思決定分析の学士号（2018年）を取得。マイクロソフト最高技術責任者室、オックスフォード大学AI倫理研究所、オストロム・ワークショップ（Ostrom Workshop）などを経てCIPを設立。英国AI安全研究所（AI Safety Institute）でAIと民主主義の担当を務めた経歴も持つ。
;サフラン・フアン（Saffron Huang）
:共同創設者・テクノロジー・アドバイザー。DeepMindの研究エンジニアを経てCIPを共同設立。英国AI安全研究所の設立にも関与した後、Anthropic社会的影響チームの研究科学者に転じた。
;オードリー・タン（Audrey Tang, 唐 鳳）
:上席研究員（2024年～）。台湾初のデジタル担当大臣（2016〜2024年）。TIMEが選出する「2023年AIにおける最も影響力のある100人」にも選ばれた。
;ザリナ・アグニュー（Zarinah Agnew）
:リサーチ・ディレクター。

## 主要活動・プロジェクト

### アライメント・アセンブリ（Alignment Assemblies）

アライメント・アセンブリは、AIの開発と展開に際して一般市民が意見を反映させるための熟議民主主義プロセスである。CIPが2023年2月に開始し、Pol.is（計算民主主義プロジェクトが開発するオープンソースのオンライン熟議プラットフォーム）などのツールを活用して実施された。

### アライメント・アセンブリの主な実施例

;Anthropicとの協働
:約1,000名のアメリカ人代表者を対象にAIシステムの価値原則（「憲法」）を集合的に策定するプロセスを実施し、Collective Constitutional AI（CCAI）の研究につなげた。
;台湾デジタル省（moda）との協働
:生成AIのガバナンスに関するIdeasthonプロセスを適用し、AIに関する公衆のニーズとリスクについての社会的合意形成を目指した。
;OpenAIとの協働
:LLMのリスクと危害について米国市民が最も懸念する事項を順位付けするプロセスを実施し、モデル評価と規制に関する知見を提供した。
;Creative Commonsとの協働
:CC（クリエイティブ・コモンズ）ライセンス作品のAI学習への利用に関する方針策定に向けた公衆意見収集プロセスを実施した。
;英国フロンティアAIタスクフォースとの連携
:英国AI安全サミット（ブレッチリー・パーク、2023年11月）にも参加し、政府機関との協働を推進した。

### Collective Constitutional AI（CCAI）

2023年、CIPはAnthropicと共同で「Collective Constitutional AI（集合的憲法的AI、CCAI）」の実証実験を行った。この実験では、Pol.isプラットフォームを使用して約1,000名のアメリカ人からAIモデルの行動を規定する原則（「憲法」）を集合的に策定し、それに基づいてClaudeと同規模のモデルをファインチューニングした。この研究により、公衆由来の憲法で訓練されたモデルは、Anthropicが内部で策定した憲法で訓練したベースラインモデルと比較して、9つの社会的次元においてバイアスが低いことが示された。

この取り組みは知識の一般公衆がオンライン熟議プロセスを通じて大規模言語モデルの挙動を集合的に設計した世界初の事例の一つとして、学術的に評価されている。

### グローバル・ダイアローグ

グローバル・ダイアローグ（Global Dialogues）は、ProlificおよびRemeshとの協力のもと実施されている継続的なAIガバナンスのための国際的公衆対話プロジェクトである。70か国以上から参加者を集め、隔月でAIが社会に与える影響についての熟議を行う。

2025年には7回の対話ラウンドを通じて70か国以上から6,000人以上が参加し、その成果は「2025年グローバル・ダイアローグ・インデックス」として公開された。

### コミュニティ・モデルズ

コミュニティ・モデルズ（Community Models）は、AI対応の熟議ツールを用いて、任意のコミュニティが独自の「憲法」（価値原則の集合）を集合的に策定し、それに基づいてオープンソースの言語モデルをファインチューニングできるプラットフォームである。Anthropicとの共同研究CCAIを基礎として開発された。

### 民主的 AI のロードマップ

2024年3月、CIPは「民主的AIのロードマップ（A Roadmap to Democratic AI）」を公表した。このロードマップは、AIエコシステムを民主化するために2024年に実施可能な具体的手順を、モデル訓練・評価・データサプライチェーン・企業統治・政府投資など多岐にわたる領域にわたって網羅的に提示したものである。

## パートナーシップ

CIPはAI開発・ガバナンスに関わる多様な機関と連携している。

;Anthropic
:Collective Constitutional AIの共同研究を実施したほか、アライメント・アセンブリでの協働を継続している。
;OpenAI
:LLMリスクに関する公衆意見収集プロセスを共同で実施した。
;台湾デジタル省（moda）
:生成AIガバナンスに関する政策形成への市民参加プロセスを共同で推進した。
;英国AI安全研究所
:（旧英国フロンティアAIタスクフォース）
:英国政府のAI安全政策への市民関与モデルの構築に貢献した。
;Creative Commons
:CC作品のAI学習利用に関する方針策定を目的としたアライメント・アセンブリを実施した。
;オードリー・タン（台湾初デジタル大臣）
:台湾のvTaiwan・Join等の参加型民主主義プラットフォームを通じた連携を深め、同氏は2024年にCIPの上席研究員に就任した。

## 主要論文

# Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli. “**Collective Constitutional AI: Aligning a Language Model with Public Input**”. ’‘Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘24)’’. June 2024. DOI: 10.1145/3630106.3658979
# Divya Siddarth, Saffron Huang. “**Generative AI and the Digital Commons**”. 2022. (Working paper, CIP)
# Divya Siddarth, Saffron Huang. “**Collective Intelligence over Artificial Intelligence**”. In ‘‘AI Morality’’. Oxford University Press. （寄稿章）
# Divya Siddarth, Saffron Huang, Audrey Tang. “**A Vision of Democratic AI**”. ‘‘The Digitalist Papers’’. Stanford Digital Economy Lab.
# Collective Intelligence Project. ‘‘**A Roadmap to Democratic AI**’’. Technical report, The Collective Intelligence Project, 2024. URL: CIP Roadmap PDF

## 評価と影響

CIPの活動は、「AI開発における民主的ガバナンスの実践例」として広く注目されている。設立者のシダースとファンは、2024年TIMEが選ぶ「AIにおける最も影響力のある100人」に選出されており、CIPの取り組みは『ニューヨーク・タイムズ』でも複数回報じられた。

研究者たちからは、CCAIが「大規模言語モデルの価値整合に公衆の視点を取り込んだ先駆的実験」として位置づけられており、AIの民主的整合分野における参照事例として複数の学術論文で引用されている。

## 脚注

## 外部リンク

* 公式ウェブサイト（英語）
* Global Dialogues 公式サイト（英語）
* Collective Constitutional AI 論文（arXiv）（英語）