フロンティアAI安全協定

**フロンティアAI安全協定**（フロンティアAIあんぜんきょうてい、）は、フロンティアAI（最先端汎用人工知能）モデルおよびシステムの安全かつ責任ある開発・展開を確保することを目的とした、AI企業による自発的な国際的取り組みの枠組みである。

2024年5月21日、韓国・ソウルで開催されたAIソウルサミットにおいて、イギリスおよび大韓民国政府の主導のもと、16の企業・組織が初めて署名した。その後、さらに4組織が加わり、合計20組織が署名している。

## 背景
2023年11月1日から2日にかけて、イギリスのバッキンガムシャーに位置するブレッチリー・パークにおいて、初のAI安全性サミット（AI Safety Summit 2023）」が開催された。同サミットには、各国政府代表、主要AI企業の幹部、学術・市民社会の専門家ら約150名が参加した。

サミットの焦点は「フロンティアAI」（高度な汎用目的AIモデルのうち、最先端の性能に匹敵ないし凌駕するもの）が社会にもたらすリスクの特定と、国際的な対応の枠組み構築であった。

同サミットの最大の成果として、アメリカ・中国を含む28か国および欧州連合（EU）がブレッチリー宣言（Bletchley Declaration）」に署名し、フロンティアAIのリスクを協調して管理していくことへの集団的なコミットメントが示された。また、サミットと並行して、イギリス政府はAI安全機関（AI Safety Institute, AISI）の設立を発表した。

ブレッチリー・パーク・サミットでは、Amazon・Anthropic・DeepMind・Meta・Microsoft・OpenAIなど8社のAI企業が、将来モデルの独立評価・テストへの協力について原則的な合意を示した。これが翌年のAIソウルサミット2024における正式な「**フロンティアAI安全協定**」の締結へとつながった。

## 協定の採択
2024年5月21日から22日にかけて開催された「AIソウルサミット（AI Seoul Summit 2024）」において、イギリスおよび大韓民国政府の共同主催のもと、16の組織が正式に「**フロンティアAI安全協定**」へ署名した。同サミットは、安全（Safety）・革新（Innovation）・包摂性（Inclusivity）の3つの優先課題を掲げ、ブレッチリー・パーク・サミットの成果を発展させることを目的としていた。

その後、Magic・MiniMax・01.ai・NVIDIAの4組織が新たに加わり、署名組織数は合計20となった。

## 定義
協定において、以下の主要な用語が定義されている。

;フロンティアAI（Frontier AI）
:高度な汎用目的AIモデルまたはシステムのうち、多様なタスクを実行でき、最先端のモデルに匹敵ないし凌駕する能力を有するもの。

;ホーム政府（Home Government）
:各組織が本社を置く国の政府。

;閾値（Thresholds）
:モデルの能力・リスクの推定・実装された安全措置・展開のコンテキストなど、関連するリスク要因を用いて定義されるリスクの許容上限。

## 協定の内容
協定は、3つの「アウトカム（成果目標）」と、それに対応する8項目のコミットメントから構成される。

### アウトカム1：リスクの特定・評価・管理
;コミットメントI
: フロンティアモデルまたはシステムのAIライフサイクル全体（訓練前・訓練中・展開前を含む）にわたるリスクを評価する。リスク評価には、モデルの能力・展開コンテキスト・緩和措置の有効性、ならびに独立した第三者評価機関やホーム政府による評価結果を考慮すること。
;コミットメントII
: リスクが適切に緩和されない場合に許容できない（intolerable）深刻なリスクの閾値を設定し、その閾値への近接度を継続的に監視すること。閾値の設定には、ホーム政府を含む信頼できる関係者の意見を取り入れ、各国が締結している関連する国際協定と整合させる必要がある。
;コミットメントIII
: リスクを閾値内に収めるためのリスク緩和措置をどのように特定・実施するかを明確に示すこと。これにはシステムの動作修正や、未公開モデルの重みに対するセキュリティ管理の強化が含まれる。
;コミットメントIV
: モデルやシステムのリスクが事前定義の閾値に達する、またはそれを超える場合に従う明示的な手続きを定めること。緩和措置によってもリスクを閾値以下に保てない場合には、モデルやシステムの開発・展開を行わないことへのコミットメントを含む。
;コミットメントV
: リスクの評価・特定・緩和の能力を継続的に向上させること。国際標準および新興のベストプラクティスを取り入れることを含む。

### アウトカム2：責任の明確化
;コミットメントVI
: コミットメントI〜Vを遵守するために、内部的な説明責任・ガバナンス枠組みを構築・継続的に見直し、役割・責任・十分なリソースを割り当てること。

### アウトカム3：外部への透明性の確保
;コミットメントVII
: リスクの増大や商業上の機密情報の漏洩が社会的利益に不釣り合いな形で生じない限り、コミットメントI〜VIの実施状況について公開での透明性を確保すること。非公開情報については、ホーム政府を含む信頼できる関係者と共有する必要がある。
;コミットメントVIII
: 政府・市民社会・学術機関・一般市民などの外部関係者が、自社のAIモデルやシステムのリスク評価、安全枠組みの妥当性評価、および当該枠組みへの遵守確認のプロセスにどのように関与するかを説明すること。

### 付随的なコミットメント
協定は、上記の主要コミットメントに加え、署名組織が現時点のベストプラクティスとして実施すべき事項を列挙している。

* フロンティアAIモデルおよびシステムへの内部・外部レッドチーミング（深刻かつ新規の脅威に対する）
* 情報共有に向けた取り組み
* 未公開モデルの重みを保護するためのサイバーセキュリティおよびインサイダー脅威への対策強化
* 第三者による問題・脆弱性の発見・報告の奨励
* 音声・映像コンテンツがAI生成であることをユーザーが判別できる仕組みの開発・展開
* モデルやシステムの能力・制限・適切および不適切な利用領域の公開報告
* フロンティアAIモデルおよびシステムが社会にもたらすリスクに関する研究への投資
* 世界的な課題の解決に向けたフロンティアAIの開発・展開

## 署名組織
AIソウルサミット（2024年5月）において最初に署名した16組織は以下のとおりである。

* Amazon
* Anthropic
* Cohere
* Google
* G42
* IBM
* Inflection AI
* Meta
* Microsoft
* Mistral AI
* Naver
* OpenAI
* Samsung Electronics
* Technology Innovation Institute
* xAI
* Zhipu.ai

その後、以下の4組織が新たに加わった。

* Magic
* MiniMax
* 01.ai
* NVIDIA

署名組織は北米・ヨーロッパ・中東・アジアにまたがる多地域の企業で構成されており、アメリカ・中国・フランス・韓国・UAE・カナダなどの主要なAI開発国の企業が参加している点が特徴である。特に、中国最大の大規模言語モデル提供企業であるZhipu.aiの参加は、米中間のAI規制アプローチの相違を考慮すれば注目に値する。

## 国際的な文脈
AIフロンティア安全協定は、2023年以降に世界各地で進められてきたAIガバナンスに関する一連の国際的取り組みの一環として位置づけられる。

* 2023年7月、ホワイトハウスが主導し、Amazon・Anthropic・Google・Inflection・Meta・Microsoft・OpenAIの7社が自発的なAI安全コミットメントに署名し、後に計15社へと拡大した。
* 2023年11月のブレッチリー・パーク・サミットは、AIフロンティア安全協定の直接的な前身にあたり、同サミットで採択されたブレッチリー宣言は28か国とEUが署名した。
* 協定への署名はAIソウルサミットで正式に行われ、同サミットでは「ソウル宣言（Seoul Declaration）」にオーストラリア・カナダ・EU・フランス・ドイツ・イタリア・日本・韓国・シンガポール・アメリカ・イギリスの27か国とEUが署名した。
* 協定の署名組織は、2025年2月にフランスで開催されたAIアクションサミット（AI Action Summit, Paris）までに、深刻なリスクに焦点を当てた安全枠組みを公表することが求められていた。

協定の内容は、中国のAI安全コミットメント（中国が独自に策定したAIガバナンス原則）にも反映されており、フロンティアAI安全基準に関する国際的なコンセンサス形成に貢献しているとされる。

## 評価と批判
### 肯定的評価
AIフロンティア安全協定は、ブルッキングス研究所など複数の政策研究機関から、グローバルなAI安全協力の礎となりうる重要な進展として評価されている。特に、アメリカ・中国双方の企業が参加している点は、両国のテクノロジー規制アプローチの相違を踏まえても、国際的な意義が大きいと指摘されている。

### 批判
* 法的拘束力を持たない自発的コミットメントであることへの懸念が、専門家や市民社会グループから表明されている。
* ホワイトハウスの自発的コミットメントやOECDのAIシステム開発組織向け行動規範と比較して、具体性が低いとの批判もある。たとえば、ホワイトハウスの自発的コミットメントやOECDの行動規範にはレッドチーミングやコンテンツのウォーターマーキングに関する具体的なコミットメントが含まれているのに対し、AIフロンティア安全協定はより原則的な内容にとどまっている。
* 自発的なコミットメントに署名する企業は、すでに実施済みの業務慣行を「コミットメント」として提示するインセンティブを持ちやすく、透明性・情報共有などの分野での進展は限定的になりがちであるとの指摘もある。
* 2025年2月のパリAIアクションサミットでは、フロンティアモデルのリスクよりもAIの「機会」と「利益」が強調されたとして、一部の市民社会グループから失望の声が上がった。協定の将来的な実効性については依然として不透明な部分がある。
* AIの安全性に関する投機的・実存的リスクへの過度な注目が、現在すでに存在するプライバシー・公平性・透明性・倫理的問題への規制対応から目をそらせるとの批判も存在する。

## 関連項目
* ブレッチリー宣言
* AI安全性サミット2023
* AIソウルサミット2024
* AIアクションサミット2025
* AI安全機関（AI Safety Institute）
* EU AI法
* ホワイトハウスAI自発的コミットメント（2023年）

## 脚注

## 外部リンク
* Frontier AI Safety Commitments, AI Seoul Summit 2024 - 英国政府（GOV.UK）公式全文
* The Bletchley Park process could be a building block for global cooperation on AI safety - ブルッキングス研究所
* AI Policy Corner: Frontier AI Safety Commitments - モントリオールAI倫理研究所