IFI Policy Recommendation No.25

October 2023

AI ガバナンスの国際協調

欧州評議会 AI 条約の論点と⽇本の対応
江間 有沙

東京⼤学未来ビジョン研究センター 准教授/技術ガバナンス研究ユニット
理化学研究所 客員研究員

市川 類

⼀橋⼤学イノベーション研究センター 特任教授

実積 寿也

中央⼤学総合政策学部 教授/Georgetown ⼤学 客員研究員

中川 裕志

理化学研究所・⾰新知能統合研究センター チームリーダー

⽻深 宏樹

京都⼤学法学研究科 特任教授/スマートガバナンス株式会社 代表取締役 CEO

原⼭ 優⼦

東北⼤学 名誉教授/東京⼤学未来ビジョン研究センター 客員研究員

エグゼクティブサマリー
現在、人工知能（AI）技術が広く使われ、生活や仕事に革新をもたらすことが期待されると同時に社会にもたらす影響の大きさから、国際的な機関やネットワーク、G7 広島サミットなどで AIのガバナンスが議論されている。広島サミットでは AI、特に生成 AI に関して、多様な規律の枠
組みの調和をはかり、協調的に AI ガバナンスづくりを進めていくため G7 広島 AI プロセスの創設が指示された。また、G7 広島サミットのデジタル・技術大臣会合の閣僚宣言においては、法の支配、適正手続き、民主主義、人権尊重の原則を運用できる、マルチステークホルダーが参加するアジャイルで分散的なガバナンスやその法的フレームワークの必要性が承認されている。法の支配、人権、民主主義といった価値を AI の設計から廃棄にわたるライフサイクルにおいて考慮する枠組みを議論しているのが欧州評議会であり、現在、加盟国以外もオブザーバー国として参加
する世界初の AI に関する条約の起草交渉が行われている。本条約は、枠組み条約であり、法的拘束力を有するものの、条約上の目標を達成するための手段は締約国に委ねられている。また、基本原則として AI の利用により人権侵害が発生した場合の補償の根拠とするための記録保存、リスクに基づくアプローチ（リスクベースアプローチ）の考え方によるリスク影響評価の実施、これらの義務履行に係る監督メカニズム機関の設置等が規定されている。
この欧州評議会による AI 条約については、G7 諸国は全て起草交渉に参加しており、日本もオブザーバー国として AI に関するルール形成に影響を与えられる立場にあることを踏まえると、
G7 広島 AI プロセスをリードする日本として、G7 共有の価値観に基づく AI に係るルールを世界に広げていくツールとして本条約を位置づけ、その交渉に積極的に関与すべきである。このような観点のもと、本提言では、本条約の締結に向けた交渉過程において、日本として確認しておくべき点を抽出し、以下の 3 点を提案する。
本条約の適用範囲に含まれるであろう AI 関係規制を確認し、交渉への積極的な関与をすべき
本条約を遵守するためには新規立法が必要とされるのか、既存の法令やガイドラインなど新規立法なしでも対応できるのかの判断が難しい条項が多々ある。特に、日本では、これまで AI シス
テムの開発や利用に係る横断的な規律に関しては、立法ではなくガイドライン等で対応してきており、既に存在する国内法は限定的である。また、国内において民間部門における AI 利用だけではなく、政府を含む公的部門での AI 利用に係る規律の在り方の検討も進める必要がある。さらには、海外では国防や安全保障における AI 利用の議論も進む中、経済安全保障政策の視点も含めつ
つ、国内での議論を整理するべきである。日本はオブザーバー国として、早急に関連する既存の国内法やガイドラインの存在を確認し、日本国内での AI の開発や利用を規律するために目指すべ
き方向性を明確化したうえで積極的に条約の起草交渉に参加するべきである。
リスク影響評価の方法論や体制の早急な整備をすべき
本条約は条約適用範囲内の AI システムに関して、リスク影響評価が行われるための措置を取る
べきと現時点の内容では規定している。このため、国際的に標準的なリスク影響評価手法等の動向を踏まえつつ、日本においても、関連組織が実行可能であるリスク影響評価の方法論や体制を

1

早急に整備するべきである。現在、日本政府は「AI 事業者ガイドライン」策定を進めている。ガイドラインと本条約の内容が完全に同一である必要はないものの、矛盾がないようにすることを目指すべきであり、さらに日本のガイドラインの情報発信もしていくべきである。
監督メカニズムのあり方について早急な議論を開始すべき
本条約は、条約上の義務の遵守を監視及び監督するため、独立性・公平性に加え所要の権限やリソース等を有するメカニズムを設ける義務を課すことが現時点の内容では想定されている。体制としては既存の機関を指定することや、複数の機関を条約上の監督メカニズムとすることも認められているものの、諸外国の対応も参照しつつ、将来を見据えた効率的な政府内の体制の在り方について、早急に具体的な議論を開始すべきである。
またこの監視メカニズムは個人の権利を保護し、他国に対して日本の取り組みの正当性を主張する役割も果たすと考えられる。そのため監視メカニズムに関わる既存の行政組織を考慮、指定し、AI に関わる人員増加や教育を早急に推進するべきである。また本条約の交渉段階から関わってもらう人材も早急に指名し、産学官民からの支援が得られるような体制の構築を急ぐべきである。その際、交渉当事者あるいは窓口として国内的、さらに国際的に認知されるような継続性をもって長期にわたってその職務を遂行できるような人物を監督メカニズムの主要構成員とするべきである。
本政策提言の策定プロセス
本政策提言の内容は、執筆者らが欧州評議会の AI 条約についての論点を整理していた議論に基づく。法学的観点の解釈については、大屋雄裕氏（慶應義塾大学法学部教授）、宍戸常寿氏（東京大学大学院法学政治学研究科教授）、曽我部真裕氏（京都大学大学院法学研究科教授）、山本龍彦
氏（慶應義塾大学大学院法務研究科教授）から、経済安全保障の観点に関しては、渡部俊也氏（東京大学未来ビジョン研究センター教授）からコメントをいただいた。また東京大学未来ビジョン
研究センター技術ガバナンスユニットメンバーよりコメントをいただいたほか、取りまとめに際して白石圭佑氏（公共政策学教育部専門職学位課程）の支援を受けた。ただし、本稿に事実誤認等があればその責任は執筆者らが負う。また、2023 年 7 月 11 日に東京大学未来ビジョン研究セ
1
ンター主催で「欧州評議会 AI 条約起草交渉の現状と専門家の視点」、2023 年 8 月 4 日に GLOCOM

六本木会議主催で「AI 条約のこと、知っていますか？－欧州評議会による議論と日本の対応」2と題するウェビナーを開催し、広く参加者と議論を行った。さらに、2023 年 9 月 8 日に開催された
日本インターネットガバナンスフォーラム 2023 の「AI 戦略をめぐる国際的な議論」パネル討論3でも関連する議論を行った他、インターネットガバナンスフォーラムに参加した海外有識者らと1

東京大学未来ビジョン研究センター主催「欧州評議会 AI 条約起草交渉の現状と専門家の視点」、https://ifi.u-

tokyo.ac.jp/project-news/16287/
2

GLOCOM 六本木会議主催で「AI 条約のこと、知っていますか？－欧州評議会による議論と日本の対応」、

https://roppongi-kaigi.org/event/2816/、動画視聴は以下から可能：
https://www.youtube.com/watch?v=_V3eO0hSs8s
3

Japan IGF 主催、日本インターネットガバナンスフォーラム 2023「AI 戦略をめぐる国際的な議論」、

https://japanigf.jp/meetings/japan-internet-governance-forum-2023

2

2023 年 9 月 13 日にクローズドの会合で議論を行った。今後の予定としては、2023 年 12 月に開催される情報ネットワーク法学会4にてパネル討論を行う予定である。

4

情報ネットワーク法学会第 23 回研究大会、「欧州評議会の AI 条約案の審議状況と日本への影響」

https://inlaw.jp/cf/23/#program3

1. AI ガバナンスに関する国際的な協調への取り組み
機械学習技術を中心とする人工知能（AI）技術が普及してきたことに加え、様々なコンテンツを生成する生成 AI が、多くの人に広く利用されることにより、生活や働き方に改善やイノベー
ションの期待が高まっている。このような中、経済協力開発機構（OECD）や Global Partnershipon AI（GPAI）などの国際的な機関やネットワークが議論を展開している。また、2023 年に広島で開催された G7 サミットにおいても、AI に関する多様な規律の枠組みを調和させ、AI ガバナン
スを協調的に取り組んでいくための広島 AI プロセスの創設が指示された。また、G7 広島サミットのデジタル・技術大臣会合の閣僚宣言においては、法の支配、適正手続き、民主主義、人権尊重の原則を運用できる、マルチステークホルダーが参加するアジャイルガバナンスやその法的フレームワークの必要性が承認されている。
法の支配、人権、民主主義といった価値を、AI の設計から開発、利用、運用停止にまでいたる
AI ライフサイクルにおいて考慮する枠組みを議論しているのが欧州評議会（Council of Europe：
以下、CoE）の「人工知能、人権、民主主義及び法の支配に関する枠組条約」(”The Framework
Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law”)と題する世界初の AI に関する条約（以下、AI 条約）である。CoE は、AI 条約をオブザーバー国やそれ以外の CoE 非加盟国を含めた民主主義諸国が広く参加できる枠組み条約とする方針を打ち出しており、G7 諸国は全て起草交渉に参加している。交渉においては、日本と同様にオブザーバー国であるアメリカ等も歩み寄りを重視し、多くの国が参加しやすい条約を作るという意識が共有されている。CoE は欧州域外国に対し積極的に交渉参加を働きかけており5、2023 年 10 月 4 日の CoE
閣 僚 代 理 会 合 で は AI 条 約 を 議 論 し て い る 「 AI に 関 す る 委 員 会 (Committee on Artificial
Intelligence: CAI)」へのアルゼンチン、コスタリカ、ペルーとウルグアイのオブザーバー申請が採択された6。
本条約への多くの国の締結が見込まれる状況を踏まえれば、日本としても AI 条約にどのように向き合うかを検討する必要がある。同時に、日本はアジア唯一のオブザーバー国として、起草段階の草案に対して意見を述べ、ルール形成に影響を与えられる立場にもある。このような状況に鑑みて、本政策提言では国際的な議論に資するため、AI 条約の締結に向けた交渉過程において、日本として確認しておくべき点を示す。同時に国内における AI に関するガバナンスの議論を活性化させ、この国際情勢の複雑さと日本の AI 戦略への影響を考慮しつつ、日本が本条約を締結する
場合の交渉過程および批准した場合の対応について提言を行う。

52023 年 9 月 18 日にペイチノビッチ=ブリッチ CoE 事務局長は、国連総会ハイレベルウィークにおける外相を対象としたサイドイベントで、各国に条約交渉参加を呼びかけた、https://www.coe.int/en/web/secretarygeneral/-/unga78-side-event-%C2%A0ministerial-event-on-artificial-intelligence-for-accelerating-progress-onthe-sustainable-development-goals-%C2%A0addressing-society-s-greatest-challenges
61477th meeting of the Ministers’ Deputies, 04 October 2023, decision CM/Del/Dec(2023)1477/10.1bhttps://search.coe.int/cm/pages/result_details.aspx?objectid=0900001680accb1a4

2. 欧州評議会の AI 条約起草交渉の経緯
欧州評議会とは
CoE は、「人権・民主主義・法の支配」という価値を掲げる国際機構である。設立は 1949 年と古く、欧州連合（EU）の 27 カ国を含む 46 か国である7。ウクライナ侵攻まではロシアも加盟しており（2022 年 3 月に除名）、さらに 2020 年に EU を離脱した英国、さらに EU には加盟していないスイスやトルコも CoE には加盟している。この 46 カ国に加え、教皇庁、米国、カナダ、日
本とメキシコが CoE のオブザーバーとして参加している。さらに CAI にはイスラエルもオブザーブ参加している。
AI に関する委員会と AI 条約
CoE は 2016 年ごろから AI に関する議論を開始した8。人権保障に配慮した AI などの必要性が指摘され、2019 年には CoE の閣僚委員会において「AI に関するアドホック会合(Ad hoc
Committee on Artificial Intelligence: CAHAI)」が設立され、人権・民主主義・法の支配という価値に適う AI の設計、開発、適用のための法的枠組みの実現可能性に関する検討が開始された。2年間にわたる CAHAI の議論で法的枠組み作成の準備作業を行い、2022 年 4 月には CAHAI での議論を引き継いで条約を起草する「AI に関する委員会(Committee on Artificial Intelligence: CAI)」が設立された9。CAI では法的拘束力を有する文書が必要であることが決議され、「人工知能、人権、民主主義及び法の支配に関する枠組条約」と題する世界初の AI に関する条約（以下、AI 条約）の起草に向けた議論が始まっている10。
現在、CoE では短期集中の起草交渉が行われており、2023 年 1 月に改訂版ゼロドラフトが公開された。その後の CAI 総会において各項目に対する交渉が開始され、2023 年 7 月には交渉の内容を踏まえた統合版ドラフトを公開、今後、2023 年秋から 2024 年前半にかけてさらに内容に関する交渉が進められ、2024 年 5 月に最高意思決定機関である閣僚委員会での採択を目的としている11。

7

欧州評議会そのものに関して日本語で読める書籍としては『〈人権の守護者〉欧州評議会入門』齋藤千紘、小島秀亮著、信山社（2022）を参照
8

本稿で紹介している AI 条約に関する概要は、2023 年 7 月 11 日に東京大学未来ビジョン研究センターAI ガバ

ナンスプロジェクトが開催した「欧州評議会 AI 条約起草交渉の現状と専門家の視点」の発表資料「欧州評議会
AI に関する委員会（CAI）AI 条約交渉の概要」と「開催報告全文」を参照して作成された。2023 年 7 月 11日、https://ifi.u-tokyo.ac.jp/project-news/16287/
9

日本語で読める CAHAI に関する概要に関しては、脚注 4 の本のほか、2022 年 10 月 11 日に東京大学未来ビジ

ョン研究センターが主催したイベント「『人権・民主主義・法の支配』に基づく AI 条約を目指して：欧州評議会
における起草交渉の現在」の報告資料に詳しい（https://ifi.u-tokyo.ac.jp/event/13805/）
10CoE の CAI に関するウェブサイトは以下を参照。https://www.coe.int/en/web/artificial-intelligence/cai

11

改訂版ゼロドラフト、統合版ドラフトはともに CAI のウェブサイトからダウンロードが可能

https://www.coe.int/en/web/artificial-intelligence/cai

5コラム：欧州評議会と欧州連合
同じ欧州にある国際機構である CoE と EU とを比較したのが表 1 である。ここに示したとおり、両者は、設立目的や加盟国数、法的文書等の点で異なる。AI 政策についていえば、EU では、
2021 年に欧州 AI 法案を公開し、2023 年 6 月には生成 AI に関する規制などを加筆した AI 法案（AI Act）修正案が可決された。現在は最終法案の作成作業が進行中である12。一方、前述のように、CoE は AI 条約の 2024 年前半の採択を目標としている。
EU の AI 法案の適用範囲が EU 加盟国に限定されるのに対し、CoE の AI 条約はオブザーバー
国やそれ以外の CoE 非加盟国を含めた民主主義諸国が広く参加できる枠組み条約を目指している。また CoE の AI 条約と EU の AI 法案には、多国間条約と規則というレイヤーの違いがある。
しかし、EU が AI 条約に加盟するとなれば、AI 法案は AI 条約を実施するという位置づけになる
可能性もある。両者の内容が完全に同一である必要はないものの、欧州諸国としては、少なくとも AI 条約の内容が AI 法案と矛盾がないようにすることを目指すものと考えられる。また、CoE
加盟国の大半が EU 加盟国でもあるため、AI 条約においても EU の意向は重要であり、特に EUの専権事項については、欧州委員会が EU 加盟国を代表して交渉に臨むマンデートを得ている。
表 1 欧州評議会と欧州連合13
欧州評議会 (Council of Europe: CoE)

欧州連合 (European Union: EU)

設立

1949 年

1993 年

設立目的

人権・民主主義・法の支配

政治的・経済的統合

加盟国

46 カ国

27 カ国

日本の地位

オブザーバーなし

主な機関

閣僚委員会、議員会議、地方自治体会

欧州理事会、欧州委員会、欧州議会、議、欧州人権裁判所

欧州司法裁判所

法的文書

多国間条約、加盟国への勧告

規則、指令

AI 政策

AI 条約作成開始

欧州 AI 法案可決

ガイドライン、勧告は作成済み

AI 倫理ガイドライン作成済み

3．AI 条約の全体構造と論点
全体概要
AI 条約は現在、2023 年 7 月に公開された統合版ドラフトを元に交渉を行っている。そのため今後も中身は改訂される可能性があるが、現状、表 2 のような章立てと内容となっている。

12

EU AI Act: first regulation on artificial intelligence, European parliament, 2023 年 6 月 14 日

（https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulationon-artificial-intelligence）
13

脚注 3 の発表資料「欧州評議会 AI に関する委員会（CAI）AI 条約交渉の概要」を一部改変して作成

6

表 2 AI 条約の章立てと内容
前文
第一章：一般規定（第 1 条～第 4 条）
目的やリスクベースアプローチ、AI システムの定義、適用範囲について説明
第二章：一般的な義務（第 5 条～第 6 条）
人権及び基本的自由の尊重、民主主義の健全性・法の支配の尊重
第三章：AI システムの設計、開発、利用と利用停止の原則（第 7 条～第 12 条）
例外規定（安全保障等の分野）、透明性・説明責任・プライバシー・平等・安全性などの基本原則
第四章：補償（第 13 条～第 14 条）
人権侵害に対する実効的補償の確保や手続き的なセーフガード（知る権利等）
第五章：リスクと悪影響の評価と緩和（第 15 条～第 16 条）
リスク・影響評価の方法論とトレーニング
第六章：条約の実装（第 17 条～第 22 条）
非差別、子どもや障がい者の権利、公開討議、デジタルリテラシー等
第七章：フォローアップの仕組みと協力（第 23 条～第 25 条）
締約国会議、国際的協力、リスク・影響評価履行を監督する独立の枠組みの設置
第八章：最終規定（第 26 条～第 34 条）
条約の効力、改正、紛争処理、署名と発効、加盟、領域的適用、留保、破棄、通報大前提として、本条約は枠組み条約であり、法的拘束力は有するものの、条約に定める目標を達成するための手段の選択は、原則として締約国に委ねられている14。また、既存の条約によって保護される人権を AI 利用時においても保護することを前提としている。
本条約における AI の定義は、統合版ドラフト第 3 条において「統計又はその他の数学的手法から得られる計算方法を用いて、文章、音声若しくは画像その他のコンテンツを生成し、又は人間の意思決定を支援し、若しくは代替するアルゴリズムシステム」とされており、改訂版ゼロドラ
フトには記載のなかった生成 AI も含まれることが明記された。また、AI に関する技術の進展に対応するため、締約国会議が「関連する技術の発展と整合的な方法で、この定義の解釈を決定することができる」とも規定されている。
さらに統合版ドラフトの基本原則として、リスク影響評価の手法を定めてリスクに基づいたアプローチ（リスクベースアプローチ）を採用すること、人権侵害が発生した場合に補償を行うこと、また、その前提として AI 利用の記録がなければ補償のしようがないことから、記録の保存が規定されている。加えて、適切な場合には人間によるレビューを要求することができること、評価の結果、人権等の価値と相容れない結果が出た場合には利用の一次停止や影響の緩和等の対応を必要に応じて求めること、これらを監督するために独立した監督メカニズムを設定すること等が規定されている。

14

類似の構造を持つ条約としては気候変動に関する国際連合枠組条約がある

7AI 条約起草交渉の論点
AI 条約は交渉途中であり、枠組み条約に参加するにあたって各国が取るべき必要な措置は何なのか、条約を遵守するためには新規立法が必要とされるのか、既存の法令やガイドラインで対応できるのかは解釈上重要になる。
そのため、本稿では改訂版ゼロドラフトと統合版ドラフトに書かれている内容の差分の解釈等
を通して、特に詳細な検討が必要と考えられる、①本条約の適応範囲と例外、②リスク評価の方
法論、③監督メカニズムの 3 点を整理する。いずれの論点に関する項目も合意が得られていないことを示すアスタリスクが付されており、今後の交渉の展開を注視する必要がある。
①本条約の適用範囲と例外について
公的部門と民間部門への適用
統合版ドラフトの第 4 条第 1 項には、「この条約は人権と基本的自由の尊重、民主主義の機能、及び法の支配の遵守を妨げるおそれのある AI システムの設計、開発、使用、及び運用停止に適用される」と規定している。したがって例えば警察や司法等の公的部門のために開発、利用される
AI システムは当然この条約の適用範囲に含まれる。また、関係する公的部門だけではなく、公共調達に関連する民間部門も本条約の適用対象となる。
論点は民間部門で使用される AI システムについても、人権侵害等のリスクを評価、監視する必要があるのかである。改訂版ゼロドラフトの第 4 条第 2 項においては公的部門、民間部門を問わず本条約は適用されると明示されていたが、統合版ドラフトでは各締約国が自国の憲法や法令に従って多様な解釈ができる記述となっている。このため解釈次第では民間部門の主体も本条約の適用範囲に入ることも十分に想定される。
また統合版ドラフト第 4 条第 2 項は適用範囲の例外規定として、人権等の侵害で実験や利用される以外の研究開発活動を挙げている。しかし民間の研究開発活動についても研究開発費の配分を行う公的部門が本条約に拘束されることで、事実上の影響が及ぶおそれもある。
例外規定としての国防、安全保障
改訂版ゼロドラフトでは適用範囲を定める第 4 条において「国防に関連する AI システムの設計、開発及び使用」は本条約の適用外と明示されている。一方、統合版ドラフトでは国防は安全保障等いくつかの領域とともに、第 3 章の冒頭の締約国が遵守すべき一般原則の例外として記述されている。第 4 条に規定が置かれていれば、本条約全体の例外として議論できたところである。
しかしながら第 3 章の冒頭に規定されれば、国防等に関する AI システムは同章の規定についてのみ適用を免れると解釈するのが自然である。これが交渉当事国の意図を反映しているものかは判然としない。
また、仮に第 3 章冒頭の例外規定が本条約全体の例外と議論できたとして、国防（Defense）だ
けではなく、国家安全保障（National Security）も一律例外として位置付けてよいのかは議論の余地がある。国家安全保障の目的で人権侵害となるような監視が行われる可能性もあるためである。
自律型致死兵器システム（LAWS）など、民生と軍事における AI の利用はそれぞれ別枠で議論

8

されてきた経緯がある15。今後、本条約が安全保障や国防に関する AI をどのように位置付けてい
くか注視する必要がある。
例外となる要件
統合版ドラフト第 3 章冒頭では国家安全保障と国防のほか、公共の安全、健康とモラル、国の重要な経済的及び財政的利益、司法の公平性と独立性、不法行為又は犯罪の予防、捜査および訴
追、ならびに他者の権利と自由の保護に関連する事項については、「締約国の国内法（domestic legal
system）又は国際的な法的義務の下で既に認められている場合」に限って例外とすることを認める規定となっている。
この要件がいかに解釈されるかは重要な論点である。例えばコロナ対策やテロ対策として人々の活動を制限する等の目的が公共の安全や健康とモラル、犯罪の防止等の項目に資するとみなされた場合、人権、民主主義、法の支配に関連する AI システムであっても、国内法又は国際的な法的義務で「既に」認められていれば、この条約の適用範囲外にできる。しかし裏を返せば、本条約の発効の時点で「既に」国内法等で認められていなければ、新たに国内法の整備を行う必要性が生じうるほか、状況によっては国防や安全保障等に関する例外が認められない可能性もある。
そのためこの「既に」という文言の解釈に関する議論が必要となろう。
②リスク影響評価の方法論
統合版ドラフト第 15 条では、条約適用範囲内の AI システムの設計、開発、利用及び運用停止
において生じる人権、民主主義、法の支配に対するリスクと影響を特定、評価、防止および緩和するための措置をリスクベースアプローチに基づいて取るべきと規定している。
第 15 条では具体的な方法論を示してはいないが、CAI では、本条約と並行してリスク影響評価の方法論の策定交渉も進められている。この方法論は法的拘束力を持たず、あくまでも締約国が本条約に基づくリスク影響評価を行うためのモデルとして示される16。締約国は第 15 条の要求を満足させることができるのであれば、既存のリスク影響評価の方法論を、その法的拘束力の有無にかかわらず実施していくことも可能である17。

15

外務省、自律型致死兵器システム（LAWS）について、

https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html
16

このガイドラインの名称は「人権、民主主義及び法の支配へのリスク・影響評価」であり、原語の”Human

Rights, Democracy and the Rule of Law Risk and Impact Assessment”の頭文字を取って”HUDERIA”（ヒュデリア）と呼ばれている。HUDERIA 評価のプロセスは概ね以下の通りである。まずは当該 AI 利用の文脈に基づいたリスク影響評価を行い、その結果人権等へのリスクがないと判定されれば、その後の段階には進まずにプロセスは終了する。他方、リスクありと判定された場合には利害関係者を確定、その参画を得て更なるリスク評価等を行った上で、人権等に及ぼす影響の緩和策等を講じる。これらのプロセスを当該 AI システムの利用停止まで
反復して行うことが求められる。HUDERIA の策定においては、英国アラン・チューリング研究所がたたき台となった報告書を公表するなど、深く関与しており HUDERIA のドラフトとして当研究所が CAHAI に提出した報告書もウェブサイトから閲覧することができる。Human Rights, Democracy, and the Rule of Law Assurance
Framework for AI Systems: A proposal prepared for the Council of Europe’s Ad hoc Committee on Artificial
Intelligence, https://rm.coe.int/huderaf-coe-final-1-2752-6741-5300-v-1/1680a3f688
17

第 15 条においても「各締約国は～緩和するための措置をとる（Each Party shall take measures for~）」となっ9もっとも、現状においても CAI が提案している方法論は策定中であるため、今後の作業を待つ必要がある。そのほか、現在利用可能なリスク影響評価の枠組みには、例えば米国国立標準技術
研究所（NIST）の枠組み等がある。これがいくつかの締約国に利用されることも想定されるが、そもそも評価方法自体が技術の発展とともにアジャイルに改善されていくべきであることに留意が必要である。
③監督メカニズム
統合版ドラフト第 25 条では、これまでに述べたものを含む条約上の義務について、その遵守を監視及び監督するメカニズムを設けることを要求している。この監督メカニズムには、任務の遂行における独立性及び公平性が要求されるほか、必要な権限、専門知識及びリソースを備えていることが保証されていなければならない。
ここでの論点は、例えば欧州一般データ保護規則（GDPR）が言及している「独立監督機関（Independent supervisory authorities）」ではなく、「監督メカニズム（Oversight mechanisms）」という単語を使うことにより、機関の設置以外の柔軟性をもたせたことである18。GDPR の「独立監督機関」ではその構成員の身分保障から機関の権限に至るまでが詳細に規定されるが、本条約は、条約の要求を満たす範囲であれば、監督メカニズムとして既存の機関を指定することや、複数の機関をもって本条約上の監督メカニズムとすることも認められている。
欧州発の条約によって国内行政組織の整備を求められた GDPR の事例では、日本はあくまでも非締約国の一つとして、EU 域内とのデータ移転を円滑化するためのいわゆる「十分性認定」を受けるために、EU 側が一定水準以上と認める行政機関を任意に整備したという位置付けにとどまる。しかし本条約第 25 条の規定は日本にも締約国として直接的な法的拘束力が生じることが見込
まれるため、監督メカニズムを設けることは国際法上の義務として締約国に課せられることになると考えられる。すなわち、監督メカニズムの設置は本条約締結の条件となる。
4．日本政府に対する提言
本章では、今までの論点整理をもとに、日本政府が本条約を締結する場合の交渉過程、および
批准した場合の対応について提言を行う。
本条約の適用範囲に含まれるであろう AI 関係規制を確認し、交渉への積極的な関与をすべき
日本は AI システムの開発や利用に係る横断的な規律について、立法ではなくガイドライン等で対応してきているため、「既に」存在する国内法は限定的である。かつ既存法との適用関係が不明
確な場合が多い。AI。第 3 章冒頭の例外規定の後半の文章で論点として掲げたように、本条約の定める原則の適用除外が認められる要件として、本条約の発効時点において、ガイドラインではており、法的拘束力の有無を問わない措置（measures）という単語が使われている
18

一方で統合版ドラフトには第 12 条に「自国の権限のある監督機関（supervision of its competent authorities）のもとで人工知能システムを試験するための管理された規制環境を用意する」ことが記載されている。これは第25 条の「監督メカニズム」という単語に統一し忘れてしまったために残っていると考えられ、起草構想の途中ではメカニズムではなく機関を求める議論もあったことが伺える

10

なく国内法（又は国際条約）が求められるとする条項が最終版の条約にも残るのであれば、日本としては、例えば公共の安全を目的とするものであっても、プライバシーを侵害する危険の大きい AI システムの利用を推進するような新規立法を行うことが困難になるか、本条約の規定に矛盾しないよう考慮を払う必要が生じることとなる。
特に統合版ドラフトでは全編を通して domestic law、domestic legal framework 等いくつかの単語が使われている。これらが表記ゆれであるのか、あるいは意図的に使い分けられているのか確認し、本条約の交渉過程においては、domestic legal system にガイドラインを含めてもよいのかや（そうでない場合は、ガイドラインを含むように domestic legal framework などに文言を変更するなどの交渉が考えられる）、「既に」が意味する内容を議論して必要があれば削除を求める等の積極的な関与をしていくべきである。
また、海外では国防や安全保障における AI 利用や論点の整理も進む中、日本においても AI が関連する国防や安全保障に関しても議論を国内で整理する必要がある。日本の統合イノベーショ
ン戦略推進会議の下で開催されている AI 戦略会議が 2023 年にまとめた論点整理においても「安全保障関係においても AI の利用が重要ではないかという論点があるが、情報管理上の必要性に応じて、専門部署による議論に委ねるなど、柔軟に対応すべきである。」と例外扱いされ、論点が整理されていないのが実情である19。さらに経済活動に関して行われる国家及び国民の安全を害する行為を未然に防止する重要性が増していることに鑑みて、安全保障の確保に関する経済施策を推進する基本方針の策定と 4 本柱の制度創設を目的とした経済安全保障推進法が 2022 年に成立、施行されている20。関連して、機微技術の流出防止等に係る経済安全保障政策としてセキュリティ・クリアランス制度の導入も検討されている状況にあり21、これらの法令や制度の具体的施策と本条約の関係性も検討する必要がある。
このように、オブザーバー国として起草交渉の段階から関与できる立場を生かし、日本としてはどのような関連する国内法やガイドラインが存在するのかを確認し、日本国内での望ましい方
向性を早急に意思決定した上で、積極的に条約の交渉に関与していくべきである。
リスク影響評価の方法論や体制の早急な整備をすべき
前章で指摘したように、この条約の適用範囲は公共部門に限定され、民間部門はその調達活動にのみ包含されると解釈される可能性がある。もっとも日本においては、公的部門の一部である裁判所が本条約に拘束された結果として、民間部門（私人）間の紛争が訴訟に発展した場合に、裁判所が本条約を国内法令の解釈指針として援用することも考えられる。また、本条約の対象として民間部門が含まれることが明確になれば、本条約の影響が及ぶ範囲が飛躍的に拡大する。
そのため、国際的に標準的なリスク影響評価手法等の動向を踏まえつつ、日本においても、関連組織が実行可能であるリスク影響評価の方法論や体制を早急に整備する必要がある。特に、統19

内閣府 AI 戦略会議、AI に関する暫定的な論点整理 、

https://www8.cao.go.jp/cstp/ai/ai_senryaku/2kai/ronten.pdf
20

経済産業省、経済安全保障推進法、https://www.meti.go.jp/policy/economy/economic_security/index.html

21

内閣官房、セキュリティ・クリアランス制度等に関する有識者会議、

https://www.cas.go.jp/jp/seisaku/keizai_anzen_hosyo_sc/index.html

11

合版ドラフトの第 13 条では人権侵害等が発生した場合には補償することや、そのために AI シス
テム関連の利用状況記録を保証する適切な措置が規定されている。この点から実現可能性なども考慮に入れたリスク影響評価の方法論を考える必要がある。
日本は 2023 年現在、総務省の AI 開発と利活用ガイドライン22と、経済産業省の AI 原則実践のためのガバナンス・ガイドライン23を統合した「AI 事業者ガイドライン」の策定に向けた検討が進められている。同ガイドラインのスケルトン（案）24は、「法の支配、人権、民主主義」等を尊重するよう AI システムを設計・利用する責務が各主体にあることや、リスクベースアプローチを採用するなど、AI 条約の理念と方向性を一にしている。本条約の批准後に、国内ガイドラインと CAI が策定している方法論など複数の手法が混在しないようにするためにも CAI が策定している具体的な評価の方法論の動向を注視し、日本のガイドラインの情報を交渉の場に発信していくべきである。
監督メカニズムのあり方について早急な議論を開始すべき
本条約の締約国は、遅くとも本条約が発効するまでの間に、国内の AI 関連規制の在り方を決定して準備し、リスク影響評価の方法論や体制の整備をすると同時に、その遵守を監視及び監督するメカニズムの整備を並行して行うことが求められることが想定される。
実際の体制としては、もし監視機関を新たに設置するのであれば、本条約が要求するような独立性と専門性を備えたいわゆる三条委員会25の設置が選択肢に入ると思われるが、本条約においては既存の関係行政機関を監督メカニズムとして指定することも排除されていない。そのため、
例えば専門性を有する既存の行政機関に監督権限を属させるとともに、その決定に対する不服を訴訟手続の中で解決する裁判所を組み合わせたシステムを条約上の監督メカニズムとみなすこと
で、司法府を含めた広義の日本政府全体として専門性と独立性を両立させるといった対応が許容される余地もあるように思われる。
またこの監視メカニズムは個人の権利を保護し、他の締約国のカウンターパートに対して日本の取組の正当性を主張するなどの国益を代表する役割も果たすことが想定される。この点からも監視メカニズムに関わる可能性を持つ既存の行政組織を考慮、指定し、AI に関する人員増加や教育を早急に推進するべきである。また、交渉の段階から本条約に関わってもらう人材も早急に指名し、産学官民からの支援が得られるような体制の構築を急ぐべきである。その際、交渉当事者
あるいは窓口として国内的、さらに国際的に認知されるような継続性をもって長期にわたってその職務を遂行できるような人物を監督メカニズムの主要構成員とするべきである。
いずれにしても本条約が要求する組織の水準と、日本として備えるべき AI ガバナンスに係る監22

総務省 国際的な議論のための AI 開発ガイドライン案

https://www.soumu.go.jp/main_content/000490299.pdf、利活用ガイドライン
https://www.soumu.go.jp/main_content/000624438.pdf
23

経済産業省 AI 原則実践のためのガバナンス・ガイドライン Ver.1.1

https://www.meti.go.jp/press/2021/01/20220125001/20220124003.html
24

新 AI 事業者ガイドライン スケルトン（案）、https://www8.cao.go.jp/cstp/ai/ai_senryaku/5kai/gaidorain.pdf

25

国家行政組織法第 3 条第 2 項（同旨の規定である内閣府設置法第 49 条第 1 項を含む。
）に規定される府省の外局たる委員会を指す

12

督メカニズムの在り方を考慮するとともに、諸外国の対応も参照しつつ、将来を見据えた効率的な政府内の体制の在り方について、早急に具体的な議論を開始するべきである。
5．本条約の国際的な意義と日本の AI ガバナンス戦略の展望
本提言では、AI 条約の統合版ドラフトの解釈を提示し、今後日本が取るべき対応を整理した。
AI サービスやシステムは、国や地域をまたいで開発、運用及び利用される。欧州、アメリカ、グローバルサウス、東アジア等様々な地域間のパワーバランスが変化し、地政学上の課題が噴出しつつある現代にあっては、AI の開発や利用をどのような価値観に基づいて行うかが問われている。
このような情勢の中で CoE は、本条約を民主主義陣営諸国共通の条約にすることを企図している。
本提言が今後の欧州評議会の AI 条約における起草交渉、さらには今後の日本の AI 戦略の在り方の検討材料に資するものとなることを期待する。

13