Hitotsubashi University
Institute of Innovation Research

世界の人工知能（AI）ガバナンス制度の進化メカニズム～技術と制度の共進化の中での地域的多様性による制度
イノベーションの進展～

市川類

IIR Working paper WP#23-01

2023年3月

Evolutionary Mechanism of AI Governance in the World- institutional innovation caused by regional diversity as a part ofco-evolution of technology and institution -Tagui Ichikawa

一橋大学イノベーション研究センター
東京都国立市中2-1
http://www.iir.hit-u.ac.jp
本ケースの著作権は、筆者もしくは一橋大学イノベーション研究センターに帰属しています。
本ケースに含まれる情報を、個人利用の範囲を超えて転載、もしくはコピーを行う場合には、一橋大学イノベーション研究センターによる事前の承諾が必要となりますので、以下までご連絡ください。
【連絡先】 一橋大学イノベーション研究センター研究支援室℡: 042-580-8423 e-mail: chosa@iir.hit-u.ac.jp

世界の人工知能（AI）ガバナンス制度の進化メカニズム～技術と制度の共進化の中での地域的多様性による制度イノベーションの進展～
一橋大学イノベーション研究センター教授
市川類2023 年 3 月 8 日

概要
近年、人工知能（AI）技術の進展と普及が世界的に急速に進んでおり、今後、世界各国の経済成長、国民生活の向上、社会課題の解決への寄与などが大きく期待されている。一方、
AI 技術の利用は、人類・地域社会の共有する社会規範に対しリスクを生じさせ得るものであり、そのリスクを受容可能な範囲に低減すべく AI ガバナンス制度の在り方への関心が高まっている。特に AI 技術は、いわゆる人の知的能力の一部を代替し、あるいはそれを超える能力をコンピュータ上で実現可能とするものであり、人類社会全体の在り方にも大きな影響を与え得ることから、今後、世界における AI ガバナンス制度をどのような方向に進めて行くかは、人類にとっても大きな課題である。
この AI ガバナンス制度については、現在、世界各国・地域において検討されており、原則として、利害関係者等との議論を通じて自ら最適と考えるものが提案されてきているものと考えられる。しかしながら、実際には、それぞれの地域的状況を背景に、多様な制度が提案されており、その多様性の中で、世界全体の AI ガバナンス制度がどのように形成され、進化していくのかについては、ほとんど分析・考察がなされていないのが現状である。
このような問題意識の下、本ワーキングペーパーにおいては、「技術と制度の共進化」との枠組みの下で、世界における AI ガバナンス制度の進化のメカニズムを明らかにすることによって、今後の世界の AI ガバナンスの在り方の議論に資することを目的とする。
具体的には、まずは、「技術と制度の共進化」という視点から、AI ガバナンス制度に係る検討の枠組みを設定し、このうち、特に「制度」としての技術ガバナンスに関しては、その国・地域において共有される社会規範に応じて、当該国家統治システムの中で形成されるという枠組みを設定する。その上で、このような枠組みの下で、特に社会規範や国家統治シ
ステムなどに係る地域差が、世界の AI ガバナンス制度の進化を引き起こすメカニズムを実証的に明らかにする。具体的には、欧州、北米、日本などの先進民主主義国を対象にして、世界的において多様に構築されつつある AI ガバナンス制度を比較分析し、その要因を抽出するとともに、それぞれの制度が提案された経緯を時系列に分析することにより、各国・地域の AI ガバナンス制度が、それそれの多様な地域的要因に基づきつつも、欧州 AI 法を中心に互いに影響を受け、改善工夫や新機軸の検討がなされることにより、「制度イノベーション」が生じつつあるというメカニズムを明らかにする。
このようなメカニズムを明らかにすることによって、この「技術と制度の共進化」という枠組みを踏まえつつ、世界の AI ガバナンス制度の今後の方向について考察を行う。
キーワード
人工知能、AI ガバナンス、イノベーション政策、規制

1

目次
概要
1
目次
2
１．はじめに
3（１）AI 技術の進展とガバナンス制度の必要性
3①AI 技術のイノベーションの進展
3②世界の AI 戦略とその AI ガバナンス制度政策
6（２）問題意識：AI ガバナンス制度の進化メカニズム
9（３）本ワーキングペーパーの構成
10２．研究の枠組みとその既存研究
12（１）技術と制度の共進化のメカニズム
12①「技術と制度の共進化」の枠組み（全体像）
12②技術進化：イノベーションシステムと AI 投資・普及率を巡る状況
14③制度進化：社会規範と国家統治システムを通じた技術進化への対応
19（２）AI 技術とそのリスク・ガバナンス制度
21①AI 技術の定義とそのリスクの種類
21②AI ガバナンス制度とその種類
28③社会規範の差異と AI ガバナンス制度への影響
32
３．世界の AI ガバナンス制度の比較とその要因分析
34（１）世界各国・地域の AI ガバナンス政策の国際比較
34①政府戦略における AI ガバナンスの位置の国際比較
34②世界各国・地域の AI ガバナンス制度に係る国際比較
36（２）AI ガバナンスの地域差に係る要因分析（考察）37①AI ガバナンス制度の地域差に係る要因の考え方
37②AI ガバナンス制度の必要性に係る社会・市民の認識の差異の要因（A、B） 39③AI ガバナンスに係る政府対応の内容の差異の要因
41
４．世界の AI ガバナンス制度の進化メカニズム
43（１）世界の AI ガバナンス政策の進化に向けた動き
43①OECD AI 原則とその直後の動向（欧州、シンガポール）
44②欧州（EU）の動向：AI 法案の提案とその後の動き
45③米国・カナダの動向：法案提案の動きとガバナンス制度の改善工夫
50④英国、日本の動向：非拘束的手法の志向とデジタル規制に係る新機軸
57（２）世界の AI ガバナンス制度に係る進化メカニズムと今後の方向
61①これまでの世界の AI ガバナンス制度の形成要因と進化メカニズム（まとめ） 61②今後の世界の AI ガバナンス制度の進化の方向（考察）65
５．今後の検討課題
682

１．はじめに（１）AI 技術の進展とガバナンス制度の必要性①AI 技術のイノベーションの進展＜AI 技術の発展と社会変容＞
近年のデジタル技術の継続的な進展の中で、急速に社会に台頭してきた人工知能（AI）技術は、2015 年頃から始まった第三次 AI ブームを経て、現在、世界全体における経済社会での利用と普及が急速に加速しつつある。
この人工知能（AI）技術は、汎用技術であるデジタル技術の一種であるとともに、非常に革新的な技術であることから、その導入普及による社会・経済へのインパクトは非常に大きい。具体的には、この AI 技術は、様々な情報システムに組み込まれ（AI システム）、その普及が進展することによって、従来のプロセスの生産性向上、新たなビジネスモデルの創造など、情報メディア産業、金融保険・不動産業、商流物流業、製造・建設業、農林水産業、
医療・教育産業、飲食観光業、行政事務分野など非常に広範囲にわたる分野でのデジタルイ
ノベーション（DX）を引き起こすことになる。このため、今後の世界における経済成長、国民生活の向上、社会課題の解決などに寄与するものとして多大な期待がなされている。
特に、AI 技術は、各種のビッグデータを利用することにより、一定の枠（フレーム）の内で、これまで人間が行ってきた知的作業を代替し、また、場合によってはそれを超える能力を有することより、より高度かつ迅速な判断がコンピュータ上で実現できることになる。
このため、AI 技術は多くのビジネスを変容させるとともに、全く新たなビジネスを生み出すことができることから、AI 技術が組み込まれた情報システム（AI システム）が普及することによって、市民の生活の在り方自体も含めて、社会を大きく変容させることになる。
＜人工知能技術に対する関心の更なる高まり＞
このような中、世界的にみると、人工知能（AI）技術に対する関心は、第三次人工知能ブーム時のピークを引き続き維持するとともに、むしろ近年再度高まってきている。これは、通常の多くの新興技術の多くの場合は、一時期の関心のピークを超えると、いわゆる「幻滅」として世間的な関心が低下する傾向があるのに対して、特徴的な傾向であると言える。
実際に、グーグルトレンドにおける「人工知能（日本語）」「Artificial Intelligence（英語：世界）」の検索数の推移をみると、世界全体では、2018 年ごろに一旦ピークを迎える
ものの、その後も関心は継続し、また 2022 年になって再度 AI に対する関心が更に高まってきているという状況にある（図１参照）。なお、これに対して、日本では、世界に先駆けて 2016 年ごろに人工知能への関心が世界的にも非常に高いレベルでピークを迎えたものの、その後徐々に関心が低下してきているという対称的な傾向を示している。

3

【図１】グーグルトレンドで見る「人工知能」「Artificail Intelligence」の検索動向1

このように世界的な AI に対する関心の継続とその更なる高まりの要因としては、世界において、AI 技術の経済社会への導入が急速に進展することにより新たな関心を生成しているためだけではなく、米国を中心に新たな AI 技術が次々と登場し、例えば、特に 2022 年以降については生成 AI など新たな AI 技術が話題になってきていることも一因であると考えられる。さらに、それに加えて、AI の導入普及の進展に伴って、AI による社会的なリスクが顕在化し、それゆえに社会的な関心が高まってきていることもその要因の一つとして考えられる。
＜人工知能技術の継続的・加速的進展と導入普及の進展＞
実際に、この AI 技術の発展は、世界的に見ると、一時期のブームにとどまることなく、現時点でも継続的かつむしろ加速しつつある。例えば、世界における民間 AI 投資（ベンチャー企業など AI 企業への民間投資）は、第三次 AI ブーム開始以降の現在においても、引き続き右肩上がりで増加している（図２参照）。その結果、2021 年は、全体で約 1765 億ドル（＝約 23 兆円。1$＝130 円換算）であり、うち、AI ベンチャー等への投資額は、935 億ドル（＝約 12 兆円。1＄＝130 円換算）と多額の投資が行われている。

1

出典：グーグルトレンドにより筆者作成。

4

【図２】世界における AI 企業投資（ベンチャー投資、M&A 等）の推移2

その中でも、特に米国における民間 AI 投資が圧倒的に多く、米国が全体を牽引している。
そのあと、中国、欧州における投資額が次いでいる（図３参照）。
【図３】世界における民間 AI 投資（AI ベンチャー等）の地域別推移（米国、中国、欧州）3

一方、機械学習などの AI に係る基本的な技術自体は、誰でも利用できる公開の技術であり、世界の全ての人が利用できることから、特に、画像認識技術、自動翻訳技術などといった幅広い分野で応用される AI モジュールを含めて、既に世界中の多くの企業が AI の利用を進めてきている。
実際に、世界の組織（主要企業等）における AI の導入については、先進国だけでなく途上国も含め世界的に導入が進められるとともに、企業の AI 導入率だけをみると既に飽和状態にあり、近年はむしろ一社あたりの AI 導入数が増加する段階に至っている（図１）。す
なわち、これまでの AI 導入の内容が、RPA やコンピュータビジョンなどの業務プロセスの一部のモジュールが中心であったのに対し、現在は、その AI モジュールの導入数の拡大に
出典：Stanford University Human-Centered Artificial Intelligence, “The Artificial Intelligence Index
Report 2022”, 2022.3.16
https://aiindex.Stanford.edu/report/
3
出典：Stanford University Human-Centered Artificial Intelligence, “The Artificial Intelligence Index
Report 2022”, 2022.3.16
https://aiindex.Stanford.edu/report/25加えて、更に組織の意思決定に関わるような基幹システムへの本格的な AI の導入に移行す
る時期にあるものと推測される。
【図４】世界における AI の組織導入率とその平均数の推移

4②世界の AI 戦略とその AI ガバナンス制度政策＜世界の AI 戦略の状況＞
このように人工知能（AI）技術は、今後の世界各国の経済成長、国民生活の向上、社会課
題の解決に資するものとして大きく期待される一方で、その創造的破壊としての性質により、産業・雇用構造を含め、今後の社会・経済を大きく変容させるものとの認識の下、世界各国
では、国家としての包括的な AI 戦略を策定し、取り組んでいる。
もともと、世界において、先駆的に AI 戦略を開始したのは、日本（2016 年 4 月の総理指示に基づき、2017 年 3 月に戦略発表）5、米国（オバマ政権下にて 2016 年 5 月に検討を開始し、同年 10 月以降、研究開発戦略等を発表）、カナダ（2017 年 3 月に汎カナダ AI 戦略
発表）であるが、その後、欧州はもちろんのこと、途上国も含め世界各国が AI 戦略の策定に取り組んでいる。例えば、ある調査によると、2020 年 2 月現在で、世界の AI 戦略を策定している国の数は、50 を超え、世界の GDP の９割をカバーするとしている6。また、国際的にも、2016 年 4 月に日本で開催された G7 情報通信大臣会合7において AI が取り上げられたことを契機に、その後、2020 年 6 月に GPAI（Global Partnership on AI）が設立される
8など国際的な動きも活発化している。
また、このように世界的に政府の AI 戦略の検討が開始されて既に約 7 年経つが、世界的な人工知能（AI）技術への継続的な関心のもと、多くの国・政府では、これまで AI 担当部
出典：Quantum Black AI by McKinsey, “The state of AI in 2022—and a half decade in review”,
December 6, 2022 | Survey
https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-in-2022-and-a-halfdecade-in-review
5
内閣府「人工知能技術戦略会議」
https://www8.cao.go.jp/cstp/tyousakai/jinkochino/index.html
650 National AI Strategies - The 2020 AI Strategy Landscapehttps://www.holoniq.com/notes/50-national-ai-strategies-the-2020-ai-strategy-landscape7
G7 香川・高松情報通信大臣会合
https://www.soumu.go.jp/joho_kokusai/g7ict/index.html
8
経産省「AI に関するグローバルパートナーシップが設立されました」2020 年 6 月
https://www.meti.go.jp/press/2020/06/20200616004/20200616004.html
46

署を設置するとともに、現在でも継続的に自らの国の AI 戦略を見直し、特に AI ガバナンスに係る戦略も含め、継続的にアップデートしてきているのが特徴と言える（図５参照）。
【図５】世界の AI 戦略の動向（これまでの経緯全体像）9

＜AI 戦略における AI ガバナンスの位置づけ（AI 戦略・政策の３要素）＞
これらの各国・地域の AI 戦略・政策は、その分け方にもよるが、一般的には、A）イノ
ベーション関連、B）人材・雇用関連、C）ガバナンス関連の３つの項目に分けることができる（図６参照）。
Ａ）イノベーション関連：● AI 技術の高度化とその普及は、デジタル分野のイノベーションとして社会に浸透することにより、多くの産業の業務を効率化し、また、新たなビジネスを創出することを通じて、経済・産業の発展やより利便性の高い国民生活をもたらすともに、様々な社会課題への対応を可能にする。
● このため、政府は、AI に係るイノベーション促進策として、研究開発の推進、デー
タ、デジタルインフラの整備に加え、中小・ベンチャー企業の育成を含めたエコシ
ステムの形成や、各重要分野、公的分野での AI 応用に係る社会実装の促進に向けた取り組みを進めている。
Ｂ）人材・雇用関連：● このような AI による各産業・公的分野でのイノベーションの普及に伴い、産業構造が大きく転換することになる。このため、AI を活用した新たなデジタルビジネスが興隆し、更なるデジタル・AI 人材確保の必要性が生じる一方で、旧来型の産業あるいは職種においては、仕事を奪われることになる。その結果、雇用・失業の問題が生じるとともに、特に資本主義体制の下では、貧富の差などの格差が拡大する可能性も指摘される。

9

出典：筆者作成7●

このような中、教育・人材育成、訓練技能取得支援、リテラシーの向上に加え、雇用転換円滑化のための取り組みや、場合によっては、社会保障の在り方までも踏み込んだ取り組みの必要性が指摘される。
Ｃ）ガバナンス関連：● これまでも、特定の技術のイノベーションに対して、安全性確保といった人間社会の有する社会規範（倫理）に照らして生じるリスクを低減すべく、技術に対するガ
バナンス体制を構築、維持してきている。このような中、AI に係るイノベーションの進展については、その人間の意思決定など知的作業を代替することにより、むしろ、人権・公平性、自由・民主主義といった観点での社会規範（倫理）に抵触するようなリスクが生じることになる。
● このようなリスクの低減を図るため、データ・プライバシー、人権・公平性、自由・民主主義といった観点を含めた、新たなルール・標準整備を含む AI ガバナンス
制度の構築が求められている。
【図６】AI 政策の３分類（イノベーション、人材）10＜AI ガバナンスとその制度の定義＞
本ワーキングペーパーでは、この世界各国の AI 戦略の３分類のうち、特に AI に係るガバ
ナンス関連（C）に係る各国政府の政策動向を主な議論の対象とする。ここで、本ワーキン
グペーパーでは、この AI に係るガバナンスに関して、経産省報告書11における AI ガバナン
スの定義を採用する。すなわち、AI ガバナンスとは、「AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクトを最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計及び運用」である。
その際、一般的に、AI ガバナンスには、個々の組織（企業、公的機関など）における統治体制・ガバナンスの在り方を指す場合と、個々の組織を含む社会システム全体での統治体
制・ガバナンスの在り方を指す場合の両方があるが、本ワーキングペーパーでは、このうち、後者の観点、すなわち上記の定義のうち、特に「社会的システムの設計・運用」との観点を中心に議論する。また、その際、社会システムとは、様々な「制度」から構成されることに10 出典：筆者作成

11

経済産業省 AI 原則の実践の在り方に関する検討会「我が国の AI ガバナンスの在り方 ver. 1.1 AI 原則の実践の在り方に関する検討会 報告書」 2021 年 7 月 9 日

8なるが、このうち、歴史的・経路依存的経緯に基づき社会・コミュニティで共有されている
慣習的・暗黙的な制度というよりは、むしろ政府による規制、ガイダンス、基準の策定などの各種の「公的な」制度に焦点をあてて議論を行うものとする。

（２）問題意識：AI ガバナンス制度の進化メカニズム＜AI ガバナンス制度の重要性＞
上述の通り、AI 技術は、これまでになく革新的な技術であり、かつ汎用的な技術である。
それゆえに、今後の AI 技術の社会への普及の進展に伴い、人間社会に対して非常に広範囲に亘って、大きなリスクを生じさせる可能性が指摘される。このようなリスクを適切に管理していくためには、適切な AI ガバナンス制度を構築することが前提条件となる。
特に、AI 技術は、一定の範囲で、人の知的能力を代替し、あるいはそれを超える能力をコンピュータ上で実現できる画期的な技術であり、それゆえに、人類社会に与える影響は非常に大きいと指摘される。したがって、世界における AI ガバナンスに係る制度を今後どのような方向に進めて行くかは、人類にとっても大きな課題であるとされる。このような AI
ガバナンスに係る取組は、いわゆる「人間中心の AI」、「責任ある AI」、「信頼できるAI」と呼ばれるような AI システムを実現するための取組とも位置づけられる。
その際、この AI ガバナンスに係る制度は、AI 技術によって生じる社会的リスクを低減する一方で、今後の AI 技術に係るイノベーションを阻害する可能性もあることから、世界のAI 技術のイノベーションにも大きな影響を与え得る課題である。このため、今後の AI ガバ
ナンス制度の検討にあたっては、その定義にあるように、適切にリスクを管理しつつも、イ
ノベーションを促進するようなバランス・両立を考慮することが必要になる。
＜本ワーキングペーパーの問題意識＞
このような中、世界各国では、実際に、概ね 2019 年の OECD AI 原則の発表以降、本ワーキングペーパー執筆時点（2023 年 2 月）のこの４年弱において、EU における AI 法案の提案、米国での AI 権利の章典の発表、カナダでの AI データ法案の提案、英国での AI 規制に係る政策方針の発表、日本（経産省）における AI ガバナンスの報告書など、世界各国において、それぞれ非常に多様な形態の AI ガバナンス制度が提案されてきており、また、現在進行中で議論が進められているところである。
これらの個々の国・地域の AI ガバナンス制度については、その国・地域を巡る状況を踏
まえつつ、国内外の様々な議論を通じて、原則として、その時点で最適と考える AI ガバナ
ンス制度が提案されてきているものと考えられる。また、第三者あるいはアカデミックな立場からも、それぞれの自らの立場・視点を踏まえて、他の国・地域の AI ガバナンス制度を参考にすべきとの議論、自国・地域の制度を批判する議論、新たな視点からの提案など、様々な議論が多数なされてきている。このように、様々な観点から AI ガバナンスの在り方に係る議論がなされることは引き続き重要であり、今後の世界の AI ガバナンス制度の検討にとっても非常に重要であると言える。
しかしながら、これらの議論のほとんどが、自らが共有する何らかの価値観に立脚した主
観的・規範的な議論が中心であるが現状であり、グローバルな視点で、現状で見られるような多様な世界の AI ガバナンス制度が、客観的にみて、どのようにして提案されてきている9

のか、また、今後、どのようなメカニズムで発展していくことが想定されるのかについては、
ほとんど研究・分析・考察がなされてきていないのが現状である。
このため、今後の世界の AI ガバナンス制度の在り方を検討するにあたっては、その前提として、まずは、世界における多様な AI ガバナンス制度が、これまでどのようなメカニズ
ムで形成・発展・進化してきているのかを客観的に把握することが必要である。
＜本 WP の目的：世界での AI ガバナンス制度の形成・進化メカニズムの明確化＞
このような問題意識の下、本ワーキングペーパーでは、リスクの低減とイノベーション促進の両立を図ることが求められる AI ガバナンス制度に関し、グローバルな観点から、世界各国・地域の AI ガバナンス制度が、それぞれ地域的状況に基づきつつ、それらが互いに影
響しあうことを通じて、世界全体としてどのように形成・発展・進化していくのかというメカニズムを明らかにすることを目的とする。これにより、今後の世界全体の AI ガバナンスの在り方に係る議論に寄与するものとする。
このため、本ワーキングペーパーでは、まずは、AI ガバナンス制度の進化に係る検討の枠組みを設定する。具体的には、まずは、リスク低減とイノベーション促進との両立を実現する社会メカニズムという視点から、これまでの社会的に影響のある技術で見られるような、「技術と制度の共進化」という枠組みを AI 技術に適用する。その上で、「技術」に係る研究開発・普及などのイノベーションについては、当該国・地域のイノベーションシステム、
社会制度・産業構造の中で生成される一方で、「制度」としての技術に係るガバナンスに関しては、その国・地域において共有される社会規範に応じて、当該国家システムの中で生成されるという枠組みを設定する。
次に、このような枠組みの下で、特に社会規範や国家システムなどに係る地域差が、世界全体の AI ガバナンス制度の進化を引き起こすというメカニズムを実証的に明らかにする。
具体的には、まずは、欧州、北米、日本などの先進民主主義国を対象にして、世界的に多様に構築されつつある AI ガバナンス制度を比較分析し、上記枠組みを踏まえつつ、その要因を抽出する。その上で、それぞれの制度が提案された経緯を時系列に分析することにより、各国・地域の AI ガバナンス制度が、それそれの多様な地域的要因に基づきつつも、特にEU の AI 法を中心に互いに影響を受け、改善工夫、新機軸の検討がされることにより、「制度イノベーション」が生じつつあるというメカニズムを明らかにする。
このようなメカニズムを明らかにすることによって、改めて上述の技術と制度の共進化という枠組みを踏まえつつ、世界の AI ガバナンス制度の今後の方向について考察を行う。ただし、上述のとおり、世界のＡI ガバナンスの策定を巡る動きは、現在進行中の問題であり、今後の方向に関して、現時点では確定的なことは言えない状況にあることに留意することが必要である。

（３）本ワーキングペーパーの構成＜AI ガバナンス制度の進化に係る枠組みの設定＞
上述の問題意識、目的を踏まえ、まず第二章では、既存研究等を踏まえつつ、上述の本ワーキングペーパーの全体の枠組みについて構築する。具体的には、まず、第一節において、
本ワーキングペーパーにおける全体的な枠組みとして、「技術と制度の共進化」のメカニズ

10

ムの下で、技術に関しては、その国・地域のイノベーションシステムとしての社会制度・産業構造によって形成される一方、制度に関しては、その国・地域において共有する社会規範と国家統治システムによって形成されるという枠組みを提示する。
その上で、技術面に関して、AI 技術に影響を与えるイノベーションシステムの社会経済的要件、世界の AI の研究開発投資、普及の状況を概観した上で、特に、米国と比較して日本の AI の導入普及が低い社会制度的要因について説明する。また、制度面に関しては、人類・地域社会が共有する社会規範の位置づけを整理した上で、新たな技術の登場による社会
規範への抵触を、技術によって生じる社会的リスクと位置づけ、そのリスクを社会として管理するための技術関連の制度（ガバナンス制度）が、その国家統治システム（統治体制等）の下で構築されるという枠組みを説明する。
第二章第二節においては、この枠組みを踏まえ、具体的に AI 技術によって生じる主なリ
スクの内容と、想定されるガバナンス形態の様々な種類について概観する。具体的には、まずは、AI 技術の定義とその特徴を概観した上で、AI 技術によって抵触する可能性のある社会規範には、従来の安全性等に係るものから、人権・公平性等に拡がっていること（AI 倫
理の必要性）、また、具体的なリスクとしての代表例を６つほど説明した上で、本 WP ではこのうち特に「公平性・非差別性」に係るリスクを中心に扱うことを説明する。次に、そのリスクを管理する AI ガバナンス制度に関して、その概念を整理した上で、ハードロー／
ソフトロー、水平規制／垂直規制などの種類があり、それぞれの制度がイノベーションに与える影響について概観する。その上で、各国・地域において共有されている社会規範（特に、
人間‐機械（AI）関係に係る認識など）の差異によって AI に対するリスク認識が異なり、このため、期待される AI ガバナンス制度も異なるという研究を紹介し、それを踏まえて、第三章、第四章における分析、考察の方向について説明する。
＜世界の AI ガバナンス制度の比較とその進化メカニズムの分析・考察＞
第三章では、上記の枠組みを踏まえ、世界の主要先進民主主義国・地域を対象に、それぞれの AI 戦略における AI ガバナンス制度の位置づけと、その現時点で提案されている AI ガ
バナンスの内容を比較分析・考察する。具体的には、まず第一節では、世界各国・地域のAI 戦略における AI ガバナンス関係の記述の位置づけに係る差異について分析するとともに、
現在提案されている AI ガバナンス制度の内容に係る差異についても分析し、特に欧州と日本では、大きな差異があることを明らかにする。その上で、第二節では、これらの差異に係る要因・理由について考察し、AI ガバナンス制度を必要とする要因には、大きく分けると、社会規範に係る要因（A）に加え、問題事例の発生頻度の要因とその前提として AI 普及率（B）が関係すること、また、その制度の内容の差異に係る要因としては、さらに国家の統治システムの要因（C）や地政学を踏まえた国際戦略に係る要因（D）があることを示す。
第四章では、これらの地域的差異に係る４つの要因を踏まえつつ、世界の主要先進民主主
義国・地域において、それぞれの AI ガバナンス制度の内容が、どのような要因に基づき提案され、また、特に先行する欧州 AI 法案にどのように影響を受けてきたのかについて時系
列に追うことによって、これまでの世界全体の AI ガバナンスの進化メカニズムを定性的に分析する。これにより、世界の AI ガバナンス制度の進化のメカニズムとして、①世界の AI
ガバナンス制度の必要性に係る社会認識の多様性、②当該必要性認識の高い地域である EUによる厳しい制度の先導的提案、③一方、欧州の動きを踏まえつつ、地域的差異を踏まえた
多様で工夫された各国・地域での多様な改善工夫、新基軸案の提案、④これらによる世界の11

AI ガバナンス制度の「制度イノベーション」の可能性、という流れを明らかにした上で、今後の世界の AI ガバナンスの更なる発展・進化の方向について考察を行う。
第五章では、これらを踏まえて、今後の研究課題として、更なる発展・進化の動向のフォローアップの必要性、公平性・非差別性以外の AI リスクに係るガバナンスの在り方の検討、中国などの非民主主義国家も含めた世界の AI ガバナンス体制の在り方の検討の必要性について述べる。

２．研究の枠組みとその既存研究（１）技術と制度の共進化のメカニズム①「技術と制度の共進化」の枠組み（全体像）＜技術と制度の共進化（一般論）＞
本ワーキングペーパーでは、技術に対して、当該技術に関連する規制などの「制度」との関係について議論の対象とする。その際、「「技術」と「制度」とが共進化する」というメ
カニズム・枠組みに基づき検討する。すなわち、ある技術（システム）が、イノベーションとして発展・高度化し、かつ、社会に普及することにより、その社会的な影響が拡大するに
つれて、その技術に係わる既存制度（システム）が変化し、あるいは新たな制度（システム）が導入されることが、社会的に求められるようになること、また、このようにして新たに変化あるいは導入されたこれらの制度は、その後の当該技術の将来的なイノベーションの方向に影響を与えるというモデルに基づく枠組みである。これは、進化経済学的視点からすると、基本的に、社会・組織の反復的なパターンの活動である「ルーティン」に基づいて既存制度がシステムとして構築されている中で、新たな技術システムの利用が普及すると、その社会・組織の反復的なパターンの活動が変化し、新たな「ルーティン」が生じることにな
り、その新たなルーティンに基づいて、制度システムも変容が求められることになるものと
位置づけられる。
例えば、自動車（システム）の事例で言うと、自動車システム（内燃機関技術）のイノベーションとその普及により、「自動車による移動」という新たなルーティンが形成されることにより、その上流下流を含む関連分野の発展など経済社会の発展に大きなインパクトを与えることになった。一方で、この自動車による移動というルーティンは、交通事故、環境問題などの社会規範に抵触するような問題を引き起こし、このため、各種の交通安全ルールと道路交通インフラの整備、事故被害者等の保護ルール、自動車の安全・環境基準などの各種の制度が設定されることになる。その上で、このような制度の生成・普及・進化は、その後の自動車に係る技術のイノベーションの方向に大きな影響を与え、安全で環境に優しい自動車に係るイノベーションが推進されることになった。
この、「技術と制度の共進化」のモデルを図７に示す。このモデルは、言い換えれば、「技術に係るイノベーション」と「制度に係るイノベーション」が互いに刺激しあって進化し、その結果、社会全体のイノベーション、特に「人間中心」とか「持続可能」などの形容詞で表現されるような人類にとって望ましい形態のイノベーションが進展するというモデルであるということができる。このような技術と制度との関係については、例えば、国領

12

（2022）12も、技術システムと社会システムの共進化として、技術と社会はお互いに影響しあいながら共進化する存在であることを主張している。
【図７】技術システムと社会システム（制度）の共進化（イノベーション）13＜イノベーションシステム／社会規範・国家統治システムとの関係、国際的視点＞
その際、まず、「技術」によるイノベーションの発展・普及に関しては、当該国・地域におけるイノベーションシステムや社会制度・経済産業構造に依存するものであり、したがって、当該技術のイノベーションの発展・普及は、国・地域によって異なるものと考えられる。
この視点に基づき、次項（②）において、AI 技術を巡るイノベーションシステム等に係る地域的差異について概観する。
一方、当該技術に係わる「制度」の形成・進化のメカニズムに関しては、本ワーキングペ
ーパーでは、当該国・地域において共有される社会規範と国家統治システムに依存するものと理解する。この視点に基づき、次々項（③）において、このような社会規範や国家統治シ
ステムが、当該技術に係る制度の導入・変化に与える影響を考察した上で、その後、それらの社会規範や国家統治システムの地域的差異がもたらす影響について考察する。
また、一般的に、これらのイノベーションシステムや社会制度・産業構造、また、社会規
範・国家統治システムは、世界各国・地域によって異なるものである。ただし、そのような中でも、一般的に、「技術」は、特に産業のグローバル化に伴い、一部はその国・地域の状況に適応しつつも、世界各国に展開され、国際的に普及していく傾向にある。また、「制度」に関しても、例えば、影響力の大きな国において、技術に関わる何らかの制度を導入した場合、その制度導入に係る情報は、他国・地域に波及し影響を与えることになる。すなわ
ち、「海外のベストプラクティスを学び、国内で同化」すべく、当該国・地域の状況に応じ、類似あるいは真似をしたような制度を導入するという傾向がある14。このような影響は、長12

國領二郎「サイバー文明論

持ち寄り経済圏のガバナンス」日経 BP (2022/5/17) p217

13 出典：筆者作成

14

例えば、市川類「イノベーション促進型資金配分システムの発展メカニズムに関する研究」（博士論文）、2013 年３月、参照。

13

期的には、複数の国・地域が互いに影響しあうことにより「技術政策・制度の国際的共鳴」
を引き起こすことになる（図８参照）。
本ワーキングペーパーにおいては、このような技術と制度の共進化に係る枠組みに基づき、特に近年の AI 技術のイノベーションの進展に伴う、世界における AI ガバナンス制度の形
成・進化のメカニズムを明らかにするものとする。
【図８】国際的な「技術と制度の共進化」メカニズム15②技術進化：イノベーションシステムと AI 投資・普及率を巡る状況＜技術のイノベーションの生成と普及に係る社会経済要件（イノベーションシステム）＞
本項においては、技術に係るイノベーションの生成及び普及に影響を与える社会経済的条件について概観した上で、AI 技術に係るイノベーションの生成及び普及に係る地域差について現状を概観する。ただし、この技術のイノベーションの生成・普及に係る側面は、本ワ
ーキングペーパーの中心課題ではないため、深入りはしない。
一般的には、ある国・地域における技術のイノベーションの生成と普及は、いわゆるその国・地域におけるイノベーションシステムに依存すると言われる。ここでイノベーションシ
ステムとは、当該技術の研究開発や普及に係る関係する各プレーヤーの存在とそれらの関係を規定する各種制度からなるシステムであると規定され、社会経済制度・広義の産業構造をイノベーションの視点から捉えたものであると言える。
その際、イノベーションの生成（研究開発など）については、一般に、政府の資金による大学や公的研究機関に加え、民間の研究所や民間の事業者が大きな役割を果すが、特に AI
やデジタル分野のイノベーションにおいては、その中でも、特に、ベンチャー企業やそれを取り巻く民間のデジタル系企業、団体などのエコシステムの存在が重要とされる。また、イノベーションの普及においては、一般的には、当該技術の提供企業と利用団体となる民間企
業や公的機関などの関係が重要になるが、特に AI やデジタル分野においては、その中でも、デジタル系の大企業の存在に加え、IT サービス企業と利用企業における専門性の関係が重要になるとされる。

15 出典：筆者作成

14

＜世界における民間 AI 投資（研究開発等）を巡る状況＞
これを踏まえつつ、現時点における、世界における AI の研究開発及びその普及状況は、どのようになっているのであろうか。まず、AI 技術の新たな発展（イノベーションの生成）については、研究開発投資やベンチャー投資が牽引することになるが、全体の投資額（民間 AI 投資）としては、図３に示した通り、米国が圧倒的に多く、次いで、中国、欧州が多くの投資を行っており、これらの国・地域が世界の AI の研究開発を牽引している。ただし、対 GDP 比で計算すると、ここでも米国が圧倒的に高く、また、シンガポールも対GDP 比で見ればかなり高いことがわかる。また、次いで英国・カナダ・中国となっており、
欧州（フランス、ドイツ）は必ずしも対 GDP 比では高くない。また、日本は対 GDP 比で見ると、非常に少ないと位置づけられる（図９）。
【図９】主要国における GDP あたり民間 AI 投資額（ベンチャー企業等）（2021 年）16

このように、米国における民間 AI 投資が非常に高く、一方、欧州、日本における AI 投資が非常に低く数字上出ているのは、米国と欧州・日本における民間企業を中心とする産業（イノベーション）エコシステムが異なることが一因であると考えられる。すなわち、米国
では、イノベーションシステムにおけるベンチャーエコシステムの役割が大きく、多くの民間大企業は自ら研究開発をするだけではなく、AI ベンチャーに対し多くの投資を行い、あるいは買収するという社会的な仕組み・制度が存在している。これに対し、日本では、民間大企業はほとんど自らの研究開発のみが中心であり、したがってこの数字上には必ずしも現れないという事情があることも一因であると考えられる。しかしながら、AI の研究開発においてベンチャーが重要な役割を果たすことを踏まえると、米国が量的にも質的にも、世界的に AI 研究開発をリードしているのは確かであり、また、日本の民間の AI 投資は、ベンチ
ャー企業を通じたオープンイノベーションに弱いという観点も含めて考慮すると、やはり比較的に劣位にあることも確かであろう。

出典：Stanford University Human-Centered Artificial Intelligence, “The Artificial Intelligence Index
Report 2022”, 2022.3.16
https://aiindex.Stanford.edu/report/
注１：GDP は、2021 年 IMF 名目 GDP を利用
注２：日本は、資料に記載のある 15 位内に入っていないため、仮に 15 位の投資額で計算した。
（したがって、実際はグラフよりさらに低い）
16

15

＜世界における AI 普及率を巡る状況＞
一方、AI 技術は、第一章で説明した通り、機械学習技術などの基礎技術については原則として公開されており、AI 技術者等などがいればどの地域でも導入・利用が可能である。
したがって、企業等の組織への AI システムの普及は、AI の研究開発を積極的に実施している米国、中国ほか先進諸国に限られるものではない。
実際に、マッキンゼーの調査によると、地域別にみても、AI の組織導入率（主要企業等）における世界における地域差はほとんどないとされる17。あえて言うと、北米、欧州よ
りは、むしろ、インド、アジア太平洋（先進国）における組織での AI 導入率の方が高い状
況にある（図１０参照）。
【図１０】世界における組織での AI 導入率（地域別）18

むしろ、AI 技術の社会全体の普及という視点で考えた場合、AI 技術者の数が重要になるが、そのような視点で比較した場合、人口比で比較すると、特にインドの AI 技術者の多さが目立つのに対し、やはり、日本の AI 技術者の相対的な少なさについても目立つ（図１１参照）。ただし、このデータは LinkedIn のデータに基づくものであり、LinkedIn の普及率・利用率は英語圏において比較的高いことにも留意する必要がある。

17

実際に、2021 年のデータによると、インド：65％、先進アジア太平洋：64％、途上国市場（中国を含む）：57％、北米：55％、欧州：51％、中南米：47％（世界平均：56％）となっており、むしろ途上国企業の方が、AI 導入率が高い。
18
出典：Quantum Black AI by Mckinzey, “The state of AI in 2022—and a half decade in review”,
December 6, 2022 | Survey より筆者作成
https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-in-2022-and-a-halfdecade-in-review

16【図１１】主要国における AI 技術者の浸透割合（2015‐21 年）19

＜日本の AI 普及率の低さに係る社会経済的要因＞
このようの中、日本における AI の普及率（利活用状況）に関しては、日本においてデジタル化に遅れているとされる通り、一般的にその低さが指摘されており、その理由として、イノベーションシステム・社会経済制度的な差異が大きな要因になっていると考えられる。
具体的には、市川（2020）20によると、いわゆる青木などの比較制度分析において指摘される「日本型の企業システム（J 型企業）」においては、特にデジタル人材を中心とする雇用の流動性の低さがゆえに、ユーザー企業におけるデジタル利用に関して、以下のような特徴が指摘される（図１２）。
● 通常のユーザー企業における少ないデジタル系の専門人材：このため、特にデジタル分野での戦略的な意思決定力の弱さ、一方で、現場での調整力の強さに基づく、高品質の情報システムに係る優位性。
● デジタル分野に係る委託体制による対応：それによるアジャイル開発の困難性、それゆえの、新事業開発系 DX というよりは、むしろ効率向上型のデジタル投資への偏重。

出典：Stanford University Human-Centered Artificial Intelligence, “The Artificial Intelligence Index
Report 2022”, 2022.3.16 より筆者作成
https://aiindex.Stanford.edu/report/
注１：“Relative AI Skill Penetration Rate”; 職業の中に AI 技能を有する人の割合（LinkedIn のメンバ
ーのうち AI 技能を有する人）
注２：日本は、資料に記載のある 15 位内に入っていないため、仮に 15 位の投資額で計算した。
（したがって、実際はグラフよりさらに低い）
20
市川類「「何故、日本のデジタルイノベーションは遅れているのか」 ～デジタルイノベーション
システムの比較制度分析からみた日本企業・政府の構造的課題～」一橋大学イノベーション研究セン
ター、IIR ワーキングペーパー、WP#20-16、2020/12/11
https://pubs.iir.hit-u.ac.jp/admin/ja/pdfs/show/2442
1917【図１２】制度・組織構造がデジタルイノベーションに与える影響（日米比較）21

そのような中、特に AI 開発においては、現場（データの保有者）と開発者の連携によるアジャイル開発が前提となることが多いため、日本のユーザー企業においては、通常のデジ
タル利用以上に、AI の利用に関して、新規ビジネス開発に限らず、他国と比較して優位を有さない可能性がある。このため、日本は、AI 利用全般に加え、特に AI を利用した新規ビジネス開発に関して、他国と比較して相対的に劣位にあることが考えられる。実際に、日本においては、いわゆるユーザー企業における AI の導入率（利活用状況）は、米国などと比較して大きく低いことが指摘されている（図１３）。
【図１３】企業における AI 利活用状況（日米比較）22

21

出典：市川類「「何故、日本のデジタルイノベーションは遅れているのか」 ～デジタルイノベー
ションシステムの比較制度分析からみた日本企業・政府の構造的課題～」一橋大学イノベーション研究センター、IIR ワーキングペーパー、WP#20-16、2020/12/11
https://pubs.iir.hit-u.ac.jp/admin/ja/pdfs/show/2442
22
出典：内閣官房 新しい資本主義実現会議（第４回）2022 年 3 月 4 日、資料２「論点案」
https://www.cas.go.jp/jp/seisaku/atarashii_sihonsyugi/kaigi/dai4/gijisidai.html

18

③制度進化：社会規範と国家統治システムを通じた技術進化への対応
前項においては、ある国・地域における技術のイノベーションの生成・普及に対して、当該国・地域のイノベーションシステム／社会制度・産業構造が影響を与えることについて概観した。
その上で、本項以降においては、ある国・地域における、技術に係る「制度」の形成・進化に係るメカニズムについての枠組みを整理する。
＜「社会規範」の位置づけ＞
本ワーキングペーパーでは、人類は、社会的存在として、これまでのその長年の歴史において、その地域社会・集団が持続的に発展するための基本ルールとして「社会規範」（倫理）を醸成し、共有してきていること、また、その「社会規範」に照らし、現代国家ではその国家統治システムの中で、各種の「制度」が制定されてきているという枠組みを採用する。
これに関し、例えば、国領（2022）は、文明とは「人間が道具を使うようになり、本能の発達が道具の発達に追い付かなくなったために、理性に基づいた秩序形成を行う必要が生じた」23としているが、この理性というのは、社会として共有認識されている「社会規範」であり、それによって秩序形成された文明とは、多数の「制度」からなる秩序であるとみなすことができよう。
このうち、「社会規範」とは、人類やその集団が、生存戦略として社会的に獲得・共有してきたものであり、具体的には、人を殺してはいけない、他人を大切にしなければならないなどを含む。これらは、（理性を有する）「人」として守らないといけないとする規範である、いわゆる「倫理」として位置づけられるものであり、社会において暗黙的あるいは慣習的に共有されているものを含む。このような「社会規範」は、現代の社会システムにおいて、人命の保護、環境の保全、所有権の保護、人権保護、公平性の確保などとして位置づけられる。また、これらの社会規範は、歴史的には「部族主義」の背景の中で24、もともとは「我々」、すなわち一定範囲内の集団内や地域社会だけに適用されていたものが、グローバ
ル化の流れの中で、近年になって、概ね人類共通の価値観として確立されてきたいう側面を有するものと位置づけられる。
しかしながら、この社会規範は、歴史的にみると、時代に伴って変化・進展することに加え、現時点でも多くの地域差が存在するものと位置づけられる。例えば、人権の保護という考え方は、もともと 18 世紀後半のフランス革命以降になって初めて世界的に普及されてきた考え方であり、人種間の公平性の概念も、20 世紀半ばになってようやく確定されてきたものと言うことができる。プライバシーの保護のような考え方も、19 世紀後半によって登場してきた概念であり、また、近年のデジタル化の進展の中で、その内容は、現在においても引き続き進化・深堀されてきている概念であると言える。また、このような社会規範は、
歴史的にはその地域に根付く宗教や文化によって規定されている側面を有するがゆえに、例
えば、キリスト教、イスラム教、仏教など異なる宗教基盤を異なる地域・集団間では、現在でも、社会規範の地域差は少なくないと言える。
23

No.381
ヨハン・ノルベリ「OPEN（オープン）：「開く」ことができる人・組織・国家だけが生き残る」
ニューズピックス (2022/4/27)
24

19

＜国家統治システムを通じた社会規範に基づく制度の構築＞
このような社会規範は、近代国家においては、その一部が、国家による統治体制の下で、「制度」として規定され、社会のルールとして共有されることになる。具体的には、憲法から、民法・刑法、同特別法、行政法、各種規則・ガイドラインなど様々なレベルがあり、一般的には、憲法などの高次のレベルは、社会規範そのものに近く、一方、行政法以下のレベ
ルが、行政府によるいわゆる「制度」との位置づけに近いと言える。また、このように構築された制度は、経路依存的な影響を及ぼし、その後の社会において共有される暗黙的なルールとして継続される性質を有する。
その際、このような国家による新たな「制度」の構築については、その国・地域における社会規範だけでなく、国家の統治機構・システム（ガバナンス）によって、規定される内容に差異が生じることに留意することが必要である。一般的には、民主主義国家においては、
各種制度の構築は、社会規範を踏まえた社会・市民の認識（民意）を反映することが想定されるものの、例えば、各国・地域における行政府内の省庁体制、法律の基本的な体系・位置
づけ、あるいは、そのときどきの政権体制やその戦略によって、制度の内容は異なるものとなることが考えられる。なお、民主主義体制と権威主義体制を比較すると、一般的に短期的には、民主主義体制の方が、迅速なフィードバックが行われることにより民意を反映したものになると考えられるものの、権威主義体制においても、全く民意に反したものが規定されるわけではないという見方もありうる。ただし、本ペーパーでは、その議論は深入りせず、
以下もっぱら民主主義体制の国家を対象に議論を進める。
＜社会規範への抵触としての技術リスクと制度の構築＞
このような中で、技術によって生じるリスクとは、その技術が利用された製品・システム（技術システム）が社会で利用されることによって、その技術（システム）のある利用形態
が、人類・地域社会が共有する社会規範へ抵触する可能性として位置づけられる。その上で、このようなリスクを低減する観点から、上述の国家統治システムの下で、技術に係る「制度」が構築されることになる。その際、「制度」は、当該技術（システム）の利用による、社会・組織での反復的なパターンである「ルーティン」に対して構築されることになる。
そのような中、特に新たな革新的な技術（システム）の社会への普及は、人類・地域社会が有する社会規範に抵触する可能性が常に生じる。すなわち、従来は、社会規範に抵触しな
いと考えられていた人間の活動に関しても、革新的な技術（システム）を人間が（道具として）利用することにより、これまでの人間の活動能力を拡張することが可能となり、その結果、それにより利用形態によっては社会規範に抵触する可能性が生じることとなる。例えば、人間が徒歩で歩いている限りほぼ生じなかった交通事故というリスクが、自動車システムという技術により人間の活動能力が拡張され、新たなリスクとして顕在化することになり、そのリスクを低減すべく、自動車システムの利用という新たなルーティンに対して、新たな規制制度が導入されることになる。
この技術によって生じるリスクの内容は、時代を経て変遷してきている。もともと、これまでの産業革命を牽引してきたエネルギー技術、製造技術の時代においては、その性質を踏まえ、それぞれ、特に安全性や環境問題に係わる社会規範や所有権に係わる社会規範に対応した制度を中心に整備がなされてきた。すなわち、エネルギー技術の場合は、本質的に安全性に係る問題や環境問題が発生するため、それを規制するための制度が整備されてきている。

20

自動車などのエネルギー関連製品が典型例であるが、それ以外にも工場などエネルギー利用
施設に係る保安規制などもある。また、製造技術の進展は、モノの所有権に係る制度の整備を促進するとともに、特許権などの知的財産制度の整備も促進してきたと言える。
それに対して、20 世紀後半以降発展してきた情報通信・デジタル技術の場合は、情報システムに係るセキュリティなどの広義での安全性、財産権の確保の問題や、デジタル著作権などに係る知的所有権の問題が新たな課題になってきたことに加え、人権・公平性に係わる課題の一つとして、プライバシーの問題（個人情報保護）が大きな課題となってきている。
また、更には、20 世紀以降のメディアの発達に伴い、民主主義に与える影響の観点や有害情報に係るメディア規制が行われるとともに、近年のインターネット・SNS の発達に伴い、偽情報などに係る議論も活発に行われるようになってきている。
なお、国領（2022）は、これまでは、製造技術の発展に対応し、特にモノの所有権などに係わる制度が中心に整備されてきたのに対し、デジタル時代においては、データの観点か
らの新たな制度が必要になるとの見立てをしている。

（２）AI 技術とそのリスク・ガバナンス制度①AI 技術の定義とそのリスクの種類＜学術研究目標としての人工知能（AI）とそのイメージ＞
このような技術によって生じるリスクの内容の変遷の中で、本ワーキングペーパーにおいては、AI 技術によって生じるリスクと、それに伴うそのガバナンスに係る制度整備の動き
を議論の対象にする。
その際、AI 技術に関しては、一般的に必ずしも明確な定義があるわけではない。もともと、「人工知能（Artificial Intelligence）」という用語は、1956 年に開催されたダートマス
会議において提案されたものであり、その後、多くの人工知能研究が進められてきたが、その際、人工知能（AI）とは、概ね、人間の知的能力（インテリジェンス）をコンピュータ上で実現することを目的とした「学術的な研究の目指す方向」として理解されてきた。すなわ
ち、人工知能（AI）とは、学術研究者が目指す究極的な研究の方向としての用語であり、したがって、近年第三次 AI ブームで話題になり、実用化・社会普及が進みつつ特定の AI 技術とは異なるものであることを理解する必要がある。
一方、世間においては、この「人工知能」という名称がゆえに、AI 技術とは「人間同等あるいはそれ以上の知的能力（インテリジェンス）を有する存在」を実現するための近い未来の技術とのイメージを有する人も少なく、このような認識は、特に欧米の社会規範との抵
触の可能性に大きく影響を与えることになる（次項③、第３章（２）①参照）。実際に、「人工知能」に係るイメージには、世界において地域差が存在する。例えば、若干データは古いものの、日米の人工知能（AI）に係る日米の就労者に対するイメージ調査によると、日本では、人間と同様の感情を持つ存在、すなわち「友達」としての AI のイメージが比較的多いのに対し、米国では、人間を超える能力を有する存在、すなわち「人間を抑圧しうる存在」としての AI のイメージが相対的に高いことが読み取れる（図１４）。

21

【図１４】人工知能（AI）のイメージ（日米比較）25＜人工知能（AI）技術と AI システムの定義＞
これに対し、近年関心が高まっている人工知能（AI）とは、実際に社会に導入されつつある技術を指すものであり、上述のような、研究の究極の目標としての技術で必ずしもない。
特に、近年の人工知能（AI）への関心の高まりは、ムーアの法則をベースにした、多量のデータ処理を可能とするデジタル技術の継続的な発展の流れの中で、多量のデータに基づいてアルゴリズムが自動的に生成される機械学習技術（深層学習技術を含む）の発展によってブレークスルーが生じたことから、この機械学習技術を現代の「人工知能（AI）技術」の中核と位置づける場合も少なくない。また、実際に、機械学習技術により生成されるアルゴリ
ズムは、従来の人手によって作成されるアルゴリズムと比較して、人間の能力を超える性能が可能となる一方、それゆえに、その出力内容を人間が必ずしも容易には理解できないという、従来のソフトウェア技術とは大きく異なる面が存在する。
その際、このような機械学習技術（狭義の AI 技術）は、従来の情報システムに組み込まれる要素技術の一つに過ぎず、その機能する単位は情報システムであることから、法制度としては、このように機械学習技術を組み込んだ情報システムを「AI システム」として議論することも少なくない。ただし、デジタル技術の継続的な発展の中で、従来型の情報システ
ムにおいても、多量のデータを利用することによりますます高度化、複雑化しており、機械学習技術と従来のルールベースのソフトウェア技術の有無だけで区別することに意味がなくなりつつあるとともに、今後の AI 技術の普及の進展により、多くの情報システムの一部に
機械学習技術が組み込まれるようになり、その大半が AI システムとして位置づけられるよ
うになる可能性がある。
このような中、これまで世界的に AI 技術の定義の在り方に関して多く議論されてきているが、基本的には、人間の「知能・知性」を定義することは困難であり、また、議論の対象
は AI 技術というよりは、それを含む AI システムを定義する方向にある。具体的には、概ね
AI システムとは、概ね「特定の目的のため、当該目的に定められた枠（フレーム）内において、人間及びシステムの提供した各種のデータに基づき、（人間の知的能力に匹敵あるいは凌駕するような）高度なコンテンツ生成、認識・予測・推論・判断・意思決定する情報システム」であるということができる。実際に、2022 年に公表された ISO/IEC による定義26
25

出典：総務省 平成 28 年版情報通信白書（図表 4 ｰ 2 ｰ 1 ｰ 3）より筆者作成
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h28/html/nc142110.html
26
ISO/IEC 22989:2022(en) Information technology — Artificial intelligence — Artificial intelligenceconcepts and terminology
https://www.iso.org/obp/ui/#iso:std:iso-iec:22989:ed-1:v1:en

22

によると、「人間の定義した目的として与えられたセットに対し、コンテンツ、予測、推薦、意思決定などに出力を生成する工学システム」27と定義しており、知性や自律性を想起させるような文言は利用していない。なお、OECD AI 原則（2019）28においても、AI システムを「人間が定義した一定の目的のために、実環境あるいは仮想環境に影響を及ぼす予測、推薦又は意思決定を行う機械ベースのシステム」と定義しており、その上で、様々なレベルの自律性を備えて稼働するよう設計されている旨、追記している。ただし、なお、欧州、米国、カナダなどで、AI ガバナンス関連の法案が提案されているが、いずれも対象とする AI シス
テムの定義は異なっている状況にある。
＜AI 技術によるリスク対象となる社会規範（AI 原則より）＞
この AI 技術のリスク対象となるような社会規範に関しては、これまで世界各国・機関において策定されてきた各種の AI 倫理あるいは AI 原則からも見て取れる。特に、これまでの安全性、環境問題などの社会規範が主に対象であった、製造・エネルギー関連の技術とは異なり、人権・公平性など「社会的存在」としての人間の価値観に係る社会規範（倫理）が新たに対象となっていることが特徴であり、また、AI 原則が「AI 倫理」とも呼ばれるゆえんでもある。
世界の AI 倫理あるいは AI 原則は、概ね、2016 年ごろから、日本、欧州を中心に世界的に議論が開始され、2019 年には、OECD AI 原則29としてまとめられている（なおその後も
UNESCO においても、2021 年に、AI 倫理に関する勧告が発表されている30）。この OECDの AI 原則では、基本的価値として、1) 包括的な成長、持続可能な開発及び幸福、2) 人間中
心の価値観及び公平性、3) 透明性及び説明可能性、4) 頑健性、セキュリティ及び安全性、
5) アカウンタビリティの５つの項目が原則の柱として掲げられており、また、その他の多くの AI 原則においても、これらに類似する多くの概念が項目として並んでいる。その際、これらの原則に掲げられている各項目には、守るべき社会規範としての項目と、取り組むべきガバナンスの基本的方向性としての項目が混ざっており、また、AI 原則と言いつつも、AI に限らずデジタル化の進展に伴って取り組むべき項目（セキュリティなど）も含まれている。
3.1.3 artificial intelligence (AI)<discipline> research and development of mechanisms and applications of AI systems (3.1.4)
3.1.4 artificial intelligence system (AI system)engineered system that generates outputs such as content, forecasts, recommendations or decisions
for a given set of human-defined objectives
27
AI system: “engineered system that generates outputs such as content, forecasts,
recommendations or decisions for a given set of human-defined objectives”
なお、AI については、むしろ AI system を引用する形で、”research and development of
mechanisms and applications of AI systems”と定義している。
28
OECD, ”Recommendation of the Council on Artificial Intelligence”, Adopted on: 22/05/2019https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
AI system: An AI system is a machine-based system that can, for a given set of human-defined
objectives, make predictions, recommendations, or decisions influencing real or virtual environments.
AI systems are designed to operate with varying levels of autonomy
29
OECD 人工知能に関する理事会勧告
https://www.soumu.go.jp/main_content/000642217.pdf
30
UNESCO, ”ARTIFICIAL INTELLIGENCE Towards a Humanistic approach”
https://en.unesco.org/artificial-intelligence
UNESCO, “Recommendation on the Ethics of Artificial Intelligence”
https://unesdoc.unesco.org/ark:/48223/pf0000381137

23

市川（2020）31では、このような認識のもと、各種原則に記載されている項目を、社会規範に係るものと、ガバナンスに係るものに整理し、その際、特に、社会規範に関しては、全体的には、主に安全に係わるものと、主に人権・公平性に係わるものに分けて整理を行っている。特に AI 技術に関しては、特に人権・公平性（及び自由・民主主義）に関連する社会規範に係る課題が新たに追加され、大きな課題になっていることが特徴である。
【図１５】AI 原則の構造化（社会規範とガバナンス）32＜AI によって生じるリスクの主なカテゴリー（事例）＞
それでは、このような社会規範に関連して、現在のところ、AI 技術によって生じるリス
クとして具体的にどのような社会課題が指摘されているのであろうか。
一般論として、人間は、「原則として」、その共有する社会規範に従って、コンテンツ作
成、予測、推薦、意思決定などの活動・行動を行っていると期待される（もちろん、実際には、そうでない場合も存在する）。これに対し、AI システムが社会に導入され、これらの活動・行動の一部をより高度な形で担うとした場合、AI システムが社会規範に従って対応しない限り、社会的なリスクとして各種の問題が生じることになる。
以下においては、現在、AI システムによって問題が生じることが懸念・指摘されている主な事例をカテゴリー別にその概要を示す（図１６参照）。
a) 安全性：民生機器・サービス（自動運転、医療 AI など）
実世界で利用される機器やサービスにおいては、これまでデジタル化の進展に伴い、その多くに各種情報システムが組み込まれてきている。それらの情報システムは、基本的には、
当該機器・サービスを利用する人間の指示に従って動作するものであり、したがって、原則
として、人間による安全性の確保が行われてきている（ただし、その際、システムにおける自動安全保持機能なども含む）。
31

市川類「AI 原則の体系化と今後のガバナンスの方向～デジタル・AI におけるイノベーションと社会制度の共進化～」2020 年 10 月 2 日
32
市川類「AI 原則の体系化と今後のガバナンスの方向～デジタル・AI におけるイノベーションと社会制度の共進化～」2020 年 10 月 2 日
https://pubs.iir.hit-u.ac.jp/admin/ja/pdfs/show/243224

今後、このような情報システムに AI が導入され、その予測、推薦、意思決定の一部を担う場合には、その AI システム自体による安全性の確保が求められることになり、特に自動運転車や医療 AI など、人命に係わるような意思決定においては、その安全性の確保が必須条件となる。その際、特に現時点での AI システムは、一定の枠（フレーム）でしか対応できず、人間のように多様な場面における臨機応変の判断・意思決定は必ずしも対応できないことから、何らかの人間による管理の体制（Human Machine Teaming など）が必要となる場合が少なくない。また、AI システムに意思決定の一部を担わせる場合には、これまで人間が担っていた責任関係の見直しも必要になる。
このような実世界で利用される機器・サービスは、非常に広範囲にわたるが、多くの場合、
既に安全性確保の観点から、個別分野ごとの法制化がなされていることが多い。このため、
AI 技術の進展を踏まえつつ、世界各国・地域で、個別分野ごと（垂直型）の法制の見直しの検討が進められている（欧州 AI 法でも、各個別法に委任する形で、垂直規制の体制となっている）。
b) 安全性：自律型致死兵器システム（LAWS）
現代社会においては、一般論として、世界の人々の安全のためにも、戦争自体は許されないとする人類共通の社会規範を有すると考えられる。しかしながら、一方で、地域社会・集団が自らを防衛すること自体も、世界が歴史的に共有してきた強い社会規範の一つである（人間の部族主義的性向とも言える）。このような中、現実の国際的な安全保障環境の下では、やむを得ず戦争などの紛争は生じ得るとの理解の前提の下で、人道的な観点から、これまでも、戦時国際法、国際人道法、特定通常兵器使用禁止制限条約などの各種国際ルールが整備されてきている。
このような安全保障関連においては、現在多くの AI 利用が進められてきているが、その中でも、AI の利用により、人間の関与なしに自律的に攻撃目標を設定することができ、致死性を有するいわゆる自律型致死型兵器（LAWS）に係る倫理問題に関心が集まっている。
この LAWS については、現在、国連 CCW（特定通常兵器使用禁止条約）の枠組みで議論がなされてきている33ものの、本ワーキングペーパーでは、これ以上深堀はしない（なお、欧州 AI 法でも、法の対象外となっている）。
c) 人権・公平性：生体認証等によるプライバシー・個人情報保護問題
20 世紀以降の情報通信技術の発展に伴い、いわゆるプライバシー権が人権の一つとして概念化され、さらに、情報システムに入力された個人情報に関し、その収集・利用に対して本人の同意を必要とするなどの個人情報保護法制として法制化がなされてきている。
そのような中、近年の AI 技術に基づく各種の生体認証システムの普及に伴い、例えば、監視カメラなどの各種映像から本人の了承を得ることなく個人を特定し、情報システムに入力されるなど新たなプライバシー上の問題が生じている。
このような中、生体認証システムに対しては、世界の一部地域では、既に規制の動きがある。例えば、米国では、各地方自治体レベルで、特に当局による利用に対する規制の導入が33

外務省 HP「自律型致死兵器システム（LAWS）について」
https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html

25

進みつつあり、最近は人種差別問題を背景に、民間企業による利用に対する規制も検討が進みつつある34。また、欧州 AI 法でも規制対象となっている。
d) 人権・公平性：公平性・非差別性（重要意思決定）
企業・組織等が、個人情報を踏まえて個人を評価し、当該個人に対して重要な意思決定を行う場合、これまでは、人間が、各種法令等の趣旨を踏まえつつ、原則として自らの公平性に係る倫理・社会規範に基づいて判断することになっている。
これに対し、これらの重要な意思決定の一部を AI システムに委ねる場合、利用する過去のデータに内在するバイアスなどの問題により、必ずしも人間が社会規範として有する公平性の観点からの判断ができず、その結果、差別などの問題が生じ得る。本カテゴリーに係る問題は、人種差別問題が社会的に大きな課題である米国では特に多数の事例が生じている一方、日本では、これまでのところ、いわゆる 2019 年のリクナビ問題以外には必ずしも大きな問題としては発生していない。また、本カテゴリーに係る問題は、リクナビ問題が既存の個人情報保護法違反の観点から対応がなされた35ように、個人情報保護法制にも大きく関連する。
この AI による公平性・非差別性に係る問題の対象は、上述の安全性の問題（①）と同様に、司法・警察など当局が利用するものから、教育、雇用、金融・インフラ関連などのサービスなど、非常に広範囲の分野に係わるものであり、世界的に注目を浴びているカテゴリーである。このため、本ワーキングペーパーでは、特に、このカテゴリーに係る規制・制度動向を中心に議論する。
e) 人権・公平性：社会信用スコアリング
社会信用スコアリングとは、一般的に、多数の個人情報を統合し、個人の信用度を評価することによって、各種の民間・公的サービスの利用可能性を評価する仕組みであると位置づけられる。
このため、この社会信用スコアリングは、上記の重要意思決定システムの包括的なシステ
ム（の一部）と位置づけられるものの、このシステム自体は、個人に係る多数のデータベー
スと計算式さえあれば可能なものであり、いわゆる機械学習などの AI 技術を必ずしも必要とするものではなく、むしろ個人情報の扱いに係る問題に近い。実際に、欧州では、既にGDPR 第 22 条において、「プロファイリングを含む自動化された意思決定」に係る規制

尾崎愛美、「米国における顔認証技術をめぐる 法制度の現状と今後の方向性─ Black Lives Matter
運動・COVID-19 緊急事態宣言を受けて」杏林社会科学研究第 36 巻 4 号、2021 年 3 月
https://www.kyorin-u.ac.jp/univ/faculty/social_science/research/socialscience/pdf/2020vol36no4_ozaki.pdf
https://jp.reuters.com/article/usa-biometrics-privacy-idJPKBN2GD0I9
https://gigazine.net/news/20211126-german-government-ban-biometric-surveillance/
https://www.hugheshubbard.com/news/facial-recognition-technology-the-expanding-regulation-ofprivate-sector-use-jp
https://wired.jp/article/face-recognition-banned-but-every、where/
https://acompany.tech/privacytechlab/face_recognition-personal-imformation-protection-2/
35
三部裕幸（渥美坂井法律事務所・外国法共同事業弁護士・ニューヨーク州弁護士）「AI 利活用の視点からみたリクナビ事例について」2020 年 1 月 22 日
https://www.soumu.go.jp/main_content/000696630.pdf
34

26

（重大な影響を及ぼす場合は、原則禁止）がなされている36。また、実際に、クレジットの与信やシェアリングサービスなど一部の業界においては、以前より、多くの個人情報に基づ
く評価・意思決定がなされている37。
しかしながら、このような評価が、信用力の評価のみならず、広く様々な場面で利用されるようになると、社会的な問題が生じる可能性がある38ことが指摘されており、特に、広範囲に利用される中国の社会信用システムに対しては大きな批判がなされている。さらに、監視カメラを含め自ら望まない個人情報が利用され、かつ、重要なサービスの提供の是非の判
断のみならず、国家権力による法執行において恣意的に結びつくことにより、いわゆる監視
社会（大衆監視）が構築されることになり、その結果、公平性はもとより、個人の権利・自由・民主主義に悪影響を与える可能性が指摘されている。本カテゴリーは、欧州の AI 法でも規制対象になっている。
f) 個人の権利・自由・民主主義：ディープフェイク、生成型 AI など
近年の AI 技術・深層学習技術の進展に伴い、既存のコンテンツ等に係るデジタルデータを利用することにより、文章、音声、音楽、画像、動画などの様々なコンテンツを個人が容易に作成することができるようになってきている。これらの問題は、既存の著作権法などの知的財産権上の扱い等も課題となっている。
また、その中でも、いわゆるディープフェイク技術については、誰でも偽動画を容易に作成することが可能となり、これらが SNS 等を通じて社会に展開されることにより、利用された人々の権利を侵害する可能性があることはもちろんのこと、政治家の偽動画が流通することにより、民主主義にも大きな影響を与えることが懸念されている。このような中、このディープフェイク技術は、中国をはじめ、米国各州などでも特に政治目的、猥褻目的を対象としたものも中心に既に規制がなされている事例がある39。なお、欧州 AI 法では、透明化義務の対象となっている。

36

株式会社野村総合研究所「EU における GDPR（一般データ保護規則）の 運用及び対応に関する動向調査 調査報告書」2019 年 3 月 29 日
https://www.ppc.go.jp/files/pdf/gdpr-doukou-report.pdf
37
林眞子「信用スコアに関する規律の在り方 わが国と米国における信用情報の取扱いを踏まえて」
日本銀行金融研究所 Discussion Paper No. 2022-J-4、2022 年 5 月
https://www.imes.boj.or.jp/research/papers/japanese/22-J-04.pdf
38
森亮二「3 年ごと見直しヒアリング」
https://www.ppc.go.jp/files/pdf/0521_shiryou2-5.pdf
39:中国政府は、2023 年 1 月、加工対象素材が対象者の同意を得ていること、デジタル署名やデジタ
ル透かしを入れること、サービスプロバイダーに対策提供を義務付ける広範な規則を採択。
米国は、2019 年、2021 年に偽画像からの保護対策法案（Defending Each and Every Person From
False Appearances by Keeping Exploitation Subject to Accountability Act）を提案したが、採決に至らず、2023 年に再提案する予定。
現在の米国の規制は、主に政治的または猥褻目的のディープフェイクを対象としている。カリフォ
ルニア州議会の Marc Berman 下院議員（民主）も、こうした法案を提案したが、ディープフェイ
ク・ポルノを規制しているのは、ニューヨーク州を含む一握りの州だけで、テキサス州では政治的ディープフェイクが問題になったくらい。
デジタル著作権団体は、ディープフェイクの取り締まりをテクノロジー企業に委ねる、あるいは、詐欺・著作権侵害・猥褻物・名誉毀損などの問題に関する既存法的枠組み利用を働きかけている。
The New york Times, “As Deepfakes Flourish, Countries Struggle With Response”, 2022.1.22
https://www.nytimes.com/2023/01/22/business/media/deepfake-regulation-difficulty.html

27

なお、2022 年後半以降の様々な生成型 AI 技術、特に ChatGPT 技術の登場に伴い、その能力への関心が急激に高まる一方で、このように容易に生成されるコンテンツのある扱いに関して、教育現場や試験での利用なども含めて、懸念も示されてきている。
【図１６】AI 技術・システムによって生じるリスクの主要カテゴリーと規制動向40このように、AI によって生じる社会的課題は、多岐に亘るものの、本ワーキングペーパ
ーでは、以降、特に影響が広範囲の分野に亘り、関心も高い、「d）公平性・非差別性」の問題に係る規制・ガバナンス動向を中心に議論する。
なお、上記のカテゴリー以外にも、特に、SNS などの大規模インターネットサービスにおける AI の利用に係る問題として、アテンションエコノミーによる偽情報の生成・拡散や、
エコーチェンバーなどによる世論の分断と民主主義への影響なども社会にとって大きな問題と位置づけられるが、本ワーキングペーパーでは取り扱わない。また、生成型 AI を含め、AI 技術は現在も進化中であり、今後ともその進展に伴い新たな社会的課題が発生する可能性があることに留意することが必要である。

②AI ガバナンス制度とその種類＜AI ガバナンスの目指すべき基本的方向＞
このような AI によって生じるリスクに関して、「AI 原則から実践へ」という流れの中で、そのリスクを受容可能な水準で管理を図るべく、世界各国において、AI ガバナンス制度の検討が進められている。
その際、AI ガバナンスの基本は、各種 AI 原則に掲げられているガバナンス関連の項目（全般）に記載の通り（図１５参照）、AI システムを開発・利用する企業・組織において、説明責任を果たすことが基本であり、具体的には、● リスク評価：すなわち、当該 AI システムを利用することによって、社会規範に対してどのようなリスクが追加されるのかを把握すること。
● リスク管理：人間による管理体制（Human Machine Teaming）などの組織・技術体
制等により、そのリスクを管理する体制を整備すること。

40 出典：筆者作成

28

●

利害関係者との意見交換：それらの体制整備により、当該リスクが受容可能な水準であることに関して、社会・利害関係者に対して公開（透明性の確保）し、理解を得ること。
を通じて、社会・利害関係者の「信頼」（Trustworthy）を得る企業・組織になるような社会システムを整備していくことが鍵になる。
したがって、AI ガバナンス制度としては、AI システムを開発・利用する個々の企業・組織に対して、社会全体が「信頼」できるような社会システムを構築していくことが求められる。このためには、まずは、当該企業・組織らが、社会の信頼を得るために自ら取り組むイ
ンセンティブを有するような制度設計を行うことを基本としつつ、その上で、必要に応じて、信頼できる存在である国が規制を行うことにより、AI システムを開発・利用する企業における信頼を得るための取組の確実性を担保することによって、社会全体の信頼性を確保する
ことも、重要な施策の一つとなる。
＜AI ガバナンス制度の法体系の全体像＞
このような社会全体として「信頼できる AI」を目指した、国による AI ガバナンスに係る法的な取り組みを考えた場合、大きく分けると、以下の二つに分けられる。
● ルール整備：各企業・組織が AI ガバナンスに自ら積極的に取り組むように促すための取り組み。これは、民法・刑法（及びその特例法）などの一般法に相当するルール整備などであり、基本的には事後規制の位置づけとなる。
● 規制制度：各企業・組織に対して、国が、規制等を通じて、AI ガバナンスに係る取組を強制・推進する取り組みである。これは、行政法に基づく取り組みであり、多くの場合は、事前規制となる（一部事後規制）。
まず、前者に関しては、もともと、社会規範に反するような人間の行為は、憲法の理念に基づき、民法・刑法などの一般法（特例法を含む）でルールが整備されている。具体的には、所有権に関する法、契約法、民法上の不法行為（故意や過失による相手への損害など）、業
務上過失致死傷、詐欺罪などである。これらの法規制は、企業や個人などが、AI を利用して、意図的に他人に被害を与えるなど社会規範に反する行為を行った場合などにも、適用されることになる。ただし、例えば、AI システムによる被害（リスク）の場合は、特に機械学習の場合には「過失」の範囲が不明確であったり、あるいは、データに基づく組織内意思決定であれば、被害者が被害を受けているのかが不明確であったりするなどといった、既存の一般法で対応できない問題も生じる可能性がある。そのためには、一般法に係る特例法などを整備して、その明確化を図ることなどの取り組みも考えられる。
一方、後者としては、何らかの大きなリスクが想定される場合において、それを可能な限り未然に防止すべく、いわゆる行政法として規制が行われる場合である。これは、基本的には、国による事前規制による社会の信頼性確保という手法であり、AI に限らず、新たな技術によって生じるリスクに対して、そのリスクの軽減を図るべく当該技術を利用する分野において行政法として規制法を制定し、あるいは、関連する既存の規制法を改正する事例は非常に多い。AI に関しても、そのモジュールによっては非常に強力な機能を有するため、悪意ある個人・組織による利用を防止すべく、例えば、禁止などの規制を行う場合や、あるいは、個人・組織において悪意はなくとも、適切な技術・組織的な管理・マネジメントを行わなければリスクを生じ得るような場合には、事前規制の観点から、その管理マネジメントに

29

係る組織・技術基準を設け、許認可等の規制対象にする場合など、多様な規制パターンを通じてし、社会全体の信頼性を確保していくということが考えられる。
なお、この行政法の形態には、広義で考えた場合には、いわゆるハードロー（拘束的規制）とソフトロー（非拘束的規制）があり、また、特にハードロー（拘束的規制）について
は、水平規制と垂直規制があり、これらのうち、どのような法形態を AI ガバナンスに適用すべきかについて、世界的に議論になっている（図１７参照）。
【図１７】AI ガバナンス制度に係る法体系（全体像）41＜AI ガバナンスの法的形態①：ハードロー／ソフトローとそのイノベーションへの影響＞
上記のうち、AI ガバナンスを実現するための具体的な制度としては、いわゆる法的拘束力のあるハードローと、法的拘束力のないソフトローがあるとされる。
● ハードロー：法律等に基づく罰則等を伴うような規制であり、そのためにも規制対象と遵守すべき手順などが厳密に規定されることになる。その内容は、禁止、許認
可－事前基準確認、登録－事後監査など、個人・企業に対する行動制限が厳しいものから比較的緩やかなものまで、様々な形態がある。
● ソフトロー：法的拘束力を有しない行動規範であり、したがって必ずしも厳密に規定される必要は必ずしもない。そのため、一般的には、個人・組織における行動には比較的自由度が与えられることが多い一方、全く対応を行わない個人・企業が生じることが問題とされる。典型的には、政府等が発表する企業の取り組みのための自主ガイダンスであるが、政府が企業に取組を促す程度には様々な形態があるとともに、ハードローとの中間的な形態として、政府が法的に方向性を示した上で、業界団体などが自主的に対応方針を定める「共同規制」の形態などもある。
一般的には、これらの規制形態の検討にあたっては、リスクベースアプローチの考え方で検討することが望ましいとされる。すなわち、すなわち、AI によって生じる社会的リスクが大きいシステムやその用途範囲等に対しては、ハードローなどの厳しい行動制限を伴う規制形態を構築する一方で、その社会的リスクが比較的低いシステムやその用途範囲等に対しては、ソフトローなど行動規制をあまり課さない形態を構築するという方向である。なお、
ここでリスクの大きさとは、その問題が生じる可能性（確率）とそれが生じた場合における41 出典：筆者作成

30

社会に与えるインパクトの大きさの両方を考慮することが必要であると考えられ、また、そのリスクの大きさに対する評価は、その国・地域における社会規範（社会の受忍度＝非許容度を含む）にも大きく依存することから、規制形態の在り方も各国・地域における位置づけ
によって異なることに留意することが必要である。
その際、このようなガバナンスに係る形態に関しては、一般的に、規制が強い形態ほど、イノベーションに悪影響を与えるとされる（例えば、Permissionless Innovation42の議論など）。このため、一般的には、禁止や許認可などの厳しい規制は、イノベーションに悪影響を与える一方、一般的な自主的ガイドラインの場合は、許容が認められるので、イノベーシ
ョンへの抑制効果は少ないとされる（図１６参照）。
ただし、イノベーションの本質は、企業等に対して、目標に向けた競争を促すなどのインセンティブを付与し、その実現のための試行錯誤の活動を促進することである。そのような観点から、政府や第三者による事前審査制度は、企業等における試行錯誤の活動を阻害し、また、許認可制度は、企業間の競争を抑制することによって、イノベーションを抑制する効
果を引き起こすと考えられる。一方、ポーターが環境規制を事例に論じている通り43、将来的な厳しい規制として目標を設ける一方で、それに向けた現在の取り組みを、試行錯誤の活動を競争的に促進することによって、イノベーションを促進することができるとの指摘もある。したがって、同じような規制を行う場合であっても、いかに制度設計として工夫するかが、イノベーションとの両立の鍵となる。
特にデジタル分野は、技術の進展が非常に早く、迅速な失敗のフィードバックをもとにしたアジャイル開発を進めていくことが求められることから、規制によりリスクの低減を図り
つつも、企業間の競争と試行錯誤を許容し、イノベーションを促進するような新たなガバナ
ンスイノベーションが求められている。
【図１８】技術に対する規制とイノベーションの一般的関係44

Permissionless Innovation, “What will the future of innovation look like?”https://permissionlessinnovation.org/what-is-permissionless-innovation/
ADAM THIERER, “Permissionless Innovation and Public Policy: A 10-Point Blueprint”, Arlington,
Virginia, 2016
https://permissionlessinnovation.org/wp-content/uploads/2016/04/PI_Blueprint_040716_final.pdf
43Michael E. Porter and Claas van der Linde, “ Toward a New Conception of the EnvironmentCompetitiveness Relationship”, Journal of Economic Perspectives — Volume 9, Number 4 — Fall
1995 — Pages 97–118
https://pubs.aeaweb.org/doi/pdfplus/10.1257/jep.9.4.97
44 出典：筆者作成
42

31

＜AI ガバナンスの法的形態②：垂直規制と水平規制とそのイノベーションへの影響＞
AI 技術は汎用的な技術であるがゆえに、非常に幅広い分野において適用されるものであり、それぞれ適用された分野でのニーズに合わせて AI システムが開発され、利用される。
その際、AI ガバナンスの法規制の整備にあたっては、水平規制か垂直規制かが国際的に議論になっている。一般的に、水平規制とは、AI という切り口の下で、分野横断的に AI に係る規制を行おうとするアプローチであるのに対し、垂直規制とは、個別分野・業種の縦割りのごとの既存規制に修正・追加する形で、AI を規制しようとするアプローチである。
ただし、一般的には、自動運転や医療 AI など「社会規範 a)：安全性」に係るものの多くは、既に既存のシステムに係る安全性に係る法規制が垂直規制として施行されていることから、新たな AI 規制を行うにあたっても、多くの場合は、これらの既存の垂直規制に沿って法規制が行われることになる。これに対し、特に「社会規範 d)：公平性・非差別性」に係る分野は、一般的に新たな分野であり、水平規制が望ましいのか、垂直規制が望ましいのかが議論になる。。
● このうち、水平規制は、欧州の AI 法案に見られるアプローチである。「公平性・非差別性」の分野を含めて、分野横断的に法制化することによって、AI というリスクを分野横断的に監視しながら規制することが可能になり、また、既存法が存在しな
いような分野でも対応が可能となるというメリットがあると考えられる。
● 一方、垂直規制は、米国 AI 権利の章典に見られるアプローチである。例えば、消費者分野においては FTC が既に既存規制を有し、雇用分野においては、既に採用にあたっての公平性に係る規則が存在し、また、教育の分野においては、入学に当たっての公平な試験審査に係る規則が既に存在する中で、それぞれの分野ごとに AI 規制
やガイドライン等を進めていくという方向を示している。
このような中、どちらのアプローチを採用するかについては、一般的には、当該国・地域
における国家統治システム（省庁体制、法典体制など）にも依存するであろう。ただし、一般的には、前者の水平規制アプローチでは、網羅的な「AI 規制」が可能となり、場合によっては、国民に対して AI を強力に規制していることを PR することが可能となるメリットがあるのに対し、後者の垂直規制アプロ―とは、分野横断的な基本的な方針は明確にする必要は指摘されつつも、分野ごとのリスクの状況という「文脈」に応じた対応が可能になることから、よりイノベーションにとって望ましいという考え方も可能である。

③社会規範の差異と AI ガバナンス制度への影響＜社会規範の地域的差異が AI ガバナンス制度に与える影響＞
近年の AI 原則から実践への流れの中で、現在、世界的に AI ガバナンス制度の構築が検討されているが、その内容に関しては、当該国・地域における社会規範の地域的な差異による影響が指摘されている。市川（2021、2022）45によると、欧州と日本における社会規範に45

市川類「社会規範の差異が人工知能（AI）の規制・イノベーションに与える影響～欧州ＡＩ動向か
ら見る知的対話システムの倫理的リスクに係る地域的差異」2021 年 9 月 10 日
https://pubs.iir.hit-u.ac.jp/admin/ja/pdfs/show/2501
市川類「欧州 AI 動向からみる知的対話システムの倫理的リスク」（2022 年 5 月 1 日、人工知能学会
論文誌、37 巻（2022）3 号、p. IDS-A_1-9）
https://www.jstage.jst.go.jp/article/tjsai/37/3/37_37-3_IDS-A/_article/-char/ja

32

係る文化的な差異により、欧州、日本それぞれの AI 原則において、特に「人間‐機械（AI）」関係に関して、異なった認識の記載がなされていることを明らかにするとともに、
実際に欧州 AI 法案においても、この欧州の「人間‐機械（AI）」関係に係る認識に基づき法制化が検討されている項目があることを指摘している（図１９参照）。
この「人間－機械（AI ）」関係の認識の差異とは、具体的には、欧州では、キリスト教（一神教）を背景に、「神・人間」と「それ以外の「モノ（機械等）」の二元論的考えがあり、そのため、「神」及び神によって唯一知性が与えられた「人間」のみが知性を有する存在であるのにも係わらず、人間が、それ以外のモノ（機械等）に対して知性を与えること（＝人工知能を作ること）は、神の意図への冒涜とみなす考えが背景にあるとされる。このため、このような文化的・思想的背景をベースに、大衆文化で描かれるロボットや AI などの多くは、フランケンシュタインやターミネーターに見られるように「人類に危害を与える存在」として描かれることが多いとされる。また、いわゆる AI に係るシンギュラリティの議論が、欧米を中心に関心を集める理由の一因であると考えられる。
これに対して、東洋・日本では、多神教・仏教を背景に、「人間」とその他の「モノ（機械等）」は、連続的なものとみなす考えがあり、したがって、人間と、その他の生物だけでなく、自然物、工作物（機械等）においても、神・生命が宿るとの考えがある。このため、モノが知性を有することに違和感はなく、このような文化的・思想的背景をベースに、大衆文化で描かれるロボットや AI の多くは、鉄腕アトムやドラえもんなどに見られるように、「人類の友達」として描かれることが多い。また、このためにも、特に日本においては、他国との比較においても、ヒューマノイド型のロボットの開発が好まれ、さらに、Aibo などの動物型のロボットが市場で人気を博すという理由の一因であると考えられる。
【図１９】人工知能に係る社会規範と制度・ガバナンス等の関係（欧州・日本比較）46

46

出典：市川類「社会規範の差異が人工知能（AI）の規制・イノベーションに与える影響 ～欧州 AI
動向から見る知的対話システムの倫理的リスクに係る地域的差異～」WP#21-03 一橋大学イノベーシ
ョン研究センター （2021/09/10）
https://pubs.iir.hit-u.ac.jp/admin/ja/pdfs/show/2501

33

このような文化的背景をベースにした「人間‐機械（AI）」関係に係る認識の地域的な差
異は、欧州では、人工知能（AI）に対して「不安感・不信感」という感情を社会・市民に生起させるのに対し、日本では、むしろ「親近感・期待感」という感情を生起させるという社会規範上の差異を生じさせることになり、この結果、社会における人工知能（AI）に対するリスク認識の差異を通じて、両地域における AI ガバナンス制度の構築の方向にも大きく影響を与えることになる。
＜「AI ガバナンス制度の世界的な進化メカニズム」に向けて＞
それでは、このように、西洋・東洋における社会規範の差異により社会における AI に対するリスク認識が大きく異なる中、実際に、各国・地域の AI ガバナンス制度は、どのように構築されるのであろうか。その際、各国・地域における AI ガバナンス制度は、このような社会規範の差異に大きく影響を受けるにせよ、それ以外に、例えば、各国・地域の AI 普及率の状況、国家統治体制と地政学的な国家戦略における差異などによっても影響を受けると考えられる。また、このような各国・地域の AI ガバナンス制度は、他の国・地域の AI ガ
バナンスの動向や世界的な AI ガバナンス動向にも大きな影響を受けると考えられる。
このような問題意識の下、次章、次々章においては、本章で示した枠組みを念頭に、特に2019 年の OECD AI 原則の発表以降現時点までの、主に先進民主主義諸国における AI ガバ
ナンス制度を巡る動向について、それらの相互の影響を含めて分析する。これにより、世界における AI ガバナンス制度の形成・進化のメカニズムを明らかにするとともに、今後の国際的なハーモナイゼーションの影響や、世界各国・地域における AI に係るイノベーションの進展への影響等について考察する。
なお、世界全体の AI 動向の観点で見れば、いわゆる権威主義国家と言われる中国も非常に大きな存在であり、また、形式上は、OECD の AI 原則と同様の内容である G20 の AI 原則には署名している状況にはある。しかしながら、実際のところは、そもそも AI ガバナン
スを制度化しようという動きは現時点ではほとんど見られないことから、本ワーキングペー
パーでは、とりあえず対象外とする。

３．世界の AI ガバナンス制度の比較とその要因分析（１）世界各国・地域の AI ガバナンス政策の国際比較①政府戦略における AI ガバナンスの位置の国際比較
世界全体では、OECD の AI 原則の発表（2019 年 4 月）以降、「原則から実践へ」という流れの中で、特に先進民主主義諸国を中心に、AI ガバナンスの制度設計に係る検討・取り組みが進められてきている。このような中、本項では、まず、このような AI ガバナンス関係に係る取り組みが、各国・地域における AI 戦略全体において、どの程度の位置づけを有するのかについて明らかにする。
このため、具体的には、主要先進民主主義諸国のうち、2019 年以降に政府全体としてのAI 戦略に係る包括的文書を発表している欧州、米国、英国、日本の４カ国・地域を取り上34

げ、それらの国・地域における最新の AI 戦略文書である以下の文書における AI ガバナンス
関連の記述の量を評価する。
● 欧州：AI 白書（2020）47● 米国：ホームページ「AI.gov」48● 英国：国家 AI 戦略（2021）49● 日本：AI 戦略 2022（2022）50
なお、米国については、この時期に政府全体の戦略に係る発表文書がないため、AI.govのホームページの文章を対象とした。
具体的な数値としては、それぞれの戦略文書全体のページ数における AI ガバナンス関連に係る章（信頼できる AI、AI ガバナンス、倫理など）のページ数の割合を計算した。ページ数としたのは、計測を容易とするためであり、例えば文字数で計測しても良いが傾向は変わらない。ただし、米国については、ホームページであるため、文字数で計測した。なお、
各戦略文書によっては、整理学上の差異（例えば、信頼性向上のための研究開発などの位置
づけなど）があることに留意する。
その結果を、図２０の通り示す。欧州（AI 白書）では、全体の 65％を占めているのに対し、米国、英国では、25％程度であり、これに対し日本（AI 戦略 2022）では、2～3％にしか過ぎないと、顕著な差が見受けられる。明らかに、欧州と日本では、ＡＩガバナンスに対する政策的な関心の差があると言え、また、米国、英国は、その中間的な位置づけにあると言うことができるであろう。
【図２０】主要国の AI 戦略における AI ガバナンス関係の記述の割合の比較51

47

EUROPEAN COMMISSION, White Paper on Artificial Intelligence: a European approach toexcellence and trust, Brussels, 19.2.2020, COM(2020) 65 final
https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approachexcellence-and-trust_en
48
NATIONAL ARTIFICIAL INTELLIGENCE INITIATIVE, OVERSEEING AND IMPLEMENTING THE
UNITED STATES NATIONAL AI STRATEGY（2022 年 12 月 18 日チェック）https://www.ai.gov/
https://www.ai.gov/strategic-pillars/
49
HM Government, National AI Strategy,Published 22 September 2021
https://www.gov.uk/government/publications/national-ai-strategy
50
統合イノベーション戦略推進会議、「AI 戦略 2022」2022 年 4 月 22 日
https://www8.cao.go.jp/cstp/ai/index.html
51
出典：各戦略文書より、筆者作成。

35

（注）・原則として（米国を除き）、紙媒体のページ数で計測。その際、英国の戦略の全体のページ数の計測においては、冒頭の大臣挨拶及び概要は除いた。
・また、各章ごとのページ数の計測は、概ねの数字で評価（例えば、日本の戦略における「倫理」のページ数は実際には１頁にも満たないが、１頁とカウントした）。
・米国の場合は、いわゆる AI の全体的な戦略文章は必ずしも発行・発表されていないため、ホワイ
トハウスの AI 室が運営する AI.gov における「戦略的柱」に掲げる６項目のそれぞれの文字数をカウントし、分析した。なお、他の国の戦略文書では、いわゆる戦略的柱に相当する部分のみではなく、
通常、冒頭部分や横断的部分があるため、他国との比較では、上記の 26％よりは低い数字とみなすべきものと位置づけられる。

もちろん、いずれの戦略文書においても、冒頭部分（「はじめに」など）や、横断的部分（状況認識や今後の全体方向などを記載する部分）にも、AI ガバナンス関連の記述はあるため、これらの数字が AI ガバナンス関連の記述の割合を示すものではないことに考慮することが必要である52。しかしながら、程度の差はあれ、これは（米国を除き）各国とも共通であると言える。
なお、各国の戦略においては、それぞれ編集方針が異なるため、同じ AI ガバナンス関連といっても、内容が標準化されている訳ではない53。ただし、AI ガバナンス関連項目を中心にまとめて大きな課題であると位置づけないこと自体が、AI ガバナンスへの相対的な関心の低さを示すものとも解釈可能である。また、欧州の AI 白書（2022）は、その後の AI 法案を提案するための準備段階のものとして位置づけられるため、AI ガバナンス関連の章が厚くなっていることは考慮することが必要である。しかしながら、時期的な問題はあるにせよ、AI 法案を打ち出そうとしていること自体が、ＡＩガバナンス関連への関心の高まりを示すものとも解釈可能である。

②世界各国・地域の AI ガバナンス制度に係る国際比較
次に、各国・地域においては、そのような AI 戦略に基づき、それぞれ独自の AI ガバナン
ス制度を提案しつつあるが、それらは、どのようなものになっているのであろうか。
このような問題意識の下、本項においては、現時点において、特に民間企業を念頭においた AI ガバナンス制度の具体的法案あるいはその方向を明示して発表している国・地域として、欧州、米国、カナダ、英国、日本、シンガポールの６カ国・地域を取り上げ、その発表されている法案、政策方針、取り組みなど比較分析する。具体的には、図２１のとおり。な
お、国・地域によっては、政府での AI 利用のみに係る AI ガバナンス制度を別途規定している例もあるが、本ワーキングペーパーでは対象としない。

52 例えば、日本の AI 戦略 2022 では、第三部の社会実装の推進においては、いくつか信頼性に係る取り組みの必要性について記載されている。
53 例えば、信頼性に係る研究開発・標準化について、米国では、「信頼できる AI」に入れる一方で、日本では、「研究開発」の章に入れている。

36

【図２１】AI ガバナンス制度国際比較（欧州、カナダ、米国、英国、シンガポール、日本）54

これらを見ると、少なくとも、現時点では、欧州が、厳しい AI 規制を志向しており、それに関連して、米国・カナダでも一部法規制の導入を志向しているの対し、英国は、一部規制の導入は否定しないものの原則として自主的な取り組みを志向し、また、日本・シンガポ
ールは、もともと自主的な取り組みを志向している。すなわち、欧州はいわゆるハードロー志向であり、日本はソフトロー志向であると言える。
この結果と前項の結果と併せて評価すると、全般的には、AI 戦略の一環として、AI ガバ
ナンス制度に関心高い欧州では、ハードローとして厳しい規制案を提案しているのに対し、
そもそも AI ガバナンス制度の関心の低い日本は、やはりソフトローとして緩やかな案を提案するなど、政府・国民としての関心と、対策の方向としての制度案には相関があると考えられる。なお、各国・地域の AI ガバナンス案に係る詳細比較は、第４章にて行う。

（２）AI ガバナンスの地域差に係る要因分析（考察）①AI ガバナンス制度の地域差に係る要因の考え方＜人権認識に係る社会規範要因：人権先進国／後進国に係る本 WP のスタンス＞
このように、欧州では AI ガバナンスに対して関心が高く、かつ、厳しいハードローを志向しているのに対し、日本では関心が低く、緩やかなソフトローを志向していることに関し、
海外の AI ガバナンス動向に詳しいとする日本の専門家、特に憲法や人権の重要性を主張する日本の AI 法学者の一部には、「欧州が進んでいて、日本が遅れている」とみなす見方もある。このような考え方は、概ね、以下の二つの前提に立っているものと考えられる。
● 人権などの進歩理論：特に人権などは国際的に守るべきものであり、その人権などの認識は、欧州が先行しているのに対し、日本・アジアなどは遅れている。日本は、欧州に追い付く「べき」である。
54 出典：各戦略文書等より筆者作成

37●

国家・政府の取り組み：そのような中、欧州に比べて、日本政府・日本企業は、人権問題に対して関心が薄い。日本政府・日本企業は、欧州の先進事例を参考に、積極的に取り組む「べき」である
このような、欧州を人権先進国とし、日本などを人権後進国とする見方は、一つの見方として否定するべきものではない。
しかしながら、本ワーキングペーパーでは、人権・公平性に対する考え方は、各国・地域
における歴史的な経緯を背景に、各国・地域の社会規範として「そもそも異なる」との理解・立場をとり、ある国・地域の有する社会規範が、「進んでいるか」「遅れているか」という評価は行わない。確かに、そもそも「人権」という考え方自体は、欧州・西洋発祥の概念であり、その後、欧州の国際的地位を背景に、世界に拡がっていった概念である。また、その公平性の対象とする範囲も、経済社会的地位、性別、人種、障碍者、LGBT など歴史を通じて拡大し、それらの拡大内容が、順次、欧州・西洋から世界に拡がってきたのも事実である。しかしながら、それゆえに、アカデミックな立場からすると、現時点でそれらを「先進／後進」と価値評価を行うことは、必ずしも正しくないと考える。
また、このような人権・公平性に係る認識の高さは、その国・地域において直面している
課題にも依存するものと考えられる。すなわち、例えば、欧州では、移民に対する差別が大きな社会的課題であるのに対し、米国では、黒人等に対する差別が社会課題となっている。
一方、日本では、人種というよりは、むしろ、いじめなどの形式での差別が問題になっている。人権・公平性に係る概念は、このような各国・地域における社会課題認識の中で概念化・制度化され、その後場合によっては世界に普及していくものと考えられる。
このような認識の下、本ワーキングペーパーでは、欧州と日本・アジアにおける人権認識の差異は、「先進」「後進」という評価ではなく、そもそもそれぞれの歴史的背景に基づき単に存在するものであり、かつ、AI ガバナンスを必要とする社会認識の差異に影響を与える要因としてみなした上で、考察を行う。
＜AI ガバナンス制度の地域的な差異に係る要因（全体像）＞
そのような前提を踏まえ、以下においては、各国・地域の AI ガバナンス制度の位置づけと内容に係る差異について考察する。具体的には、第二章の枠組みを踏まえつつ、政府は、
民主主義国家であるとの前提のもと、１）社会規範等を踏まえた社会・市民の AI ガバナンスへの関心の高さ／必要性の認識、２）そのような関心の高さを踏まえた、政府としての国
家統治システムの中での対応方向と戦略、に分けて考える。
このうち、前者は、図２０に示したような AI 戦略における AI ガバナンスの位置づけに大きく影響を与え、また、それに後者を加えることによって、図２１に示したような AI ガバ
ナンス制度の内容に影響を与えることになると整理される。
１）AI ガバナンスに対する社会・市民の必要性の認識
まずは、AI ガバナンスへの必要性に対する社会・市民の認識が重要になる。その際、社会規範としての AI に対する認識（不安感、不信感など）と人権・公平性への認識の高さ（A）は、互いに相俟って、「仮に AI による問題が実際に起きていないくとも」、社会・市民は、AI ガバナンスの必要性を感じることになる。それに加え、AI に限らず、全ての新興の技術において、市民は当初不安感を有することがあり、また、労働代替的な革新的な技

38

術に対しては、市民は失業の不安を感じることにより、AI ガバナンスの必要性の認識を生じやすい。
その上で、実際に、AI ガバナンスの必要性が認識されるのは、実際、AI による問題が具体的に生じ、メディアを通じて報道され、社会に共有される場合であると考えられる。その際、そのような問題が発生するのは、当該国・地域における人権・公平性に係る社会的な状
況に加え、その前提となる AI 普及率が重要な指標となると考えられる（Ｂ）。
２）国家の統治システムを踏まえた取り組みと国際戦略
民主主義国家では、原則として、上述のような社会・市民の認識をベースにして、政府において AI ガバナンスの制度設計の検討を行うことになる、
その際、その AI ガバナンス制度の内容は、これらの社会（市民）の認識が大きく影響を与えることに加え、当該国・地域における国家の統治システム（ガバナンス体制や法典などの法体系など）に応じて検討することになるとともに（Ｃ）、その国・地域の地政学的状況を踏まえた「国際戦略」に基づき制定されることになる（Ｄ）。
これらを図に示すと、以下の通り（図２２参照）。以下においては、それぞれについて、概観を説明する。
【図２２】世界に AI ガバナンス／法規制の必要性に係る差異の要因55②AI ガバナンス制度の必要性に係る社会・市民の認識の差異の要因（A、B）
Ａ：社会規範に基づく理念的要因＜人工知能（AI）と人権に対する社会・市民認識＞
本項では、AI ガバナンスの必要性に係る社会・市民の認識のうち、特に社会規範に基づ
く要因について考察する。
まずは、第二章で議論したとおり、特に「人工知能（AI）」に関しては、文化的な要因に基づく社会規範の差異として、「人間－機械（AI）」関係に係る認識の差異が存在する。すなわち、欧州では、歴史的・文化的認識として、機械（人工知能：AI）に対し、人間とは異なり、人権などの倫理に反するような（悪意ある）行動を自律的に起こすのではないかとの不安感・不信感が比較的に大きい。これに、欧州での人権・公平性に対する社会的な認識の55 出典：筆者作成

39

高さが加わって、たとえ現時点で AI による具体的な問題が起きていなくても、理念的観点から、予防原則（Precoutionary Principle）の視点も含めた厳しい AI ガバナンス制度を設けるべきとの世論が強くなる傾向があると考えられる。実際に、欧州の AI 法案の作成過程においては、予防原則的な発想が明記されている。
これに対し、日本などアジア諸国に関しては、その歴史的・文化的認識として、機械（人工知能：AI）に対して、原則友達のような存在としての親近感・期待感が比較的に大きい。
このため、機械（AI）を利用する人間が悪意を有したり、人間が過度に AI に依存したりしない限り問題はないとのスタンスであり、したがって、そもそも AI ガバナンスに対して相対的に関心が低く、その必要性に係る世論も総じて低調になる傾向にあると考えられる。
＜「人工知能（AI）」の名称が社会・市民の認識に与える影響＞
なお、その際、このような「人間－機械（AI）」関係に係る認識に関して地域差異が生じる背景の一つとしては、「人工知能（AI）」という用語とそのイメージに係る問題が存在すると考えられる。
すなわち、第二章で記載したとおり、「人工知能（AI）」とは学術的な研究上の目標にしか過ぎず、現実の AI システムとは、人間の「知性（インテリジェンス）」を有するというよりは、むしろ高度なコンテンツ生成、予測、推薦、意思決定が可能となった「情報システ
ム」の進化系にしか過ぎない。しかしながら、このような高度な情報システムを、「人工知能（AI）」と呼称し、人間の有する知能・知性（インテリジェンス）を有する存在をイメージさせるような名称を与えることによって、特に西洋において、いわゆる「AI」に対する不安感・不信感、場合によってはシンギュラリティの議論などに見られるように恐怖的な感情を社会・市民に与え、その結果、AI ガバナンスの必要性を強く認識させる大きな要因となっている可能性が考えられる。
したがって、空想ではあるものの、仮に現在の AI 技術が例えば「高度情報システム」や、「デジタル 2.0」などと呼称されていた場合、今とは異なった社会的反応があった可能性も全くは否定できない。また、実際の各国の AI ガバナンス関連の法令において、そもそも AIの定義に難航する中でも、欧州では引き続き「人工知能」という用語に拘泥する一方、米国
等では「重要意思決定システム」などの用語が利用されつつあることは、興味深い。
＜技術の社会受容性と失業の可能性の懸念＞
また、上記以外に「社会・市民の認識」（不安感・期待感）に影響を与える要因としては、
社会・市民における「新たな技術の社会受容性」の視点がある。これは、概ね、以下の二つに分けられる。なお、これらの社会受容性は、必ずしも、AI 技術のみに特有のものではな
く、新興技術であって、労働代替技術となるような技術は全て問題になり得る。
● 「新たな技術への拒否感」：新しい技術が出てきたときには、特に従来技術に慣れている高齢者を中心に、社会全体としてその導入当初は拒否する傾向があることが、一般的に指摘されている。
● 「労働代替に係る拒否感」：特に革新的な技術が登場し、自らの労働の代替となる可能性が高い場合には、市民は当該技術を拒否する傾向がある。過去のラッダイト運動などが、典型例といえよう。
このうち、後者の視点に関しては、当該国・地域における失業率などの違いにも影響を受ける可能性がある。特に欧州のように失業率が比較的に高い国では、AI に対する拒否感が40高まる可能性がある一方、日本のように、雇用が比較的に守られており、かつ、全般的に雇用不足が指摘される社会においては、むしろ AI に対する期待感が高くなる可能性がある。
Ｂ．問題事例の発生による要因（AI 普及率など）
上述（A）のような社会規範に基づく AI に対する不安感・期待感などに係る認識は、実際に AI のリスクによる具体的な問題が生じなくても、AI ガバナンスの必要性に係る社会・市民認識を高める効果がある。しかしながら、実際に、AI ガバナンスの必要性に係る社会・市民認識が高まるのは、その国・地域内で AI のリスクによる具体的な問題事例が多く生じるときであると考えられる。多くの国・地域では、AI による具体的な問題が生じ、それがメディアでも取り上げられ世間の話題になると、それに対応して、政府が法規制を含む
具体的な政策の検討を始めることが少なくない。
その際、特に、AI に係る公平性・非差別性の問題に関して、各国・地域においてどれだ
け多くの問題事例が生じるかについては、一般的に、以下の二つの要因に依存するものと考えられる。
● 当該国・地域における公平性・非差別性に係る一般的な問題発生数、課題の大きさ（これは、当該国・地域における公平性・非差別性に係る社会認識とも関係する）● 当該国・地域の AI システムの普及率（特に十分な AI ガバナンス体制が取れていな
い段階での普及）
実際に、世界において、AI による公平性・非差別性に係る問題事例としてあげられている事例の多くは、米国のものであり、特に、黒人に対する人種差別・公平性に係る問題の事
例が非常に多い。このような多くの問題事例が発生している理由は、一つには、米国においては人種差別に係る問題が大きな社会課題として位置づけられるなど、当該国・地域に抱える人権上の社会的課題の大きいことに加えて、もう一つは、AI の普及率の問題が重要な背景であると考えられる。すなわち、米国の場合は、第二章（１）②で示したとおり、世界の中でも、AI システムの導入普及が先進的に進んでおり、その結果、人種差別などが大きな
社会課題となる社会において、十分な AI ガバナンス対策が取られないまま導入が進んだた
めに、先行的な問題事例が多数顕在化しているものと考えられる。言い換えると、米国では、
必ずしも、欧州ほどは AI に対する不安感等が高くないとしても、AI 普及率が相対的に高く、その結果国内事情を背景に多くの問題が生じている状況になっており、その結果、政府としても何らかの規制を検討せざるを得ない状況にあると言えよう。実際に、連邦政府以外にも、規制に取り組む州政府・地方自治体が多いのも米国の特徴と言える。
これに対し、日本では、これまで、メディアでも大きな問題になったのは、リクナビ問題程度であり、また、本件については、個人情報保護法違反ということで対応済とされ、その後、現時点では大きな問題事例は生じていない状況の中では、政府としても、厳しい法規制を打ち出すインセンティブは全く生じない状況にあると言える。また、その背景としては、
日本ではまだ AI システムが米国等と比較して AI システムの導入が拡がっていないということがあげられる。

③AI ガバナンスに係る政府対応の内容の差異の要因
特に、民主主義国家では、原則として、上記②に示したような社会・市民における必要性に係る認識を踏まえて、AI ガバナンス制度の検討を行うことになる。すなわち、社会・市

41

民の必要性の認識の高さを背景に、欧州・米国では、厳しめの AI ガバナンス制度（ハードローなど）を志向するのに対し、日本・シンガポールでは、弱めの AI ガバナンス制度（ソフトローなど）を志向することになる。
その上で、各国・地域において、個々具体的に AI ガバナンス制度を設計するにあたって
は、当該国・地域の国家統治システム（体制、法体系など）や、当該国・地域における地政学的状況等を踏まえた国際戦略としての方向が影響を受けると考えられる。以下においては、
この２点について考察する。
C．国家統治システムに基づく要因＜国家統治体制が与える影響＞
まずは、各国・地域における国家の統治体制も AI ガバナンスの在り方に影響を与えるが、その中でも、特に欧州と米国の違いが象徴的である。
具体的には、欧州連合（EU）は、加盟国の連合体であるが、一般的に、欧州委員会（EC）が強力な権限を有し、特に AI 法案に関しては、各国に法改正を指示する Directive（指令）ではなく、欧州全体の法令を制定する Regulation（規則）を志向することにより、
欧州委員会が一手に法制を決めるという方針で積極的に取り組んでいる。この時点で、AIに関連する条項は、可能な限りこの AI 法に組み込むという方針になり、したがって、欧州の AI 法は「水平規制」であることが特徴になっている。これは、欧州全体の人権保護という視点では有意義なものとなる可能性があるものの、イノベーションという視点では分野の文脈に応じないような融通の効かないものとなる可能性も存在する。
これに対して、米国は、巨大な連邦政府であり、ホワイトハウスは各省庁に対して強力な指示権限はあるものの、実際に執行するのは各省庁であり、個々の分野での規則に関しては各省庁が強い権限を有するという国家統治体制である。また、法律の制定においては、行政府ではなく連邦議会に大きく依存していること、また、州政府・地方自治体の独立性が高く、個別の条例の制定に積極的に取り組んでいることなどについても、米国の特徴であると言える。このような中、米国は、基本的には、その国家統治体制を踏まえ、「垂直規制」を旨としている。すなわち、ホワイトハウスは、AI 権利の章典として、全体の方向を指示するものの、実際に規則を作るのは、各省庁であり、FTC は消費者対応としてかなり分野横断的な位置づけに近いものの、労働問題は労働省、教育問題は教育省などが担当することになり、したがって、当然にして目指す法体系も「垂直規制」が基本となる。
なお、英国、カナダ、日本などについては、いずれも、そこまでは大きな特徴はない。
＜国の制度における法制度の位置づけ＞
また、AI ガバナンスに係る法規制を実際に検討するにあたっては、国・地域によって、そもそもの法規制の在り方・位置づけ、法規制の執行力の捉え方などが異なることに留意す
ることが必要である。
例えば、米国では、民主党、共和党などの政権体制にも依るものの、基本的には、国が規制等を行うのは、最小限にすべきという考え方が根強い。また、上述のとおり、法案の主導権は議会にあり、また、多様な利害関係者が絡む問題でもあるため、行政府の期待するような法案が成立するとは限らないという体制である。
また、例えば、欧米では、国が定める法規制は、法律で定めた執行を含めたビジネスルー
ルの一部であり、罰金さえ支払えば許されるとみなされる傾向があり、したがって、罰金等

42

のない法規制や政府の発するガイダンスなどは、企業にとってほとんど効力を有さない傾向にある。これに対し、日本では、法律は、罰則の多寡は問わず、必ず遵守すべきものとの位置づけであり、場合によっては、政府によるガイダンスであっても、状況によっては、遵守しないと社会的制裁が与えられるものも少なくない。例えば、直近では、新型コロナ対策では、マスクの着用をはじめ、日本では法に基づかない政府のガイダンスであっても、国民・企業の行動に大きな変容をもたらしたことは記憶に新しい。
D. 地政学的な観点からの国際戦略に係る要因（ルール形成、イノベーション）
各国・地域政府は、このようなそれぞれの国家統治システムの中で、AI ガバナンス制度の設計に取り組むことになるが、その際、当然、独立国家としての各国の国際戦略に基づいて、制度設計を行うことになる。具体的にどのような戦略をとるかについては、その当時の政権の意向にも依存するとともに、その地政学的な状況にも依存する。このうち、特に、後者の地政学的な観点からは、産業戦略的な取組として、主に、以下の二つの戦略が興味深い。
一つは、国際的なルール形成を通じた産業戦略との観点から、戦略的に規制をするアプローチである。すなわち、グローバルな観点から、自国・地域の産業にとって相対的な有利なルールを先導的に構築し、それをグローバルなルールとして推進することにより、相対的に自国産業にとって有利にしようとする戦略である。これは特に欧州に見られる戦略であり、
いわゆるブラッセル効果と呼ばれる戦略である。
もう一つは、制度的な創意工夫を行うことにより、周辺国・地域と比較して、よりイノベーションを促進するような AI ガバナンス制度を設けることによって、自国の AI 産業のイノ
ベーションを振興しようとする産業戦略である。特に、英国は、EU の AI 法と比較して、イ
ノベーション促進の方向を打ち出しているのが特徴である。

４．世界の AI ガバナンス制度の進化メカニズム（１）世界の AI ガバナンス政策の進化に向けた動き
前章においては、世界各国・地域の AI ガバナンスの提案状況に関して、その現時点におけるスナップショットとして、その比較評価を行うとともに、その要因について４項目に分けて考察を行った。
本章では、これを踏まえて、特に 2019 年の OECD の AI 原則以降、それぞれの国・地域
において方針が示され、提案されてきた AI ガバナンス制度が、それぞれの共有する社会規範などをベースにしつつも、互いにどのように影響を受けながら（共鳴しながら）、形成・発展・進化しつつあるのかというメカニズムについて考察を行う。具体的には、欧州、米国、
カナダ、英国、日本、シンガポールにおける AI ガバナンスの検討経緯に関して、時系列で追うことにより、分析・考察を行う。

43

①OECD AI 原則とその直後の動向（欧州、シンガポール）
2019 年 5 月に、OECD AI 原則56が 42 カ国によって採択され、その翌月の 6 月に G20 AI
原則が採択された。内容は全く同じである。この AI 原則は、特に、欧州の AI 倫理と、日本の人間中心 AI 社会の原則を参考に作成されたとされる57。この OECD の AI 原則の発表以降、世界的には、「原則から実践へ」と舵が切られ、具体的な AI ガバナンス制度の設計・検討が始まることになる。
その際、特に先行したのは、欧州とシンガポールであるが、この時点においては、自主的な取り組みを念頭においたパイロット事業が中心であった。
具体的には、欧州においては、2019 年 4 月に、欧州の AI 原則（「信頼できる AI に向けた倫理ガイドライン」）58が発表された際に、同ガイドラインに示された７要件に基づいて、自己評価のための「評価リスト（パイロット版）」が作成された。その際、同時期に発表された「人間中心 AI における信頼性構築」59において、今後、当該評価リストに基づきパイ
ロット事業・試験を行うことによって、2019 年末までにフィードバック・評価を行い60、その後、当該評価リストの見直しを行うという方針が示された。その後、実際に、2020 年
7 月には「評価リスト」の最終版61が発表されている62。
また、シンガポールは、OECD にも、G20 にも参加していないが、世界に先んじて AI ガ
バナンスに取り組んできている。具体的には、OECD AI 原則が採択される前の 2018 年 6
月に「AI ガバナンスと倫理イニシアティブ」を発表し、それを踏まえて、2019 年 1 月には、「モデル AI ガバナンス枠組み ver1」を発表している63。この枠組みは、民間企業が AI シス
テムを導入する際に、自主的に AI ガバナンスに取り組むためのガイダンスとの位置づけである。その後、OECD AI 原則の発表後の 2020 年 1 月には、同枠組みの ver2 を発表するとともに、更に詳細なガイダンスである「組織のための実行・自己評価ガイド（ISAGO）」

OECD, ”Recommendation of the Council on Artificial Intelligence”, Adopted on: 22/05/2019https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
57
EC, “Communication: Building Trust in Human Centric Artificial Intelligence”, Brussels, 8.4.2019
COM(2019) 168 final
https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centric-artificialintelligence58
EC, “Ethics guidelines for trustworthy AI”, Publication 08 April 2019https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
59
EC, “Communication: Building Trust in Human Centric Artificial Intelligence”, Publication 08 April
2019
https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centric-artificialintelligence60
https://ec.europa.eu/futurium/en/ethics-guidelines-trustworthy-ai/register-piloting-process-0.html
61
EC, “Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment”, Publication
17 July 2020
https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altaiself-assessment62
なお、この時点で外部の一部からは、これらの評価リスト等の取り組みではまだ不十分という議論もなされている。
Eleanore Hickman & Martin Petrin, “Trustworthy AI and Corporate Governance: The EU’s Ethics
Guidelines for Trustworthy Artificial Intelligence from a Company Law Perspective”, European
Business Organization Law Review volume 22, pages 593–625 (2021)
https://link.springer.com/article/10.1007/s40804-021-00224-0
63
PDPC, Singapore’s Approach to AI Governancehttps://www.pdpc.gov.sg/Help-and-Resources/2020/01/Model-AI-Governance-Framework
56

44

を発表している64。同ガイドは、世界経済フォーラム（WEF）と連携して作成したものであり、60 以上の組織との協力の下、実際の産業での取り組み事例なども含めて記載したものである。さらに、その後、実際のユースケースも集めて公開をしている65。
このように、この時点までは、AI 原則を踏まえて、各原則に掲げられた柱を踏まえつつ、
企業における AI ガバナンス・マネジメントを推進するための自主的な枠組みを中心に検討が進められていた。

②欧州（EU）の動向：AI 法案の提案とその後の動き＜AI 法案提案までの動き＞
そのような中で、2021 年 4 月に発表された欧州（EU）の AI 法案は、いわゆるハードローに基づく規制法案（水平規制）であり、世界の AI ガバナンスの方向に大きな影響を与えることになる。なお、欧州において、AI ガバナンスの法制化（ハードロー）を志向することを初めて明確に示したのは、2020 年 2 月の AI 白書であるが、もともと 2018 年 4 月に発表された欧州の初めての AI 戦略の文書「欧州のための AI」66においても、AI ガバナンスの法制化の可能性は否定していない。具体的には、当該文書では、今後 AI 倫理ガイドラインの策定を宣言する一方で、自主規制はその一歩であり、その後「当局は法的枠組みを検討する」としている。
まず、2020 年 2 月、欧州委員会は、デジタル政策全体の方針である「欧州のデジタル未来の形成」67の発表と併せて、「AI 白書」を発表した68。この AI 白書では、その大半が AI
ガバナンス関連（具体的には「信頼のエコシステム」との題目）に焦点をあて、法制化の方向を明確に示したことが特徴である。具体的には、AI にはプライバシー、非差別などに係る基本的人権等へのリスクがあること、このため、既存の法的枠組みと調整しつつも、AIに係る特別な新たな法制度が必要であること、またその際、高リスクであるか否かから対象を判断し事前適合性評価を求めること、という方向が記載されている。

World Economic Forum, “Companion to the Model AI Governance Framework – Implementationand Self-Assessment Guide for Organizations“, Prepared in collaboration with the Infocommunications Media Development Authority of Singapore, January 2020
https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGIsago.pdf
65Compendium of Use Cases
Volume 1: use cases from Callsign, DBS Bank, HSBC, MSD, Ngee Ann Polytechnic, Omada Health,
UCARE.AI and Visa Asia Pacific.
https://go.gov.sg/ai-gov-use-cases
Volume 2: use cases from the City of Darwin (Australia), Google, Microsoft, Taiger as well as special
section on how AI Singapore implemented our Model Framework in its 100 Experiments projects with
IBM, RenalTeam, Sompo Asia Holdings and VersaFleet.
https://go.gov.sg/ai-gov-use-cases-2
66
EC, ”Artificial Intelligence for Europe”, COM(2018) 237 final, Brussels, 25.4.2018https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN
67
EC, ”Shaping Europe's digital future”
https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/shapingeuropes-digital-future_en
68
EC, ”White Paper on Artificial Intelligence: a European approach to excellence and trust
https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approachexcellence-and-trust_en6445その上で、2021 年 4 月に、欧州委員会は、「AI に対する欧州的アプローチの促進」という文書69及びイノベーション促進面の政策として「Ai 調整計画」の改定と併せて、AI ガバナ
ンス面の政策としての「AI 法案」70を公表した。この AI 法案の内容は、基本的には、上述の AI 白書で記載された方針を踏まえて法案化したものと言うことができ、具体的には、図２３の通りである。特に、1）水平的規制であること、2）リスクベースアプローチに基づいていること、3）特に「人権・公平性」に相当する部分については高リスクに位置づけられ適合性評価とその後のモニタリングが求められることが特徴であり、従来型の許認可型の厳しい規制であると言える。
【図２３】欧州 AI 法案の概要（経産省資料）71＜欧州における AI ガバナンス強化の背景と国際戦略＞（社会規範に基づく社会・市民の関心の高さ（A））

EC, “Communication on Fostering a European approach to Artificial Intelligence”, Publication 21
April 2021
https://digital-strategy.ec.europa.eu/en/library/communication-fostering-european-approach-artificialintelligence70
EC, “Proposal for a Regulation of the European Parliament of the Council Laying Down
Harmonized Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union
Legislative Acts”, Brussels, 21.4.2021 COM(2021) 206 final
https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-958501aa75ed71a1.0001.02/DOC_1&format=PDF
Regulatory framework proposal on artificial intelligence
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
New rules for Artificial Intelligence – Questions and Answers
https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683
71
出典：経産省 第 1 回 AI 原則の実践の在り方に関する検討会 資料５（2021 年 5 月 11 日）
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/2021_001.html
6946

このように、欧州において、ハードロー志向で規制色（拘束性）の強い法案を作成した背景は何であろうか。まず、一つには、やはり欧州における社会規範としての人間‐機械（AI）関係に係る文化的背景に基づく「AI に対する不安感・不信感」をベースに、人権・公平性を重視する社会風土の下で、AI から人権を守るべく、予防原則に基づいて、厳しく規制しようという社会・市民における認識があるものと考えられる。
実際に、まず、この AI 規制は、欧州委員会（EC）によって提案されたものであるが、欧州議会においても、その法制化の方向については、全面的な同意を得ている。例えば、欧州委員会の AI 白書の発表後の 2020 年 9 月に、議会研究サービス部門が報告書72を発表するとともに、翌月（10 月）、欧州議会において規制枠組みの必要性を記した決議73がなされている。また、欧州における AI への問題意識は、AI による社会問題が具体的に発生したためというよりは、AI に対する不安感・不信感により牽引されていると考えられる。実際に、法案発表までに欧州で指摘されてきた AI の問題事例は、いずれも将来想定的なものであると
ともに、その内容は変遷し続けてきたという経緯がある。例えば、もともと、欧州委員会（EC）が最初の AI 戦略を発表する直前の 2018 年 3 月に、EC のグループが AI 倫理に係る勧告を発表しているが74、その勧告では、将来的な懸念課題として、自動運転のトロッコ問
題、致死型自律兵器（LAWS）、自動ソフトウェア（ボットなど）の３つを取り上げており、
現在の関心とは全く異なる。また、2019 年 4 月に専門家グループによって EC に提出・発表された AI 倫理ガイドライン（欧州 AI 原則）75においても、重大な懸念の事例として、AIによる個人の特定と追跡、隠れた AI システム、人権を侵害する市民スコアリング、致死型
自律兵器（LAWS）をあげており、この時点でもいずれも「懸念」にとどまっている。
このように、欧州における AI に係るリスクの事例は、発表された資料の時期によって一
貫性はほとんど見られないとともに、AI に対する「不安感・不信感」（あるいは将来的な懸念・恐れ）の観点からの法規制の必要性、したがって予防原則の観点からの法規制の必要性の認識であると考えられる。実際に、2020 年 10 月の欧州議会の決議においても、予防原則（precautionary principle）の視点にたって法制化を検討するよう EC に要請していること

EPRS | European Parliamentary Research Service, “European framework on ethical aspects ofartificial intelligence, robotics and related technologies European added value assessment”, PE
654.179 – September 202073
European Parliament resolution of 20 October 2020 with recommendations to the Commission on aframework of ethical aspects of artificial intelligence, robotics and related technologies,
2020/2012https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_EN.html
H. whereas a common Union regulatory framework for the development, deployment and use of
artificial intelligence, robotics and related technologies (‘regulatory framework for AI’) should allow
citizens to share the benefits drawn from their potential, while protecting citizens from the potential
risks of such technologies and promoting the trustworthiness of such technologies in the Union andelsewhere; whereas that framework should be based on Union law and values and guided by theprinciples of transparency, explainability, fairness, accountability and responsibility;
74
European Group on Ethics in Science and New Technologies (European Commission), “Statement
on artificial intelligence, robotics and 'autonomous' systems”, Brussels, 9 March 2018https://op.europa.eu/en/publication-detail/-/publication/dfebe62e-4ce9-11e8-be1d01aa75ed71a1/language-en/format-PDF/source-78120382
75
High-Level Expert Group on AI, “Ethics Guidelines for Trustworthy Artificial Intelligence”,.8 April
2019
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
72

47

を踏まえると、このような様々な問題が起きる前に、法制化を行おうというスタンスが強く打ち出されていることが見受けられる。
76（国際的なルール形成を目指した国際戦略（D））
一方、欧州委員会としては、社会・市民により AI ガバナンスの法制化が求められる中、AI による人権問題を全面に世界に打ち出すことにより、世界的なルール形成メを主導することによって、欧州の AI 産業の競争力強化に資するという戦略があったと考えられる。すなわち、いわゆるブリュッセル効果77を狙ったものであり、GDPR での成功を踏まえて、次の対象として AI を取り上げたものとして位置づけられる。
実際に、欧州の初めて AI 戦略である 2018 年 4 年の「欧州のための AI」78においても、
既に AI ガバナンスの議論が大きく打ち出され、また、その時点から既に法規制の可能性は否定していなかったが、その際、GDPR を成功事例として引き合いにして、「EU は、この技術に対する持続的なアプローチのためのグローバルな標準を設定する、強力でバランスの取れた法的枠組みを有する」とし、グローバルなルール形成戦略を明確化している79。また、2019 年 4 月の AI 倫理ガイドラインと併せて発表された文書でも、欧州のアプローチを世界的に広げる方針を明確にしているとともに、2021 年 4 月の AI 法案と併せて発表された資料
80においても、「欧州の AI のルール形成における先導を強調し、AI の規制枠組みに関して、挑戦的ではあるがグローバル規範の先頭に立つことに賭ける」旨記載している81。なお、AI規制に係るグローバルなルール形成戦略は、2021 年 2 月に発表された欧州の多国間外交戦
略82にも記載されている。

76

欧州議会 10 月。例えば、
3. （略）considers that building on such an approach should be in line with the precautionary
principle that guides Union legislation and should be at the heart of any regulatory framework for AI;（略）
77
EU 域内で一方的に決定する EU ルールが事実上のグローバル・スタンダードになること。
78
EC, “Communication Artificial Intelligence for Europe”, 25 April 2018https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe
79
The EU has a strong and balanced regulatory framework to build on, which can set the global
standard for a sustainable approach to this technology.
80
EC, ”Fostering a European approach to Artificial Intelligence”, Brussels, 21.4.2021, COM(2021) 205
final
https://eur-lex.europa.eu/legal-content/en/TXT/?uri=COM%3A2021%3A205%3AFIN
AI regulation is in its infancy and the stakes are high for the EU to spearhead the development of new
ambitious global norms, AI-related international standardisation initiatives and cooperation
frameworks, in line with the rules-based multilateral system and the values it upholds.
In line with the Joint Communication on strengthening the EU’s contribution to rules-based
multilateralism, the EU intends to deepen partnerships, coalitions and alliances with third countries –notably likeminded partners – as well as multilateral and regional organisations.
It also intends to engage in issue-based cooperation with other countries, and to push back where
those values are threatened.
81
AI regulation is in its infancy and the stakes are high for the EU to spearhead the development of
new ambitious global norms, AI-related international standardisation initiatives and cooperation
frameworks, in line with the rules-based multilateral system and the values it upholds. In line with the
Joint Communication on strengthening the EU’s contribution to rules-based multilateralism, the EU
intends to deepen partnerships, coalitions and alliances with third countries – notably likeminded
partners – as well as multilateral and regional organisations.
82
JOINT COMMUNICATION TO THE EUROPEAN PARLIAMENT AND THE COUNCIL on
strengthening the EU’s contribution to rules EN based multilateralism Brussels, 17.2.2021
JOIN(2021) 3 final48

＜AI 法案の現状と今後の見直し＞
ただし、この AI 法案は、方向性としては今後大きくは変更することはないと考えられる
ものの、少なくとも外部からみる限りは、必ずしも順調には進んでいないように見える。実際に、AI 法案が公表された当時（2021 年 4 月）は、半年後には、欧州議会・欧州理事会の承認が得て、その後、2022 年末／2023 年初めには、猶予期間付きで法律が発効する予定であった。その際、並行して、具体的な基準が開発・義務化されるとともに、政府の統治体制が整備、運用されるための取り組みを行い、早ければ 2024 年後半には、第三者適合性評価の実施も含めて運用が開始されるとしていた83。しかしながら、その後、産業界から、定義が不明確など、イノベーションを阻害するのではないかとの指摘が多くなされていた模様であり、現時点でも言う欧州議会の合意のめどは立っていないように見える。
そのような中、2022 年 12 月に、EU 理事会は、AI 法案に係る共通ポジション（一般アプローチ）を発表した84。具体的には、定義を見直すとともに、多くの点で修正を行っている
ものの、例えば、汎用 AI（Generic Purpose AI）を新たに対象とするなど、規制強化の項目も少なくない（図２４参照）。
【図２４】EU 理事会：AI 法案に対する一般アプローチ（2022 年 12 月）85

今後、この一般アプローチをベースに、欧州議会との交渉に入り、合意を目指すことになるとしているものの、一方で、欧州議会においては、2022 年 4 月にまとめられた報告では、

https://www.eeas.europa.eu/sites/default/files/en_strategy_on_strengthening_the_eus_contribution_to_rules-based_multilateralism.pdf
Pursue a more active role in international technical standardisation and contribute to the developmentof new norms in areas which are insufficiently regulated, inter alia by supporting the development of
normative frameworks for human trustworthy AI technologies
83
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
84
Council of EU, "Artificial Intelligence Act: Council calls for promoting safe AI that respects
fundamental rights”, 6 December 2022
https://www.consilium.europa.eu/en/meetings/tte/2022/12/06/
https://www.consilium.europa.eu/en/press/press-releases/2022/12/06/artificial-intelligence-act-councilcalls-for-promoting-safe-ai-that-respects-fundamental-rights/
https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/en/pdf
85 出典：欧州資料、関係資料より筆者作成

49

3000 以上の改定提案を受け取っているとしており86、今後それらの調整が必要になるものと考えられる。また、2022 年 12 月に関連団体が調査した報告書87によると、今回の AI 規
制案は、AI ベンチャー企業に大きな打撃になるとの結果になっており、一部の産業界には衝撃を与えている。さらに、上述のとおり、EU 理事会は、汎用 AI を新たに規制対象とする方針を発表したが、その後 2022 年末から世界中に急速に関心の高まっている ChatGPT も対象になるという議論になり、その在り方に関し様々な意見が噴出しており88、今後議論が更に続く可能性は少なくないと考えられる。

③米国・カナダの動向：法案提案の動きとガバナンス制度の改善工夫＜オバマ～トランプ～バイデン政権：政権交代に伴う戦略の変化＞
米国では、もともとオバマ大統領自らが先端技術に関心を持っていたこともあり、オバマ
政権末期（2016 年）において世界的にも先進的に AI 戦略に取り組み、特に 2016 年 10 月に発表した「AI の未来に向けた準備」89においては、既に AI の規制の在り方についても議論を行っていた。しかしながら、2017 年初にトランプ政権に移行して以降２年ほどは、AI戦略に係る動きはほとんどみられなかった。
そのような中、2019 年 2 月になって、トランプ政権の下で、ホワイトハウスが「AI イニ
シアティブ」に係る大統領令を発表した90。この大統領令では、米国ファーストを意識しており、また、安全保障面での取り組みも含まれたことが特徴的であると言える。また、この大統領令において、OMB に対して、AI 応用に係る規制に係るガイダンスの発行が指示されたことを踏まえ、OMB は、2020 年 1 月に「AI 応用の規制のためのガイダンス」案を発表
86

Legislative Train Schedule European Parliament, Proposal for a Regulation on a European
approach for Artificial Intelligence In “A Europe Fit for the Digital Age”
https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulationon-artificial-intelligence
The two co-rapporteurs MEP Brando Benifei and MEP Dragos Tudorache unveiled their draft reportin April 2022. The draft report received more than 3000 amendments that are being considered.
87“AI Act Impact Survey Exploring the impact of the AI Act on Startups in Europe”, 12 December 2022
88
Natali Helberger, Nicholas Diakopoulos, ”ChatGPT and the AI Act”, Internet Policy Review, Volume
12, Issue 1, PUBLISHED ON: 16 Feb 2023 DOI: 10.14763/2023.1.1682
https://policyreview.info/essay/chatgpt-and-ai-act
Euronews, “ChatGPT in the spotlight as the EU steps up calls for tougher regulation. Is its new AI Act
enough?”, Updated: 06/02/2023
https://www.euronews.com/next/2023/02/06/chatgpt-in-the-spotlight-as-the-eu-steps-up-calls-fortougher-regulation-is-its-new-ai-act
Center for Data Innovation, “ChatGPT Amendment Shows the EU is Regulating by Outrage” by
Patrick Grady February 13, 2023
https://datainnovation.org/2023/02/chatgpt-amendment-shows-the-eu-is-regulating-by-outrage/
Le Monde, “EU seeks to regulate artificial intelligence in the ChatGPT era”, Published on February 19,2023
https://www.lemonde.fr/en/economy/article/2023/02/19/eu-seeks-to-regulate-artificial-intelligence-inthe-chatgpt-era_6016450_19.html
89
Executive Office of the President, National Science and Technology Council Committee on
Technology, “PREPARING FOR THE FUTURE OF ARTIFICIAL INTELLIGENCE”, October 2016
https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/prepa
ring_for_the_future_of_ai.pdf
90Whitehouse, “Maintaining American Leadership in Artificial Intelligence”, Executive Order 13859 of
February 11, 2019https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadershipin-artificial-intelligence50し91、同年 11 月に最終版を発表している92。この AI 規制ガイダンスは、AI のイノベーショ
ンと成長を不必要に阻害する規制的・非規制的措置を避けなければいけないとし、可能な範囲で非規制的アプローチを検討するという方向を示している。この方針は、共和党政権ならではのものであるとも位置づけられ、また、同じ頃発表された欧州の AI 白書と対照的な方向を示すものであった。
その後、2020 年に成立した国家 AI イニシアティブ法に基づき、2021 年 1 月には、ホワ
イトハウス（OSTP）内の国家 AI イニシアティブ室（以下 AI 室という）が設置され、政府の AI の推進体制が強化された後、民主党政権であるバイデン政権に政権交替することになる。そして、バイデン政権下における AI ガバナンスの検討は、2021 年 4 月に発表された欧州の AI 法案の動きに影響を受け、法制化に向けて比較的前向きな方向を示すことになる。
＜AI 権利の章典：欧州の影響と垂直規制志向＞
まずは、2021 年 10 月、米国 OSTP は、AI 駆動の社会のために「権利の章典（Bill of
Rights）」が必要とする文章を雑誌に投稿93するとともに、HP に掲載した94。なお、このAI 権利の章典をリードしたのは、OSTP 内の AI 室ではなく、バイデン政権になって OSTP
内に設立された「科学と社会」部門の担当である Alondra Nelson 氏であり、同氏はもともと、議会において AI の法制化がなされることを期待していたと報道されている95。また、
この時期、2021 年 11 月に、AI 室の室長も、雑誌のインタビューの中で、米国においても欧州同様の規制アプローチを検討すべきと発言している96。そのような意味で、OSTP 内では、欧州 AI 法の動きを受けて、AI ガバナンスの法制化に前向きであったと考えられる。
その後、OSTP は、各種の公開イベント等の開催や意見募集等を行った後、1 年後の2022 年 10 月に、「AI 権利の章典のための青写真」を発表した97。同青写真では、５つの原則（1）安全で効果的なシステム、2）アルゴリズムに基づく差別からの保護、3）データ・
91

Guidance for Regulation of Artificial Intelligence Applications
https://www.whitehouse.gov/wp-content/uploads/2020/01/Draft-OMB-Memo-on-Regulation-of-AI-1-719.pdf
92
Guidance for Regulation of Artificial Intelligence Applications, November 17, 2020
https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
93
WIRED, ”Americans Need a Bill of Rights for an AI-Powered World”, OCT 8, 2021
https://www.wired.com/story/opinion-bill-of-rights-artificial-intelligence/
94
OSTP Blog, ”ICYMI: WIRED (Opinion): Americans Need a Bill of Rights for an AI-Powered World”,
OCTOBER 22, 2021
https://www.whitehouse.gov/ostp/news-updates/2021/10/22/icymi-wired-opinion-americans-need-abill-of-rights-for-an-ai-powered-world/95
なお、同氏はその後 2022 年 2 月に OSTP 局長になったが、2023 年 2 月に辞任が報道されている。
Axios, ”Exclusive: OSTP official Alondra Nelson to step down”, Feb 4, 2023
https://www.axios.com/2023/02/03/ostp-alondra-nelson-steps-down
FedScoop, “White House OSTP chief Alondra Nelson to step down”, FEBRUARY 6, 2023
https://fedscoop.com/white-house-ostp-chief-alondra-nelson-to-depart/96
Fortune, ”White House A.I. director says U.S. should model Europe’s approach to regulation”,
November 10, 2021 at 10:13 PM GMT+9
https://fortune.com/2021/11/10/white-house-a-i-director-regulation/
97
OSTP, ”Blueprint for an AI Bill of Rights: A Vision for Protecting Our Civil Rights in the Algorithmic
Age”, OCTOBER 04, 2022
https://www.whitehouse.gov/ostp/news-updates/2022/10/04/blueprint-for-an-ai-bill-of-rightsa-visionfor-protecting-our-civil-rights-in-the-algorithmic-age/
OSTP, “Blueprint for an AI Bill of Rights MAKING AUTOMATED SYSTEMS WORK FOR THE
AMERICAN PEOPLE”
https://www.whitehouse.gov/ostp/ai-bill-of-rights/

51

プライバシー、4）通知と説明、5）人間による代替・考慮・予備的措置）を掲げており、その原則に従って個別分野ごとに（すなわち「垂直的」に）対応するとしている。具体的には、同青写真の付属文書として添付された「原則から実践へ～技術的手引き」98では、原則ごとに個々の分野での取り組み事例／今後の方向について記載するとともに、同青写真に係る Fact Sheet では、主な分野ごとに取組事例／今後の方向について記載している（図２５参照）。
【図２５】AI 権利の章典：Fact Sheet に掲げられた各省庁での主な取組事項99

この米国の AI 権利の章典の青写真の特徴の一つは、まずは、AI によるリスクの中でも、特に「a）安全性」と「d）公平性・非差別性」に係る取組を中心に取り上げており、その中でも、特に後者については、「アルゴリズムに基づく差別の排除」を対象として、
FactSheet で細かく説明していることが特徴的であると言える。実際に、ディープフェイク（f）や生体認証（c）の議論などは本青写真には含まれていない。これは、やはり米国では、
実際にデータ・アルゴリズムに係るバイアス等に基づく人種差別等の問題が多発しており、そのような地域的な社会問題の高さの下で、本青写真を発表したものと考えられる。なお、
その際、この全体の文章では「AI」という用語を利用しつつも、具体的な規制対象としては「自動化システム」を対象とし、「AI システム」などの用語を利用していないことも特徴
である。

98

FROM PRINCIPLES TO PRACTICE A TECHINCAL COMPANION TO THE Blueprint for an AI BILL
OF RIGHTS
99
出典：Whitehouse, “FACT SHEET: Biden-⁠Harris Administration Announces Key Actions to
Advance Tech Accountability and Protect the Rights of the American Public”, OCTOBER 04, 2022
より筆者作成https://www.whitehouse.gov/ostp/news-updates/2022/10/04/fact-sheet-biden-harris-administrationannounces-key-actions-to-advance-tech-accountability-and-protect-the-rights-of-the-american-public/52

また、もう一つの特徴は、全体として、欧州の水平規制とは異なり、米国の青写真においては垂直規制を志向していることである。すなわち、青写真自体は、全体の方向のみを示す
ものであり、それ自体は非拘束的であるものの、これを踏まえて、図２５に見られるとおり、各省庁がそれぞれの分野において、既存法の中での規則の追加・修正や、ガイドラインの発表などを促しており、また、その点で、分野によって法拘束的であるものと、非拘束的であるものも含まれることになる。このように米国で垂直規制を志向する背景は、前章で述べた通り、行政府は法案提出権限を有しておらず、また、各省庁が強い権限を有しているという米国の国家統治システムによるものであると考えられる。
＜米国アルゴリズム説明責任法（AAA）案＞
なお、このようなホワイトハウス（OSTP）での動きは、連邦議会での動向にも影響を受けているものと考えられる。具体的には、OSTP での AI 権利の章典の検討が開始されたあとの 2022 年 2 月、複数の連邦議会議員（民主党系）は共同で、米国アルゴリズム説明責任法（AAA）案 2022 を連邦議会に提出している100。このアルゴリズム説明責任法案 2022 は、
基本的には、FTC に対して、自動意思決定システムに係る規制の設定、執行を求める法案である。
本法案は、2019 年に提出した法案を修正したものであり、特に欧州の AI 法案の動きを踏
まえて見直したものとされる。その際、欧州の AI 法案と比較して、イノベーション寄りに改善工夫がなされていることが指摘されている101。もちろん、AAA 案においては、具体的な制度設計は FTC において行われることとされているが、法案の範囲内で比較評価すると、具体的には、以下のような点が指摘される（図２６参照）。
● 用語：まず、欧州 AIA 案では、AI システムを対象としているのに対し、米国 AAA 案
では、「自動意思決定システム」を対象とし、AI という用語を使っていないことが特徴的であり、この方向が上述の AI 権利の章典にも引き継がれたものと考えられる。
もちろん、欧州 AIA 法案は水平規制であり、幅広い分野を対象にしているのに対し、
米国 AAA 案は、ある意味消費者に対する「公平性・非差別性」に対象を絞っているために可能との見方であるものの、これにより、第２章（２）①で記述したような「AI（人工知能）」のもつ曖昧さ、イメージの問題を回避しているものとも考えられる。
● 対象：欧州 AI 法案では、高リスクの対象を分野で指定し（教育、雇用、その他重要な民間サービスなど）、その分野に該当する AI システムは、一律に規制対象となるのに対し、米国 AAA 案では個別のシステムに応じて、重要性を判断することになっている。このため、重要性の判断に難しさは存在するものの、分野に該当しても重要性の低いシステムは対象外になるなど、より合理的になる可能性がある。

100

H.R.6580 - Algorithmic Accountability Act of 2022, 117th Congress (2021-2022)
https://www.congress.gov/bill/117th-congress/house-bill/6580/text
101
Jakob Mökander, Prathm Juneja, David S. Watson,Luciano Floridi, “The US Algorithmic
Accountability Act of 2022 vs. The EU Artificial Intelligence Act: what can they learn from each other?”,
Minds and Machines (2022) 32:751–758, Received: 16 June 2022 / Accepted: 4 August 2022 /Published online: 18 August 2022
https://link.springer.com/content/pdf/10.1007/s11023-022-09612-y.pdf?pdf=button%20sticky

53●

規制：欧州 AI 法案では、高リスク AI システムに対し、原則、事前に適合性評価が求められるのに対し、米国 AAA 案では、少なくとも法律を読む限りは、そこまで求めていないように見える。
● 評価：欧州の AI 法案では、AI システムそのものを評価するのに対し、米国 AAA 案
では、既存のシステムとの比較でリスクを評価することとしている。すなわち、例
えば、これまで人間による意思決定を行っていた場合、人間の判断による場合でも
例えばバイアスがかかる可能性があり、それと比較して新たに導入する AI システム
によって生じるバイアスと比較して導入の判断を行うというものであり、実務面はともかく、非常に興味深い考え方であると言える。
● 企業：欧州 AI 法案では、その位置づけ上、政府機関も対象になるとともに、中小企業であっても多くの個人を対象とするシステムを取り扱う場合もあるとの理由で、例外を設けていない。これに対し、米国 AAA 案では、対象とする個人の数が少ないシステムなどを扱う中小企業などについては、社会的リスクが少ないとの観点から対象外としている。
なお、このアルゴリズム説明責任法（AAA）案は、特に共和党が下院の多数を占める現時点では、法案成立の見込みは立っていないとされる。一方、図２５に示した通り、AI 権利の章典青写真に基づき、FTC が、既存法に基づいて対応の検討を開始しており102、現行法の枠組み内に限定されるものの、その検討の中で、この米国 AAA 法案の趣旨が反映される可能性は否定できない。
＜AI 政策を巡る欧州（EU）と米国の連携（TTC）＞
このように、米国の AI ガバナンス制度に係る政策においては、欧州の AI 法案の動きが大きく反映されているが、そのような流れの背景として、バイデン政権になって、米国‐欧州間の連携が再強化されてきていることがある。
具体的には、バイデン政権開始後の 2021 年 6 月、米国と EU は、貿易・技術評議会（TTC）の設置に合意し、これまで、2021 年 9 月、2022 年 5 月、2022 年 12 月と開催してきているが、その一部として、AI ガバナンスに関連する議論もなされてきている。これまでの具体的な動きは以下の通り。
● 2021 年 9 月に開催された第一回 TTC の共同声明103では、WG6 において、AI での連携を記載するとともに、付属書Ⅲとして「AI に係る声明」を添付している。その中で、米国は欧州の規制枠組みを、また、欧州は米国の NIST の取組である AI RMF をノートするとし、今後、評価測定ツール、PET（プライバシー強化技術）、仕事の将来への影響に係る経済研究などを共同で進めることとした。
102

To protect consumers, the Federal Trade Commission (FTC) is exploring rules to curb commercial
surveillance, algorithmic discrimination, and lax data security practices that could violate section 5 of
the FTC Act.
https://www.whitehouse.gov/ostp/news-updates/2022/10/04/fact-sheet-biden-harris-administrationannounces-key-actions-to-advance-tech-accountability-and-protect-the-rights-of-the-american-public/
The Commission is considering initiating a rulemaking under section 18 of the FTC Act to curb lax
security practices, limit privacy abuses, and ensure that algorithmic decision-making does not result in
unlawful discrimination.
https://www.reginfo.gov/public/do/eAgendaViewRule?pubId=202110&RIN=3084-AB69
103
U.S.-EU Trade and Technology Council Inaugural Joint Statement SEPTEMBER 29, 2021
https://www.whitehouse.gov/briefing-room/statements-releases/2021/09/29/u-s-eu-trade-andtechnology-council-inaugural-joint-statement/54●2022 年 5 月に開催された第二回 TTC の共同声明104では、AI サブグループを作ることに合意するとともに（番号 19）、その中で、評価測定ツールやリスクマネジメン
ト等に関して共同ロードマップを作成することに合意。また、WG1 の報告書（付属書Ⅰ）にも、AI に係る連携について記載。
● その上で、2022 年 12 月に開催された第三回 TTC の共同声明105では、「B. 新興技術に係る協力」の中で、評価測定ツールに係る共同ロードマップ（AI ロードマップ）に合意したとし、その具体的内容を NIST の HP に掲載した106。
この AI ロードマップでは、特に AI のリスクに係る評価・計測ツールでの連携を進めるべ
く、①語彙・分類の共有、②国際技術標準とツールの開発、③AI リスクの測定と評価を進めることになっている。この評価・計測ツールの中心になるのが、NIST の AI リスクマネジ
メント枠組み（AI RMF）である。この AI RMF は、もともと国防授権法 2021 に基づいて、NIST において 2 年以内の作成が求められたものであるが、NIST は、上記の TTF の流れの中で、2021 年 7 月に開発を開始し、各種意見受付などを通じて、2023 年 1 月に第 1 版を発表している107。
以上のように、もちろん、前提として、欧州と米国では、政府統治システムが異なるし、
また、国内の産業界からの圧力も異なるため、AI ガバナンスに関して全く同じ方向になることはないと考えられるものの、米国‐欧州の連携の動きの流れの中で、米国は、欧州のAI 法案を参考にしつつも、より改善工夫をすることにより、イノベーション寄りの AI ガバ
ナンス制度を志向しつつあるものと評価することができよう。
＜カナダの動向
一方、カナダでは、AI ガバナンスに関しては、従来から、政府部門における AI ガバナン
スに先んじて取り組んでいた。具体的には、2020 年 4 月「意思決定の自動化に係る指令」
を発表108し（また、2021 年 4 月に同第二版を発表）、政府での AI 利用に係る手順を規定しており、特に、アルゴリズム的インパクト評価（AIA）の事前実施を義務付けている。なお、
この AIA は、米国連邦政府の連邦 CIO 評議会でも、政府内の自動意思決定評価システムに対して利用を促すため、2022 年 4 月公表されている109。
そのような中、カナダでは、2022 年 6 月に、イノベーション・科学・産業省が、デジタル憲章実施法案（C-27）を議会に提出している。同法案は、三部構成となっており、個人情報保護関連の二つの部に加え、Part3 として「AI・データ法（AIDA）案」が含まれている

104

U.S.-EU Joint Statement of the Trade and Technology Council 16 May 2022 Paris-Saclay, France
https://www.whitehouse.gov/wp-content/uploads/2022/05/TTC-US-text-Final-May-14.pdf
105
U.S.-EU Joint Statement of the Trade and Technology Council, DECEMBER 05, 2022
https://www.whitehouse.gov/briefing-room/statements-releases/2022/12/05/u-s-eu-joint-statement-ofthe-trade-and-technology-council/
106
TTC Joint Roadmap on Evaluation and Measurement Tools for Trustworthy AI and Risk
Management December 1, 2022
https://www.nist.gov/system/files/documents/2022/12/04/Joint_TTC_Roadmap_Dec2022_Final.pdf
107
NIST, AI RISK MANAGEMENT FRAMEWORK
https://www.nist.gov/itl/ai-risk-management-framework
108
Responsible use of artificial intelligence (AI) Exploring the future of responsible AI in government
https://www.canada.ca/en/government/system/digital-government/digital-governmentinnovations/responsible-use-ai.html
109
Algorithmic Impact Assessment
https://www.cio.gov/aia-eia-js/#/55

。この AIDA 案は、高リスク／インパクトの AI システムを法規制の対象とするということで、全体の方向として欧州の AI 法案に類似しているものと評価できる。しかしながら、その詳細は法案制定後の制定される規則の内容を待つ必要があるものの、この AIDA 案のポ
イント111と欧州 AI 法案を比較すると、以下の点が指摘される。
● 定義として、カナダ AIDA 案において、AI システムは「データを加工する技術システム」として幅広く定義する一方で、規制対象とする AI システムは、「高インパク
ト」のものとし、分野別の指定は行っていない。なお、高インパクトの定義はまだなされていないため不明であるが、欧州のような分野指定は今のところないため、分野の対象であってもリスクの低いようなシステムは、米国同様対象外になる可能性がある。
● 規制内容：カナダ AIDA 案においては、原則として、自主的なリスク評価と記録保持義務を課し、必要な場合に政府等による監査を受けるという仕組みを想定しており、したがって、欧州のような適合性評価に基づく許認可と比較して緩やかな規制となっている。
110【図２６】欧州、米国、カナダの AI ガバナンス関連法案の比較112

このように、カナダ AIDA 法案についても、欧州の AI 法案を参考にしたものと推測されるものの、その内容に関しては、欧州の AI 法案と比較して、イノベーション寄りに改善工夫がなされた上で、提案されているものと考えられる。

110

HOUSE OF COMMONS OF CANADA, BILL C-27, First Session, Forty-fourth Parliament, 70-71
Elizabeth II, 2021-2022
https://www.parl.ca/DocumentViewer/en/44-1/bill/C-27/first-reading
111
Simon Hodgett, Kuljit Bhogal, CIPP/C, Sam Ip, “Government of Canada’s Artificial Intelligence andData Act: Brief Overview”, Jun 27, 2022
https://www.osler.com/en/resources/regulations/2022/government-of-canada-s-artificial-intelligenceand-data-act-brief-overview
Kevin Landry, Charlotte Henderson, and James Pinchak, “Bill C-27 – Canada’s proposed Artificial
Intelligence and Data Act”, NOVEMBER 16, 2022
https://www.stewartmckelvey.com/thought-leadership/bill-c-27-canadas-proposed-artificialintelligence-and-data-act/
112 出典：各種資料より、筆者作成

56

④英国、日本の動向：非拘束的手法の志向とデジタル規制に係る新機軸＜英国の動向：欧州離脱を契機としたプロイノベーション志向＞
英国における初めての AI 戦略は、2018 年 4 月に発表された AI 分野に係る産業戦略113である。ただし、この戦略は、主に AI のイノベーション促進の観点からの戦略であり、AI ガ
バナンス的な要素はほとんど含まれていない。しかしながら、同戦略においては、事業環境整備の観点から、AI 室及び AI 評議会の設置が提言されており、これを踏まえて、2018 年にDCMS（デジタル文化メディアスポーツ省）と BEIS（ビジネスエネルギー産業戦略省）の共同ユニットとして Office for AI（以下、AI 室という）を設置114されるとともに、2019 年には独立諮問専門委員会である AI 評議会（AI Council）115が設置されている。なお、その後、
AI 室は、関連省庁との連携のもと、2019 年 6 月には「AI 倫理と安全を理解する」116を発表したほか、特に公的部門に係る AI 利用に係るガバナンスとして、各種ガイダンスを発表している117。
そのような中、2020 年 2 月に英国が欧州連合を離脱したのち、改めて AI 戦略を策定することになる。具体的には、まずは、AI 評議会が 2021 年 1 月に発表した AI ロードマップ118
を踏まえつつ、2021 年 9 月に改めて「国家 AI 戦略」を発表している119。この戦略は、英国を世界的な AI スーパーパワーにするための 10 年計画であると位置づけられており、その中で、AI ガバナンス関係では、半年～１年以内に、「AI ガバナンスと規制に係るプロイノベーションとの国家立場に基づく白書を発表する」とした。なお、翌年の 2022 年 7 月には、
「国家 AI 戦略‐AI 行動計画」を発表している120が、これは、国家 AI 戦略の進捗状況の報告ともいえる内容である。

HM Government, “Industrial Strategy Artificial Intelligence Sector Deal
https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/702
810/180425_BEIS_AI_Sector_Deal__4_.pdf
114
The Office for Artificial Intelligence, About us
https://www.gov.uk/government/organisations/office-for-artificial-intelligence/about
115
AI Council
https://www.gov.uk/government/groups/ai-council
116
Central Digital and Data Office and Office for Artificial Intelligence, “Understanding artificial
intelligence ethics and safety”, 10 June 2019https://www.gov.uk/guidance/understanding-artificial-intelligence-ethics-and-safety
117
Office for Artificial Intelligence, Department for Digital, Culture, Media & Sport, and Department for
Business, Energy & Industrial Strategy, ”Guidelines for AI procurement”, Published, 8 June 2020
https://www.gov.uk/government/publications/guidelines-for-ai-procurement
Central Digital and Data Office, Cabinet Office, and Office for Artificial Intelligence, “Ethics,
Transparency and Accountability Framework for Automated Decision-Making”, 13 May 2021
https://www.gov.uk/government/publications/ethics-transparency-and-accountability-framework-forautomated-decision-making
118
Office for Artificial Intelligence, Department for Business, Energy & Industrial Strategy, andDepartment for Digital, Culture, Media & Sport, “AI Roadmap”, 6 January 2021
https://www.gov.uk/government/publications/ai-roadmap
119:Office for Artificial Intelligence, Department for Digital, Culture, Media & Sport, and Department for
Business, Energy & Industrial Strategy, “National AI Strategy”, 22 September 2021
https://www.gov.uk/government/publications/national-ai-strategy#full-publication-update-history
120
Department for Digital, Culture, Media & Sport, Department for Business, Energy & Industrial
Strategy, and Office for Artificial Intelligence, “National AI Strategy - AI Action Plan”, 18 July 2022
https://www.gov.uk/government/publications/national-ai-strategy-ai-action-plan
113

57一方で、この国家 AI 戦略を発表する直前の 2021 年 7 月に、DCMS は「デジタル規制」に係る報告書を発表している121（2022 年 6 月に改定版を発表）。本報告書では、前段で、「もはや我々は欧州連合から脱退し、デジタル技術の規制に対して、プロイノベーションア
プローチを取るという世界を先導する規制体制を構築する新たな機会を得ている」122とし、具体的には、1）イノベーションの積極的な促進、2）前向きで一貫した結果の達成、3）国際的場面での機会の開拓と挑戦への対応、の３本を柱に掲げている。
このような中で、上述の 2021 年 9 月の国家 AI 戦略の記載を踏まえて、2022 年 7 月に「AI 規制に係るプロイノベーションアプローチの確立」を発表した123。この中では、欧州
AI 法の動きを踏まえつつも、英国としては、「頑固で柔軟性のない規制を課すべきではな
く、プロイノベーション手法を採用し、AI が利用される文脈に応じて均衡のあるリスクベースの対応を行うべき」としてしている。その具体的な内容は、今後策定予定の白書でその詳細化する予定としているが、現時点では、原則ガイダンスで対応することとし、ただし、将来的な一部法制化を排除するものではないとしている。
このように、英国の場合は、欧州連合離脱を契機として、むしろ国家の国際戦略論として、
あえて欧州 AI 法とは異なったアプローチを取ることとし、具体的には、イノベーション寄りに政策をシフトすべく原則として非拘束的枠組み（ソフトロー）を目指すこととしたこと、また、その際、対欧州 AI 法案として、そもそものデジタル分野の規制の在り方の見直しを理論武装として新機軸の枠組みを打ち出していることが特徴であると言える。
＜日本の動向：社会の低い関心の中でのガバナンスイノベーション志向＞
日本では、2019 年 3 月に内閣府／内閣官房が人間中心 AI 社会原則を発表124して以降、内閣府における AI ガバナンスに係る検討は、海外の動向や関係省庁の動きをフォローするのみで、ほとんど新たな動きは見られない125。また、政府全体の AI 戦略においても、AI 戦略
2019 以降、概ね毎年 AI 戦略を改定・発表しているが、AI ガバナンスに係る部分は非常に量も少なく、かつ、内容もほとんど変わっていない126。
一方、各省レベルでの動きとしては、総務省においては、AI ネットワーク社会推進会議
において、毎年報告書を発表している127が、近年は、概ね、企業における取り組み状況等

Department for Digital, Culture, Media & Sport, “Digital Regulation: Driving growth and unlocking
innovation”, 6 July 2021, Last updated 13 June 2022
https://www.gov.uk/government/publications/digital-regulation-driving-growth-and-unlockinginnovation
122
Now that we have exited the EU, we have a fresh opportunity to build on our world-leading
regulatory regime by setting out a pro-innovation approach to regulating digital technologies- one thatdrives prosperity and builds trust in their use.
123
Department for Digital, Culture, Media & Sport, Department for Business, Energy & Industrial
Strategy, and Office for Artificial Intelligence, “Establishing a pro-innovation approach to regulating AI”,
18 July 2022 Last updated 20 July 2022
https://www.gov.uk/government/publications/establishing-a-pro-innovation-approach-to-regulating-ai
124
統合イノベーション戦略推進会議決定「人間中心の AI 社会原則」 2019 年 3 月 29 日
https://www8.cao.go.jp/cstp/aigensoku.pdf
125
人間中心のＡＩ社会原則会議
https://www8.cao.go.jp/cstp/ai/ningen/ningen.html
126
内閣府、AI 戦略
https://www8.cao.go.jp/cstp/ai/index.html
127
総務省 AI ネットワーク社会推進会議
https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/index.html
12158

をまとめるにとどまっている。そのような中で、AI ガバナンスに関しては、経産省が、むしろデジタル分野の規制・ガバナンスの在り方から検討を進めているのが、日本の特徴である。
具体的には、経産省は、2019 年 8 月から、デジタル時代のガバナンスの在り方の検討を開始し128、2020 年 7 月に「新たなガバナンスモデル検討会報告書 ver1（「GOVERNANCEINNOVATION： Society5.0 の実現に向けた法とアーキテクチャのリ・デザイン」）」を発表している129。この内容は、基本的には新たなデジタル時代（Society5.0）においては、既存の規制制度はなじまないというものであり、今後、イノベーションを促進するという視点と、イノベーションによって生じるリスクを適切に管理するという視点に加え、イノベーシ
ョンを利用した適切なガバナンスを含めた「ガバナンスイノベーション」が求められるという内容である。なお、経産省は、その後、2021 年 7 月には ver2（副題：アジャイル・ガバ
ナンスのデザインと実装に向けて）を130、また、2022 年 8 月には ver3 を131発表している。
そのような議論を踏まえた上で、経産省は、AI ガバナンスの在り方について、2020 年 6
月から、AI 社会実装アーキテクチャ検討会（その後、2021 年 5 月からは「AI 原則の実践の在り方に関する検討会」132に名称変更）において検討を開始し、2021 年 1 月に、中間報告書として「我が国の AI ガバナンスの在り方 ver1.0」を発表、その後、パブリックコメントを経た上で、2021 年 7 月には、同報告書 ver1.1 が発表されている133。同報告書では、● 欧州 AI 法案等の動きを踏まえつつ、国際的にはリスクベースアプローチが広く共有されつつも、具体的なリスク評価や分類については必ずしも共有されていないこと● ガバナンスイノベーションの視点からは、ルールベースではなくゴールベースのガバナンスを構築するとともに、いずれにせよ法的拘束力のないガイドラインが必要とされること● 日本の産業界は、ソフトローを選好し、また、消費者はリテラシーの向上を図りつつあること等を踏まえ、ゴールベースのガバナンス支援のための法的拘束力のないガバナンス・ガイド
ラインが必要とし、現時点では法的拘束力のある横断的規制は不要としている。

128

Society5.0 における新たなガバナンスモデル検討会
https://www.meti.go.jp/shingikai/mono_info_service/governance_model_kento/index.html
129
経済産業省「Society5.0 における新たなガバナンスモデル検討会報告書（Ver.1）GOVERNANCEINNOVATION： Society5.0 の実現に向けた法とアーキテクチャのリ・デザイン」2020 年 7 月 13 日
https://www.meti.go.jp/shingikai/mono_info_service/governance_model_kento/20200713_report.html
130
経済産業省「Society5.0 における新たなガバナンスモデル検討会報告書（Ver.2）GOVERNANCEINNOVATION Ver.2: アジャイル・ガバナンスのデザインと実装に向けて」2021 年 7 月 30 日
https://www.meti.go.jp/shingikai/mono_info_service/governance_model_kento/20210730_report.html
論旨：Society5.0 を実現するためには、事前にルールや手続が固定されたガバナンスではなく、企業・法規制・インフラ・市場・社会規範といった様々なガバナンスシステムにおいて、「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」「改善」といったサイクルを、マル
チステークホルダーで継続的かつ高速に回転させていく、「アジャイル・ガバナンス」の実践が必要。
131
経済産業省「Society5.0 における新たなガバナンスモデル検討会報告書（Ver.3）GOVERNANCEINNOVATION Ver.3: アジャイル・ガバナンスの概要と現状」2022 年 8 月 8 日
https://www.meti.go.jp/shingikai/mono_info_service/governance_model_kento/20220808_report.html
132
経済産業省「AI 原則の実践の在り方に関する検討会」（旧 AI 社会実装アーキテクチャー検討会）
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html
133
経済産業省「我が国の AI ガバナンスの在り方 ver1.1」2021 年 7 月 9 日
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/2021070901_report.html

59なお、その上で、上記 AI ガバナンスの在り方 Ver1.1 の報告書と併せて、具体的なガイド
ラインである「AI 原則実践のためのガイドライン ver1.0」が発表134され、その後パブリッ
クコメント等を経た上で、2022 年 1 月に、その改定版である同ガイドライン ver1.1 が公表
135されている。この AI ガバナンス・ガイドラインでは、上述のガバナンスイノベーション、
アジャイルガバナンスを志向しており、具体的には、環境・リスク評価、ゴール設定、シス
テムデザイン、運用、環境リスク分析のループを回すようなガバナンス体制を提案している。
このように、日本では、欧州の AI 法案の動きを理解した上で、原則として、ソフトロー（法的拘束力のない手法）を志向している。その理由の一つとしては、同報告書に記載されている通り、産業界を含め国内で法的規制を求める意見が非常に少ないことという事情があげられているが、これは、もともと日本では、その人間‐機械（AI）関係に係る社会規範として、AI に対する不信感のような認識が少なく、また、AI の普及率も比較的低いことも手伝って、特段大きな問題事例が発生していないため、社会・市民における AI ガバナンスへの関心が低いことが大きな要因・背景であると考えられる。
また、そのような中、世界的には欧州の AI 法案の動きを理解しているにもかかわらず、
ソフトロー（非拘束的手法）を推進するにあたっては、「ガバナンスイノベーション」「アジャイルガバナンス」という新たな考え方を提示することにより、英国同様、デジタル時代の規制の在り方の見直しの必要性に係る理論武装を、新機軸として打ち出していることが特徴であると言える。
＜全体の時系列のまとめ＞
以上の流れを、図２７に時系列で示す。欧州が、2020 年 2 月に AI 白書、2021 年 4 月に
AI 法案を発表し、ハードロー志向の厳しい規制法案の流れを世界的に作り出し、それに影響を受けて、米国、カナダでは、規制法案あるいはそれに類似する方向性を打ち出したが、改善工夫により、より緩やかでイノベーション志向寄りの案となっており、一方、英国、日
本では、欧州の動きを理解しつつも、対抗する理論武装として、デジタル時代の規制の在り方という新機軸を打ち出すことによりソフトロー（非拘束的手法）を全面に打ち出している。
なお、シンガポールは、当初より非拘束的手法を打ち出していたが、欧州の AI 法案の発表以降は、特段の動きを見せておらず、基本は欧州を中心とする世界動向を見極めようとのスタンスに見える。

134

経済産業省「AI 原則実践のためのガバナンス・ガイドライン ver. 1.0」2021 年 7 月 9 日
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/2021070902_report.html
135
経済産業省「我が国の AI ガバナンスの在り方 ver1.1」2022 年 1 月 28 日
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20220128_report.html

60

【図２７】世界の AI 原則の実践化に向けた動き（時系列）136（２）世界の AI ガバナンス制度に係る進化メカニズムと今後の方向①これまでの世界の AI ガバナンス制度の形成要因と進化メカニズム（まとめ）＜これまでの各国・地域の AI ガバナンス制度の生成要因（まとめ）＞
以上の動きを踏まえると、世界の AI ガバナンス制度は、これまでのところ、どのようなメカニズムによって生成されてきたものと評価できるのであろうか。本節では、第３章で分析した、以下の４項目をベースにしつつ、各国の AI ガバナンス制度が、特に先行した欧州
AI 法案の影響を受けつつ、どのように形成されてきたかについてまとめる。
● A：社会規範による理念的要因（AI に対する社会認識、人権等への関心高さ等）● B：問題事例の発生による要因（AI 普及率、社会での人権問題発生数）● C：国家の統治システムの要因（政府体制、法体系等）● D：地政学的観点からの国際戦略（ルール形成、イノベーション促進）（欧州の動き）欧州が、世界的に先行して AI 法案を提出した背景には、まずは、世界の他地域と比較しても、欧州における社会としての AI に対する不信感・不安感（「人間‐機械（AI）関係」に係る認識）をベースに、人権・公平性への社会的関心の高さが背景にあると考えられる（A）。このため、AI による具体的な問題が発生しているというよりは、AI に対する懸念の高さを背景に、AI を横断的に対象とする水平規制の枠組みを採用し、具体的には、予防原則の考え方を踏まえつつ、現行の典型的（伝統的）な規制体系の一つである適合性評価による許認可体制による AI ガバナンスを提案したものと位置づけられる。
その上で、欧州が、積極的に法制化の方針を打ち出し、AI 法案の策定に取り組んだ要因
としては、人権・公平性という欧州に優位のある概念を旗印とすることによる、世界的なルール形成をリードするという国際戦略が位置づけられる（D）。このような国際戦略は、各文書に記載されており、特に、GDPR の成功事例に見られる通り、いわゆるブリュッセル
効果を狙ったものと解釈される。
136 出典：各種資料より、筆者作成

61ただし、欧州は、AI 法案発表後以降、厳しい規制を求める市民とその緩和を求める産業界の間で合意形成が難航している模様である。更に、生成型 AI も含め、次々と進化する AI技術に対して、立法手続きを必要とし時間を要する法規制という枠組み自体にも疑問が投げかけられる状況にあると考えられる。
（米国・カナダの動き）
このような欧州における AI ガバナンスの法制化の動きは、米国・カナダにおける AI ガバ
ナンスの法制化に大きく影響を与えたものと考えられる。特に、米国との関係では、民主党政権であるバイデン政権への移行以降、米国・欧州間での TTC（貿易技術評議会）が開催され、AI 分野での連携が議論され、また、米国のホワイトハウス幹部は、欧州の AI 法案を参考すべきと発言がなされている（D）。
しかしながら、AI ガバナンスの在り方を巡る状況は、米国と欧州では異なる。米国でも、欧州のように、AI に対する不信感という社会規範や人権に対する高い問題意識という側面もあるとは考えられるが、それよりもむしろ、世界的に AI システムの普及率が高いこと、
また、実際に十分な AI ガバナンス体制が取られていないために特に人種問題などに係る問題事例が多く発生していることが背景にあると考えられる（B）。実際に、米国では、これ
らの問題事例の発生を踏まえ、州政府、自治体のレベルでも、AI ガバナンスに係る規制の動きが多く見受けられる。また、人種問題が大きな問題となっているがゆえに、2022 年 10月に発表された AI 権利の章典でも、安全性に加え、公平性・非差別性に係る対応が大半を占めている。
また、米国で発表された AI 権利の章典は、欧州の AI 法案とは異なり、現行法の枠内で各省庁が縦割りで規則やガイドラインを策定するという垂直規制体制となっており、横断的（水平的）な規制枠組みとはなっていない。この理由は、米国連邦政府は、欧州とは異なり、行政府には法案提出権限はないこと（法案化の権限を有する連邦議会は、全般的により自由主義志向が強い共和党が多数を占めていること）、また、実際には実際に権限を有するのはホワイトハウスではなく縦に別れた各省庁であるという国家統治体制の違いがあげられる（C）。また、欧州のように、AI というコンセプトを対象とした規制というよりは、むしろ実際の問題発生に対しての対応という側面があることも影響しているとは考えられる。
このような流れの中で、米国、カナダでは、自らの AI ガバナンス制度の検討が進みつつあるが、その際、これらは欧州の AI 法案を参考にしつつも、欧州 AI 法案と比較して改善工夫がなされ、より緩やかな規制案となっており、言い換えれば、よりイノベーション志向的な案となっている。具体的には、米国の AI 権利の章典は上記の通り垂直規制であり、必ずしも一律の許認可体制ではなく、縦割りの分野ごとの既存法の現状に基づく規制体系となっている。また、議会に提出されている AAA 案も、欧州の AI 法案と比較して、より柔軟な対応となるよう工夫がなされており、そのような柔軟な体系が、今後、FTC における規則の検討にも反映される可能性がある。また、カナダで提案されている AIDA 案も、高リスクのものを規制対象とする点は欧州 AI 法案に類似するものの、欧州のような許認可体制は採用
せず、むしろ登録‐事後監査という弱い枠組みを志向している。
（英国、日本、シンガポールの動き）

62一方で、英国、日本では、欧州の AI 法案の動きを把握しつつも、原則として、法制化（ハードロー）を志向せず、非拘束的手法を目指していることが特徴的である。ただし、英国と日本では、その背景となる要因は異なる。
英国では、そもそも、社会規範を背景とする AI に対する懸念は欧州と類似するところもあり、また、AI システムの普及率も低くはないため、AI に対するリスクの認識は比較的高いものと考えられる。しかしながら、そのような状況にも関わらず、英国は、2020 年 2 月の欧州離脱を背景に、欧州のような規制色の強い内容に対し、むしろその対抗措置として、戦略的観点から、イノベーション志向を打ち出していることが特徴である（D）。
これに対し、日本においては、社会規範としても、AI に対する不信感・懸念も少なく、また、AI システムの普及率も低く、実際に AI リスクによる大きな問題が国内で生じていないことから、ハードローに基づく法規制を行おうとする社会的な気運は非常に弱いことが大きな要因であると考えられる（A, B）。実際に、日本では、AI ガバナンスに係る議論は、AI に関心を有している一部の大企業・政府担当者・専門家のみであり、大半の市民・産業は全く関心を有していないのが現状であり、欧州などとは全く異なる状況にあると言える。
ただし、このように非拘束的手法を志向する中で、英国・日本の両国とも、その理論武装のためにも、そもそものデジタル分野の規制の在り方から見直しを主張している点が新機軸としての共通点である。特に、日本のデジタル分野を対象にした「ガバナンスイノベーショ
ン」「アジャイルガバナンス」の考え方は、急速に進化する AI 技術の変化の中で、欧州の規制案に対抗する考え方であると考えられる（D）。
なお、シンガポールは、当初世界の中でも、非拘束的手法（ソフトロー）による AI ガバ
ナンス制度で国際的にリード・先行していたが、欧州 AI 法案を踏まえ、今後の動向を様子見しているように伺える。
【図２８】主要国・地域の AI ガバナンスの形成要因と改善工夫・新機軸の提案137＜世界の AI ガバナンス制度の進化メカニズム＞
これまで、OECD AI 原則以降これまでにおける世界における AI ガバナンス制度の生成過程について、概ね時系列ごとに説明し、その要因について明らかにしてきた。このような世
137 出典：各種資料より、筆者作成

63

界の AI ガバナンス制度の形成・進化メカニズムを、マクロ的に一般化すると、以下のように４点に整理できると考えられる。
１）世界の AI ガバナンス制度の必要性に係る社会認識の多様性
世界各国・地域における AI ガバナンス制度の必要性に係る社会認識には多様性がある。
具体的には、各国の社会規範（AI に対する不信感、人権に対する関心等）に加え、AI によるリスクに伴う具体的な問題の発生（AI 普及率なども依存）など、各国の状況によって異なる。ただし、この多様性は、今後とも、AI 普及率の進展等に伴い、変化していくものと位置づけられる。
２）必要性認識の高い国・地域による厳しい制度の先導的提案
そのような AI ガバナンス制度の必要性に係る世界的な多様性の中で、その社会的必要性が高く認識されている欧州が、戦略的にも国際的なルールメイキングを主導する観点から、先導的に厳しい AI 法案を提案することになった。しかしながら、現状では、GDPR のようなルールメイキングには、成功していないのが現状である。
３）地域的差異を踏まえた多様で工夫された多様な改善案の提案
この先行した欧州 AI 法案を参考にしつつ、世界各国においては、自国・地域における AI
ガバナンス制度を検討することになる。その際、各国・地域におけるその必要性に係る社会認識の状況に加え、当該国・地域の国家統治・国際戦略を踏まえて、よりイノベーション寄りに改善工夫し、あるいはデジタル規制見直しなどの独自の新機軸を加えた AI ガバナンス
案を提案することになる。この結果、世界各国・地域において、より改善工夫され、新機軸を有する多様な AI ガバナンス制度が提案されることになる。
４）世界の AI ガバナンス制度の「制度イノベーション」の可能性
このような、各国・地域における、より改善工夫され、あるいは、新機軸に基づく、多様な AI ガバナンス制度の提案の動きは、マクロ的・長期的にみると、各国・地域が、自らの制度、制度間競争の中で互いに参考し合いつつ（共鳴しつつ）も、自らの地域的状況に応じて、よりリスク低減とイノベーション促進の両立可能な制度の構築に向けて試行錯誤を行っているプロセスであるとみなすことができる。この結果、AI ガバナンス制度に関して、世界全体として「制度のイノベーション」が起きつつあるものとみなすことが可能であると考
えられる。

64

【図２９】AI ガバナンス制度の進化メカニズム138

なお、そのような制度イノベーションの進展の結果、今後、世界的にどのような AI ガバ
ナンス制度が構築されていくかについては、現時点では不明である。ただし、各国・地域における AI 普及率の向上と問題事例の発生状況等にも依っては、今後さらに厳しい制度が求められる可能性がある一方、特に AI に関してはその技術的進展が早いことを踏まえると、行政府の従来型の規制では対応できず、この「制度のイノベーション」がさらに重要な役割を果す可能性もある高いと考えられる。

②今後の世界の AI ガバナンス制度の進化の方向（考察）
それでは、上述の通り、現時点で世界的に多様な種類の提案がなされてきている AI ガバ
ナンス制度は、特に第２章で記載した「技術と制度」の共進化の観点から、今後、どのように変化していくことが想定されるのであろうか。
もちろん、今後の動きは不透明であり、現時点でそれを完全に見通し、予測することは困難である。ただし、その特に「技術と制度」の共進化という視点を踏まえつつ、本節では、● A）グローバル化の中での世界の AI ガバナンス制度の国際調和の動き● B）AI 技術のイノベーションの普及の影響と社会規範の変化の可能性● C）AI 技術に係る「技術と制度の更なる動的な共進化」の可能性の３点から考察する。
＜A：グローバル化の中での AI ガバナンス制度の国際調和の動き＞
今後の世界における AI ガバナンス制度の在り方については、現在、世界各国の関心事項
であり、このため、OECD や GPAI などの国際機関において継続的に議論されるとともに、本年（2023 年）は、日本で開催される G7 サミットでも議論される可能性がある。
その際、特に世界各国でグローバルに活動する企業からすると、その制度の方向に関心があることはもちろんのこと、業務の効率性の観点から、世界各国・地域の AI ガバナンス制
度が一定の範囲でルールが統一化されていることが望ましいと考える傾向にある。また、欧138 出典：各種資料より筆者作成

65

州は、欧州で活動するグローバル企業を全て欧州 AI 法に（域外）適用させることにより、デファクトとしての世界的な制度に係るルール形成を目指していると言える。
そのような中でも、特に、EU（欧州連合）ではないものの、人権、民主主義、法の支配の分野で国際社会の基準策定を主導する汎欧州の国際機関である欧州評議会（Council ofEurope：CoE）においては、人権等に係る取組を、欧州を中心に世界全体に広げる観点か
ら、AI 条約を作る方向で検討が進められてきている139。具体的には、2019 年 9 月より、AI
アドホック会合（CAHAI）が開催され、2021 年 12 月に基本方針（要素文書）を策定し、その後、2022 年 4 月から AI に関する委員会（CAI）が設置され、2023 年末までの条約起草を目指している。
この欧州評議会は、欧州連合加盟国（27 カ国）に、英国などの他の欧州各国を加えた 43
カ国が加盟国であるが、上記 AI に係る会合に関しては、米国、カナダ、日本などの他地域の先進民主主義諸国（５カ国）もオブザーバーとして参加している。このため、現時点で確定したものではないが、最終的には、これらの先進民主主義諸国のほとんどが参加する AI
ガバナンスに係る条約の策定を目指していると言うことができる（なお、現時点では、中国やロシアなどの参加は想定されていない）。
【図３０】欧州評議会の AI 条約案の位置づけ140

本 AI 条約案は、本ワーキングペーパーの執筆時点（2023 年 2 月）においては、このコアとなるはずの欧州連合の AI 法案が確定していないために、前に進められない状況にある模様である。ただし、いずれにせよ、本 AI 条約案を幅広い国際条約としてとりまとめていく
ためには、その欧州連合の AI 法案をベースとしつつ、現時点で既に提案がなされている米国、カナダ、英国、日本などの各国の多様な AI ガバナンス制度を考慮していくことが必要となると考えられる。このため、今後の各国の交渉スタンスや交渉の主導権の状況にもよる
が、基本的には、一定の枠組みは課しつつも、規制の拘束性や手法などに関しては、欧州のAI 法案と比較して拘束力のより緩く、各国・地域の多様な AI ガバナン制度が含まれるような包括的な枠組みとなる可能性がある。
一方、グローバルに活動する企業から見た場合、国に応じて規制の拘束性や内容に関して差異があり、いずれにせよ、AI によって生じるリスクに応じた対策を取る必要があることから、そのリスクの評価手法やその管理のための技術的・経営的基準については統一化を望139

Council of Europe and Artificial Intelligence
https://www.coe.int/en/web/artificial-intelligence140 出典：欧州評議会資料等より筆者作成

66

むことが想定される。このためには、上述のような国際的な AI ガバナンス制度に係る枠組
みの検討と並行して、AI リスク評価手法の標準化やツールの開発、AI マネジメントシステ
ムやその管理技術などの標準化などを進めることが重要となると考えられる。
＜B：AI 技術のイノベーションの普及の影響と社会規範の変化の可能性＞
このように、世界の AI ガバナンス制度は、短期的には、、国際的な AI 条約などの動向を踏まえて一定程度の収斂の可能性が想定される一方で、地域的な差異の要因は経路依存的な影響も含めて引き続き残ることから、原則として多様性を維持しながら制度イノベーションが進展することが考えられる。一方、中期的に見た場合には今後どのような変化が想定されるであろうか。
まず、一つは、社会における AI の普及の進展に伴うリスクの増大の影響である。今後、社会における AI 普及が進展すると、それに伴い、AI のリスクによって生じる問題が顕在化し、場合によっては、規制強化などの動きが生じる可能性が考えられる。特に、日本の場合
は、現在は AI システムの普及率が低いために、AI リスクによる社会問題があまり発生していない可能性もあり、今後 AI システムの普及率の増大に伴い、問題発生の件数が増大すれば、将来的により厳しい AI ガバナンス制度の導入が必要となるシナリオも考えられる。
もう一つは、一方で、AI の普及に伴う「順応性」の向上の影響である。一般的に、ある新たな技術が社会に登場した場合には、当初、社会においては拒否反応が生じるが、普及が進むに連れて、その後順応していくことがある。特に、欧州のように、AI に対する「不安感・不信感」に基づき、予防原則の視点を含めて規制強化をしている場合においては、AIが普及し、その実態が明確化していくにつれて、その恐怖感も薄れていき、社会に順応していき、場合によっては既存の既存の規制制度の見直しが進められるシナリオも想定される。
特に、デジタルネイティブな人材層の増加も含め、社会全体の AI に係るリテラシーが向上
し、利用者としての最低限の配慮事項が社会全体の常識として醸成されてくると、過剰な規制は不要となる可能性もある。
＜C：AI 技術に係る「技術と制度の更なる動的な共進化」の可能性＞
Ａ、Ｂでは、概ね、「現在の AI 技術が、このまま社会に普及した場合」の制度変化の可能性を考察した。一方で、AI 技術は現時点でも次々と進化・発展しており、このような新たな AI 技術の登場により、経済産業の発展、国民生活の向上や社会課題の解決などの資する一方で、さらに新たなリスクが生じる可能性がある。
例えば、2022 年後半以降、新たに生成型 AI への関心が高まっており、その中でも特に2022 年 11 月末に公開された Chat GPT は、2022 年末以降急速に世間の関心を集め、AI に係る新たな革新的なブレークスルーとして注目される一方で、新たなリスクを生じさせる可能性が強く指摘されている。例えば、米国のシンクタンクであるユーラシアグループは、
2023 年 1 月、2023 年の 10 大リスク－最も重要な地政学リスク・トップ 10 を発表している141が、その中で、第 3 位に「大混乱生成兵器」として、「人工知能（AI）の技術的な進歩が社会の信頼を損ない、デマゴーグや権威主義者に力を与え、ビジネスや市場を混乱させ」るとしている。現時点では、この予測の通り 2023 年に「ビジネスや市場を混乱させる」に141

ユーラシアグループ「2023 年 10 大リスク：最も重要な地政学リスク・トップ 10」
https://www.eurasiagroup.net/siteFiles/Media/files/2022_12_26%20Top%20Risks%20FINAL%20DRA
FT%2004%20jh%20-%20Japanese.pdf

67

至るか否かは不明であるが、いずれにせよ、これらの生成型 AI は、新たな革新的な AI 技術
が、社会の共有する社会規範に照らして、また新たなリスクを生じさせ得る可能性は高く、何らかのガバナンスが必要とされる可能性は高いと考えられる。
一方で、このような AI 技術の急速な変化に対して、現行の AI ガバナンス制度は、必ずしも十分に対応できていないと考えられる。特に、欧州の AI 法案は、現行案が提案されて本WP 執筆時点で約２年弱になるが、まだ成立しておらず、また、仮に新たな定義規定の見直しを含め法案を見直すとした場合、再度法案作成、理事会・議会の承認という手続きが必要になる。また、上述の通り、理事会により新たに高リスクの規制対象として提案された汎用AI システムに、今回の ChatGPT が対象になるのかが話題になっているが、実際に、現行の高リスクの枠組みで規制するのか適切なのかは、全く不明な状況になっている。
このような状況を踏まえると、今後とも AI ガバナンス制度においては、急速なデジタ
ル・AI 技術の進展に対応すべく、従来の政府による許認可という旧来型の制度を超えて、アジャイルな対応ができるよう制度そのものの改革・イノベーションが期待され、したがって、このような AI 技術の急速な進展に伴って、制度のイノベーションも迅速に進展するような共進化のメカニズムを構築することが求められると考えられる。

５．今後の検討課題
本ワーキングペーパーでは、近年の AI 技術の進展に対して、世界各国の政府による AI ガ
バナンス制度がどのようなメカニズムで形成され、進化するのかについて、分析、考察を行ってきた。
その結果、世界の AI ガバナンス制度は、その国・地域において共有されている社会規範
等の地域的事情に大きく依存すること、その中で、まずはその制度の必要性を高く認識する
社会背景を有する欧州において、国際戦略的観点から規制色の強い AI 法案を打ち出したこと、その上で、同法案を参考にしつつも各国は自らの共有する社会規範等の中で改善工夫・
新機軸を加えながら多様な AI ガバナンス制度を提案してきていること、その結果、このよ
うなメカニズムは、世界的にはより適切な AI ガバナンス制度の構築に向けた試行錯誤の過程（制度イノベーションの過程）とみなされること、との考察を行った。
ただし、このような今回の AI ガバナンス制度の進化メカニズムに係る分析・考察は、現時点まで政策動向を分析したものにしか過ぎない。世界的な AI ガバナンス制度は、まだ発展途上であり、今後の見込みは必ずしも見通せない上、特にこのような制度の発展が、さらに AI に係るイノベーションに与える影響については、今後の課題であると考えられる。このため、本件に関する研究については、今後とも、引き続き動向をフォローすることが必要である。
また、今回は、AI 技術によって生じるリスクのうち、特に分野横断的な対応が求められる「公平性・非差別性」に係るリスクを主な対象としてきた。しかしながら、AI 技術は、汎用的な技術であり、第二章で示した通り、その利用形態により、それ以外にも様々なリス
クが存在する。例えば、実世界の制御システムなどに利用されることによって生じる安全性に係るリスクや、AI 技術を利用した画像認識技術による生体認証はプライバシーに係るリ68スク、あるいは、ディープフェイクなどの技術は、偽情報・有害情報の創出を通じて社会あ
るいは民主主義に対して大きなリスクなどである。これらのリスクに対する AI ガバナンス
については、上述で議論してきたような公平性・非差別性に係る AI ガバナンスとは全く異なった形成、進化メカニズムとなっている可能性も高いことから、AI 技術によって生じるリスクの全体に係るガバナンスの在り方を検討するには、今後更に幅広い分析・考察が必要であろう。特に、生成型 AI など新たな革新的な AI 技術に関するガバナンスの在り方は、まだほとんど議論がなされていないが、今後重要となると考えられる。
さらに、今回の分析・考察では、先進民主主義国を対象とし、主に民間企業に対する AI
ガバナンスの在り方を念頭に議論してきた。実際に、中国などの権威主義国家では、OECD
AI 原則（G7 AI 原則）には署名しているものの、人権・公平性に係る考え方（社会規範、国家統治）が異なるためか、民間に対する AI ガバナンスの在り方に対する議論はほとんど見受けられない。
しかしながら、世界全体で見た場合は、これらの国・地域における AI ガバナンスの在り方も重要な課題である。特に、政府機関・公的セクターが有する司法・警察などの権力の行使において、社会スコアリングも含め、市民の個人データを利用した AI による意思決定を行う場合には、その利用によっては、いわゆる監視社会などのディストピアの世界となる可能性が指摘されている。このような政府における AI 利用の在り方は、自律型兵器などの在り方と併せて、単に民主主義国家だけでなく、世界全体で取り組むべき AI ガバナンスの在り方と考えられるが、その具体的な在り方についても、今後の検討課題である。
（以上）

69