電卓とAIの相違から紐解く

国際AI規制の本質
2024年7⽉

⽻深宏樹
京都⼤学法学研究科特任教授
スマートガバナンス株式会社代表取締役CEO
弁護⼠（⽇本・NY州）

⾃⼰紹介

⽻深

宏樹

Hiroki Habuka

京都⼤学法学研究科 法政策共同研究センター 特任教授
スマートガバナンス株式会社 代表取締役CEO
弁護⼠（⽇本・NY州）
京都⼤学法学研究科特任教授として、複雑なサイバー・フィジ
カルシステムのガバナンス⼿法を研究する⼀⽅、スマートガバナ
ンス株式会社CEOとして、企業に対して先端テクノロジーのガバナンスに関するアドバイスを提供している。2022年1⽉まで、経済産業省ガバナンス戦略国際調整官として、デジタルプラッ
トフォーム規制やAI・データガバナンス政策等の検討等をリードした。2020年、世界経済フォーラムGlobal Future Council
on Agile Governanceによって、「公共部⾨を変⾰する世界で最も影響⼒のある50⼈」に選出。主著に、『AIガバナンス⼊⾨︓リスクマネジメントから社会設計まで』（2023年, ハヤカワ新書）。東京⼤学法学部・同法科⼤学院（JD）、及びス
タンフォード・ロースクール（LLM）修了。
2

AIと⼈間の共⽣に⽴ちはだかる壁• ⽶国の⼈気恋愛チャットボットサービスの圧倒的多数が、ユー
ザーのセンシティブな情報を第三者に販売・共有していることが発覚（2024.4）• ⾹港の多国籍企業の会計担当者が、⽣成AIを⽤いて最⾼財務責任者（CFO）を装ったビデオ会議の相⼿に騙され、計2億⾹港ドル（約38億円）を詐取される（2024.2）• 韓国の野菜包装⼯場において、ロボットが⼈間を野菜の箱と間違え死亡させる（2023.11）• GM傘下の⾃動運転サービスCruiseが、カリフォルニア州での営業許可取消（2023.10）「⼊⽔」した警備ロボット（ワシントンDC、2017年）
https://www.bbc.com/news/technology40642968• 全⽶摂⾷障害協会の提供していたチャットボットが、相談者に有害なアドバイスを提供したため、使⽤停⽌に（2023.6）
3

AIガバナンスはグローバルなトレンドにOECD Principles

EU AI ActUS NIST RMF

Singapore MAGF

Japan AI Guidelines

US Executive Order

UK Approach

ISO/SC42

G7 Communique

Council of Europe
AI Treaty

Canada AIDA

China Gen AI Service Act
42024年4〜5⽉のAIガバナンス関連ニュース• ⽇本、AI戦略会議「AI 制度に関する考え⽅」について（2024.5.22）• EU、AI法を欧州理事会で最終可決（2024.5.21）• ⽇本、知的財産戦略本部「AI時代の知的財産権検討会中間とりまとめ」（2024.5.21）• AI Safety Summit 、AI安全性に関する閣僚宣⾔ (2024.5.21-22)• 欧州評議会、AI条約採択（2024.5.17）• OECD、AI原則のアップデート（2024.5.3）• G7、広島AIフレンズグループの⽴ち上げ（2024.5.2）• ⽶国、NIST（国⽴標準技術研究所）が⽣成AIに関するリスクマネジメントフレームワー
クのドラフト公表（2024.4.29）• ⽇本、⾃⺠党「AIホワイトペーパー2024」（2024.4.11）
5⽇本だけで⾒ても・・・
法令• 個⼈情報保護法• 著作権法• 各種業法（道交法、⾦商法、薬機法、割賦販売法、⾼圧ガス保安法 etc…）• 独占禁⽌法 ・不正競争防⽌法• ⺠法・刑法• 責任あるAI推進基本法（仮）ホワイトペーパー/政策⽂書• AIホワイトペーパー2024（⾃⺠党）• AI 制度に関する考え⽅(AI戦略会議)• 「AI時代の知的財産権検討会中間とりまとめ」(知的財産戦略本部)• AI と著作権に関する考え⽅(⽂化庁)

ガイドライン類• AI事業者ガイドライン(経産省・総務省)• ⼈間中⼼のAI社会原則（統合イノベーション戦略推進会議）• 機械学習品質マネジメントガイドライン（産総研）• 倫理指針（⼈⼯知能学会）
国際関係• EU AI Act等の域外適⽤• G7広島AIプロセス• 欧州評議会によるAI条約• AI Safety Summit

6

7

思考のガイド
Q. AIは複雑な（深い）関数を⽤いてデータを統計的に分析し、与えられた命令に対して最も確率の⾼い答えを出す計算機です。皆さんのお⼿元（スマートフォン）に搭載された電卓も計算機です。なぜ電卓に対する規制やリスクマネジメントは問題にされないのに、AIに対する規制やリスクマネジメントは問題になるのでしょうか。
⼈間＋電卓：⼈間が演算の内容を決定し、機械に指⽰する。
機械学習：⼊⼒と出⼒をつなぐアルゴリズムを、機械が⾃律的に構築（学習）する

8

思考のガイド
Q. AIは複雑な（深い）関数を⽤いてデータを統計的に分析し、与えられた命令に対して最も確率の⾼い答えを出す計算機です。皆さんのお⼿元（スマートフォン）に搭載された電卓も計算機です。なぜ電卓に対する規制やリスクマネジメントは問題にされないのに、AIに対する規制やリスクマネジメントは問題になるのでしょうか。
⼈間＋電卓：⼈間が演算の内容を決定し、機械に指⽰する。
機械学習：⼊⼒と出⼒をつなぐアルゴリズムを、機械が⾃律的に構築（学習）する＜「⼈間＋電卓」とAIの共通点＞•

所与のデータに対して統計と確率（⼈間の感覚によるもの含む）を⽤いて最適解を出す•

出⼒結果の利⽤場⾯は様々：ゼロリスクから⽣命・基本的⼈権へのリスクまで→ 実際に、「AIリスク」とされるものの多くは「⼈間のリスク」でもある
o 交通事故、フェイクニュース、⼈種/マイノリティ差別、⾒間違い•

etc.

したがって、今あるリスクマネジメント（内部統制）の仕組みは相当程度有効
9

思考のガイド（続）＜ 「⼈間＋電卓」とAIの相違点＞• ディープラーニング：階層が「深い」ために、演算が極めて複雑になる
o ⼊⼒と出⼒の因果関係の説明が困難（ブラックボックス性）
o アウトプットの予測が困難（予⾒困難性）
o アウトプットの原因を説明することが困難（説明困難性）•

アウトプットまでに多くの主体が関与•

データの提供者、基盤モデルの開発者、基盤モデルを活⽤したサービスの提供者、サービスの利⽤者等•

クラウド提供者、通信サービス提供者、OS提供者、プラットフォーム事業者等•

技術⾰新・普及の速さ•

⼈間による信頼判断の難しさ•

クロスボーダー性10

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。

•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。

• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。

• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。

11

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。
⾃動運転⾞に関する道交法、AI医療機器に関する薬機法等、⽇本にも多くのハードローが存在。
•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。

• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。

• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。

12

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。
⾃動運転⾞に関する道交法、AI医療機器に関する薬機法等、⽇本にも多くのハードローが存在。
•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。
正しい。ガイドラインはあくまで参照資料にすぎない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。

• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。

• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。

13

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。
⾃動運転⾞に関する道交法、AI医療機器に関する薬機法等、⽇本にも多くのハードローが存在。
•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。
正しい。ガイドラインはあくまで参照資料にすぎない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。
AIを「分野別」に規制する法律は各国に存在。EU AI法の特殊性は、その「包括性」にある。
• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。

• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。

14

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。
⾃動運転⾞に関する道交法、AI医療機器に関する薬機法等、⽇本にも多くのハードローが存在。
•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。
正しい。ガイドラインはあくまで参照資料にすぎない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。
AIを「分野別」に規制する法律は各国に存在。EU AI法の特殊性は、その「包括性」にある。
• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。
AIを包括的に規制するのは、現状EU AI法のみ。⽇本を含む諸国は分野別のアプローチが主流。
• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。

15

〇×？
• ⽇本はAIについて、事業者の⾃主的取組を促す「ソフトロー」のアプローチを採っており、 AIの開発
や利⽤について法的な義務を課す「ハードロー」は存在しない。
⾃動運転⾞に関する道交法、AI医療機器に関する薬機法等、⽇本にも多くのハードローが存在。
•

⽇本政府が公表した「AI事業者ガイドライン」はソフトローであり、これを実践する法的義務はない。
正しい。ガイドラインはあくまで参照資料にすぎない。

• EUのAI法は、世界で初めてAIの開発や使⽤を規制する法律である。
AIを「分野別」に規制する法律は各国に存在。EU AI法の特殊性は、その「包括性」にある。
• AIを包括的（分野横断的）に規制する動きは世界中に広がりつつあり、⽇本政府でも、AIに対する包括的な規制の検討が始まっている。
AIを包括的に規制するのは、現状EU AI法のみ。⽇本を含む諸国は分野別のアプローチが主流。
• 法律の整備及びガイドラインや標準の開発が進むと、AIガバナンスは、創意⼯夫の領域から画⼀的なコンプライアンスの領域に移⾏する。
AIの技術変化の速さや適⽤場⾯の広さを踏まえると、画⼀的な規範設定は不可能。事業者の
創意⼯夫の余地がなくなることはない。
16

⽬次

1. AIガバナンスの全体像
2. 法規制の設計
3. AIシステムのガバナンス（AI事業ガイドライン）
4. 国際連携17

AIガバナンスの俯瞰図
AIガバナンスの⽬的

AIリスク・基本的⼈権 ・⺠主主義・経済成⻑・サステナビリティ

1. 技術的リスク(1) 誤判定(2) バイアス(3) 虚偽・ハルシネーション(4) 安全性(5) セキュリティ

AI原則・AI倫理
安全性

セキュリティ

公平性

透明性・説
明可能性

有効性

2. 社会的リスク(1) プライバシー(2) ⺠主主義へのリスク(3) 不正⽬的・攻撃⽬的利⽤

アカウンタ
ビリティ

AIシステムのガバナンス(4) 経済への影響（独占・仕事の代替）(5) 財産権への影響（知財・データ）(6) 環境負荷
3. リスクの本質(1) 予測や説明の難しさ(2) バリューチェーンの主体の多さ(3) 技術⾰新や普及の速さ(4) 信頼性判断の難しさ(5) 倫理的課題の提起(6) グローバル化(7) 汎⽤AIがもたらす未知の影響

プライバシー

AI開発者

AI提供者

AI利⽤者

AI社会のガバナンス
法規制

標準/ガイダンス

財産権

責任・制裁

救済

アジャイル・マルチステークホルダー・分散的なプロセス
18

AIガバナンスの俯瞰図
AIガバナンスの⽬的

AIリスク
1. 技術的リスク(1) 誤判定(2) バイアス

・基本的⼈権 ・⺠主主義・経済成⻑・サステナビリティ

⼤枠で合意できている領域(3) 虚偽・ハルシネーション(4) 安全性(5) セキュリティ

AI原則・AI倫理
安全性

セキュリティ

(4) 経済への影響（独占・仕事の代替）(5) 財産権への影響（知財・データ）(6) 環境負荷
3. リスクの本質(1) 予測や説明の難しさ(2) バリューチェーンの主体の多さ(3) 技術⾰新や普及の速さ(4) 信頼性判断の難しさ(5) 倫理的課題の提起(6) グローバル化(7) 汎⽤AIがもたらす未知の影響

公平性

透明性・説
明可能性

有効性

2. 社会的リスク(1) プライバシー(2) ⺠主主義へのリスク(3) 不正⽬的・攻撃⽬的利⽤

プライバシー

AI事業者ガイ
ドライン

アカウンタ
ビリティ

AIシステムのガバナンス

AI開発者

各種業法 /
責任あるAI推進法？

AI提供者

AI利⽤者

AI社会のガバナンス
法規制

標準/ガイダンス

財産権

責任・制裁

著作権・契約⺠刑法救済

アジャイル・マルチステークホルダー・分散的なプロセス
19⽬次

1. AIガバナンスの全体像
2. 法規制の設計
3. AIシステムのガバナンス（AI事業ガイドライン）
4. 国際連携20

AIに対する規制§

AIの使⽤を制約する包括的な規制は存在しない§

スマホソフトウェア競争促進法は、検索結果の表⽰において、⾃社のサービスを他社のサービ スよりも優先的に取り扱うことを原則として禁⽌§デジタルプラットフォーム透明化法は、⼤規模なオンラインモール、アプリストア、デジタル広告事業者に対して、検索ランキングを決定する主要な要素の開⽰等を要求§

⾦融商品取引法は、アルゴリズム⾼速取引を⾏う事業者に対して、政府への登録と、リ
スク管理システムの整備や、取引記録の維持を要求§

プライバシーとの関係では個⼈情報保護法が、⽣成AIの⽂脈では著作権法が、ハードウェアと⼀体化した製品については製造物責任法が問題となる。

21

AIを促進するための規制
分野別§

道路交通法改正（2023）により、都道府県公安委員会の許可を受けた事業者によるレベル4の⾃動運転（特定§条件下での完全⾃動運転）が可能に。
割賦販売法改正（2020）により、認定包括信⽤購⼊あっせん業者が、データやAIを使⽤して与信額を決定す§ることが可能に。
⾼圧ガス保安法改正により、AIとドローンを活⽤した先進的な安全技術を持つスーパー認定事業者が、最⻑8
年間、運転を中断せずに安全検査を⾏うことが可能に。

§

著作権法改正（2017）により、AIモデルを開発するための著作権保護コンテンツの利⽤が直ちに著作権侵害とならないことが明確に。

§

不正競争防⽌法改正（2019）により、有料データセット等に対する保護が強化。

規制全般§

デジタル⾏政改⾰会議（旧デジタル臨調）において、約1万の法令・規則・通達等におけるアナログ条項（書⾯義務、⽬視義務、定期検査、事務所常駐義務等）を撤廃し、テクノロジーによるコンプライアンスを可能とする⼀括法改正を実施。
22

⼤規模な基盤モデルに対する規制：「責任あるAI推進基本法（仮）」§⾃⺠党のAIの進化と実装に関するPTによる提案（2024.2）

https://note.com/api/v2/attachments/download/93c178c2f3e28c5b56718c9e7c610357

23⼤規模な基盤モデルに対する規制：「責任あるAI推進基本法（仮）」https://note.com/api/v2/attachments/download/93c178c2f3e28c5b56718c9e7c610357

24

AI戦略会議「AI 制度に関する考え⽅」の主要ポイント

https://www8.cao.go.jp/cstp/ai/ai_senryaku/9kai/shiryo2-2.pdf

25

（参考）⽂化庁「AIと著作権に関する考え⽅について」の主要ポイント
１．AI開発・学習段階•

著作物に表現された思想⼜は感情の「享受を⽬的としない利⽤」は、原則として著作権者の許諾なく⾏う
ことが可能。ただし、「著作権者の利益を不当に害することとなる場合を除く」。（著作権法30条の4）•

学習データである著作物の類似物を⽣成させること⽬的とした場合は、「享受⽬的」ありとされる可能性。

•

AI学習のための著作物の複製等を防⽌する技術的措置が講じられている場合、これを複製する⾏為は「著作権者の利益を不当に害する」可能性あり。

２．⽣成・利⽤段階•「類似性」及び「依拠性」から判断（両⽅ともあれば、著作権侵害の可能性あり）•「依拠性」をどのような場合に認めるかについては、様々な⾒解がある。
q 権利者としては「AI利⽤者が既存の著作物にアクセス可能であったこと」や「⽣成物に既存の著作物との⾼度な類似性があること」等を⽴証すれば、依拠性ありと推認させることができる
q ⽣成AIの開発・学習段階で当該既存の著作物が学習されていた場合は、AI利⽤者が既存の著作物を認識していない場合でも、通常、依拠性があったと推認される

３．AI⽣成物は「著作物」にあたるか•

⼈の「創作意図」があるか、及び⼈が「創作的寄与」と認められる⾏為を⾏ったかによって判断。

•「創作的寄与」となり得るものがどの程度積み重なっているか等を総合的に考慮して判断

26

⽬次

1. AIガバナンスの全体像
2. 法規制の設計
3. AIシステムのガバナンス（AI事業ガイドライン）
4. 国際連携27

AIシステムのガバナンス：基本的な考え⽅• 組織内でのAIガバナンスについて、世界中から様々なドキュメントが発⾏されている（その多くは拘束⼒を持たないソフトロー）• ポイントとなるのは、経営層レベル＋現場レベルの「⼆重のループ」

経産省・総務省「AI事業者ガイドライン」

NIST AI Risk Management
Framework

ISO 31000: 201828

AI事業者ガイドラインの構成

https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240119_3.pdf

29

各主体に共通の指針

https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240119_3.pdf

30

ケーススタディ

製薬企業であるA社は、法令及び業界⾃主規制により求められる開⽰書類の作成に膨⼤なコストをかけている。今般の⽣成AIの⾶躍的進化を前に、同社は、これらの開⽰資料作成に⽣成AIを活⽤することにした。あなたがA社の経営者だったとして、どのようなガバナンス（ルール・組織・技術の設計・運⽤）を⾏うべきだろうか︖
Step 1 既製品の社内利⽤
Step 2 ファインチューニングモデルの社内利⽤
Step 3 ファインチューニングモデルの外部ライセンス

31

Step 1 既製品の社内利⽤
リスクの性質•⼈間によるドラフトのサポートツールとして使う限り、劇的なリスク状況の変化はない•

但し、情報漏洩や知的財産侵害等には注意が必要

ポリシーの策定•

⽣成AIのリスクについてどのような姿勢で臨むのか•

⾃社のビジョンやミッションの達成に⽣成AIがどのように貢献するのか

組織的対応
•

記載内容の信頼性について→開⽰担当部⾨/システム開発部⾨•個⼈情報保護について→法務部⾨•

著作権について→知財部⾨[参照] ⽇本ディープラーニング協会『⽣成AIの利⽤ガイドライン』
教育•

利⽤する従業員向けマニュアルの作成（※ 細かすぎては読まれない）•

社内試験に合格した場合にのみアクセスを許可する 等
32

Step 2 ファインチューニングモデルの社内利⽤開発段階で⽣じるリスク•

開発段階での新たな論点・・・個⼈情報保護法/著作権法/不正競争防⽌法上等
o 学習データをどのように取得するか?データにどのような加⼯を⾏うのか?そのデータをどのような⽅法でどこに移転して学習させるのか? といった点の理解が不可⽋に
o 法務・コンプラ部⾨だけでは解決できず、事業部⾨・技術部⾨との連携が必要

新たなステークホルダーの登場•

開発委託先︓何を遵守してもらうか、どのように遵守してもらうかo•

法令遵守/データセキュリティ/保守/開発したモデルの転⽤制限 etc.

基盤モデル開発者の規約

経営層のフィードバックサイクル例•

各部⾨の連携体制の整備•

継続的なリスク評価体制の整備

・ユーザーマニュアル等の整備

現場でのフィードバックサイクル例•

各部⾨間での円滑なコミュニケーションの実施と専⾨性の発揮
33

Step 3 ファインチューニングモデルの外部ライセンス
リスクの⾶躍的増⼤•「ユーザーが何をするか分からない」というリスクを抱えることに
o ユーザーによる法令違反のリスク
o ユーザーによる不適切利⽤のリスク考えられる対応⽅法の多様化・⾼度化•

不適切な出⼒にならないような技術的な対応•モデルの内部監査＋外部監査•

保険

経営層のフィードバックサイクル例•「⽣成AI統括組織」の⽴ち上げ（技術・品質・法務・コンプラ・モニタリング・ステークホルダーコミュニケーション等の機能の集中）•外部のリスク環境に関する情報収集体制の確⽴

現場でのフィードバックサイクル例•

各リスクに対応する評価や、対応（技術的措置か、契約での責任移転か、利⽤料を上げてリスクを吸収するのか等）に関する継続的な評価とコミュニケーションの実施
34

AIシステムのガバナンスのポイント• 初⼿はリスクを「特定」すること
o AIリスクは、従来のシステムのリスクの延⻑上にあることも多い
o AI原則（公平性・安全性・透明性・プライバシー等）を参照し、具体的なリスクシ
ナリオを抽出する•

次に、リスクを「評価」する
o ⼀般には「損害×確率」と定義されるが・・・
o 数値化が困難なリスクも多い（プライバシー、差別、⺠主主義 etc.）
o リスク発現確率も、テストし続けないと分からない（レッドチーミング）o ステークホルダーにとってのリスクの受容度も評価が必要•

リスクへの「対応」を決定する
o 技術的対応（ガードレイル）、組織的対応、契約による対応、保険等•

ステークホルダー（政府・⺠間双⽅）へのアカウンタビリティを尽くす
o 開⽰を受ける者にとって適切な質と量の情報提供•

上記のプロセスをサービス提供開始後も回し続ける35

⽬次

1. AIガバナンスの全体像
2. 法規制の設計
3. AIシステムのガバナンス（AI事業ガイドライン）
4. 国際連携36

AIガバナンスに関する国際協⼒体制の概観• ⻘字は広島AIプロセスフレンズグ
ループを表す• ●は「AI条約」の⺟体である欧州評議会の加盟国orオブザーバ国• G7は、この表に挙げた全てのイニシアチブに参加している• G7が⺠主的国家のリーダーであるのに対し、AI Safety Summitには
⺠主的でない国も含まれる

37

EU AI Act• AIに関する包括的な規制法案”AI Act”は2024年5⽉に欧州理事会で最終可決。
• AIを、「禁⽌」「ハイリスク」「中間的リスク」「低リスク」の4段階にランク付けする。
• ハイリスクAIの開発については、リスクマネジメントシステムの導⼊、サービス提供前の適合性評価
やデータベースへの登録等が求められる。
• さらに、「汎⽤⽬的AI」への規制を追加。技術⽂書の保持や下流プロバイダへの情報提供といった義務に加え、システミックなリスクを持つモデルには、モデル評価の実施、リスク評価とリスク緩和措
置の取り組み、適切なレベルのサイバーセキュリティ保護の確保、重⼤なインシデントのAIオフィス
および各国の所管機関への報告が追加の義務として課される。
ハイリスクAIの例（付属書III）
•
•
•
•
•
•
•
•

⽣体データによる⾃然⼈の認証・分類（顔画像認証など）
重要インフラ（道路、⽔・ガス・電気の供給など）の維持・管理
教育・職業訓練へのアクセスの決定（⼊学・採⽤試験の採点など）
雇⽤、従業員管理等へのアクセス（採⽤⼿続において履歴書を⾃動仕分けするソフトウェアなど）
必要不可⽋な私的・公的サービス・便益へのアクセス（ローン審査における信⽤スコアリングなど）
基本的権利に⼲渉する法執⾏（証拠の信⽤性の評価など）
移⺠、難⺠、出⼊国管理（旅⾏書類の真正性の検証など）
司法・⺠主的プロセスの運営（具体的事実に対する法の当てはめ等）
38

⽶国 (1) NIST AI Risk Management Framework•

産業界⾃らによる責任あるAIに向けた取組の推進を進め、そのリスクに係る公的評価を進めつつ、政府でのAI利⽤に係るガイドラインの策定に取り組む。

•

2023年1⽉、NIST（国⽴標準技術研究所）が、 AIリスクマネジメントフレームワーク（AI RMF）を公表。 2024年4⽉には、同フレームワークを⽣成AIに適⽤した「⽣成AIプ
ロファイル」を公表
Part 1: AIのライフサイクル

Part 2: 企業が取り組むべきガバナンス

https://www.nist.gov/itl/ai-risk-management-framework39⽶国 (2) 事業者の⾃主的コミットメントと⼤統領令•••

ホワイトハウスは、2022年に安全性、差別回避、セキュリティ、通知と説明、⼈間による判断へのア
クセス確保を柱とする「AI権利章典のための⻘写真」を公表。
2023年7⽉、Amazon, Alphabet（Google）, Anthropic, Inflection, Meta, Microsoftが、AIの安全性・
セキュリティ・信頼を確保するための⾃主的なコミットメントを公表。9⽉には、更に8社が加わる。
10⽉30⽇には、ホワイトハウスから上記のコミットメントに紐づく⼤統領令が発出。
• 安全性とセキュリティに⼒点が置かれる。開発者等に対する報告義務の基準作成など。
• コンテンツ認証や電⼦透かしに関してもガイダンスを作成する予定。
• ⽴法ではなく⼤統領令なので、既存の制度の枠組みで対応できる内容が基本。
• プライバシー法などについては、議会の⾏動を求めているが、どこまで実現できるかには疑問もあり。

•

他⽅、州・市レベルでは、複数の州における警察によるAIカメラ使⽤の禁⽌や、NY市の採⽤AIに関する規制、コロラド州におけるハイリスクAI規制などの動きがみられる。

40

英国

• 2023年3⽉29⽇、科学イノベーション技術省は、「AI規制：プ
ロイノベーションアプローチ」の報告書を発表。包括規制ではなくセクターごとの規制とする⽅針を⽰す。
• 10⽉には、「フロンティア AI の能⼒とリスク」を公表し、今後⽣じ得るリスクを分析。
• 11⽉、「AI安全性サミット」を開催。29か国が「ブレッチリー
宣⾔」に合意。
• AIガバナンスのガイドラインだけでなく、アルゴリズムの透明性のプロセスや、AIアシュアランスの枠組み、フロンティアモ
デルのリスク分析など、実践的なガイダンスやツールを⽮継ぎ
早に公表。
• 総じて、まずはリスクを⾒極めたうえで必要に応じた規制を⾏っていく⽅針といえ、⽇本としても⼤いに参考となる。

41

⽣成AIに関する広島AIプロセスで合意された原則⼀覧

リスクマネジメント

トラスト形成倫理的・社会的配慮

1. リスクの特定、評価、低減

3. 透明性とアカウンタビリ
ティ

8. 社会、安全、セキュリティ
上のリスクの低減のための研究2. 脆弱性、インシデント、悪⽤パターンの特定、低減
5. ガバナンスとリスク管理ポ
リシーの開発、実践、開⽰
6. セキュリティ管理措置への投資

4. 責任ある情報共有とイ
ンシデント報告12. ⾼度なAIシステムの信頼でき責任ある利⽤

9. 気候危機、健康・教育などのグローバルな課題の優先
10. 国際的な技術標準の開発と採⽤

7. コンテンツ認証・証明
11. 個⼈情報及び知的財産の
保護

42

まとめ
• AI規制の本質は、「安全性」や「公平性」といった原則それ⾃体にあるわけではなく、予⾒不可能性や説明不可能性、変化の速さ、リスクシナリオの多さ、関連主体の多さ、クロスボーダー性等にある• これらの点に対応するためのルール形成は、製作中の溶けたガラスのような状態であり、いきなり詳細に⾶びつくのではなく、はじめに全体の⾻格を抑えることがポイント• 政府や業界団体が⼀律のルールを作ることには様々な限界があり、現に国内外の関連する法律は極めて抽象的である• したがって、企業⾃らが、組織、ルール、技術、プロセスを組み合わせてアカウンタビ
リティを尽くす必要• アカウンタビリティの対象は、AIアルゴリズム、それを組み込んだシステム、そのシス
テムを運⽤する現場のルール、モニタリングメカニズム、これらを統括する組織、その組織における権限分配、そして組織カルチャーなど、多岐にわたる• 組織としてこれらに対応するためには、トップダウンの硬直的ガバナンスではなく、倫理的カルチャーと⼼理的安全性に基づくアジャイルなガバナンスが必要
43

AIガバナンス協会• AI実務リードする60社超が参加する、AIガバナンス団体として国内随⼀の規模• 官⺠・国内外と連携して、AIに関する政策提⾔やツール提供を⾏う（会員随時受付中）

44

書籍のご紹介「AIガバナンス⼊⾨ — リスクマネジメントから社会設計まで」•

冨⼭和彦⽒推薦

コンパクトだが、本格派である。AIの時代のガバナンスの本
質かつ急所を突いた、必読の本だ。
•

読売新聞書評

どのような⽴場であれ我々はＡＩのあり⽅を⾃分ごととして考えなければならないと著者は説く。本書はわかりやすくＡ
Ｉガバナンスの全体像を⽰す。
本書は、世界で話題沸騰しているAIガバナンスについて、何が問題なのか、企業は、国は、そして個⼈はどう対応すべきなのかを網羅的に解説する。溢れる情報に踊らされず、冷静に質の⾼い意思決定をするための⼀冊。
45

ご清聴ありがとうございました!

• 我々は、⼤海原を航⾏中に船を作り直さなければならない船乗りのようなものだ。

̶ オットー・ノイラート『アンチ・シュペングラー』(1921)• 永久の未完成、これ完成である。

̶ 宮沢賢治『農⺠芸術概論綱要』（1926）• 幸せは歩いてこない、だから歩いていくんだね̶ ⽔前寺清⼦「三百六⼗五歩のマーチ」（1968）46