EUのAI整合規則提案- 新たなAI規制戦略の構造・意図とブリュッセル効果の威力-

慶應義塾大学 総合政策学部 教授
新保 史生

本研究は、JSTムーンショット型研究開発事業(JPMJMS2011)の支援を受けたものである。

 JILISシンポジウムに予稿はありませんが、本日の報告の詳細は、以下の拙稿をご参照ください。
筆者： 新保史生
タイトル：EU新AI整合規則提案にみるAI規制戦略の構造・意図とブリュッセル効果の威力
掲載誌： ビジネス法務2021年8月号(2021)
発行年月日： 2021年6月21日
掲載頁： 188-193頁©2021 SHIMPO Fumio

2

AIに関するEUの新たな規則提案の名称の確認
Europearn Commission, Regulation of The European Parliament and of the Council Laying Down
Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union
Legislative Acts, COM(2021) 206 final, 2021/0106 (COD)Europearn Commission
 欧州委員会Proposal for a Regulation 規則提案The European Parliament and of the Council
 欧州議会及び理事会

Laying Down Harmonised Rules on Artificial Intelligence(Artificial Intelligence Act)
 人工知能に関する整合規則（人工知能法）の制定



Amending Certain Union Legislative Acts
 関係するEU法令の改正

新保 訳

欧州委員会「人工知能に関する整合規則（人工知能法）の制定及び関係法令の改正に関する欧州議会及び理事会の規則提案」©2021 SHIMPO Fumio

3

１ 人工知能に関する整合規則提案の核心となる目的「人工知能に関する整合規則（人工知能法）の制定及び関係法令の改正に関する欧州議会及び理事会の規則
提案」の目的（2021年４月２１日公表）
・ AIシステムのリスクに応じた利用規制
・ 従来からEU市場に上市する製品の製造者や輸入者等に課されている製品安全規制同様の義務を高リスクに分類されるAIシステムにも拡充してCEマーキングの対象とするもの
・ 適合性評価及び第三者認証制度の構築に基づく

AIシステムの管理©2021 SHIMPO Fumio

42-1 提案の背景①経済的・社会的利益• AIはあらゆる産業や社会活動において経済的・社会的に多大な利益をもたらす可能性• AIの利用によって、社会的・環境的に有益な結果をもたらし企業や欧州経済に重要な競争力を提供• 気候変動、環境と健康、公共部門、金融、モビリティ、家政学、農業など、影響の大きい分野で特に必要②個人や社会への新たなリスク• AIの社会経済的利益をもたらす要素や技術は、個人や社会に新たなリスクや負の影響をもたらすこともある• AIは人々のためのツールであり、人間の幸福度を高めることを究極の目的として、社会に貢献する力となるべき

③EUの価値観、基本的権利の保障• EUの技術的リーダーシップを維持し、EUの価値観、基本的権利、原則に従って開発・機能する新技術からEU市民が恩恵を受けることができるようにすることは、EUの利益となる④信頼のエコシステム構築（政治的背景）• AIの導入を促進し新技術の利用に関連するリスクに対処するため、信頼できるAIのための法的枠組みを提案すること• EUが安全で信頼できる倫理的なAIシステムの開発と利用において世界的な主導権を獲得するという政治目的©2021 SHIMPO Fumio

5

2-2

意図

① EU市場に投入され利用されるAIシステムの安全規制を、基本的権利とEUの価値を保護する既存の法令に基づき実施すること② AIへの投資とイノベーション促進③ 基本的権利の保障と安全性確保のためAIシステムへのガバナ
ンスと効果的な法執行④ 信頼できるAIにより単一市場の発展を促進し市場の断片化を防ぐこと
EUの2021年度調整計画に示されているAI関係戦略の背景(Coordinated Plan on Artificial Intelligence 2021 Review, ANNEXES to the Communication from the Commission to the European
Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions,
Fostering a European approach to Artificial Intelligence, Brussels, 21.4.2021 COM(2021) 205 final)

新たな法的枠組みは、既存の法令に基づく加盟国レベルでのガバナンスシステムと、欧州人工知能委員会（EAIB）の設置によるEUレベルでの協力の双方の取り組みによって実現©2021 SHIMPO Fumio

6

2-3

AI整合規則提案1条が示す目的及び対象(a) EUにおいてAIシステムを上市、サービス開始及び利用するための整合規則(b) 特定のAI利用禁止行為(c) 高リスクAIシステムに関する要求事項及び義務(d) 自然人との対話を目的としたAIシステム、感情認識システム、生体情報分類
システム、画像・音声・映像コンテンツの生成又は処理を目的としたAIシステムの透明性に関するルールの整合性確保(e) 市場のモニタリングと監視©2021 SHIMPO Fumio

7

2-4

AI整合規則提案の根幹となる目的「高リスクAIシステム」をEU市場に上市及び利用可能状態にするにあたって
遵守しなければならない手続的義務を新たに課すこと
事前規制①適合性評価

①AIデータベース
への登録②適合宣言書への署名③CEマーキング②市販後の③インシデント

モニタリング

報告義務

事後規制
機械指令が機械規則に改正されるなど関係法令を整備する目的
整合規則提案の射程• AIシステムの安全リスク一般

機械規則の目的• 機械一般において用いられるAIシステムの安全を総合的に保証すること©2021 SHIMPO Fumio 8

３ AI整合規則提案の構造（1）利用規制• 人工知能の使用行為禁止事項（5条）（2）高リスクAIに関する義務• 高リスクAIの分類及び対象リスト（6条・7条）• 高リスクAIの要件（8-15条)• プロバイダ等の義務（16-29条）（3）適合性評価• 通知機関（30-39条）• 適合性評価等（40-51条）（4）透明性要件• 特定のAIシステムに対する透明性（52条）• 行動規範の策定（69条）（6）ガバナンス• 欧州人工知能委員会の設置等（56-59条）（7）監督及び法執行• 高リスクAIに関するデータベース（60条）• 市販後のモニタリング（61条）• インシデント報告義務（62条）• 法執行（63-68条）• 罰則・制裁金（71-72条）©2021 SHIMPO Fumio

9４ AIシステムのリスク分類
四段階のリスクに分類①受容できない②高リスク

リスク• 利用禁止AI（５条）③限定的なリスク• 高リスクAI（６条）④低リスク又はリスク無し• 特定のAI（５２条）• 低リスク・無リスクAI（６９条）©2021 SHIMPO Fumio

10５ AIの利用禁止行為


人工知能の利用禁止行為（5条）
５条１項(a)サブリミナル技術による人の行動を歪める
利用(b)弱い立場にある者の脆弱性につけ込む利用(c)公的機関による社会的スコアリング(d)法執行目的での公共の場におけるリアルタ
イム遠隔生体識別システムの利用（5条2項乃至4項で利用する場合の例外を厳格に限定）©2021 SHIMPO Fumio

11６ 高リスクAIに係る義務
高リスクAIの分類及び対象リスト（6条・7条）
高リスクAIの要件（8-15条)
プロバイダ等の義務（16-29条）
高リスクAI「附属書 II」に記載されている製品安全規制の対象となるAIシステム
かつ(a)安全構成要素において用いられるAIシステム(b)安全構成要素として用いられるAIシステムを含む製品として第三者適合性評価を受ける義務があるもの

上記二つの要件を満たす場合①機械、②玩具、③海洋レクリエーション船舶、④リフト、⑤爆発性雰囲気装置、⑥無線機器、⑦圧
力機器、⑧索道設備、⑨個人用保護具、⑩ガス燃焼機器、⑪医療機器、⑫体外診断用医療機器：（6条1項）

２条２項により、以下は適用除外 → 84条の評価・見直し条項が適用される①民間航空、②マイクロカー、③農業・林業用トラクター、④船舶用機器、⑤鉄道システム⑥自動車及びトレーラー等、⑦無人航空機：附属書 IIのB

©2021 SHIMPO Fumio

12

６ 高リスクAIに係る義務
６条１項の対象（附属書 IIのA）
















1. 機械指令（2006/42/EC指令）
2. 玩具安全指令（2009/48/EC指令）
3. 海洋レクリエーション船舶指令（2013/53/EU指令）
4. リフト指令（2014/33/EU指令）
5. 爆発性雰囲気装置及び保護システム指令（2014/34/EU指令）
6. 無線機器指令（2014/53/EU指令）
7. 圧力機器指令（2014/68/EU指令）
8. 索道設備規則（(EU) 2016/424規則）
9. 個人用保護具規則（(EU) 2016/425規則)
10. ガス燃焼機器規則（(EU) 2016/426規則）
11. 医療機器規則（(EU) 2017/745規則）
12. 体外診断用医療機器規則（Regulation (EU) 2017/746規則）©2021 SHIMPO Fumio

13

６ 高リスクAIに係る義務
６条１項の対象の詳細（附属書 IIのB）（現時点では義務規定の適用なし）
2条2項により附属書 II B（航空機、車両、船舶等）は、現時点では適用外
84条の評価・見直し条項が適用される









1. 民間航空安全規則（ (EC) 300/2008規則）
2. 二輪・三輪及び四輪マイクロカー規則（(EU) No 168/2013規則）
3. 農業用及び林業用トラクター規則（ (EU) No 167/2013規則）
4. 船舶用機器指令（2014/90/EU指令）
5. 鉄道システム相互運用性指令（Directive (EU) 2016/797指令）
6-1. 自動車及びトレーラー等システム規則（(EU) 2018/858規則）
6-2. 自動車及びトレーラー等型式認証規則（(EU) 2019/2144規則）
7. 無人航空機規則（ (EU) 2018/1139規則）©2021 SHIMPO Fumio

14

６ 高リスクAIに係る義務附属書IIIが規定する分野におけるAIシステムの利用も高リスクとしており、高リスク
AIシステムがもたらす危害または悪影響のリスクに応じて欧州委員会が見直しを実施（７条）

６条２項（附属書Ⅲ）

1. 自然人の生体識別及び分類
 2. 重要インフラの管理・運用
 3. 教育及び職業訓練
 4. 雇用、労働者管理、自営業へのアクセス 5. 必要不可欠な民間サービスや公共サービス
 使用することを目的としたAIシステム。
 6. 法執行
 7. 移民、亡命、国境管理 8. 司法行政及び民主主義プロセス©2021 SHIMPO Fumio

15

７

高リスクAIシステムのマネジメントシステム要求事項（8-15条）

リスクマネジメントシステムの構築、実施、文書化、維持をライフサイクル全体
を通して実行される継続的な見直し改善手続から構成されるPDCAサイクルに基づくマネジメントシステム要求事項

8～15条が定める要求事項①リスクマネジメントシステムの構築②適切なデータガバナンス
③技術文書
④記録保持
⑤透明性及び利用者への情報提供⑥人的監視⑦正確性、堅牢性及びサイバーセキュリティ要件©2021 SHIMPO Fumio

16

８．プロバイダー等の義務（16-29条）
高リスクのAIシステムのプロバイダへの義務①リスクマネジメントシステム要求事項を満たすこと②品質マネジメントシステムの構築

さらに、以下の事項が定められている。

③技術文書の作成④適合性評価の実施⑤自動ログの生成⑥是正処置⑦情報提供義務⑧主務当局との協力⑨製造者の義務⑩権限のある代表者の設置⑪輸入者の義務⑫ディストリビュータの義務⑬ディストリビュータ、輸入者、利用者又はその他の第三者の義務⑭高リスクAIシステム利用者の義務
17©2021 SHIMPO Fumio

９

適合性評価

。
第三者認証機関（Notified Body（NB））（30-39条）• 各加盟国は、適合性評価のための第三者認証機関を設置する。
• その他、認証機関の要件等が規定されている。

適合性評価等（40-51条）• 第43条の適合性評価手順に基づくNBによる認証制度• CEマーキングの後に、第43条に定められた適合性評価手順に責任を有する第三者認証
機関の識別番号を記載
適合性の推定• 整合規格が存在する場合：整合規格を満たしていれば、要件適合が推定。既存の安全規制の延長
線上（４０条）
整合規格不存在の場合：欧州委員会が共通仕様を策定• 共通仕様を満たしていれば、要件に適合していることが推定される（４１条）
附属書 IIIの遠隔生体識別システムの適合性評価• 整合規格又は共通仕様を「適用する」場合は、NBの関与のもと、①内部統制、②品質管理システムの評価、③技術文書の評価に基づく適合性評価手順を実施• 整合規格又は共通仕様を「適用しない」場合、NBの関与のもと、①品質管理、②技術文書を提出• 附属書 IIIの遠隔生体認証以外は、内部統制• 附属書 IIのA記載の場合は、各法令（各規則や指令）に基づく適合性評価の実施©2021 SHIMPO Fumio

10

透明性要件

特定のAIシステムに対する透明性（52条）

行動規範の策定（69条）• 特定のAIシステムに対する透明性確保義務は、高リスク
AIだけでなく、低リスクのAIにも適用される• 自然人とのやりとりが発生するAIシステムのプロバイダー
は、AIとやりとりしていることがわかるように知らせる• 感情認識、カテゴリー形成機能によって個人情報を処理する場合は、本人にその旨を知らせる• 本物と見間違ってしまう程度に実際の人、物、場所等に類似する画像、音声、映像を生成するAIシステムを使用する者は、その旨を開示©2021 SHIMPO Fumio

１１ イノベーション促進施策／１２ ガバナンス

１１ イノベーション促進施策

AI規制サンドボックス、小規模事業者・ユーザー支援等（53-55条）

１２ ガバナンス

欧州人工知能委員会の設置等（56-59条）• European Artificial Intelligence Board（EAIB)の設置• 各国の監視当局の代表、欧州データ保護監督官から構成され、欧州委員会が議長を務める。
• 加盟国の監視当局間の協調、新しい課題への対応に関する調整、
AI規則の一貫した適用のための支援©2021 SHIMPO Fumio

20

１３ 監督及び法執行

高リスクAIに関するデータベース（60条）
市販後のモニタリング（61条）

インシデント報告義務（62条）• プロバイダーはモニタリングシステムを設置し、文書化し、積極的かつ体系的にユーザー等からの情報を収集・分析• ハイリスクAIシステムのプロバイダーは、加盟国当局に対して、法令に反する重大なインシデント等を報告• ハイリスクAIシステムのプロバイダーは、重大な法令違反の場
合は、15日以内に報告• 重大なインシデントについては、インシデントとAIの関係の判明後速やかに報告©2021 SHIMPO Fumio

１４ 法執行（63-68条）

１５ 罰則・行政処分（71-72条）

法執行（63-68条）• 各加盟国監視当局は市場監視結果を定期的に欧州委員会に報告する• 各加盟国監視当局は、学習データ等へのアクセスが認められる。合理的な場合には、ソースコードへのアクセスも認容適合性評価等（40-51条）• 第43条の適合性評価手順に基づくNBによる認証制度• CEマーキングの後に、第43条に定められた適合性評価手順に責任を有す
る第三者認証機関の識別番号を記載

罰則・行政処分（71-72条）• 罰則規定は、各加盟国が制定• 5条（利用規制）違反及びデータガバナンス要件に対する違反の場合は、三千万ユーロ又は全世界の年間総売上の6%が上限の制裁金• その他の違反の場合は、二千万ユーロ又は全世界の年間総売上の4%が上限の制裁金©2021 SHIMPO Fumio

22

16

EUの規制力/ブリュッセル効果

 EUの規制力
 遠藤乾・鈴木一人編『EUの規制力』日本経済評論社(2012)。

 ブリュッセル効果
 Anu Bradford, The Brussels Effect, Northwestern University Law

Review, Vol. 107, No. 1, 2012 (Columbia Law and Economics
Working Paper No. 533, 27 Apr 2016 Last revised: 6 May 2016)。

©2021 SHIMPO Fumio

23EUにおけるAI・ロボット関係の法的・倫理的側面をめぐる検討の揺籃期

1. ＥＵのロボロー・ガイドライン(2014年9月)• Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics, FP7-SCIENCE-IN-SOCIETY2011-1, Project No.: 289092(報告書作成費用：149万7966ユーロ)• ロボットをめぐる法的課題の体系的な検討を試みた最初の取り組み• 体系的なガイドラインの提示には至らず、具体的な問題を手がかりに検討に着手せざるを得なかったとしている

具体的な検討課題• ①ロボット（ドローンなど文字通りのロボット）• ②自動運転（自動操縦）• ③モビルスーツ・義足等（装着型、ウェアラブル）• ④手術・遠隔地・宇宙（リモート操作、遠隔地対応）• ⑤医療、介護、福祉（医療等分野）• ⑥災害・レジリエンス

法的課題について• ①健康、安全、環境、利用者保護のための規制（安心・安全な利用環境の保護）• ②法的責任 製造物責任（物の製造物責任、情報の製造物責任は認められるか）• ③知的財産（ロボットそのもの、ロボットが創作したもの）• ④プライバシー• ⑤権利能力（エージェント）©2021 SHIMPO Fumio

24ＥＵにおけるAI規制に向けた検討の系譜

欧州連合「犯罪予防、調査、犯罪捜査目的若しくは犯罪訴追手続又は刑事罰の執行のための主務執行機関による個人データの処理に関する自然人の保護及び当該データの自由な移動並びに欧州議会枠組決定
2008/977 / JHAの撤回に関する欧州議会及び欧州理事会2016年4月27日指令2016/680」（2016）•(European Union (2016) Directive (EU) 2016/680 of the European Parliament and of the Council of 27 April 2016 on theprotection of natural persons with regard to the processing of personal data by competent authorities for the purposes of theprevention, investigation, detection or prosecution of criminal offences or the execution of criminal penalties, and on the f ree
movement of such data, and repealing Council Framework Decision 2008/977/JHA)

欧州評議会議員会議、欧州議会勧告2102（2017）「技術的収束、人工知能及び人権」(2017)•(Council of Europe, Parliamentary Assembly, Recommendation 2102 (2017) 1, Tech-nological convergence, artificial intelligenceand human rights)

欧州連合、欧州委員会「人工知能（AI）コミュニケーションに関する調整計画」•(European Union, European Commission (2018) Coordinated plan on Artificial Intelligence (AI) Communication)

欧州委員会「欧州委員会から欧州議会、欧州理事会、欧州理事会、欧州経済社会委員会及び欧州人工知能地域委員会への連絡事項」(2018)•(European Commission (2018) Communication from the Commission to the European Parliament, the European Council, theCouncil, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe)©2021 SHIMPO Fumio

25欧州評議会「個人データの処理に関する個人保護のための近代化条約」（2018）• Council of Europe,Modernised Convention for the Protection of Individuals with Regard to the Processing of Personal
Data)

欧州連合「AI、ロボット、自律型システムに関するステートメント」(2018)• (European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and‘Autonomous’ Systems, Brussels, 9 March 2018)

欧州評議会、欧州司法制度効率化委員会「司法制度における人工知能の利用に関する欧州倫理憲章」（2018年）• (Council of Europe, European Commission for the Efficiency of Justice (2018) European Ethical Charter on the use of
artificial intelligence in judicial systems)

欧州評議会議員会議「アルゴリズムによる正義についての勧告提案：警察及び刑事司法制度における人工知能の役割」（2018）• (Council of Europe, Parliamentary Assembly (2018) Motion for a recommendation about Justice by algorithm . the roleof artificial intelligence in policing and criminal justice systems)

欧州連合、欧州委員会の人工知能に関する高等専門家グループ「信頼できるAIに関する倫理ガイドライン」（2019）• (European Union, European Commission’s High-Level Expert Group on Artificial Intelligence, Ethics guidelines fortrustworthy AI)

欧州委員会「AI白書」• WHITE PAPER On Artificial Intelligence -A European approach to excellence and trust, 19.2.2020 COM(2020) 65 final©2021 SHIMPO Fumio

26

EU「AI、ロボット、自律型システムに関するステートメント」(European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence,
Robotics and ‘Autonomous’Systems, Brussels, 9 March 2018)概要• 人工知能、ロボット技術及びいわゆる「自律型」の技術進歩• 道徳に係る問題について、喫緊に対応が必要であり、かつ、複雑な問題を提起• 倫理的、社会的および法的な課題に対する答えを見つけこと• 異なるイニシアチブのパッチワークとして共通の利益を求める方向性を示すこと• 集合的、広範囲、包括的な検討と対話の必要性を強調• 社会を組織する上で求められる価値観、社会においてテクノロジーが果たすべき役割に焦点を当てた対話が必要

本文書の目的• 共通の国際的な倫理的及び法的枠組みの構築を目指す取り組みへの着手を示す
もの• 人工知能、ロボット技術、「自律」システムの設計、製造、使用および管理が対象• 基本的な倫理原則を提案• EUの各条約及びEU基本権憲章に定められた価値観に基づくもの©2021 SHIMPO Fumio

27

EU「AI、ロボット、自律型システムに関するステートメント」が示す主な課題（１）安全性、セキュリティ、危害の防止及びリスクの軽減に関する問題• 相互接続されたAIと「自律型」のデバイスを使用する世界を安全かつ安全にするための方策（２）人間の道徳的責任についての問題• 高度なAIとロボットの構成要素を備え、動的で複雑な社会技術システムについて、道徳的な問題について検討する組織は？
• 道徳的責任の帰属先、不都合な結果についても責任分配• 「管理の共有(shared control)」や人間とスマートマシンとの関係について検討することは意義があるか• 道徳的「緩衝領域(crumple zones)」として、人間は「自律的な」装置のエコシステムの一部でしかないのか（３）ガバナンス、規制、設計、開発、検査、監視、テスト及び認証に関する問題• 個人や社会の福祉に役立つように、そして社会をこの技術に対して安全にするために、私たちの制度や法律はどのように再設計されるべきか？

（４）上記の問題の基調となる制度、政策及び価値観に関する意思決定を含む民主的な意思決定の問題• プロファイリング、マイクロターゲティングを可能にする機械学習、ビッグデータ、行動科学の組み合わせに基づく高度なナッジ
ング技術の使用により市民がどの程度恩恵を受けるのかについて確認するための調査。商業的又は政治的な目的に応じた
選択アーキテクチャの調整および操作。

（５）AIと「自律型」システムの説明可能性と透明性についての問題©2021 SHIMPO Fumio

28

EUのステートメントの検討において参照されている資料
IEEE's(Institute of Electrical and Electronics Engineers) policy paper on ‘Ethically Aligned Design’• http://standards.ieee.org/news/2016/ethically_aligned_design.html

ITU's (International Telecommunication Union) Global Summit ‘AI for Good’• https://www.itu.int/en/ITU-T/AI/Pages/201706-default.aspx

ACM's (Association for Computing Machinery) work on the issue, including a major AAAI/ACM‘Conference on AI, Ethics, and Society’in summer 2017
• http://www.aies-conference.com/

IBM, Microsoft and Google's DeepMind have established their own ethic codes on AI and joined forces increating broad initiatives such as the ‘Partnership on AI’in 2018
• https://www.partnershiponai.org/

OpenAI’7• https://openai.com/

Asilomar AI Principles• https://futureoflife.org/ai-principles/

The Forum on the Socially Responsible Development of Artificial Intelligence held by the University of Montreal in
November 2017, 'Declaration for a Responsible Development of Artificial Intelligence’ has been developed. It is now
publicly accessible on an online platform where all sectors of society are invited to comment on the text.
• http://nouvelles.umontreal.ca/en/article/2017/11/03/montreal-declaration-for-aresponsible-development-of-artificial-intelligence/©2021 SHIMPO Fumio

29原則及び民主的な前提条件(Ethical principles and democratic prerequisites)（a）人間の尊厳(Human dignity)（b）自治(Autonomy)（c）責任(Responsibility)（d）正義、公平及び相互依存(Justice, equity, and solidarity)（e）民主主義(Democracy)（f）法の支配と説明責任 (Rule of law and accountability)（g）安全性、安全性、身体的及び精神的完全性(Security, safety,
bodily and mental integrity)（h）データ保護とプライバシー(Data protection and privacy)（i）持続可能性(Sustainability)©2021 SHIMPO Fumio

30欧州委員会「AI白書」(2020）

構成• ①現行のEUにおけるAIをめぐる政策的な枠組み• ②欧州における具体的な政策（投資や技能向上及び中小企業対策）• ③AIシステム開発に必要なデータ利用のあり方• ④将来的な欧州における法規制に向けた主な論点• ⑤ステークホルダーの貢献と政策立案

規制の枠組みの方向性• 新たな分野におけるイノベーションの促進を前提とした規制であるとともに、欧州における価値や原則を尊重した上での技術開発を目指すもの• AIの利用に伴う新たな可能性とともに生ずるリスクについて、現行のEUの法規制の枠組みの範囲内ですべての問題をカバーしきれていないとともに、効果的な規制の方法について検討• 現行のEU加盟国の法的枠組みを踏まえた上で、欧州企業が最大限の利益を享受できるようにバランスが取れた規制の枠組みを検討することが必要中核となる要素• ①基本的権利に対するリスク（具体的には差別やプライバシーおよびデータ保護の観点からの問題）• ②安全及び法的責任をめぐるリスク
31

AI白書が示すEUにおける法的枠組みにおいて検討が必要な項目①基本的権利の観点からの問題として、EU基本権憲章は民間部門のみが関わる問題については適用がないことや、雇用、社会保障、教育、公的サービスなどの特定の分野にしか適用されな
いこと②製造物の観点からの問題として、EUの製造物責任に関する法令は製造物に対しては適用されるがサービスには適用されないこと。具体的には、ヘルスサービス、金融サービス、運送サービス
においてAIが用いられる場合の問題③AIの研究開発における責任主体の不明確さとして、規制が適用されるのは開発者が製造者である場合に限られること④製造物の性質の変化として、製造物にAIが組み込まれることによって従来不要であったアップ
デートがソフトウェア同様に必要になるといった製造物の性質の変化に伴う問題⑤新たなリスクの出現について、新たな安全性の観点からのリスクが出現する可能性があること⑥法執行の困難性について、透明性を担保することが困難であるため自動化された意思決定における差別の有無について証明することが法執行機関にとっては困難であること
32

AI白書が示していた法的義務として検討すべき項目①開発者に対する説明責任と透明性の確保②利用者に対する透明性の確保と情報提供③AIシステムのリスク軽減のための設計原則④AIの学習データの質と多様性の確保⑤開発者に対するリスクアセスメントの実施とリスク軽減のための措置⑥自動化された意思決定に対する人間による関与方法の検討⑦製造物について追加で必要な安全対策

33