講演録

Date: 2022.2.14
https://www.jilis.org/report/2022/jilisreport-vol4no4.pdf

EUのAI整合規則提案
̶ 新たなAI規制戦略の構造・意図とブリュッセル効果の威力
一般財団法人情報法制研究所
慶應義塾大学 教授

参与

新保 史生

EU の AI 規則提案
―名称をどのように訳すか思います。今回は、EUの新しい規則提案について、どのような目的・意図があって、今後どのような方向で、このAI規則というものが世界的にも影響を及慶應義塾大学の新保と申します。本日は、EUの新ぼしていくのかということをお話しさせていただきたなAI規則について、2021 年 6 月 21 日に発行されたたいと思います。

「ビジネス法務 2021 年 8 月号」に掲載された拙稿「EU

まず、今回の新たな規則提案の内容を確認する

新AI整合規則提案にみるAI規制戦略の構造・意図と前の段階として、このタイトルの規則提案の名称ブリュッセル効果の威力」に基づきお話をしたいとをど の ように 訳 す か が 1 つ目 の ポ イントで す。 上

AIに関するEUの新たな規則提案の名称の確認
Europearn Commission, Regulation of The European Parliament and of the Council Laying Down
Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union
Legislative Acts, COM(2021) 206 final, 2021/0106 (COD)Europearn Commission
 欧州委員会Proposal for a Regulation 規則提案The European Parliament and of the Council
 欧州議会及び理事会

Laying Down Harmonised Rules on Artificial Intelligence(Artificial Intelligence Act)
 人工知能に関する整合規則（人工知能法）の制定

Amending Certain Union Legislative Acts
 関係するEU法令の改正

新保 訳欧州委員会「人工知能に関する整合規則（人工知能法）の制定及び関係法令の改正に関する欧州議会及び理事会の規則提案」©2021 SHIMPO Fumio13

【講演録】 EU の AI 整合規則提案 ̶新たな AI 規制戦略の構造・意図とブリュッセル効果の威力から、誰もが理解している用語から確認をすると、工知能に関する整合規則」として、人工知能法の制

Europearn Commissionは欧州委員会、proposalとし定としての今回の規則提案の内容を踏まえた訳にしてregulationであることから規則提案となります。問ています。

題は、Laying Down Harmonised Rules on Artificial

AI規則提案、3 つのポイントIntelligenceについて、例えば総務省が 2021 年 8 月 4日に公表したAIネットワーク社会推進会議「報告書2021」では、「人工知能に関する調和の取れたルール今回のEUの規則については、さまざまな観点からを定める規則の提案」と訳しています。調和法と訳分析がなされているところではありますが、私の報しているものもあります。これまでも、Harmonised

告の内容は主に 3 点のポイントを主たる目的としていRulesについては、国際調和といった観点からの法令ます。この整合規則がAIシステムのリスクに応じたについては、Harmonised Rulesと訳すことが多かっ利用規制という方法での規制を目指していることが、たと思います。今回、この規則提案の内容を確認す

まず 1 つ目の特徴です。

るほど、今回の規則は製品安全規制と同様の義務を

2 つ目は、この整合規則の内容は、製品安全規制と新たに高リスクAIにも課すことが主たる目的となっ同様の義務を課す内容といっても過言ではありませています。例えば、従来から欧州標準化委員会(CEN)ん。したがって、高リスクに分類されるAIシステムで定めているHarmonised StandardsというものがあをCEマーキングの対象にすることが今回の整合規則りますが、これは製品安全規格としてHarmonisedの主な柱となっているため、この点を把握・理解しStandardsとして定め、用いられているものです。製ておかないと、今回の整合規則の目的について十分

品安全規格、整合規格として従来から適合性評価のに理解ができないといえます。

対象となるものについてはHarmonised Standardsに3 つ目は、それを実現するための制度として適合性基づいて取り組みが行われてきたわけです。今回の評価と第三者認証の構築が定められています。

AI規則提案も、その内容は標準化とかなり近い内容

提案の背景については、非常に多くの文書が公表になっています。したがって、私の訳としては、「人されており詳細な記述がなされていますが、総務省

2-1 提案の会
• AI
• AIの
•

るに会
会

人会の新に

• AIの
• AI

会
る
人 のる会にに欧州すの人人

EUののす 能にの提にのす

会に新るの会にするの保• EUのEUるの（• AIの新EUのる

則にEUのにする能する新る）のに関理

AIするにする

るAIのの法提案する
• EU

るのに

©2021 SHIMPO Fumio

2

する
5

の情報通信政策研究所が発行している『情報通信政3 つ目は、GDPRに基づく現在の状況について確認策研究』に原稿を掲載したときに、EＵの文書を一通することになります。欧州基本権条約では、基本的り確認して、そのときの経緯も含めて、今回の提案

権利の保障を従来から非常に重視して、その観点にの背景について整理をしてみました。これまでの経基づく取り組みを進めてきているわけです。今回注緯を踏まえて、４つに大きく集約されるであろうとい意しなければならないのは、AI整合規則は基本的権うのが私の分析結果です。

利の保護という観点から見てしまうと、その本来の趣これまでEＵが進めてきた取り組みについては、我旨を見誤るおそれがあります。つまり、GDPR同様のが国においても、日本のほうが原則策定に向けた検規則提案という趣旨で今回の整合規則を分析すると、討などは先に進めてきたといえます。AI原則を積極ある意味で正しい分析はできないと考えています。

的に策定して、議論を進めることは日本が先行して4 つ目は、信頼のエコシステムとして、かなり政治行ってきたわけです。
『情報通信政策研究』において、的な背景に基づく法的枠組みを提案することによっ私は「AI原則は機能するか？」という内容の論文をて世界的な主導権を獲得するということを明確に公表させていただきました。この原稿を執筆していメッセージとして示していることです。

る時点ではEUのAI白書なども公表されていませんでその意図については、欧州調整計画に基づく戦略したが、検討中の文書を事前に入手しEUの動きを事の背景を分析し、さらに次の 4 つに集約されるのだろ前に確認した上で、今後原則という形での取り組みうと思います。EUの調整計画では従来から脈々とEUを進めること、そしてこれを具体化するという方向が目指すAI戦略を示してきたわけですが、その意図になるということについてはかなり懐疑的な印象をを踏まえて今回の調整計画に示されている内容を確持っていました。予想通り、EUの今回の規則提案は、認してみると、最初に示されているのは安全規制と原則については既に存在していることを前提としたなっています。つまり、GDPRなどのように、実体的内容になっています。今回の規則提案に基づいて今な権利を保護するという目的が主たる目的というわけ

後さらに何らかの原則を策定し、例えば適合性評価ではなく、あくまでEU市場に上市するAIシステムのといった仕組みに組み込むということは何も言及が安全規制をどのように行うのかを示すことが主たるないところは留意すべきです。

目的となっています。それを踏まえて、AIへの投資柱となる目的としては大きく分けて 4 つです。まずとイノベーションを促進する。3 つ目がガバナンスとは経済的・社会的利益として、EUはこれまで特にこ効果的な法執行。そのための基本となるのが、やはのルール作りを通じて主導権を握る規制を展開する

り基本的権利の保障。ところが、ここで注意しなけれこと、これを、今回のタイトルにもしていますが、「ブばならないのは、GDPRと違うところは、基本的権利リュッセル効果」と最近は呼んでいるものがありまの保障は当然のことであって、その前提を踏まえた上す。このブリュッセル効果が、特に独禁法、労働分野、での安全性確保、つまり製品の安全確保のための規環境分野、排出権取引といったものも含めて、世界制同様の規制をAIシステムに適用することが目的と的に大きな影響を及ぼしているのは周知の事実です。

なっています。よって、3 つ目の部分は、基本的権利

これは、AIについてもEUはネット企業にしてもAIの保障と安全性確保という趣旨を適切に理解しない関係にしても、アメリカ企業に比べると世界の覇権と、この整合規則の内容について、具体的にどのよを握るような事業者がいないといえます。したがっうな意図があるのかがわからなくなってしまうおそれて、EUはそのような事業が十分に展開されていないがあります。そしてEＵ市場の断片化を防止するため反面、規制について細かく設定をすることについての取り組みを進めること。これらの取り組みを進めるは、かなり批判的な意見が多いのは事実だと思いまために、今回新たに提案がなされているのが欧州人す。ところが、そこがEUの戦略であり、ゲームはルー工知能委員会（EAIB）です。個人データ保護についルを作った者が有利になるということを一貫して進ても、European Data Protection Board (EDPB)を設めてきているため、経済的・社会的利益ということ置し、そのメンバーとしてEuropean Data Protectionについても、そのようなリーディングカンパニーがいSupervisor(EDPS)を置くなど、様々な取り組みをしるかどうかということに関係なく、非常に明確なメッてきたわけですので、同様の取り組みを今回も進めるセージを示していると考えられます。ということが示されているといえます。

一方で、AIの発展による新たなリスクについてど規制の根幹にある目的のように考えるべきかという点を、かなり細かくリスク認識をした上で今後の取り組みを検討するのが 2 つ目です。

今回の規則提案の整合規則としての内容は、まず3【講演録】 EU の AI 整合規則提案 ̶新たな AI 規制戦略の構造・意図とブリュッセル効果の威力対象について確認していただきたいと思います。対

完全に的外れな指摘も見受けられます。このような象と目的について、AIシステムを上市する、または意見を確認すると理解することができると思います

サービスを開始・利用するための整合規則の制定がが、包括規制や時期尚早といった安易な反対論を展目的です。さらに、特定のAIを利用禁止すること。

開したとしても、その考えに基づいてAI規則提案に高リスクのAIについての要求事項と義務を定めるこ

定められているさまざまな手続きを検討し分析をしと。自然人との対話を目的としたAIシステム、感情ても意味がありません。今後、内容についてかなり認識システム、生体情報分類システム等についての修正がなされたとしても、根幹にある目的はおそらルールの整合性を確保すること。その他モニタリン

く変わらないと考えられます。高リスクのAIシステ

グと監視が、今回の規制の目的・対象になっていまムをEU市場に上市、利用可能するにあたっての手続す。ここで、根幹となる目的は何かということです的義務を新たに課すことが目的でしかないわけです。

が、今回の整合規則についての解説を拝見しているゆえに、今後この部分をきちんと把握していないと、と、ほとんどの解説は、EUのプレスリリースに沿っ規制が時期尚早であるとか、規制そのものへの反対て、EUのAIシステムに対するリスク分析、AIにつ意見のみを表明し、AIのリスク分析が適切ではない

いての利用禁止、高リスクのAIについての義務など、とか範囲が不明確といった点にこだわっているその新たなリスク分析と分類を紹介しているものが多い

裏では淡々と、あくまで適合性評価の手続きをどうように思います。確かにリスク分析については新たするかという手順の具体化など、今後実施すべき手な視点からの取り組みであるとはいえ、そもそも整続を整備する検討が進み、気が付くと整合規則が完合規則の内容を理解する上で、根幹となる目的をき成した段階で適合性評価を受けなければならない状ちんと把握しておかなければ、まったく異なる視点況が出現するという流れで制定に向けた取り組みがからの分析になってしまうおそれがあります。つまり着々と進んでいくのだろうと思います。

分析に基づくメッセージとして最も適切ではないの事前規制としては、適合性評価を受け適合宣言書がAIの包括規制という短絡的な分析を行うことです。に署名するというCEマーキングの手順です。CEマー

さらに、AI規制については時期尚早であるといった、キングは、例えば、手元のリモコンの裏側を見てい

2-4 AIAI「事規則提案の」 EUに及びなる能にするに
新 に す

規制

合の合

CEのAIの事規制
令

規則に改正

る

関係法令 整する

整合規則提案の• AIの規則の•にるAIの4合に保する©2021 SHIMPO Fumio 8ただくと、CEと表示されています。製品安全規制とあくまで関係法令も整備すると明記しているわけでしてEU市場に上市するために必要なのがCEマーク

すので、関係法令を確認すると、AIシステムの安全です。ただ、CEと表記されるマークでChina Export

性を総合的に保証することが、今回の目的であるこマークというものもあり、ほぼ同じようなロゴになっとがわかります。ているので、CEマークとChina Exportマークの混同

4 段階のリスク分類問題というものが別の問題としてありますが、本日は、China Exportマークのお話はしません。CEマークを付すことをCEマーキングというわけですけれども、規則提案の構造については、利用規制、高リスク事前規制をAIシステム、対象は高リスクのAIシステ

AIに関する義務、適合性評価、透明性要件、ガバナムに課すことが目的です。事後規制として、CEマーンス、監督および法執行からなります。規則提案にキングを課し、AIデータベースへ登録する義務を課関する解説の多くは、利用規制と高リスクAIに関すして、市販後の製品安全規制同様のモニタリングを行る義務について解説をしているものが多いように思い、インシデント報告をする仕組みになっています。

います。条文の内容の比率は、適合性評価以降のほこの図式を見ていただくと、ほとんど普通の製品うが、条文の数から見ても細かく規定されているこ安全規制を整合規則として課す内容です。その趣旨とがわかります。高リスクAIに関する規定以降の部は、機械指令が機械規則として提案されていること分は、適合性評価、透明性、ガバナンスと法執行のからも明確に示されているわけです。よって、今回内容から占められているわけです。つまり、規制のの本体の整合規則提案を見ただけでは、AIシステム主軸はもっぱら整合規格を求める整合規則としてのの安全リスク一般についての記述がなされているの内容になっています。もうひとつ別の側面として気で、あたかも、AIのリスク分析をしたうえでの安全になるのが、コンサルティングなどを実施されてい性について考えるといったような趣旨が、本体の整る事業者の方は気がついていると思いますが、第三合規則提案の趣旨であるかのように見受けられます。

者評価制度を組み込む仕組みになっていることから、

しかし、実際に関係法令、つまり今回の整合規則はGDPRに基づくSCC、標準契約条項やBCR認定と比較

AIのの•AI（に•）

AI（）

定•

定のAI（）•©2021 SHIMPO Fumio

5AI（）
10

【講演録】 EU の AI 整合規則提案 ̶新たな AI 規制戦略の構造・意図とブリュッセル効果の威力しても、かなり大規模なコンサルティングが必要に日本の事業者が今後開発するものはこの分類に含まなると考えられます。とりわけ、今回の整合規則提れるものが相当な比重を占めることになると考えら案は、高リスクAIシステムをEU市場に上市するだけれ、限定的なリスクと低リスクがそれに続くと考えらで、すべての事業者が関わってくる適合性評価の仕れます。よって、整合規則の本体だけを読んで確認組みであるため、規則提案に定められているリスク・をしても、規制の全体像を十分に把握できないこと

マネジメントシステムの構築や第三者評価制度へのから、附属書に示されている分類もすべて確認する

対応について、正確に理解しコンサルティングを行っ必要があります。ている事業者の方に、適切にコンサルティングを行っ附属書を見ていただくと、附属書Ⅱに記載されていていただく必要があります。EU市場に製品を輸出しる製品安全規制の対象となるAIシステムが、高リスたりサービスを提供する事業者すべてに関わってくクAIにかかる義務の対象となっています。ここではることになるためです。

(a)と(b)両方を充たしている、「かつ」という条件なの

リスク分類については、四段階のリスクに分類がなで、これらの要件を満たす場合に対象となるわけでされ、受容できないリスク、高リスク、限定的なリスク、す。機械、玩具、海洋レクリエーションなどについ低リスクに分けられています。ては、高リスクAIに関する義務が適用されます。一

今回の規則提案の評価として、この分類が適切か方、民間航空、マイクロカー、農業・林業用トラク

否かという議論がなされていますが、リスクが高い利ター、船舶、鉄道システム、自動車、無人航空機など、用禁止対象のシステムは、サブリミナル、弱者の脆弱

附属書ⅡのBについては、これは適用外となっていま性につけ込むこと、公的機関による社会的スコアリンす。この部分については、あたかもEUの今回の整合グ、法執行目的での公共の場におけるリアルタイム遠規則に穴があるとか、規制対象の分類が不十分であ隔生体識別の 4 つが示されています。注意点は、民間るとか、あたかもザル法であるかのように解説をし企業による人事などの手続で利用するスコアリングている論調の解説も見受けられますが、そのようなは禁止していない点です。公的機関による社会的ス解説は完全に誤りです。実に緻密に適用除外を定めコアリングのみが対象です。遠隔の生体識別についていると言えます。つまり、単なる適用除外ではなく、ても、認証と訳している人もいますけれども認証まで新たな規則の適用について要検討・要配慮、裁量には求めていないので、あくまで生体識別をするだけのよって今後その検討の采配を検討する部分でしかなシステムであって、リアルタイムの遠隔生体識別シスいわけです。つまり、適用除外となっている部分は、テムを法執行目的で利用する場合に限られます。この84 条の欧州委員会の評価・見直し条項が適用される意図、つまりEUの意図が何かということが禁止対象仕組みになっています。飛行機や自動車、つまり自として定められているAIシステムの内容から、かな動運転、航空分野も無人航空機を含めて自律型のシり透けて見えるわけです。サブリミナル、弱い者につステムが既に利用されており、船舶についても今後け込む、社会でのスコアリング、リアルタイム遠隔生は大型の船舶などは自律航海が可能になる、鉄道も体識別などを積極的に開発を進め利用しているのは、無人で運行されるわけで、これらの分野で用いられ中国で進められているAIシステムの多くが、この 4 つるAIシステムこそが、まさに今回の高リスクAIにかにかなり該当するのではないかと思われます。そうすかる義務の中核部分です。この部分に今後どのようると、今後、EＵとしては、EＵにおける基本的権利に規制を適用するのかということについて、高リスを保障したうえでのAIシステムを、安全にEU市場にクAIにかかる義務の適用の方法を検討することを、上市するための手続きを決めるにあたっては、そのよEUが実に見事に今後微妙に調整を行うのだろうと思うな価値とは相容れないAIシステムについては利用われます。これは、整合規則の附属書ⅡのAとⅡのB禁止にすべきであるという趣旨が、この 4 つを見てみに示されている内容を確認すると、EUがこの整合規ると、非常に明確であると思った次第です。

則を定める意図するところは明確であると言えます。
高リスクAIにかかる義務として、ⅡのAについては、高リスクAIにかかる義務の中核整合規則がそのまま適用される一方で、見直し条項の適用については別途今後慎重に検討して決めるこ

高リスクAIにかかる義務や利用禁止AIは、この分とになるわけです。例えば、現時点ではあくまで無類や区分けが良いか悪いかという議論をしても、製人航空機と記されていますが、無人の船舶、無人鉄品安全のための規制が決まってしまえば、日本とし道など、さまざまなものを無人による運行が想定さてはその善し悪しを議論しても意味がない。一方で、れるものとして対象に含めているわけです。さらに、2 番目以降のところについて、高リスクAIについては、附属書Ⅲは、高リスクのAIについて見直し条項の対

6

AIに係る高リスクAIの分類及び対象リスト（6条・7条）
高リスクAIの要件（8-15条)
プロバイダ等の義務（16-29条）
AIII」に

「(a)

るにるAI

るAI

(b)
る のるAI
すの人（6

規制の合る合保1 ）→ 84 のに及びる人

IIのB
12

©2021 SHIMPO Fumio

AIに係る６条１項の対象（附属書 IIのA）









1.
（2006/42/EC）
2.
（2009/48/EC）
3.
クリ（2013/53/EU）
4. リ ト（2014/33/EU）
5.
及びス（2014/34/EU
6.
（2014/53/EU）
7.
（2014/68/EU）
8.
（(EU) 2016/424）
9.
（(EU) 2016/425)
10. ス（(EU) 2016/426）
11.
（(EU) 2017/745）
12.
（Regulation (EU) 2017/746©2021 SHIMPO Fumio7））13

【講演録】 EU の AI 整合規則提案 ̶新たな AI 規制戦略の構造・意図とブリュッセル効果の威力AIに係る６条１項の対象の2条284条の・







1.
2.
3.
4.
5.
6-1.
6-2.
7.

（附属書 IIのB）（II B（条（ (EC) 300/2008

・及び及びイクロクト等））（ (EU) No 167/2013

等等）））（Directive (EU) 2016/797

及びト及びト）（(EU) No 168/2013（2014/90/EUスのス（ (EU) 2018/1139）（(EU) 2018/858）（(EU) 2019/2144））

14©2021 SHIMPO Fumio

AIに係るIIIAI ス
（ 条）

６条

1.
 2.
 3.
 4.
 5.

分項（附属書AIの）

要イ及びの高リスク

要高リスク及び分類・のス
AI ス



6.
 7.
 8.

スののリスククス

ス

及び義プロス©2021 SHIMPO Fumio

815AI
リスク

ト
ト

815条

リスク

ス

要のス

8-15のイPDCA

要トバ及びスス

イク
イクのの及びイバ

リ©2021 SHIMPO Fumio

象となるものを定めています。これらについては、い要件

16

く的が外れているということになると思います。

ろいろな意見が出ている中で、この分類や規制の対よって、AI整合規則に適切に対応するためには、象としての高リスクAIについての義務の内容についマネジメントシステムの基本的知識がなければ対応ての議論を進める際に、その分類になっている趣旨できないということになります。したがって、我が国をきっちりとまずは把握し、日本としても意見を表明

でも既にさまざまなマネジメントシステムが用いらしていくことが必要です。つまり、AIのリスク分析れているわけですが、そこに今回のAI整合規則に基が適切か否かとか、AIについての包括規制が時期尚づくマネジメントシステムの構築が新たに加わると早であるとか、そのような次元での意見表明ではまっいうことになります。

たく意味がない。詳細に定められている対象となる

AI 整合規則におけるマネジメントシステムの仕組み

製品やサービス毎に、どのようなAIシステムに係る製品安全規制を適用するのかということが、今回の規制の中核にあるということを理解しなければなりません。

高リスクAIについては、プロバイダーの義務としその点を明確に示しているのが、リスクマネジメンてリスク・マネジメントシステムと品質マネジメントト・システム、つまりPDCAサイクルに基づくマネジシステムの構築が必要となります。マネジメントシス

メントシステムの構築、実施、文書化、維持をライテムを構築するコンサル事業者向けにビジネス展開フサイクル全体を通して実行することが定められてを推奨するような解説になってしまう点は少々不本いる点です。AI整合規則を理解する上で、AIのリス意ではありますが、早目にマネジメントシステム構

ク評価やリスク分析については、マネジメントシス築の必要性に気がついていただいて、リスクマネジテムを構築する際のリスク評価の観点からの検討はメントと品質マネジメントについてマネジメントシス必要であると考えられますが、個人の権利・利益のテムの構築義務がAI整合規則の主たる目的であると保護基本的利益の保障の観点から、このリスク評価・いうことを理解していただくことは重要です。なお、リスク分類が適切ではないといった指摘は、まった

その詳細については時間の関係上解説はいたしませ9【講演録】 EU の AI 整合規則提案 ̶新たな AI 規制戦略の構造・意図とブリュッセル効果の威力んが、資料を見ていただくと、マネジメントシステム込まれてくるような状況になると、システムを立ち上を構築する際の要求事項が整合規則の本体に書かれげた時点で毎回cookie規制同様に、とにかくAIを使っているということがわかると思います。なお、整合ていることを通知することになり、また無意味な表示規則に定められている要求事項の内容に私はかなりが増えるのではないかという点が私の懸念事項です。

衝撃を受けています。
例えば、
JIS Q 15001 についても、サンドボックスや中小規模であるSmall and Medium-

マネジメントシステムに関する要求事項を記載した

sized enterprisesの支援。ガバナンスとしては、EAIB

本文と、管理策を記載した附属書Aである規定に分の設置という仕組みが用意されています。

離した規格票の構成となっており、さらに、附属書A法執行の仕組みは、データベースへの登録義務をの理解を助けるための参考情報を記載した附属書Bと課し、モニタリングを実施してインシデント報告義

附属書C、この規格と旧規格との対応を示した附属書務を課しています。さすがにGDPRのように 72 時間

Dから構成されています。つまり、本体にはあくまでという短い時間にはなっておらず、15 日以内に報告マネジメントシステムに関する要求事項が書かれてする手続となっています。製品安全規制であるため、いて、具体的な管理策などの手続き部分についてはインシデント報告義務として重大なインシデントが附属書に詳細が定められているのが一般的なマネジ発生した場合の報告義務を課す形態となっています。

メントシステム規格の体系です。AI整合規則はマネ法執行についても、GDPRとAI整合規則の両方に違ジメントシステムだけでなく、附属書にあたる部分に反した場合について考えてみると、GDPR違反事項についてまで本体に書かれているということに驚きまついてはGDPRで確認をするとともに、サブリミナル、した。さらに、認証機関の設置についても定められ脆弱性、公的機関によるスコアリングや遠隔生体識ています。Notified Body、つまり適合性評価を担う別など利用規制に抵触する場合については、AI整合第三者認証機関の設置と、それに基づく認証の要件

規則 5 条の利用規制違反となり、データガバナンス違まで書かれています。ですから、このような一連の反が問われる構造になっています。よって、今後AI詳細な規定ゆえに、EUは製品安全規制を目的とするシステムではAIを用いてデータを取り扱うと、その整合規則に基づくマネジメントシステムの構築義務中にはGDPRの対象となる個人データの取り扱いに該を課すことを本当にやる気なのだろうと感じたわけ当するものが含まれるとともに、学習データの取りです。高リスクAIシステムについての第三者認証制扱いについてはデータガバナンス規定の対象となり度の評価を行うための仕組みの整備がAI整合規則のます。そうなると、データガバナンス要件の対象と目的であるということが、ここからも読み取れるわけ

なる違反には、AI整合規則のほうがGDPRよりも一です。

段階高くなっており、3,000 万ユーロまたは全世界の具体的な仕組みとしては、適合性については従来年間総売上の 6%が上限の制裁金になっているわけでからの製品安全規制の整合規格との適合性要件がそす。その他の違反についてはGDPRと同レベルです。のまま定められています。したがって、既存の安全まとめ規制の延長線上に高リスクAIの第三者認証を組み込むことになります。ゆえに、整合規格が存在する場合と存在しない場合に分けた上で、整合規格が存在最後に、今回の報告タイトルでは、「ブリュッセしない場合であっても適合性を推定する規定が置かル 効 果 」という用 語 をもち い まし た。Bradford先れているわけです。

生 が 最 近 公 刊 し た 書 籍 の タ イト ル、The Brussels

一方で、高リスクAI以外の特定のAIシステムにつEffectです。Bradford先生がノースイースタン大学

いては、行動規範を制定・策定して、透明性確保義のNorthwestern University Law Reviewに公表した務を課すことが定められています。つまりAIが使わ2012 年の論文に端を発します。なお、ほぼ同じ時期に、れているものの、リスクとしてはそれほど高くないも遠藤乾先生と鈴木一人先生の『EUの規制力』が公刊のについては、それを本人に知らせる仕組みしか定されていますが、こちらの書籍におけるEUの規制のめられていないわけです。ただし、少々私が気になっ効果についての体系的な分析のほうが実質的には早ているのが、この仕組みはcookie規制のようになるおかったと言えます。

それがあると思っています。通知義務を今後課すこ最後に、EUのAI規制のこれまでの経緯は、総務省とになると、「このシステムはAIを使っています」との情報通信政策研究所の『情報通信政策研究』に寄いうことを毎回通知する。利用者側が通知されて「あ、稿した拙稿「AI原則は機能するか？ -これはAIが使われている」とわかるのは良いのです

則から普遍的原則への道筋 -」2020 年 3 巻 2 号をが、日常的に使われるシステムに今後全部AIが組みご参照ください。

10

非拘束的原

EUのAI規制に向けた検討の系譜において、ターニングポイントとなったのは、2018 年の「AI、ロボット、自律型システムに関するステートメント」であると考えられます。今後のAI規制の方向を決める上で重要な文書であったと位置づけられます。最終的には「AI白書」でかなり具体的な内容が示されていますが、ステートメントで示されたものがAI整合規則の策定につながっていることがわかります。ステートメントで最初に示されているのが、安全性、セキュリティ、危害の防止です。次に、人間の道徳的責任。さらに 3 つ目にガバナンス、テスト・認証に関する問題が示されています。この点からも、2018 年の段階でEUが目指していたのはAIシステムの安全性を確保するための製品安全規制の整備であったことがうかがえます。そのためのガバナンス・法執行、そして第三者認証制度の構築という、実に見事な仕組みを考えたなと思います。
本日は、慶應義塾大学の新保から、EUのAI整合規則提案 -新たなAI規制戦略の構造・意図とブリュッセル効果の威力-についてお話をさせていただきました。
＝＝
本 稿は 2021 年 7 月 11 日(日) 〜 22 日(木)に開催された第 5 回情報法制シンポジウムでの講演を基に作成したものです。
（本報告は、JSTムーンショット型研究開発事業(JPMJMS2011)の支援を受けたものである。
）

情報法制研究所 参与
慶應義塾大学 教授

新保 史生（しんぽふみお）

慶應義塾大学総合政策学部教授 博士（法学）。専門は、憲法、情報法、ロボット法。
専門は、憲法、情報法、ロボット法。個人情報保護委員会専門委員、情報法制学会代表、憲法学会常務理事、情報通信学会副会長、法とコンピュータ学会理事、情報ネットワーク法学会「ロボット法研究会」主査。総務省情報通信政策研究所特別研究員、経済協力開発機構（OECD）デジタル経済セキュリティ・プライバシー部会（SPDE)副議長(2009-2016)、Northeastern University School of Law(CLIC)訪問講師。

11