ISSN 2432-6089

法と情報雑誌
The Law and Information Magazine
第 6 巻第 5 号（通巻第 45 号・2021 年 11 月）

法と情報研究会 編（第 2 分冊）

本 号 目 次[資料]
夏井高人

人工知能規則案（COM/2021/206 final） [参考訳]320～562 頁

法と情報雑誌 6 巻 5 号（2021 年 11 月）

人工知能規則案（COM/2021/206 final）[参考訳]
2021 年 11 月 6 日
明治大学法学部教授
夏 井 高 人＊＊＊Proposal for a Regulation of the European Parliament and of the Council on Regulation laying down
harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union
Legislative Acts（COM/2021/206 final）のテキスト（英語版）に基づき，その和訳を試みた。
人工知能法規則提案（COM/2021/206 final）の原文のテキストを入手できるサイトの URL は，下記のとおりである。
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206[2021 年 10 月 16 日確認]－解 説－
１．人工知能規則案
人工知能規則の提案（COM/2021/206 final・以下「人工知能規則案」という。）は，主として，
EU 域内の市場に置かれ，または，サービスに供される AI 応用製品または AI 応用サービスに適用される規則案である。その製品またはサービスの提供者には EU の機関や構成国の行政機関等も含まれる。
人工知能規則案は，目下，審議中（2021/0106/COD）である。
人工知能規則案は，人工知能システム（AI システム）が基本的な権利の侵害等の重大なリスクを含み得るものだという認識を前提にした上で，高リスク AI システムと非高リスク AI シス
テムの識別基準を定めている。高リスク AI システムの中には，特に，その製品の安全性機能として AI システムが応用されている各種工業製品が含まれる。
一般に，AI システムによって安全性機能が作動している場合，もしその AI システムに異常があると，本来は製品の安全性を確保するための仕組みであったはずのものが，逆に，自然人の生命や身体の安全を脅かす装置に転化し得る。例えば，外科手術用のレーザーメス（熱線）が人間の身体の許容度を超えた焼損を発生させないようする制御機能が AI システム
によって自動的に管理されるものである場合，その AI システムに異常があると，本来は救命や治療のためのレーザーメスが殺人用具に転化し得る。このようなタイプのリスクは，検査の目的で使用される X 線撮影装置でも同じであるし，また，特に，遠隔操作による外科手術用の産業用ロボット（Robotics）の場合には多重かつ深刻なレベルで発生し得る。同様のリスク
320

法と情報雑誌 6 巻 5 号（2021 年 11 月）
は，人間の医師が施術者である場合にも存在し，同一の手術器具が当該施術者の技量や状態により危険な状態に遷移することはあり得る。例えば，患者の状態が刻々と変化し続けているだけではなく，手術器具それ自体の経年劣化や施術者自身の精神状態・健康状態の変化による施術能力の変化が常に存在していることも考慮に入れなければならない。AI の技
術は，そのような患者と施術ロボット側の状態の遷移を自動的に測定し，最適解を瞬時に算出するためにも応用され得るが，最適解それ自体が常に変動し続けるという可能性を想定しないシステムにおいては，かなり大きなリスクが残存し得ることになる。
人工知能規則は，この例のような産業用ロボットだけではなく，EU において既に製品の安全性を確保するために行政監督法令が制定されている製品分野を中心として，AI システムの応用製品及び応用サービスから生ずるリスクをミニマム化するために提供者（provider）等に適用される一般的な要件（requirements）と義務（obligation）を定めている。
特に，高リスク AI システムに関し，市場に置かれる前の設計・開発・実装・試験・検査等の段階において，事前の適合性評価を定め，市場に置かれた後の段階においても，リスク管理のための仕組みを設けることを義務付け，現実にリスクが顕在化して重大なインシデントが発生した場合には，禁止，制限，回収及びリコール等のようなかなり厳しい行政措置を定めているほか，そのような行政措置が実効的に執行されることを確保するための監督機関等の定めを詳密に設けている。
市場に流通する製品やサービスの安全性確保とそのための監視機関等に関しては，既に様々な監視機関等が設置されているため，重複を避けるため，既存の監督機関が人工知能技術との関係でも監督機関となるような調整規定及び他の法令の一部改正条項も多数設けられている。それゆえ，人工知能規則案の内容を正確に理解するためには，EU の関連法令全部をつぶさに検討・理解する必要性がある。
人工知能規則案は，法学分野としては，行政法の領域に属する法令の提案である。AI シ
ステムの提供者（事業者）等が人工知能規則案に定める行政上の義務に違反する行為に対しては罰則の適用がある。これは，事業者としての業法違反行為に対する行政法上の制裁の一種である。
これに対し，人工知能技術の応用製品から生ずる一般的な民事責任（損害賠償責任，原状回復責任等）及び刑事責任（刑罰）等に関しては，EU の構成国がそれぞれの構成国の国
内法として定めている民法や刑法等の関連法令が適用される。例えば，AI システムの利用
により人の死傷等の事故が発生した場合，その事故に起因する損害賠償請求に関しては裁判管轄権をもつ構成国の裁判所において訴訟によって（当該国の民法等を適用して）解決され，また，業務上過失致死傷罪（事案により，殺人罪，傷害罪等）による処罰は，裁判管轄権をもつ構成国の法務当局（裁判所，検察庁及び関連行政機関）によって（当該国の刑法や刑事訴訟法等を適用して）対処される。それゆえ，人工知能規則案は，このような意味での民事及び刑事の法的責任に関して特に定めていない。
人工知能規則案においては，全ての提供者（事業者）に対して一律に厳格な適合性評価
手続を経ることを強制することは比例的ではないため，人工知能規則案は，EU の技術標準
321

法と情報雑誌 6 巻 5 号（2021 年 11 月）
や欧州委員会が定める共通仕様等を用いている AI システムに関しては，一定の法令遵守の推定を与えている。
また，消費者が安全な製品であるか否かを容易に知ることのできる手段として，CE マーク（EU 適合マーク）に関する条項も設けている。
人工知能規則案は，あくまでも EU 域内に適用される EU 法の一部を構成する法令の提案である。しかし，EU から見て第三国である日本国の企業等が EU 域内において（自動車や機械装置の部品である場合を含め）AI システムの応用製品を流通させようとする場合，この規則が適用されることになることから，日本国の企業にとって無関係な法令ではなく，逆に，
直接的かつ高度の影響のある非常に重要な法令の提案である。人工知能規則案に定める要件または義務の違反行為があった場合の行政罰の額がかなり高額になっている点には特に留意すべきである。
この行政罰の額は，サブリミナル効果のような人間の心理に影響を与えたり人間の心理を操作したりする技法（techniques），公共の場におけるリモートによる生体要素識別のためのAI システムと関連する禁止及びその禁止を免れるための要件の不遵守の場合には非常に重いものとなっている。
日本国の企業または開発者等は，軽はずみまたは安易な気持ちでそのような仕組みを応用した製品やサービスを設計・開発・実装・運用することは避け，この規則案に定める要件と義務を正確に理解した上でそのような設計・開発に従事すべきである。
他方において，一般に，AI に関して危惧や脅威を感じる人々や逆に楽観的過ぎる人々によって（素人評論家的な）様々な言説が流布されている。しかし，現段階では，もし脅威が存在するとすれば，（仮の措置を含め）行政措置，民事の損害賠償及び民事保全手続または刑事処罰によってどのように対処可能であるかを，製品の属性・機能・規模，フェーズ，環境等
によって分けて具体的に考察し，その考察結果を法解釈や立法提案として実装すべき段階になっている。一般に，単に危惧するだけでは何の解決にもならず，その危惧を解消または緩和するための可能な限り具体的な方策が健全に検討され，提案されなければならない。
この規則案が採用している考え方や手法を精密に分析・理解することは，日本国の産業界にとっても，また，関連する学術の分野においてもかなり有益である。
人工知能規則案は，その審議を経て採択される時点では大幅に修正されていることが十分に予想される。特に，現在の規則案において禁止対象とされている AI システムがそのま
ま禁止対象として維持されるかどうかはわからないし，また，逆に，他のタイプの AI システムが禁止対象に追加される可能性も否定されない。この点の予測において重要なのは，人工知能規則案が適用されるのは，基本的には，一般向けの製品またはサービスにおける AI シ
ステムの応用だけであるという点である。軍事目的による AI の応用は，（国防と関連する事
項が構成国の国家主権の中に完全に残されており，EU 法が介入できないことから）人工知
能規則案の適用対象外となっている。また，市場に置かれることのないシステムの研究活動等に関しても人工知能規則案の適用対象外なる。それゆえ，国防及び自然科学研究の関係
322

法と情報雑誌 6 巻 5 号（2021 年 11 月）
者から批判が出ることはない。あくまでも，人工知能と関係する可能性がある産業界がどのように考えるかが今後を見通すために重要と予測される。ただし，産業界の大勢は，この人工知能規則案の基礎となっている倫理上の運用指針を支持していることには特に留意すべきである。
他方，人工知能規則案の採択の見通しが必ずしも明瞭であるとは言えないことは，この規則案と同時に審理されている関連規則案との相互関係にも一因がある。
しかし，このような諸点を考慮に入れてもなお，この人工知能規則案がその提出時点における欧州委員会の考え方や理解を正確に知るための最良の資料の 1 つであることは疑いようがない。それゆえ，現時点において，この規則案を精読・理解し，その検討結果を（論文というレガシーな文書形式ではなく）解説付きの参考訳という現代の状況に即した文書形式で
Web 公表することの学術上及び産業政策上の価値は大きいと判断した。
人工知能規則案の説明書（Explanatory Memorandum）の中にある脚注 1 において指示された URL から，本文中で参照されている Ursula von der Leyen「A Union that strives for more:
My agenda for Europe」に直接にたどり着くことはできない。この文書を入手できる URL は，下記のとおりである。
A Union that strives for more: My agenda for Europe
https://ec.europa.eu/info/sites/default/files/political-guidelines-next-commission_en_0.pdf[2021 年 10 月 16 日確認]
人工知能規則案の説明書の原文の中にある脚注 22 にはパブリックコンサルテーションの結果報告書「Public consultation on the AI White Paper: Final report, November 2020」がある
Web サイトへのリンクが設定されているが，実際には，そのリンク先から直接にたどり着くことはできない。この文書のコピーを保存している standict.eu の Web サイト内にある所在場所のURL は，下記のとおりである。
Public consultation on the AI White Paper: Final reporthttps://www.standict.eu/sites/default/files/2021-02/PublicConsultationAIWhitePaper_Finalreportpdf.pdf[2021 年 10 月 18 日確認]
人工知能規則案の規則案（英文）の前文(36)の中で示されている「欧州委員会の 2021 年
作業計画（Commission Work Programme 2021）」とは，委員会通知 COM/2020/690 final のことを指す。前文(36)の中で示されているプラットフォームとは，同委員会通知の 2.2 の中で示されているプラットフォームのことを指すと解される。具体的かつ詳細な記述はなく，将来の立法提案に託されている。
なお，雇用情報の流通促進と関連する現行の情報システムとしては，EURES 規則(EU)2016/589（OJ L 107, 22.4.2016, p.1-28）に定める情報システムがある。
323

法と情報雑誌 6 巻 5 号（2021 年 11 月）
人工知能規則案の規則案（英文）の前文(45)及び前文(74)の中で示されている「デジタル技術革新ハブ（digital innovation hub）」を定める EU の法令は，規則(EU) 2021/694（OJ L 166,
11.5.2021, p. 1–34）である。
人工知能規則案の規則案（英文）の前文(45)の中で示されている「欧州共通データ空間（European common data spaces）」と関連する EU の最も重要な規則の提案は，欧州データ統治規則案（COM/2020/767 final）である。この規則案は，目下，2020/0340/COD として審議されている。
この EU の「欧州共通データ空間」のアプローチは極めて重要である。このことは，特に，私人対私人の関係で重要である。データ統治規則案は，（私人のものではない）公的部門が保有するデータの二次利用を推進するオープンデータ指令(EU) 2019/1024 を補完するもの
として，B2B のデータ共有とデータ二次利用のためには，「企業と市民が生成したデータの管理」をそのデータの生成者が維持することと「データの収集への投資が確保されること」を必須の条件としており，当該データや情報と関連する他者の知的財産権（著作権，営業秘密
等）の法的保護を絶対的な大前提とした上で，そのような権利に悪影響が全くないようにしつつ，同意を基礎とするデータ共有モデルを提唱している。当然のことながら，同規則案は，権利者の同意のない他者の権利のあるデータの収奪や剽窃行為または海賊行為を是認するものではない。なお，オープンデータとパブリックドメインとは同義ではない。
この点と関連して，例えば，自動翻訳（機械翻訳）のための過去のデータの二次利用を考えてみると，既存の翻訳文を（適法または違法に）大量に収集し，その翻訳文をデジタルデータとして加工した上で，そのデータとのマッチングによる多数決原理のような数値化処理によりあたかも自動翻訳を実行しているかのように見せかけているシステムは，単に欺瞞的であるというだけではなく，（当該データの必須のメタデータとして存在すべき原作者及び出典が明記され，原作品中のマッチングされた箇所を特定して表示するなど，公正な引用の要件を完全に充足しない限り）著作権と関連する国際条約及び著作権法に違反する違法なコ
ピーロンダリングマシン（copyright infringement laundering machines）である可能性が極めて高い。いわゆる自律学習型の AI システムの場合においても，著作者人格権（特に同一性保持権）の侵害が常に不可避的なものとして発生するので，少なくとも，（そのデータが自動収集によるものであるか否かに拘らず）学習に用いたデータ（作品）の原作者及び出典，原作品の版，収集の時点（加えて，原作品の作者から事前の同意を得ているときはその旨）等の基
本情報を完全かつ網羅的に明示すべき義務があり，その義務を履行しないシステムは，そのシステムの設計及び開発行為の時点で既に明らかに違法である（人工知能規則案の第 10条第 2 項参照）。
このような問題が発生し得ることが当然に予想されることから，EU のオープンデータ政策
は，原則として，公的機関が保有するデータの二次利用（reuse）を原則的なものとして想定しており，私人対私人の関係においては，EU 及び構成国の関連法令に従って知的財産権及び個人データを完全に保護することを鉄則としている。とはいえ，今後，重要なデータの生
産・保有主体の比重が公的機関ではなく（例えば，自動走行自動車やドローンの開発のために関連データを大量に収集している企業のような）民間企業に移行することが明らかである
324

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ため，「欧州共通データ空間」のアプローチにおいては，知的財産権等の権利者が存在する
データや情報に関し，あくまでも当該データの権利者の事前の同意（consent）を基礎として，
知的財産権の侵害を防止しつつ，官民の相違を問わないデータ共有またはデータプールを構築し，一定の条件と監視の下でそれを新たな製品やサービスの開発のために活用しようとしているのだと理解することが可能である（オープンデータ指令(EU) 2019/1024，人工知能
規則案の別紙 IV の第 2 項の(d)参照）。
それが事前の同意を基礎とするものである限り，上述のような欺瞞的な機械翻訳サービスのような問題が生ずるおそれが相対的に小さなものとなる。また，自由な二次利用は，一定の条件と監視の下で利用可能なオープンデータを素材とするものであることが原則であるので，（適法であるか違法を無視して）閉鎖的なデータベース内に関連データを蓄積して利用することの優位性を維持できないようにするという大きな社会的効用がある。
これに対し，日本国における現行著作権法の関連条項は，このような私人の知的財産権を完全に保護しつつ経済発展のためにデータの活動を拡大するという重要な戦略的観点を無視または軽視したものと評価せざるを得ない。実務的に観ても，（官民を問わず）他人の知的財産権を侵害する単純な剽窃に過ぎない学術研究成果物，講義内容，講演内容，政府委託調査結果等が無数に横行しており，中には著作権法の普及の仕事に従事する者が該当する
ことさえあり，しかも関係当局や所属組織・団体等において厳正な姿勢をとることが基本的にないので，世界でも最も知的財産権が保護されていない国のような惨状を呈している。このことは，国庫からの拠出との関連においても大きな問題を含んでいる。関連法令の執行の面を含め，著作権法等の関連条項の根本的な見直しと改善を要する。
人工知能規則案の別紙 XI の第 2 項にある規則案（COM(2018) 302 final）は，2021 年 7 月
7 日に規則(EU) 2021/1133（OJ L 248, 13.7.2021, p. 1-10）として採択された。
２．参考訳作成における基本方針
この参考訳においては，人工知能規則案の説明書（Explanatory Memorandum）の部分及
び提案された規則案中の前文，条文及び別紙（ANNEX）の部分を訳出した。規則案中のそれ以外の部分の訳出は割愛した。
この参考訳においては対訳方式を採用することにした。ただし，原文を表示することが無意味な部分（特に脚注内）に関しては，原文または訳文の表示を省略した。
この参考訳は，あくまでも人工知能規則案の私的な和訳である。公式訳でも確定訳でもない。
この参考訳は，現時点における研究成果を反映するものである。将来，更に研究を深めた
結果として修正すべき部分を発見したときは，その時点において，改訂版等を作成すべきかどうかを検討する。
325

法と情報雑誌 6 巻 5 号（2021 年 11 月）
訳出に際しては原則として直訳とすることとしたが，直訳のままでは日本語になりにくい箇所に関しては，やむを得ず意訳とした。
この参考訳に訳注はない。参考訳中にある脚注は，全て原注である。
読みやすさを重視し，条文中の号(point)の表記を一部省略した。例えば，「point(a)」は「第(a)号」であるが，「第」と「号」を省略し，「(a)」と表記することにした。
日本語における「」及び『』（英語においては「’」と「”」）の用法については，全ての場合において慣例に従うと，著作者人格権（特に同一性保持権）の侵害となることがあり得るので，慣例に従わない。この種の慣例は，旧時代の貧しい文字文化だけで構成されている社会を基盤とするものなので，現代では単に有用性がないというだけではなく，かなり有害でもある。
それゆえ，この種の慣例それ自体を全部廃棄すべきである。
人工知能規則案の第 3 条第 37 号及び同条第 38 号における表記は，そのような旧慣を既に廃棄している。
人工知能規則案の原文（英文）には，全体として，文字間の空白（スペース）が抜けていると推定される箇所及び余計に空白が挿入されている箇所等がある。それが誤記によるものか，
または，何らかの技術的な原因で結果的にそうなってしまっているのかは不明であるが，合理的に解釈して（本来あるべき）原文を推定し，そのように訳した。
人工知能規則案の説明書部分及び規則案部分（英文）の中にある「instruction of use」及び「instructions of use」は，全て「instructions for use」の規則案の起案上のミスに起因する誤記と解されるが，全部同義であると理解した上で，そのまま訳すことにした。
人工知能規則案の説明書部分の原文（英文）には「incidents/or malfunctioning」と記されている箇所があるが，それは「incidents or malfunctioning」の誤記または校正漏れと理解し，そのように訳した。
人工知能規則案の説明書部分の原文（英文）の 5.1 の項には「serious incidents ormalfunctioning that constitute a breach of fundamental rights obligations」と記されている箇所がある。ドイツ語版と比較してみると，英語版は不完全な文である可能性が高いが，ドイツ語版は意訳である可能性があり，ドイツ語版を基準にして訳出することもできない。
この文は，規則案と一体となっている「Financial Statement（財政見積書）」の「1.4.4.Indicatorsof performance（性能の指標）」の項に含まれる指標の 1 つと一致する文なので，指標化するためにかなり省略（標語化）された文をそのまま説明書内に転写したものと考えられる。
その文意を推測してみると，「基本的な権利を確保する義務の違反行為となってしまうような重大なインシデントまたは誤作動」という趣旨の文と思われる。この場合の「違反」の主体は，
当該システムの利用者ではなく，そのシステムの提供者となることが明らかであるが，予見可
326

法と情報雑誌 6 巻 5 号（2021 年 11 月）
能性及び回避可能性の全くないインシデントが発生した場合でも「違反」となるという意味の
完全な無過失責任を前提にしているとは考えにくいので，法律上の義務について述べる文としてはかなり難解な文である。ただし，人工知能規則案の第 62 条第 2 項の趣旨から推測す
ると，予見可能性及び回避可能性の全くないインシデントが発生した場合，義務違反が発生し得る最初の時点は，当該インシデントと当該 AI システムとの間の因果関係を当該提供者が認識した時点であり，具体的な義務違反行為としては，当該インシデントを監督当局に連絡しなかったという不作為による過失（事案により，故意）に基づく（民事及び刑事の）法的責任を予定するものと解釈することは可能な範囲内にある。
以上を踏まえた上で，この文は，本来は，「serious incidents or malfunctioning that may affectfundamental rights」または「serious incidents or malfunctioning that may cause a breach ofobligations to protect fundamental rights」のような文であるべきだったのではないかと考えられる（第 62 条第 1 項参照）。
このような問題があることを前提とした上で，この参考訳においては，原文のまま訳すことにした。
人工知能規則案の説明書部分の原文（英文）の 5.2.6 の項には「(TITLES VI, VII AND VII)」と記されている箇所があるが，それは「(TITLES VI, VII AND VIII)」の誤記と解し，そのように訳した。
人工知能規則案の説明書部分の原文（英文）の脚注 14 の中にある「Text with EEA
relevance」との文言は，規則案の脚注 56 の記載と比較して検討した結果，人工知能規則案の起案上のミスのために残存した文言と判断し，この「Text with EEA relevance」との文言が存在しないものとして訳出することにした。脚注 53 の中にある「(Text with EEA relevance)」との文言も同じである。
人工知能規則案の説明書部分の原文（英文）の脚注 20 の中にある「PE/28/2019/REV/1」との文言は，規則案の脚注 56 の記載と比較して検討した結果，人工知能規則案の起案上のミスのために残存した文言と判断し，この「PE/28/2019/REV/1」との文言が存在しないものとして訳出することにした。
人工知能規則案の規則案部分の原文（英文）の前文(23)の中には「Directive 2016/680」と記されている箇所があるが，それは「Directive (EU) 2016/680」の誤記であると理解し，そのように訳した。また，前文(72)の中にある「Regulation 2016/679」及び「Directive 2016/680」とある箇所も同様に理解して訳すことにした。
人工知能規則案の規則案部分の原文（英文）の前文(38)の中にある「for individual risk
assessments, polygraphs and similar tools」との箇所は，別紙 III の第 7 号(b)の記載と比較してみると，「for individual risk assessments, as polygraphs and similar tools」の誤記である疑いが非常に強いが，この参考訳においては，原文のまま訳すことにした。
327

法と情報雑誌 6 巻 5 号（2021 年 11 月）
人工知能規則案の規則案部分の原文（英文）の前文(56)の中にある「Union shall」との箇所
は，前後関係から推定して，「Union should」の誤記と判断し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の前文(66)の中にある「（i.e. they automatically
adapt…）」との箇所は，文脈から判断して，「（e.g. they automatically adapt…）」の誤記である疑いが強くもたれるのであるが，この参考訳においては，原文のまま訳すことにした。その結果，
やや奇妙な訳となっている。
人工知能規則案の規則案部分の原文（英文）の前文(69)の脚注 55 には，規則(EU)2018/1725 の正式標題ではなく，規則(EU) 2016/679 の正式標題となっている。本文と脚注のいずれかが誤りであることは明らかであるが，文脈から判断して，脚注内の記載が誤りである
ことが明らかである。この参考訳においては，規則案の起案上の明らかなミスの一種である
ので，原文のままではなく，本来あるべき規則(EU) 2018/1725 の正式標題を脚注 55 の内容として訳出することにした。第 63 条第 5 項も同じである。
人工知能規則案の規則案部分の原文（英文）の(89)の末尾にある「”.」は，明らかに誤記の一種であり，「,」が正しいので，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の第 1 条の号番号は，(a)が重複しており，(d)で終わっているが，規則案の起案上のミスの一種であり，(a)から(e)までが正しい。ドイツ語版
等で確認した上で，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の第 3 条の号番号は，(1)が重複しているが，規則案の起案上のミスの一種であり，「provider」の定義条項の号番号は(2)が正しい。ドイツ
語版等で確認した上で，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の第 3 条第 28 号の中にある「a means to,comply with」は，「a means to comply with」の誤記と解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 5 条には標題がない。規則案の起案上のミスかもしれないが，原文のまま訳すことにした。
人工知能規則案の規則案部分の原文（英文）の第 5 条第 2 項の中にある「paragraph 1 pointd)」との箇所は，「paragraph 1 point (d)」の誤記と解し，そのように訳した。この参考訳上の対照
原文もそのように修正したものを表示することにした。
328

法と情報雑誌 6 巻 5 号（2021 年 11 月）
人工知能規則案の規則案部分の原文（英文）の第 7 条第 2 項柱書の中にある「the risk ofharm posed by the high-risk AI systems already referred to in Annex III」との箇所は，論理的に考えると，「the risk of harm or adverse impact posed by the high-risk AI systems already referred to in
Annex III」が正しいと解され，そのように補って意訳すべきであると思われるが，立法提案者
が別の意図をもつことがあり得るので，原文のまま訳すことにした。
人工知能規則案の規則案部分の原文（英文）の第 18 条第 2 項にある「internal governance,
arrangements」との箇所は，「internal governance arrangements」の誤記と解し，そのように訳した（第 17 条第 3 項参照）。
人工知能規則案の規則案部分の原文（英文）の第 24 条の中にある「by the present
Regulation」とある箇所は，規則案の起案上のミスの一種であり，「by this Regulation」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 27 条第 1 項の中にある「a high-risk
system」とある箇所は，規則案の起案上のミスの一種であり，「a high-risk AI system」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 28 条第 1 項柱書の中に「shall beconsidered a provider」とある箇所は，「shall be considered as a provider」の誤記ではないかという疑いがあるが，正しい文であると仮定し，合理的に解釈して訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 33 条第 7 項の中にある「Notified bodies
shall have procedures for the performance of activities」との箇所は，「Notified bodies shall haveprocedures for the performance of activities in place」の誤記ではないかという疑いがあるが，正しい文であると仮定し，合理的に解釈して訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 33 条第 10 項の中にある「sufficientadministrative, technical and scientific personnel」との箇所は，第 30 条第 7 項の規定内容から推測して，「a sufficient number of administrative, technical and scientific personnel」の誤記であるか，
または，その省略的表現の一種であると合理的に解釈し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 36 条第 2 項の中に「notified bodyinvestigation no longer meets」とある箇所は不完全な文ではないかという疑いがあるが，正しい文であると仮定し，合理的に解釈し，意訳により訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 39 条の中にある「notified Bodies」は，「notified bodies」の誤記と解し，そのように訳した。なお，人工知能規則案の中には，これ以外にも大文字と小文字の用法に誤りのある箇所が存在するが，そのような箇所に関しては，い329

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ずれも合理的に解釈し，そのように訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 40 条は，不完全な文である可能性がな
いわけではないが，合理的に解釈した上で，原文のまま訳すことにした。
人工知能規則案の規則案部分の原文（英文）の第 43 条第 5 項の中にある「Annexes VI and
Annex VII」との箇所は，明らかに，「Annexes VI and VII」または「Annex VI and Annex VII」の誤記である。この参考訳においては，合理的に解釈して訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 46 条第 2 項の(a)の中にある「quality
system approvals」との箇所は，規則案の起案上のミスの一種であり，「quality management
system approvals」の誤記であると解し，そのように訳した。省略表現であるとしても不適正である。
人工知能規則案の規則案部分の原文（英文）の第 52 条第 2 項の「shall inform of theoperation of the system the natural persons exposed thereto」は，「shall inform of the operation of thesystem which the natural persons exposed thereto」の省略文または「shall inform the natural persons
exposed thereto of the operation of the system」の倒置文のいずれかであると考えられる。いずれとも決し難いので不完全な文の一種であるとも考えられるが，とりあえず後者の解釈が正しいという前提で訳出することにした。
人工知能規則案の規則案部分の原文（英文）の第 52 条第 2 項の「detect, prevent andinvestigate criminal offences」は，「detect, prevent, investigate and prosecute criminal offences」の誤記である。ドイツ語版等を参照して確認した上で，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 54 条第 1 項の(d)には「any personal data
to be processed in the context of the sandbox」とあり，同項の(g)には「any personal data processedin the context of the sandbox」とあるが，これは規則案の起案上のミスの一種により表現が不統一になっているだけで，別のことを意味する文ではないと解する余地が全くないわけではな
い。他方，そうではないという前提で考えてみた場合，意味上の相違としては，(d)の「personaldata」はサンドボックス内で処理中のデータのことを指し，(g)の「personal data」はサンドボック
ス内での処理を終えたデータのことを指す。しかし，これらの文は，いずれも当該処理が実施される前の時点における当該データの取扱いに関する当為としても妥当するものである。
この点を重視すると，これらの文に関して別異の訳文とすべきではない。この参考訳においては，これらの諸点を考慮に入れた上で，同じ訳文とすることにした。
人工知能規則案の規則案部分の原文（英文）の第 58 条の(c)の柱書の末尾には「コロン（:）」が欠けている。規則案の起案上のミスの一種である。この参考訳では，補って訳した。
330

法と情報雑誌 6 巻 5 号（2021 年 11 月）
人工知能規則案の規則案部分の原文（英文）の第 64 条第 1 項の中に「Access to data」とある箇所は，規則案の起案上のミスの一種であり，「For access to data」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 65 条第 2 項第 2 副項は，全体として別の解釈も可能な文である。しかし，そもそも不完全な文である可能性も否定されないので，厳密に考えないこととし，現状のままで可能な訳とすることにした。今後の審理の過程において，同項の他の副項に修正が入る可能性がかなり高く，そのような場合には更に別の解釈も可能となり得る文である。最終的に法律文書として採択されるまでは，文意を確定できない。
人工知能規則案の規則案部分の原文（英文）の第 68 条第 1 項の(e)の末尾の「セミコロン（;）」とある箇所は，規則案の起案上のミスの一種であり，「ピリオド（.）」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 70 条第 1 項の(a)の末尾の「ピリオド（.）」とある箇所は，規則案の起案上のミスの一種であり，「セミコロン（;）」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 70 条第 1 項の(b)の末尾に改行せずに(c)となっている部分は，規則案の起案上のミスの一種であり，改行しなければならず，かつ，
現在の規則案の中にある「(c) integrity of criminal…」との箇所は「(d) integrity of criminal…」の誤記であると解し，そのように訳した。なお，この部分に関しては，本来あるべき原文となるよ
うに補正した。
人工知能規則案の規則案部分の原文（英文）の第 71 条第 6 項の(b)の末尾の「ピリオド（.）」との箇所は，規則案の起案上のミスの一種であり，「セミコロン（;）」の誤記であると解し，そのように訳した。また，同条同項の(c)の末尾の「セミコロン（;）」となっている部分は，規則案の起案上のミスの一種であり，「ピリオド（.）」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 72 条第 1 項の(c)の末尾の「セミコロン（;）」との箇所は，規則案の起案上のミスの一種であり，「ピリオド（.）」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の第 75 条の付加される条項の末尾にある二重引用符（”）は過剰である。規則案の起案上のミスの一種である。存在しないものとして訳出した。
人工知能規則案の規則案部分の原文（英文）の第 75 条の改正条項の中で「set out in
Chapter 2, Title III」とある箇所は，規則案の起案上のミスの一種であり，「set out in Title III,331

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Chapter 2」の誤記と思われる。
人工知能規則案の規則案部分の原文（英文）の別紙IIの第A節第11号の末尾にある「(OJ
L 117, 5.5.2017, p. 1;」との箇所は，「(OJ L 117, 5.5.2017, p. 1);」の誤記と解し，そのように訳した。
この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の別紙 II の第 B 節第 1 号の末尾の「ピリオド（.）」との箇所は，規則案の起案上のミスの一種であり，「セミコロン（;）」の誤記であると解し，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の別紙 II の第 B 節第 5 号の末尾の「ピリオド（.）」との箇所は，規則案の起案上のミスの一種であり，「セミコロン（;）」の誤記であると解し，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の別紙 II の第 B 節第 6 号の中にある「3.
Regulation (EU) 2019/2144」との箇所は，「Regulation (EU) 2019/2144」の誤記と解し，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
なお，この部分は，本来であれば改行して別号とすべき部分の冒頭部分に該当するが，改行せず，第 6 号の中に 2 つの法令が示されるような結果となっている。規則案の起案上のミスの一種と思われるが，この参考訳においては，原文の状態のままで訳出することにした。
人工知能規則案の規則案部分の原文（英文）の別紙IIIの第1号，の末尾の「セミコロン（;）」との箇所は，規則案の起案上のミスの一種であり，「ピリオド（.）」の誤記であると解し，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分の原文（英文）の別紙 IV の第 1 号の(a)の中にある「thesystem the date and the version of the system」との箇所は「the system, the date and the version of
the system」の誤記であると解し，そのように訳した。
人工知能規則案の規則案部分の原文（英文）の別紙 IV の第 1 号の(g)の末尾の「セミコロン（;）」とある箇所は，規則案の起案上のミスの一種であり，「ピリオド（.）」の誤記であると解し，そのように訳した。この参考訳上の対照原文もそのように修正したものを表示することにした。
人工知能規則案の規則案部分（英文）の別紙 VII の第 4 号及び第 5 号のそれぞれ第 1 行
目は標題であり，文ではないのにも拘らず，それらの末尾には「ピリオド（.）」が過剰に付されている。規則案の起案上のミスの一種と解し，それらの「ピリオド（.）」が存在しないものとして翻訳することにした。この参考訳上の対照原文もそのように修正したものを表示することにした。
332

法と情報雑誌 6 巻 5 号（2021 年 11 月）
人工知能規則案の規則案部分の原文（英文）の別紙 IX の標題における大文字と小文字の用例には混乱が存在することが明らかであるが，意味的な混乱は含まれてないので，この参考訳においては原文のまま訳すことにした。
人工知能規則案の規則案部分の原文（英文）の別紙 IX の第 1 号の(b)の末尾には「ピリオド（.）」が欠けている。規則案の起案上のミスの一種と解し，それらの「ピリオド（.）」が存在する
ものとして翻訳することにした。この参考訳上の対照原文もそのように修正したものを表示することにした。
この参考訳は，Eur-lex のデータ二次利用条件を遵守して作成した。
３．訳語に関する補足的説明
President
欧州委員会（European Commission）の「President」は，一般に，「委員長」と訳され，過去においては，EU の法令等の参考訳の作成に際して「委員長」との訳語を用いていた。しかし，欧州議会（European Parliament）の長も「President」であり，また，理事会（Council）の長も「President」であることに鑑み，全て統一的に「議長」と訳すように方針転換し，以後，その方針を維持している。この点に関して変更の要を感じないので，この参考訳においても，欧州委員会の「President」を「委員長」ではなく「議長」と訳すことにした。
Should
これまで非常に多数の EU の法令を翻訳してきた経験を踏まえた結論としては，EU の法
令において「should」と「shall」との間に機能的な相違はなく完全に同義語である。「should」は，見かけ上の丁寧表現または文語的で威厳のある表現または美辞麗句的な表現の一種として用いられているだけである。全く同じ意味内容をもつ文が前文内では「should」となっておりな
がら条文としては「shall」になっているのが標準的な表現形態なので，同一の意味内容をもつ文について，「should」と「shall」という見かけ上の表現の相違があっても，当該規範内の当為の要求度に強弱は全くない。この点に関し，普通の英文法等の中で言われていることの多くは，基本的に間違いである。EU の比較的大きな法令を 100 本ほど真面目に完訳してみれば，直ちに，このことに納得し，私見と同じような見解に達することになるであろう。勉強量と経験及び日本語の語彙が圧倒的に不足しているときは，私見を理解できない。ただし，EU の法令の前文中において，「should」ではなく，「MUST」または「HAVE TO」等と強調して表現される例は存在する。そのような場合には，見かけ上の相違を特に意識した訳出が必要となるので，例えば，（日本語で使用される文字には大文字と小文字の区別がないので）太字等により強調する必要性があるかもしれない。
以上を踏まえた上で，EU の法令中において「should」と「shall」という見かけ上の相違が存
333

法と情報雑誌 6 巻 5 号（2021 年 11 月）
在することは事実である。そのような見かけ上の相違が存在することを踏まえ，そのような見かけ上の相違を日本語で表現するため，この参考訳においては，「should」を「すべきである」と訳すことにした。この場合の「すべきである」は，「shall」，「must」，「have to」と全く同じ意味と機能をもつ。
なお，EU の法令の条文中における「shall」に関しては，「しなければならない」とはせず，平叙文として訳出しているが，これは，日本国の法令においては命令文であっても平叙文として表現するという立法技術上の伝統があることによるものである。そのような日本国における立法技術上の伝統に賛成しない者は，条文中にある「shall」を「must」または「have to」と同じように訳すべきであろう。
Data poisoning
人工知能規則案の前文(51)の中で用いられている「data poisoning」は，一般用語として用いられているのではなく，（特に自律学習型の）人工知能システムに特有の攻撃手法の一種のことを指している。例えば，ニューロコンピュータの技術を応用した人工知能システムでは，あるパターンのデータセットの組み合わせを繰り返し実施（＝訓練）することにより，一定の基準（＝人間であるエンジニアによる結果評価に基づく一定の意図的なバイアス操作等）によって，あり得るニューロ結合の中での優先順位を決定し，あるタイプの入力があればニューロ結合が強化された（＝学習された）推論経路を優先して適用し（＝優先順位の高いステレオタイプで推論し），その計算結果として一定の出力を実行する。この場合において，そのシステムで使用されるデータセットの正確性や完全性を損なうように（無権限で）データの改変が行われたり，あるいは，一定量のまとまりのあるデータが存在することを前提に成立可能な推論が存在する場合において，そのデータの集合の中の一部に欠損があると，当然に別の推論が生成されることになる（＝元のデータ集合の完全性が維持されている状態とは異なる訓練結果が生成されることになる）ので，そのようなまとまりのあるデータの一部を消去したり，
あるいは，データセットそれ自体としては正確性や完全性が保証されるものであっても，全く別の計算結果を導くような一定量のデータセットに（無権限で）置き換えたりすることにより，当該システムにおける優先度の設定を変化させることが可能である。「data poisoning」は，このような場合を含め，人工知能システムの開発・運用のために必須のデータの集合の完全性を破壊するための攻撃のことを指している。このような攻撃は，例えば，敵軍に対して，何らかの謀略工作により，毒の入った食糧を提供し，敵軍兵士が喜んでどんどん食べている間にその毒によって中毒症状を発生させ，敵軍を消滅または機能不能状態に陥れるような戦術と似ている。デジタル版の生物化学兵器攻撃と比喩することも可能であろう。
以上を踏まえた上で，この参考訳においては，「data poisoning」を「データ汚染攻撃」と訳すことにした。
Adversarial attacks
一般に，人工知能システムの訓練は，そのシステムそれ自体によって完全に自律的に行334

法と情報雑誌 6 巻 5 号（2021 年 11 月）
われるのではなく，エンジニアによって一定のバイアスが加えられ，矯正される。これは，ス
ポーツや音楽の初等レベルのレッスンにおいて，生徒の練習結果が適切ではないとき，または，訓練者の期待に反するものであるときは，一定の矯正が加えられるのと同じである。つまり，このようなタイプの人工知能システムは，理論的には，その訓練を担当するエンジニアの知的能力を超える能力を発揮することができず，当然のことながら，当該エンジニアの思考が正常であるかどうかに拘らず，当該エンジニアの能力の限界または一定の指向性によるバ
イアスによって最初から矯正されたものである。このことは，一定の訓練結果に対して，別のバイアスをかけるように訓練し直すことが可能であることを意味している。また，要素の種類と数量が限定されている場合であってもこのことが起き得る。例えば，任意に運動している観測点から任意に運動している対象との間の相対的距離をリアルタイムに算出するという極めて単純で基本的なシステムであっても（観測する側の位置設定及び観測対象の何を観測する
かの設定が当該エンジニアの任意の設定または想定によらざるを得ず，それはアドホックな仮説の一種に過ぎないものであり，数学上の公理と同様のレベルで個々の設定または設定
固定性・安定性が保証されるもあり得ないことであるため）同様のことが起き得る。人工知能シ
ステムにおける訓練または学習そのものが実はバイアスそれ自体（＝短絡）であるということを正確に理解している攻撃者であれば，自己に有利なバイアスをもつシステムに書き換えてしまうような攻撃を試みることであろう。そして，学習型または訓練型の人工知能システムは本
来そのようなもの（＝強度の矯正によって確立されたバイアスまたは短絡そのもの）であるので，そのようなバイアスまたは短絡の意図的な変更を試みる攻撃は，理論的には成立し得る。
このような攻撃は，無論，電子的に実行可能であるが，例えば，担当エンジニアの集団の中に最初から工作員を潜り込ませることや，正規のエンジニアを事後的に洗脳・誘惑・買収または脅迫することによって（または，当該システムを開発する企業の経営陣，または，当該システムの開発に関与する特殊分野の専門家や助言者もしくは研究者，または，当該システムで使用するデータの収集・点検・管理を委託された事業者等をそのようにすることによって）非電子的にも実行可能である。このような攻撃手法は，普通の企業活動において，ライバル企業を買収することによって敵対者を消滅させるという戦術または戦法によって当の企業の相対的な支配または独占を拡大するという戦略と似ている。それゆえ，その対応策も，非デジタ
ルな空間におけるもの及び謀略のような人為的なものを含め，発生し得る全ての多様な物理現象を前提にした深い洞察に基づいて行われなければならない。そのような洞察が可能な
大器は晩成するのであって，決して促成できない。ただし，その能力が晩成するものである
以上，物理装置としての生体脳の機能の経年劣化との間の損益分岐点のようなものが当然に算出されなければならない。その結果，現実に利用可能な洞察にもまた非常に大きな限界があるという結論が自動的に導出される。このような問題を解決するため，古典的な百科全書派のような考えをもつ研究者等は現時点でも存在する。しかし，知識を表現するための手段としてのデータ（符号列）は，それ自体としては意味内容を示すことがなく，意味内容とのリンクを含む膨大なメタデータを準備しなければならない。時代と場所によって意味それ自体がかなり大きく変化するため，それらを相対的に判断し，整合化するための仕組みも必要であ
るし，メタデータを生成する者の能力の限界も当然あり，しかも，当該の者の能力や思考それ
自体が時間の経過と共に変化するものなので，少なくとも誰がどの時点でそのメタデータの335

法と情報雑誌 6 巻 5 号（2021 年 11 月）
中に属性値を入力したのかを示すメタメタデータが必要となり，または，当のシステムが処理を実行する時点及び場所の属性を示すリアルタイムの属性決定メタメタデータ（正確には，多次元メタ構造）も必要となる。これらの作業は，現実には実行不可能なので，結局，（古典的なミンスキーの理論を含め）古典的な百科全書派的なアプローチは常に破綻し，また，そのような考え方を基礎とする限り，自律学習型のアプローチも常に破綻する。要するに，時間と場
所と能力による制約の多い意味論の要素を含む人工知能は，現実には成立しない。仮に成立し得るとすれば，それは人工知能のように見せかけた詐欺的なシステムだけである。
以上を踏まえた上で，この参考訳においては，「adversarial attacks」を「敵対的訓練攻撃」と訳すことにした。
Operators
人工知能規則案においては，「operators」は，AI システムの設計者，開発者，提供者及びそれら以外の運用者を含む概念として用いられている。この運用者には，自然人または法人である私企業と行政機関等の公的機関の両方が含まれる。そのような場合の「operators」は，公的機関を含めた概念なので，「事業者」ではない。私的な生活の範囲の中で，（例えば，趣味の一種として）業務または職業に応用する目的なく AI システムが開発・構築される場合の当該個人は，「operators」から除外される。ただし，文脈により，開発者または提供者に限定されているのにも拘らず，「operators」が用いられている箇所もあり，必ずしも統一的な語の使用が徹底されているわけではない。更に，「operators」は，「economic operators」の略語としても使用されている。
そこで，この参考訳においては，文脈から合理的に解釈した上で，「operators」を「運用者」
または「事業者」等と訳し分けることにすることも検討したが，第 3 条第 8 号の趣旨に鑑み，「economic operators」を意味する場合，及び，文脈から，AI システムの「operators（運用者）」ではない事業者を含む概念として用いられていることが明らかな部分を除き，全て「運用者」と訳すことにした。なお，意味的には「operators」と同義であると解釈し得る場合であっても，「undertaking」に関しては，「事業者」と訳すことにした。
なお，人工知能規則案の第 63 条第 1 項の(a)により，規則(EU) 2019/1020 （OJ L 169,
25.6.2019, p. 1-44）の適用の文脈においては，同規則に定める「economic operators（経済取引主体）」が人工知能規則案における全ての「operators（運用者）」を包摂するものとして取り扱われる。
Procedures
一般に，AI システムの設計，開発，検証等の文脈において使用される場合，「procedures」
は，予め設計され，文書化された「手順」を示すことが多い。しかし，この人工知能規則案は，
AI システムの開発主体，運用主体または利用主体が行政機関である場合も想定し，より包括的な概念としてこの語を用いている。そして，行政機関が開発主体等である場合，EU の基本的な価値の 1 つである法律による行政の原理（法の支配）から派生するものとして，当該行政336

法と情報雑誌 6 巻 5 号（2021 年 11 月）
機関等が策定する開発手順等は，民間企業において用いられる普通の開発手順書または
開発行程書等ではなく，（あくまでも文書形式としては）法令（手続規則等）または法令に基づ
く行政文書の形式で定められることが多いと推測される。民間企業による AI システムの開発等の場合においてのみ意味のある語を訳語とする訳文は，明らかな誤訳の一種である。このような問題を本質的に解決するためには，分野によって非常に異なる態様で訳語が分散しているという現代の日本語の用例を法律によって禁止し，1 個の英語に対しては特定の 1 種類の日本語だけを使用するように義務付けるしかないのだが，それは不可能事である。次善の策としては，個々の法令の全体構造を正確に把握し，その適用範囲及び提供対象並びに個々の条項における用例を正確に理解した上で，文脈に応じて，より上位の包括的な日本語の語彙を探索し，発見された適切な語を訳語として採用するという地道な作業を辛抱強く続
けるしかない。そのことから，特定の条項の原文だけを対象にした部分訳は，常に，ひどい誤訳であるかもしれない危険性をもっているということを一般に周知する必要性もある。その整
合性または一貫性と関係する信頼性の評価基準は，当該法令及び主要関連法令の全訳を全て同一人（自然人）が単独で実行しているかどうかだけである。しかも，関連する学術研究の進展により，翻訳の際の判断における前提となっている一般的な見解の変更や修正もあり得ることを当然の大前提として想定すべきである。一般に，学問は，決して完成されることがない。常に，生成過程または衰滅過程の中のいずれかの位置にある。
以上の諸事情を全て考慮に入れた上で，この参考訳においては，この文脈で用いられる
限り，原則として，「procedures」を「手続」と訳すことにした。
Notified body
人工知能規則案における「notified body」は，職務権限のある国内機関（competent national
authorities）によって指定を受け，かつ，欧州委員会に対して通知された適合性評価組織である。人工知能規則案における「notified body」は，通常は，構成国の行政機関の一種であり得るけれども，通常は，民間の特殊な能力をもつ評価組織または監査組織となることが想定されている。ただし，企業の会計監査や情報セキュリティ上の監査とはかなり異なり，得意分野とする人工知能技術別に区分された指定が行われることが想定されている。現時点においては，全ての種類の人工知能技術及びその応用製品と応用サービスに関して，技術上の要求事項及び法律上の要件と義務の充足の有無を単一の監査法人等が完全に審査・評価・判断することは，ほぼ不可能である。少なくとも，現時点の日本国内において，人工知能規則案に示された必須の要件を充足する業務遂行能力と中立性と公平性を満たす民間組織は，1 つも存在しないし，今後もビジネスとして成立する見込みはほとんどない。それゆえ，日本国においては，民間企業ではなく，国の厳格な管理の下にある特別の研究組織等が個人情報保護委員会と協力しながら「notified body」としての役割を果たさざるを得ないのではないかと考えられる。
「notified body」は，直訳では「被通知組織」または「通知された組織」と訳すことになる。しかし，このような訳語は，「notified body」に期待されている極めて重要な任務と機能を反映する
ものではないという意味で適切な訳語ではない。そこで，この参考訳においては，その意味
337

法と情報雑誌 6 巻 5 号（2021 年 11 月）を反映させるため，「notified body」を「指定組織」と訳すことにした。この訳語は，EU の人工知能規則案の翻訳において用いられることだけを想定したものであり，汎用性のある訳語ではないので，全く異なる文脈においては使用してはならない。
Identification
人工知能規則案の第 14 条第 5 項の「the identification resulting from the system」との部分はやや難解であり，もしかすると規則案起案上のミスが含まれるかもしれないのであるが，正しい文であると仮定してその意味を推測すると，ある AI システムが異常な動作を示していると利用者が判断している場合であっても，その利用者の判断に錯覚または誤解等が存在する
ことがあり得るため，利用者が自分の認識能力の範囲内で了解している「事態」を基礎とし，自分だけの判断でそのシステムの稼働を「停止（stop）」させないようにするため，2 名以上の者によって検証と確認が実行された上で「停止」の措置を講ずることを構成国が定めることができるということを意味していると解される。つまり，この場合において利用者が認識している
事態は，その利用者が（その能力の限界内で）了解可能な範囲内の事態であって，客観的に正しい情報や徴候等と常に均等であるとは限らない。そのことを示すため，この部分では，「information」や「indication」等ではなく，「identification」が用いられていると理解することは可能な範囲にある。
それゆえ，原文に誤記がある可能性は否定されないものの，一応正しい文であるという前提で判断し，この部分に関しては，「identification」を「発見された事態」と（意味を補って）訳すことにした。
He
人工知能規則案の規則案部分（英文）の第 43 条第 3 項第 3 副項の中にある「if he has also」との表現は，EU の立法技術にも反映される基本原則の 1 つである男女平等の権利の要件を充足していない。本来は「it」または「he/she」と表現されるべきであろう。この参考訳においては，この箇所にある「he」を「その製造業者」と訳すことにした。
なお，このような基本原則を無思慮に究極まで推進した場合，将来，男性または女性の格
その他の文法上の構成要素を含む言語の存在及び利用が禁止されることとならざるを得ないだろうと予測される。しかし，そのことは，EU の別の基本原則の 1 つである多様性の尊重の原則と完全に抵触することが明らかである。
それゆえ，あくまでも一般論としては，いずれの基本原則も貫徹され得ない。そもそも地球上に存在する全ての「語」はあることと別のこととを区別するための文化的な道具の一種として存在しているので，原理主義的に差別禁止にこだわり続けると，一切の言語の存在及び使用を禁止せざるを得なくなり，それを禁止するために用いられる語を組み合わせた一切の表
現の使用も禁止とならざるを得ない。簡単に言えば，全ての人が何も言わず，何も書かないことが要求されることとならざるを得ない。
しかし，複数の人間が共存する社会においては，自己と他者を区別すること，または，他者
338

法と情報雑誌 6 巻 5 号（2021 年 11 月）
から自己が区別されることは不可避なことであり，それなしには 2 人以上の人間が共存可能な社会を構成・維持することが全く不可能になる。それゆえ，もし人類及び人類社会を存続させたいと考えるのであれば，この点に関する狭量で原理主義的または過激主義的な理解を決して承認せず，むしろ，そのような狭量で原理主義的または過激主義的な理解を（人間の尊厳という基本的な価値に反するものとして）排除するという解決策が最も妥当である。
人間社会を健全に維持するためには「寛容（tolerance）」が必要である。「tolerance」は，「我慢」または「忍耐」という意味ももつ。
Supervised learning, unsupervised learning
人工知能技術の分野では，一般に，「supervised learning」は「教師あり学習」と訳され，「unsupervised learning」は「教師なし学習」と訳されている。ここで想定されている「教師」とは，生徒の自主的な学習や自力による成長を想定しない機械的な訓練の指導者のことだと思われるが，現在ではそのような教師像に対しては否定的な見解が多い。加えて，技術開発の現場で実際に行われているのは都合の悪いデータセットまたはモデルの除去・整形と一定のバイアスを付与するための調整である。人間の教師が人間の生徒に対して同じことを実行す
ると，その行為は，「洗脳」または「思想統制」もしくは「思想強制」として理解される。日本国憲
法及び国連の児童の権利条約の下において，そのような行為は禁止される。それゆえ，ここで「教師」という語を用いのは適切ではない。人間の「教師」の役割がそのようなものだと誤解される危険性があるからである。
一般に，教師は，調教師ではない。より正確に言えば，動物の調教師の場合であっても，調教の対象とする動物の個性・特徴・能力を 100％把握し，当該動物から信頼されるような態
様でその動物の能力が最大限発揮されるように調教を実施するのでなければ，所期の効果をあげることなどできない。「教師あり学習」との訳における「教師」とは，教師ではなく，独裁主義の国における軍事教練のようなものを想定しているのではないか疑われる。そのような場合の軍事教練の指導者・指揮官は，絶対服従の上官ではあり得ても，教師ではない。
以上の諸点を考慮に入れた上で，この参考訳においては，「supervised learning」を「監督あり学習」と訳し，「unsupervised learning」を「監督なし学習」と訳すことにした。
Trade name「trade name」は，日本国法の下においては「商号」のことを指す。しかし，人工知能規則案の別紙 VIII の第 4 項においては，AI システムの商品名，製品名またはサービス名を意味するものとして，「trade name」が用いられており，日本国法における商号とは別の意味をもつものとしてこの語が用いられていることを知ることができる。
そこで，この参考訳においては，他の箇所も含め，「trade name」を一律に「取引上の名称」と訳すことにした。

339

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Non-learnable parameters
第 3 条第 30 号の中にある「non-learnable parameters」は，直訳では，「学習できないパラメータ」となる。しかし，人工知能規則案で想定している「non-learnable parameters」は，設計段階で誤っていたために学習されなかったパラメータの補正や再設計を含め，訓練や試験の過程において学習されなかったパラメータであり，かつ，補正や再設計により調整されることが想定されているパラメータのことを指すと解される。論理的に学習不可能なパラメータであり，かつ，補正や再設計が不可能なものは，調整の対象とはならず，廃棄となる。ただし，そもそも原文（英文）が不完全な文である可能性は残る。
それゆえ，この参考訳においては，その意味を反映させるため，「non-learnable parameters」
を「学習していないパラメータ」と訳すことにした。
Jurisdiction
一般に，「jurisdiction」は，主権国家の裁判管轄権またはそれが及ぶ地理的範囲のことを意味する。そのことから，（主権国家の権能としての）「裁判管轄権」とは，（各国の訴訟制度に従って定められる裁判所の個々の管轄権を指す場合とは異なり）国家主権の及ぶ地理的範
囲そのもののことを示し，更に，国家主権を構成する行政権を執行可能な地理的範囲を示す概念である。集合論としては，個々の行政官庁の権限は，当該国の国家主権の範囲内に包摂されることから，一般に，ここでいう意味での「裁判管轄権（jurisdiction）」は，当該国の主権の及び範囲を示すためにも，また，個々の行政機関の権限または所管事項を総称的に示すためにも用いられることが多い。
人工知能規則案の第 64 条第 3 項の中にある「jurisdiction」に関しては，EU の関連構成国の国家主権の下にある行政機関の権限または所管事項を総称的に示すために「jurisdiction」
を用いていると解した上で，その「jurisdiction」を「裁判管轄権」と訳すことにした。
以上のほかは，後掲規則(EU) 2020/1783 の参考訳，後掲規則(EU) 2020/1784 の参考訳，後掲規則(EU) 2021/693 の参考訳，後掲規則(EU) 2021/694 の参考訳，後掲理事会決議(2020/C 342 I/01)の参考訳，後掲 e-Justice 決議 2008/2125 の参考訳，後掲電子識別規則(EU)No 910/2014 の参考訳及び後掲 e-CODEX 規則案の参考訳の各冒頭部分で述べたとおりである。
４．関連参考訳及び参考文献
規則(EU) 2020/1783 の参考訳は，法と情報雑誌 6 巻 5 号 1～81 頁にある。規則(EU)2020/1784 の参考訳は，法と情報雑誌 6 巻 5 号 82～159 頁にある。規則(EU) 2021/693 の参考訳は，法と情報雑誌 6 巻 4 号 440～486 頁にある。規則(EU) 2021/694 の参考訳は，法と情報雑誌 6 巻 1 号 1～104 頁にある。理事会決議(2020/C 342 I/01)の参考訳は，法と情報雑誌 6
巻 4 号 513～537 頁にある。e-Justice 決議 2008/2125 の参考訳は，法と情報雑誌6 巻 4 号487
340

法と情報雑誌 6 巻 5 号（2021 年 11 月）～512 頁にある。e-CODEX 規則案の参考訳は，法と情報雑誌 6 巻 5 号 233～319 頁にある。
オープンデータ指令(EU) 2019/1024 の参考訳は，法と情報雑誌 5 巻 1 号 57～136 頁にある。電子商取引指令 2000/31/EC の参考訳は，法と情報雑誌 3 巻 1 号 110～141 頁にある。営
業秘密指令(EU) 2016/943 の参考訳は，法と情報雑誌 2 巻 9 号 489～514 頁にある。電子識
別規則(EU) No 910/2014 の参考訳は，法と情報雑誌 2 巻 10 号 147～196 頁にある。
規則(EC) No 810/2009（Visa Code）第 54 条による改正後の VIS 規則(EC) No 767/2008 の
参考訳は，法と情報雑誌 2 巻 5 号 49～59 頁にある。規則(EU) 2018/1861 の参考訳は，法と情報雑誌 4 巻 4 号 89～146 頁にある。理事会決定 2008/633/JHA の参考訳は，法と情報雑誌
2 巻 8 号 48～66 頁にある。ETIAS 規則(EU) 2018/1240 の参考訳は，法と情報雑誌 4 巻 3 号
42～137 頁にある。規則(EU) 2016/399（シェンゲンボーダーコード）の参考訳は，法と情報雑誌 2 巻 7 号 1～82 頁にある。入国／出国システム（EES）規則(EU) 2017/ 2226 の参考訳は，
法と情報雑誌 3 巻 3 号 201～300 頁にある。ECRIS-TCN 規則(EU) 2019/ 816 の参考訳は，
法と情報雑誌 4 巻 6 号 176～208 頁にある。相互運用性規則(EU) 2019/817 の参考訳は，法と情報雑誌 4 巻 8 号 79～157 頁にある。相互運用性規則(EU) 2019/818 の参考訳は，法と情報雑誌 4 巻 8 号 158～231 頁にある。eu-LISA 規則(EU) 2018/1726 の参考訳は，法と情報雑誌 4 巻 3 号138～188 頁にある。規則(EU) 2018/1241 による改正後の Europol 規則(EU) 2016/
794 の参考訳は，法と情報雑誌 4 巻 4 号 8～68 頁にある。理事会枠組み決定 2002/584/JHAの参考訳は，法と情報雑誌 4 巻 5 号 185～213 頁にある。EURES 規則(EU) 2016/589 の参考訳は，法と情報雑誌 3 巻 5 号 133～167 頁にある。規則(EU) 2019/881（Cybersecurity Act）の参考訳・改訂版は，法と情報雑誌 4 巻 8 号 16～86 頁にある。
委員会通知 COM(2020) 66 final（欧州データ戦略）の参考訳は，法と情報雑誌 5 巻 2 号 1～83 頁にある。欧州データ空間通知 COM(2018) 232 final の参考訳は，法と情報雑誌 3 巻
10 号 107～127 頁にある。欧州のための人工知能通知 COM(2018) 237 final の参考訳は，法と情報雑誌 3 巻 9 号 198～232 頁にある。データ駆動型経済通知 COM(2014) 442 final の参考訳は，法と情報雑誌 3 巻 4 号 128～146 頁にある。先端デジタル技術の法的責任に関する欧州委員会スタッフ作業文書 SWD (2018) 137 final の参考訳は，法と情報雑誌 3 巻 9 号 233～268 頁にある。ロボット法の制定を求める欧州議会決議の参考訳は，法と情報雑誌 2 巻 5
号 436～490 頁にある。
規則(EU) 2018/1725 の参考訳は，法と情報雑誌4巻1 号1～81 頁にある。指令2002/58/ECの参考訳・改訂版は，法と情報雑誌 2 巻 5 号 158～187 頁にある。規則(EU) 2016/679（一般
データ保護規則）の参考訳・再訂版は，法と情報雑誌 3 巻 5 号 1～114 頁にある。指令(EU)2016/680 の参考訳は，法と情報雑誌 2 巻 1 号 41～140 頁にある。
規則(EU) No 182/2011 の参考訳は，法と情報雑誌 3 巻 5 号 168～179 頁にある。
この参考訳の校正に関し，唐亀侑久氏（株式会社ラック）の助力を得た。
この参考訳は，科学研究費補助金基盤研究(B)（19KT0014）及び科学研究費補助金基盤研究(A)（15H01928）による研究成果の一部である。
＊＊＊
341

法と情報雑誌 6 巻 5 号（2021 年 11 月）

人工知能に関する整合化された規定を定め，
欧州連合の一定の立法行為を改正する
欧州議会及び理事会の規則（人工知能法）の提案（COM/2021/206 final）
Proposal for a Regulation of the European Parliament and of the Council on Regulation laying down
harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union
Legislative Acts（COM/2021/206 final）
＊＊＊
説 明 書
Explanatory Memorandum
1．提案の過程
Context of the Proposal
1.1 提案の理由及び目的
Reasons for and objectives of the proposal
この説明書には，人工知能に関する整合化された規定を定める規則の提案（人工知能法）が附属している。人工知能（AI）は，産業界及び社会活動の全範囲にわたり幅広い経済的及び社会的な受益をもたらし得る急速に進化している技術ファミリーである。予測を向上させること，業務遂行及び資源配分を最適化すること，及び，サービス提供を個別化することにより，人工知能の利用は，社会上及び環境上の受益の結果を支援でき，また，企業及び欧州経済に対して鍵となる競争上の優位を提供できる。そのような活動は，気候変動，環境及び医療，公的部門，金融，モビリティ，
内務及び農業を含め，特に大きな影響をもつ部門において必要である。しかしながら，AI の社会
経済的な受益の原動力となっている同一の要素及び技術は，個人または社会に対し，新たなリス
クまたは負の結果のようなものももたらし得る。技術の変化の速度及び発生し得る問題に照らし，EU は，バランスのとれたアプローチのための努力することを約束している。EU の技術上のリーダーシップを維持すること，そして，開発され，欧州連合の価値，基本的な権利及び基本原則に従って稼働する新たな技術から欧州が受益できることを確保することは，欧州連合の利益となるものである。
This explanatory memorandum accompanies the proposal for a Regulation laying down harmonised rules
on artificial intelligence (Artificial Intelligence Act). Artificial Intelligence (AI) is a fast evolving familyof technologies that can bring a wide array of economic and societal benefits across the entire spectrum of
industries and social activities. By improving prediction, optimising operations and resource allocation,and personalising service delivery, the use of artificial intelligence can support socially and342

法と情報雑誌 6 巻 5 号（2021 年 11 月）
environmentally beneficial outcomes and provide key competitive advantages to companies and theEuropean economy. Such action is especially needed in high-impact sectors, including climate change,
environment and health, the public sector, finance, mobility, home affairs and agriculture. However, thesame elements and techniques that power the socio-economic benefits of AI can also bring about new
risks or negative consequences for individuals or the society. In light of the speed of technological change
and possible challenges, the EU is committed to strive for a balanced approach. It is in the Union interest
to preserve the EU’s technological leadership and to ensure that Europeans can benefit from newtechnologies developed and functioning according to Union values, fundamental rights and principles.
この提案は，議長 von der Leyen による政治的な約束を提供する。議長は，彼女の 2019 年～2024
年のための施政方針である欧州委員会「一層努力する欧州連合」1の中で，AI の人道上及び倫理上の意味合いに関する欧州の調整されたアプローチのための立法を欧州委員会が推進するであろうと表明した。この表明の後，2020 年 2 月 19 日に，欧州委員会は，AI に関する白書－洗練と信頼への欧州のアプローチ2を刊行した。白書は，AI を取り込むことの促進とそのような技術の一定の利用に伴うリスクへの対処という双子の目的をどのようにして達成するかに関する政策上の選択肢を設定している。この提案は，信頼性のある AI のための法的枠組みを提案することによる信頼のエコシステムの発展のために，第二の目的を実装することを狙いとしている。この提案は，
EU の価値と基本的な権利を基礎とするものであり，企業に対して AI の開発を奨励しつつ，人々
及びその他の利用者に対して AI ベースのソリューションを利用することへの信頼を与えることを狙いとしている。AI は，人々にとってのツールであり，かつ，人間の福利を向上させることを究極の狙いとしてもつ社会の中の善のための力であるべきである。それゆえ，欧州連合の市場内で利用可能な AI のための法令またはその他の欧州連合内の人々に影響を及ぼすものは，人間中心のものであるべきであり，それによって，安全な方法で，かつ，基本的な権利の尊重を含め，法律を遵守して技術が用いられると人々が信頼できるようにすべきである。白書の刊行の後，欧州委員会は，広範な利害関係者とのコンサルテーションを開始した。それは，AI の利用増加によって生ずる問題と懸念に対処するための法令による介入を大きく支持する多数の利害関係者の大きな関心と邂逅するものであった。
This proposal delivers on the political commitment by President von der Leyen, who announced in her
political guidelines for the 2019-2024 Commission “A Union that strives for more” 1, that the Commission
would put forward legislation for a coordinated European approach on the human and ethical implicationsof AI. Following on that announcement, on 19 February 2020 the Commission published the White Paper
on AI - A European approach to excellence and trust 2. The White Paper sets out policy options on how toachieve the twin objective of promoting the uptake of AI and of addressing the risks associated with certain
uses of such technology. This proposal aims to implement the second objective for the development of an
ecosystem of trust by proposing a legal framework for trustworthy AI. The proposal is based on EU values
12

https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_en.pdf
欧州委員会，人工知能に関する白書－洗練と信頼への欧州のアプローチ，COM(2020) 65 final, 2020.

343

法と情報雑誌 6 巻 5 号（2021 年 11 月）
and fundamental rights and aims to give people and other users the confidence to embrace AI-based
solutions, while encouraging businesses to develop them. AI should be a tool for people and be a force forgood in society with the ultimate aim of increasing human well-being. Rules for AI available in the Union
market or otherwise affecting people in the Union should therefore be human centric, so that people cantrust that the technology is used in a way that is safe and compliant with the law, including the respect offundamental rights. Following the publication of the White Paper, the Commission launched a broad
stakeholder consultation, which was met with a great interest by a large number of stakeholders who werelargely supportive of regulatory intervention to address the challenges and concerns raised by theincreasing use of AI.
提案は，欧州議会（EP）及び欧州理事会からの明示の要請に応えるものでもある。それらは，AIの受益とリスクの両者が欧州連合レベルで適切に対処される人工知能システム（「AIシステム」）のための良好に稼働する域内市場を確保するための立法活動を繰り返し明示で求めていた。それは，欧州連合が，欧州理事会3によって述べられているような安全であり，信頼性があり，かつ，倫理的な人工知能の開発におけるグローバルなリーダーとなるという目的を支えるものであり，また，
欧州議会4から特に要請されたような倫理上の基本原則の保護を確保するものである。
The proposal also responds to explicit requests from the European Parliament (EP) and the European
Council, which have repeatedly expressed calls for legislative action to ensure a well-functioning internalmarket for artificial intelligence systems (‘AI systems’) where both benefits and risks of AI are adequately
addressed at Union level. It supports the objective of the Union being a global leader in the developmentof secure, trustworthy and ethical artificial intelligence as stated by the European Council 3 and ensures
the protection of ethical principles as specifically requested by the European Parliament 4.
2017 年，欧州理事会は，「人工知能のような検討課題」を含め，「最新の傾向に対処するための緊急の感覚」…「それは，同時に，高いレベルのデータ保護，デジタル権利及び倫理基準を確保すること」を求めた5。欧州連合内で製造される人工知能の開発及び利用に関する調整された計画に関する 2019 年の決議6の中で，理事会は，欧州の市民の権利が完全に尊重されることが確保されることの重要性を更に強調し，かつ，AI によって生じた新たな機会と問題の目的のために適合させるため，既存の関連立法の見直しを求めた。欧州理事会もまた，高リスクであると判断されるべき AI アプリケーションの明確な確定を求めた7。

欧州理事会，欧州理事会の特別会合（2020 年 10 月 1 日及び 2 日）－決議，EUCO 13/20, 2020, p. 6.
人工知能，産業用ロボット及び関連技術の倫理上の側面の枠組みに関する欧州議会の 2020 年10 月
20 日の決議及び欧州委員会への勧告，2020/2012(INL).
5
欧州理事会，欧州理事会の会合（2017 年 10 月 19 日）－決議，EUCO 14/17, 2017, p. 8.
6
欧州連合の理事会，人工知能 b) 人工知能に関する調整された計画に関する決議－採択 6177/19,
2019.
7
欧州理事会，欧州理事会の特別会合（2020 年 10 月 1 日及び 2 日）－決議，EUCO 13/20, 2020
3
4

344

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In 2017, the European Council called for a ‘sense of urgency to address emerging trends’ including ‘issues
such as artificial intelligence …, while at the same time ensuring a high level of data protection, digitalrights and ethical standards’ 5. In its 2019 Conclusions on the Coordinated Plan on the development anduse of artificial intelligence Made in Europe 6, the Council further highlighted the importance of ensuringthat European citizens’ rights are fully respected and called for a review of the existing relevant legislation
to make it fit for purpose for the new opportunities and challenges raised by AI. The European Council
has also called for a clear determination of the AI applications that should be considered high-risk 7.
2020 年 10 月 21 日からのごく最近の決議は，一定の AI システムの不透明さ，複雑性，バイアス，
一定程度の予測不可能性及び部分的に自律的な振る舞いに対処するため，AI システムの基本的な権利との互換性を確保すること，そして，法令上の規定の執行を容易にすることを更に求めた8。
The most recent Conclusions from 21 October 2020 further called for addressing the opacity, complexity,
bias, a certain degree of unpredictability and partially autonomous behaviour of certain AI systems, toensure their compatibility with fundamental rights and to facilitate the enforcement of legal rules 8.
欧州議会もまた，AI の分野における大量の仕事に従事した。2020 年 10 月，欧州議会は，倫理9，
法的責任10及び著作権11と関係するものを含め，AI と関連する多数の決議を採択した。2021 年，
それらの決議に続いて，刑事における AI に関する決議12，並びに，教育，文化及び視聴覚部門
における AI に関する決議13が行われた。人工知能，産業用ロボット及び関連技術の倫理の側面の枠組みに関する EP 決議は，特に，欧州委員会に対し，AI の機会と受益を掴むためであると共に，倫理上の原則の保護を確保するためでもある立法行為を提案することを勧告している。この決議は，AI，産業用ロボット及び関連技術の開発，配置及び利用のための倫理上の基本原則に関する規則のための立法提案の正文を含めている。TFEU の第 225 条に基づき欧州議会によって採択された決議に関し，von der Leyen 議長によって，彼女の施政方針の中で行われた政治的欧州連合の理事会，議長国決議－人工知能及びデジタル変化の文脈における基本的な権利の憲章，
11481/20, 2020.
9
人工知能，産業用ロボット及び関連技術の倫理上の側面の枠組みに関する 2020 年 10 月 20 日の欧州議会決議，2020/2012(INL) .
10
人工知能に関する民事責任制度に関する 2020 年 10 月 20 日の欧州議会決議，2020/2014(INL) .
11
人工知能技術開発に関する知的財産権に関する 2020 年 10 月 20 日の欧州議会決議，
2020/2015(INI).
12
欧州議会報告書案，刑事法における人工知能並びに警察及び刑事における法務機関によるその利用，2020/2016(INI) .
13
欧州議会報告書案，教育，文化及び視聴覚部門における人工知能，2020/2017(INI). この点に関し，
欧州委員会は，教育における AI とデータの利用における倫理上の運用指針の策定を見越して，デジタル教育行動計画 2021-2027：デジタル時代の教育及び訓練の再編－委員会通知 COM (2020) 624
final を採択した。
8345

法と情報雑誌 6 巻 5 号（2021 年 11 月）
な約束に従い，この提案は，比例性，補完性及びより良い立法という基本原則を全面的に尊重して，欧州議会の上述の決議を考慮に入れている。
The European Parliament has also undertaken a considerable amount of work in the area of AI. In October
2020, it adopted a number of resolutions related to AI, including on ethics 9, liability 10 and copyright 11. In
2021, those were followed by resolutions on AI in criminal matters 12 and in education, culture and theaudio-visual sector 13. The EP Resolution on a Framework of Ethical Aspects of Artificial Intelligence,
Robotics and Related Technologies specifically recommends to the Commission to propose legislative
action to harness the opportunities and benefits of AI, but also to ensure protection of ethical principles.
The resolution includes a text of the legislative proposal for a regulation on ethical principles for thedevelopment, deployment and use of AI, robotics and related technologies. In accordance with thepolitical commitment made by President von der Leyen in her Political Guidelines as regards resolutions
adopted by the European Parliament under Article 225 TFEU, this proposal takes into account the
aforementioned resolution of the European Parliament in full respect of proportionality, subsidiarity andbetter law making principles.
この政治的な文脈に対して，欧州委員会は，以下の個別対象をもつ，人工知能に関する法令上の枠組みの提案を提出する：

欧州連合の市場に置かれ，利用される AI システムが，安全であり，かつ，基本的な権
利及び欧州連合の利益に関する既存の法律を尊重することを確保すること；AI への投資及び技術革新を容易にするための法的安定性を確保すること；
基本的な権利及び AI システムに適用可能な安全義務に関する統治及び既存の法律の執行を拡大すること；

適法であり，安全であり，かつ，信頼性のある AI アプリケーションのための単一市場の発展を容易にすること，及び，市場の断片化を防止すること。
Against this political context, the Commission puts forward the proposed regulatory framework on
Artificial Intelligence with the following specific objectives:ensure that AI systems placed on the Union market and used are safe and respect existing law
on fundamental rights and Union values;
ensure legal certainty to facilitate investment and innovation in AI;enhance governance and effective enforcement of existing law on fundamental rights andsafety requirements applicable to AI systems;
facilitate the development of a single market for lawful, safe and trustworthy AI applications
and prevent market fragmentation.
それらの目的を達成するため，この提案は，技術の発展を不適正に抑制または阻害することなく，
または，それ以外に AI ソリューションを市場に置く費用を不適切に増加させることなく，AI と結びつけられたリスク及び問題に対処するために必要となるミニマムの要件に限定して，バランスがと346

法と情報雑誌 6 巻 5 号（2021 年 11 月）
れ，かつ，AI への比例的で横断的な法令上のアプローチを提供する。この提案は，堅牢かつ柔軟な法的枠組みを定める。一方において，提案は，AI システムがそれを遵守すべき基本原則ベースの要件を含め，その基本的な法令上の選択において包括的かつ将来耐性をもつものである。
他方において，提案は，取引に対して不必要な制限をつくり出すことのない明確に定義されたリスクベースの法令上のアプローチに集中した適切な法制度を設け，それによって，正当化される懸念の原因が存在し，または，そのような懸念が近い将来に合理的に予想され得る具体的な状況がある場合に法律上の介入を限定する。それと同時に，その法的枠組みは，技術の進化と新たな懸念状況が生じたときに動的に調整され得る柔軟な仕組みを含むものである。
To achieve those objectives, this proposal presents a balanced and proportionate horizontal regulatory
approach to AI that is limited to the minimum necessary requirements to address the risks and problems
linked to AI, without unduly constraining or hindering technological development or otherwise
disproportionately increasing the cost of placing AI solutions on the market. The proposal sets a robust
and flexible legal framework. On the one hand, it is comprehensive and future-proof in its fundamental
regulatory choices, including the principle-based requirements that AI systems should comply with. On
the other hand, it puts in place a proportionate regulatory system centred on a well-defined risk-based
regulatory approach that does not create unnecessary restrictions to trade, whereby legal intervention is
tailored to those concrete situations where there is a justified cause for concern or where such concern canreasonably be anticipated in the near future. At the same time, the legal framework includes flexible
mechanisms that enable it to be dynamically adapted as the technology evolves and new concerning
situations emerge.
提案は，適切なリスクベースのアプローチに従った欧州連合内における AIシステムの開発，市場に置くこと，及び，利用のための整合性のある規定を定める。提案は，AI の将来耐性のある単一の定義を提案する。法執行の目的のためのリモート生体要素識別システムの一定の利用と関係して制限及び安全確保が提案されるが，一定の特に危険な AI 実務は，欧州連合の価値と矛盾するものとして禁止される。提案は，人の健康と安全または基本的な権利に対して大きなリスクを示す「高リスク」AI システムを定義するための堅実なリスク手法を定めている。それらの AI システムは，
信頼性のある AI のための横断的な強行的な要件のセットを遵守しなければならず，かつ，それらのシステムが欧州連合の市場に置かれ得る前に適合性評価に従うことになる。AI システムの全ラ
イフサイクルを通じて安全性を確保し，かつ，基本的な権利を保護する既存の立法を尊重すべき
予測可能で，比例的で明確なそれらのシステムの提供者及び利用者の義務も設けられる。幾つかの特別な AI システムに関しては，とりわけ，チャットボットまたは「ディープフェイク」が利用される場合，ミニマムの透明性義務のみが提案されている。
The proposal sets harmonised rules for the development, placement on the market and use of AI systems
in the Union following a proportionate risk-based approach. It proposes a single future-proof definition of
AI. Certain particularly harmful AI practices are prohibited as contravening Union values, while specificrestrictions and safeguards are proposed in relation to certain uses of remote biometric identification347

法と情報雑誌 6 巻 5 号（2021 年 11 月）
systems for the purpose of law enforcement. The proposal lays down a solid risk methodology to define“high-risk” AI systems that pose significant risks to the health and safety or fundamental rights of persons.
Those AI systems will have to comply with a set of horizontal mandatory requirements for trustworthy
AI and follow conformity assessment procedures before those systems can be placed on the Union market.
Predictable, proportionate and clear obligations are also placed on providers and users of those systems toensure safety and respect of existing legislation protecting fundamental rights throughout the whole AI
systems’ lifecycle. For some specific AI systems, only minimum transparency obligations are proposed,in particular when chatbots or ‘deep fakes’ are used.
提案されている規定は，既に存在する統治構造を基礎として，構成国レベルで統治制度を介して，また，欧州人工知能委員会の設置と共に，欧州連合レベルにおける協力の仕組みを介して執行されることになる。とりわけ，AI 法定サンドボックスを通じて，並びに，法令上の負担を削減するため，そして，中小企業（「SMEs」）とスタートアップを支援するための他の措置を通じて，技術革新を支援するための付加的な措置も提案されている。
The proposed rules will be enforced through a governance system at Member States level, building on
already existing structures, and a cooperation mechanism at Union level with the establishment of aEuropean Artificial Intelligence Board. Additional measures are also proposed to support innovation, inparticular through AI regulatory sandboxes and other measures to reduce the regulatory burden and tosupport Small and Medium-Sized Enterprises (‘SMEs’) and start-ups.
1.2 政策分野の既存の基本方針条項との一貫性
Consistency with existing policy provisions in the policy area
提案の横断的な性質は，高リスク AI システムが既に利用されている部門，または，近い将来に利用される可能性のある部門に適用可能な既存の欧州連合の立法と完全に一貫性があることを要求する。
The horizontal nature of the proposal requires full consistency with existing Union legislation applicable
to sectors where high-risk AI systems are already used or likely to be used in the near future.
一貫性は，EU 基本権憲章との間，並びに，データ保護，消費者保護，非差別及びジェンダーの平等に関する欧州連合の既存の二次立法との間においても確保される。提案は，一般データ保護規則（規則(EU) 2016/679）及び法執行指令（指令(EU) 2016/680）を妨げず，かつ，一定の高リス
ク AI システムの設計，開発及び利用に適用可能な整合化された規定のセット及び一定のリモート
生体要素識別システムの制限によって補完される。更に，提案は，とりわけ，試験，リスク管理，文書化及び人間による監視に関する義務を補完する AI システムの開発のためにその AI システムの全ライフサイクルを通じて利用されるデータセットの設計及び品質との関係において，アルゴリ
ズムによる差別のリスクを最小化することを狙いとする特別の要件によって，非差別に関する既存348

法と情報雑誌 6 巻 5 号（2021 年 11 月）の欧州連合法を補完している。提案は，欧州連合の競争法の適用を妨げない。
Consistency is also ensured with the EU Charter of Fundamental Rights and the existing secondary Union
legislation on data protection, consumer protection, non-discrimination and gender equality. The proposal
is without prejudice and complements the General Data Protection Regulation (Regulation (EU)2016/679) and the Law Enforcement Directive (Directive (EU) 2016/680) with a set of harmonised rules
applicable to the design, development and use of certain high-risk AI systems and restrictions on certain
uses of remote biometric identification systems. Furthermore, the proposal complements existing Union
law on non-discrimination with specific requirements that aim to minimise the risk of algorithmic
discrimination, in particular in relation to the design and the quality of data sets used for the developmentof AI systems complemented with obligations for testing, risk management, documentation and humanoversight throughout the AI systems’ lifecycle. The proposal is without prejudice to the application ofUnion competition law.
製品の安全性構成要素である高リスク AI システムに関しては，一貫性を確保し，重複を避け，かつ，付加的な負担をミニマム化するため，この提案は，既存の部門別安全性立法の中に統合されることになる。とりわけ，新立法枠組み（NLF）の立法（例：機械，医療機器，玩具）の適用のある製品と関連する高リスク AI システムに関しては，この提案に定める AI システムの要件は，関連 NLF
立法に基づく既存の適合性評価手続の一部として点検を受けることになる。要件の相互作用に関して，AI システムに固有の安全性リスクはこの提案の要件の適用を受けるということを意味するとはいえ，NLF 立法は，最終製品の全体的な安全性を確保することを狙いとしており，それゆえ，最終製品の中への AI システムの安全の統合に関する個別の要件を含め得る。この提案と同じ日に採択される機械規則の提案は，このアプローチを全面的に反映している。関連する古いアプロー
チの立法（例：航空機，自動車）の適用のある製品と関連する高リスクAIシステムに関しては，この提案は，直接的には適用されない。ただし，この提案に定める高リスク AI システムに関する事前の必須要件は，それらの法令の関連実装立法及び委任立法を採択する際，考慮に入れなければならなくなる。
As regards high-risk AI systems which are safety components of products, this proposal will be integrated
into the existing sectoral safety legislation to ensure consistency, avoid duplications and minimise
additional burdens. In particular, as regards high-risk AI systems related to products covered by the New
Legislative Framework (NLF) legislation (e.g. machinery, medical devices, toys), the requirements for AI
systems set out in this proposal will be checked as part of the existing conformity assessment procedures
under the relevant NLF legislation. With regard to the interplay of requirements, while the safety risks
specific to AI systems are meant to be covered by the requirements of this proposal, NLF legislation aims
at ensuring the overall safety of the final product and therefore may contain specific requirements
regarding the safe integration of an AI system into the final product. The proposal for a Machinery
Regulation, which is adopted on the same day as this proposal fully reflects this approach. As regards
high-risk AI systems related to products covered by relevant Old Approach legislation (e.g. aviation, cars),349

法と情報雑誌 6 巻 5 号（2021 年 11 月）
this proposal would not directly apply. However, the ex-ante essential requirements for high-risk AI
systems set out in this proposal will have to be taken into account when adopting relevant implementing
or delegated legislation under those acts.
規制を受ける信用機関によって提供または利用される AI システムに関しては，欧州連合の金融サービス立法の監督に関する職責を負う機関は，AI システムが，信用機関の内部統制システムとの関係における黙示に規制された範囲内にある場合において，この提案及び欧州連合の金融サ
ービス立法に基づく義務の一貫性のある執行を確保するため，この提案の要件の監視に関して職務権限のある機関が指定されるべきである。一貫性を更に拡大するため，この提案に基づく適合性評価手続及び幾つかの信用供与者の手続義務は，信用機関の活動へのアクセス及び健全性監督に関する指令 2013/36/EU14に基づく手続の中に統合される。
As regards AI systems provided or used by regulated credit institutions, the authorities responsible for thesupervision of the Union’s financial services legislation should be designated as competent authorities forsupervising the requirements in this proposal to ensure a coherent enforcement of the obligations under
this proposal and the Union’s financial services legislation where AI systems are to some extent implicitly
regulated in relation to the internal governance system of credit institutions. To further enhance consistency,
the conformity assessment procedure and some of the providers’ procedural obligations under this
proposal are integrated into the procedures under Directive 2013/36/EU on access to the activity of credit
institutions and the prudential supervision 14.
この提案は，電子商取引指令 2000/31/EC15及び欧州委員会の近時のデジタルサービス法（DSA）の提案16によって規制を受ける中間介在サービスに関するものを含め，サービスに関する欧州連合の適用可能な立法とも一貫性がある。
This proposal is also consistent with the applicable Union legislation on services, including on
intermediary services regulated by the e-Commerce Directive 2000/31/EC15 and the Commission’s recent
proposal for the Digital Services Act (DSA) 16.
大規模 IT システムの業務運営管理のための欧州連合局（eu-LISA）によって運営管理される自由，
保安及び法務の領域における大規模 IT システムの構成要素である AI システムに関しては，提信用機関の活動へのアクセス並びに信用機関及び投資企業の健全性監督に関する，指令
2002/87/EC を改正し，指令 2006/48/EC 及び指令 2006/49/EC を廃止する欧州議会及び理事会の 2013年 6 月 26 日の指令 2013/36/EU, OJ L 176, 27.6.2013, p. 338-436.
15
域内市場における情報社会サービスの一定の法的側面，とりわけ電子商取引に関する欧州議会及び理事会の 2000 年 6 月 8 日の指令 2000/31/EC（「電子商取引に関する指令」）, OJ L 178, 17.7.2000, p.
1-16.
16デジタルサービスのための単一市場に関する，及び，指令 2000/31/EC を改正する欧州議会及び理事会の規則（デジタルサービス法）の提案 COM/2020/825 final 参照。
14350

法と情報雑誌 6 巻 5 号（2021 年 11 月）
案は，その AI システムまたは関係する AI システムの設計または所期の目的に大きな変更を生じさせる法令の置き換えまたは改正がない限り，この規則の適用の日から 1 年以上前に市場に置かれまたはサービスに供された AI システムには適用されない。
In relation to AI systems that are components of large-scale IT systems in the Area of Freedom, Security
and Justice managed by the European Union Agency for the Operational Management of Large-Scale IT
Systems (eu-LISA), the proposal will not apply to those AI systems that have been placed on the market
or put into service before one year has elapsed from the date of application of this Regulation, unless thereplacement or amendment of those legal acts leads to a significant change in the design or intended
purpose of the AI system or AI systems concerned.
1.3. 欧州連合の他の政策との一貫性
Consistency with other Union policies
提案は，AI に関する白書の中で検討されたような AI の開発及び利用によって示される問題に対処する更に広範な措置パッケージの一部である。それゆえ，一貫性と補完性は，部門別の製品立法（例：機械指令，一般製品安全性指令）の改訂を含め，これらの問題に対処することも狙いとする欧州委員会の現在進行中または計画中の別の取り組み，並びに，AI システムを含め，新たな技術と関連する法的責任の問題に対処する取り組みによって確保される。それらの取り組みは，
法的明確性をもたらし，かつ，欧州における AI への信頼のエコシステムの発展を育成するため，
この提案を基礎とし，かつ，補完することになる。
The proposal is part of a wider comprehensive package of measures that address problems posed by thedevelopment and use of AI, as examined in the White Paper on AI. Consistency and complementarity istherefore ensured with other ongoing or planned initiatives of the Commission that also aim to address
those problems, including the revision of sectoral product legislation (e.g. the Machinery Directive, theGeneral Product Safety Directive) and initiatives that address liability issues related to new technologies,
including AI systems. Those initiatives will build on and complement this proposal in order to bring legal
clarity and foster the development of an ecosystem of trust in AI in Europe.
提案は，通知「欧州のデジタル未来を描く」17の中で表明された政策上の方向性及び目的の主要な 3 つの柱の 1 つである人々のために働く技術を促進することへの欧州委員会の貢献における欧州委員会のデジタル戦略全体との一貫性もある。提案は，AI が人々の権利を尊重し，人々の信頼を獲得し，欧州をデジタル時代に適合させ，そして，次の数十年間をデジタル時代18へと転換させる方法で開発されることを確保するための一貫性があり，実効性があり，かつ，比例的な枠組みを定める。
17
18

欧州委員会からの通知，欧州のデジタル未来を描く，COM/2020/67 final.
2030 デジタル羅針盤：デジタル時代への欧州のやり方

351

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The proposal is also coherent with the Commission’s overall digital strategy in its contribution topromoting technology that works for people, one of the three main pillars of the policy orientation andobjectives announced in the Communication ‘Shaping Europe's digital future’ 17. It lays down a coherent,
effective and proportionate framework to ensure AI is developed in ways that respect people’s rights andearn their trust, making Europe fit for the digital age and turning the next ten years into the Digital Decade
18.
更に，AI 駆動型の技術革新を促進することは，データ統治法19，オープンデータ指令20及び EUのデータ戦略21の下にある他の取り組みと緊密に結びつけられている。それらは，高品質なデー
タ駆動型 AI モデルの発展のために必須であるデータの二次利用，共有及び貯蔵のための信頼性のある仕組み及びサービスを構築することになる。
Furthermore, the promotion of AI-driven innovation is closely linked to the Data Governance Act 19, theOpen Data Directive 20 and other initiatives under the EU strategy for data 21, which will establish trusted
mechanisms and services for the re-use, sharing and pooling of data that are essential for the development
of data-driven AI models of high quality.
提案は，グローバルな規範と標準を形成すること，そして，欧州連合の価値及び利益と一貫性のある信頼性のある AI を促進することを助けるための欧州連合の役割を大きく強化するものでもある。提案は，欧州連合に対し，第三国を含め，欧州連合の対外パートナーとの間において，及び，国際的な場において，AI と関連する問題に関して更に取り組むための強力な基礎を提供する。
The proposal also strengthens significantly the Union’s role to help shape global norms and standards andpromote trustworthy AI that is consistent with Union values and interests. It provides the Union with apowerful basis to engage further with its external partners, including third countries, and at international
fora on issues relating to AI.
2. 法的根拠，補完性及び比例性
Legal Basis, Subsidiarity and Proportionality
2.1 法的根拠
Legal Basis
提案の法的根拠は，第一次的には，域内市場の構築及び稼働を確保するための措置の採択を
欧州のデータ統治に関する規則（データ統治法）の提案 COM/2020/767.
オープンデータ及び公的部門の情報の二次利用に関する欧州議会及び理事会の 2019 年 6 月 20日の指令(EU) 2019/1024, OJ L 172, 26.6.2019, p. 56–83.
21
委員会通知，欧州データ戦略 COM/2020/66 final.
19
20

352

法と情報雑誌 6 巻 5 号（2021 年 11 月）
定める欧州連合の機能に関する条約（TFEU）の第 114 条である。
The legal basis for the proposal is in the first place Article 114 of the Treaty on the Functioning of theEuropean Union (TFEU), which provides for the adoption of measures to ensure the establishment andfunctioning of the internal market.
この提案は，EU のデジタル単一市場戦略のコアとなる部分を組成する。この提案の主目的は，とりわけ，AI 技術を活用する製品及びサービスまたはスタンドアロンの AI システムとして提供される製品及びサービスの開発，欧州連合の市場に置くこと，及び，利用に関する整合化された規定を定めることにより，域内市場の適正な稼働を確保することにある。幾つかの構成国は，AI が安全であること，そして，基本的な権利の義務を遵守して AI が開発及び利用されることを確保するための国内法令を既に検討しつつある。このことは，2 つの大きな問題を導く可能性がある：すなわ
ち，i) とりわけ，AI の製品及びサービス，それらのマーケティング，それらの利用，法的責任及び行政機関による監督に関する要件と関連する必須の要素の域内市場の断片化，そして，ii) 欧州
連合内において既存の法令及び新規の法令がそれらのシステムにどのように適用されることにな
るのかに関し，AI システムの提供者と利用者の両方にとっての法的安定性の大きな減衰である。
国境を越える製品及びサービスの広範な循環に鑑み，これら 2 つの問題は，EU の整合化された立法を通じて最善に解決され得る。
This proposal constitutes a core part of the EU digital single market strategy. The primary objective of this
proposal is to ensure the proper functioning of the internal market by setting harmonised rules in particularon the development, placing on the Union market and the use of products and services making use of AI
technologies or provided as stand-alone AI systems. Some Member States are already considering
national rules to ensure that AI is safe and is developed and used in compliance with fundamental rights
obligations. This will likely lead to two main problems: i) a fragmentation of the internal market on
essential elements regarding in particular the requirements for the AI products and services, theirmarketing, their use, the liability and the supervision by public authorities, and ii) the substantial
diminishment of legal certainty for both providers and users of AI systems on how existing and new rules
will apply to those systems in the Union. Given the wide circulation of products and services acrossborders, these two problems can be best solved through EU harmonizing legislation.
無論，提案は，整合化された技術標準を通じて更に運用可能なものとなる市場にそれらのシステ
ムが置かれる前に，一定の AI システムの設計及び開発に適用可能な共通の強行的な要件を定義する。提案は，事後の監督が行われる方法を整合化することによってAIシステムが市場に置かれた後の状況にも対処している。
Indeed, the proposal defines common mandatory requirements applicable to the design and developmentof certain AI systems before they are placed on the market that will be further operationalised throughharmonised technical standards. The proposal also addresses the situation after AI systems have been353

法と情報雑誌 6 巻 5 号（2021 年 11 月）
placed on the market by harmonising the way in which ex-post controls are conducted.
加えて，個人データの処理と関連する個人の保護に関する一定の特別の規定，特に，公衆がアクセス可能な場における法執行の目的のための「リアルタイム」のリモート生体要素識別のためのAIシステムの利用の制限をこの提案が含めていることに鑑み，それらの特別の規定が関係する限り，
TFEU の第 16 条をもってこの規則の基礎とすることが適切である。
In addition, considering that this proposal contains certain specific rules on the protection of individuals
with regard to the processing of personal data, notably restrictions of the use of AI systems for ‘real-time’
remote biometric identification in publicly accessible spaces for the purpose of law enforcement, it isappropriate to base this regulation, in as far as those specific rules are concerned, on Article 16 of theTFEU.
2.2 （非独占的な職務権限に関する）補完性
Subsidiarity (for non-exclusive competence)
しばしば大規模で様々なデータセットに依拠するものであり，また，域内市場内で支障なく循環する製品またはサービスの中に組み込まれ得るという AI の性質は，この提案の目的が，構成国のみによっては実効的に達成されないということを伴う。更に，潜在的に多様なものである国内法令のパッチワークが出現することは，EU 全域にわたる AI システムと関連する製品及びサービスの切れ目のない循環を損ねることとなり，また，異なる構成国にわたり，安全及び基本的な権利と欧州連合の価値の保護を確保することに負の影響を与えることになる。この問題に対処する国内アプローチは，法的不安定性と障壁を付加的につくり出すだけであり，また，市場が AI を取り込む
ことを遅らせることになる。
The nature of AI, which often relies on large and varied datasets and which may be embedded in any
product or service circulating freely within the internal market, entails that the objectives of this proposal
cannot be effectively achieved by Member States alone. Furthermore, an emerging patchwork ofpotentially divergent national rules will hamper the seamless circulation of products and services related
to AI systems across the EU and will be ineffective in ensuring the safety and protection of fundamental
rights and Union values across the different Member States. National approaches in addressing the
problems will only create additional legal uncertainty and barriers, and will slow market uptake of AI.
この提案の目的は，AI を組み込んだ物品及びサービスの支障のない循環を妨げる潜在的に矛盾した国内枠組みの中へと単一市場を更に断片化させることを避けるため，欧州連合レベルでより良く達成され得る。信頼性のある AI のための欧州の堅実な法令上の枠組みは，AI における欧州の競争力と産業基盤を強化しつつ，平等な活動の場を確保し，そして，全ての人々を保護するものでもある。また，欧州連合レベルの共通の行動のみが，欧州連合のデジタル主権を保護し，かつ，グローバルな規定と標準を描くための欧州連合のツールと法令上の権限を支え得る。
354

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The objectives of this proposal can be better achieved at Union level to avoid a further fragmentation of
the Single Market into potentially contradictory national frameworks preventing the free circulation of
goods and services embedding AI. A solid European regulatory framework for trustworthy AI will also
ensure a level playing field and protect all people, while strengthening Europe’s competitiveness andindustrial basis in AI. Only common action at Union level can also protect the Union’s digital sovereignty
and leverage its tools and regulatory powers to shape global rules and standards.
2.3 比例性
Proportionality
リスクベースのアプローチに従っており，かつ，基本的な権利及び安全に対して AI システムが高いリスクを示している可能性がある場合に限って提案が法令上の負担を課しているので，提案は，既存の法的枠組みを基礎としており，かつ，その目的を達成するために比例的かつ必要である。
それ以外の非高リスク AI システムに関しては，例えば，人間との間でやりとりする際の AI システ
ムの利用にフラグを立てるための情報の提供の面において，非常に限定された透明性義務のみが課される。高リスク AI システムに関しては，AI によって示されている基本的な権利及び安全へのリスクを緩和するため，高品質のデータ，文書化及びトレーサビリティ，透明性，人間による監視，
正確性と堅牢性の要件が厳格に必要なものとされ，それらの要件は，他の既存の法律上の枠組みに含まれていない。整合化された技術標準並びに支援の指針及び法令遵守ツールは，提案によって定められる要件の遵守において提供者と利用者を補助し，そして，それらの者の費用負担をミニマム化する。運用者にかかる費用は，達成されるべき目的，並びに，運用者がこの提案から期待し得る経済的利益及び評判上の利益と比例的である。
The proposal builds on existing legal frameworks and is proportionate and necessary to achieve its
objectives, since it follows a risk-based approach and imposes regulatory burdens only when an AI system
is likely to pose high risks to fundamental rights and safety. For other, non-high-risk AI systems, only very
limited transparency obligations are imposed, for example in terms of the provision of information to flag
the use of an AI system when interacting with humans. For high-risk AI systems, the requirements of highquality data, documentation and traceability, transparency, human oversight, accuracy and robustness, arestrictly necessary to mitigate the risks to fundamental rights and safety posed by AI and that are notcovered by other existing legal frameworks. Harmonised standards and supporting guidance andcompliance tools will assist providers and users in complying with the requirements laid down by the
proposal and minimise their costs. The costs incurred by operators are proportionate to the objectives
achieved and the economic and reputational benefits that operators can expect from this proposal.
2.4 法律文書の選択
Choice of the instrument
法律文書として規則を選択することは，AI の定義，一定の危険な AI によって実現可能化される実355

法と情報雑誌 6 巻 5 号（2021 年 11 月）
務及び一定の AI システムの分類のような，新たな規定の統一的な適用の必要性によって正当化される。規則の直接的な適用は，TFEU の第288 条に従い，法的な断片化を削減し，また，適法であり，安全であり，かつ，信頼性のある AI システムのための単一市場の開発を容易にする。提案
は，とりわけ，高リスクとして分類された AI システムと関連するコア要件とそれらのシステムの提供者と利用者の義務の整合化されたセットを導入し，基本的な権利の保護を向上させ，かつ，運用者と消費者に対して等しく法的安定性を提供することにより，そのようにする。
The choice of a regulation as a legal instrument is justified by the need for a uniform application of the
new rules, such as definition of AI, the prohibition of certain harmful AI-enabled practices and theclassification of certain AI systems. The direct applicability of a Regulation, in accordance with Article
288 TFEU, will reduce legal fragmentation and facilitate the development of a single market for lawful,safe and trustworthy AI systems. It will do so, in particular, by introducing a harmonised set of corerequirements with regard to AI systems classified as high-risk and obligations for providers and users of
those systems, improving the protection of fundamental rights and providing legal certainty for operatorsand consumers alike.
それと同時に，規則の条項は，過度に規範的なものではなく，また，この取り組みの目的を阻害しない要素のための異なるレベルの構成国の活動，とりわけ，国内の市場調査システムの組織，及び，技術革新を育成するための措置の採用のための余地をのこしている。
At the same time, the provisions of the regulation are not overly prescriptive and leave room for different
levels of Member State action for elements that do not undermine the objectives of the initiative, inparticular the internal organisation of the market surveillance system and the uptake of measures to foster
innovation.
3. 事後評価，利害関係者とのコンサルテーション及び影響評価の結果
Results of ex post Evaluations, Stakeholder consultations and Impact Assessments
3.1 利害関係者とのコンサルテーション
Stakeholder consultation
この提案は，全ての主要な利害関係者との間の拡大されたコンサルテーションの成果物である。
そのコンサルテーションにおいては，欧州委員会によって，利害関係者のコンサルテーションのための基本原則とミニマムの基準が適用された。
This proposal is the result of extensive consultation with all major stakeholders, in which the generalprinciples and minimum standards for consultation of interested parties by the Commission were applied.
人工知能に関する白書の刊行と共に，2020 年2 月 19 日にオンラインのパブリックコンサルテーシ356

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ョンが開始され，2020 年 6 月 14 日まで続けられた。そのコンサルテーションの目的は，白書に関する見解と意見を収集することにあった。そのコンサルテーションは，政府，地方機関，営利組織
及び非営利組織，ソーシャルパートナー，専門家，学術団体及び市民を含め，公的部門及び民間部門からの利害のある全ての利害関係者を対象とした。受領した全ての回答を分析した後，欧州委員会は，その結果要旨と個々の回答を欧州委員会の Web サイト上で公表した22。
An online public consultation was launched on 19 February 2020 along with the publication of the White
Paper on Artificial Intelligence and ran until 14 June 2020. The objective of that consultation was to collectviews and opinions on the White Paper. It targeted all interested stakeholders from the public and private
sectors, including governments, local authorities, commercial and non-commercial organisations, social
partners, experts, academics and citizens. After analysing all the responses received, the Commission
published a summary outcome and the individual responses on its website 22.
全体として，1215 の回答を受領し，その中の 352 は，会社または企業団体／企業協会からの回答，
406 は，個人（EU 内の個人は 92％）からの回答，152 は，学術機関／調査研究機関を代表する回答，そして，73 は，行政機関からの回答であった。市民社会の声は，160 の回答者（内訳は，9 の消費者団体，129 の非政府組織，及び，22 の労働組合），「その他」と回答した 72 の回答者によって代表された。352 の企業及び産業界代表の中の 222 は会社及び企業代表であり，その中の41.5％はマイクロ企業，小規模企業及び中規模企業であった。その余は，企業協会であった。回
答全体の中で企業及び産業界からの回答の 84％は，EU の 27 か国からの回答であった。異なる
質問事項に応じて，81 から 598 の回答者は，自由記述欄を用いて意見を記入した。質問事項への回答に付加する意見書（400 超）及び単独の回答書（50 超）の計 450 を超える意見書が EU
Survey の Web サイトを介して提出された。
In total, 1215 contributions were received, of which 352 were from companies or businessorganisations/associations, 406 from individuals (92% individuals from EU), 152 on behalf ofacademic/research institutions, and 73 from public authorities. Civil society’s voices were represented by
160 respondents (among which 9 consumers’ organisations, 129 non-governmental organisations and 22
trade unions), 72 respondents contributed as ‘others’. Of the 352 business and industry representatives,
222 were companies and business representatives, 41.5% of which were micro, small and medium-sizedenterprises. The rest were business associations. Overall, 84% of business and industry replies came fromthe EU-27. Depending on the question, between 81 and 598 of the respondents used the free text option
to insert comments. Over 450 position papers were submitted through the EU Survey website, either in
addition to questionnaire answers (over 400) or as stand-alone contributions (over 50).
全体として，利害関係者の間において，行動の必要性に関する一般的な同意が存在した。利害関係者の大多数は，立法上の間隙が存在すること，または，新たな立法が必要であることに同意
22

コンサルテーションの全ての結果については，ここを見よ。

357

法と情報雑誌 6 巻 5 号（2021 年 11 月）している。しかしながら，複数の利害関係者は，欧州委員会に対し，重複，義務の衝突及び過剰規制を避けるべきであると警告している。技術的中立性と比例的な法令枠組みの重要性を支持する多数の意見があった。
Overall, there is a general agreement amongst stakeholders on a need for action. A large majority of
stakeholders agree that legislative gaps exist or that new legislation is needed. However, several
stakeholders warn the Commission to avoid duplication, conflicting obligations and overregulation. There
were many comments underlining the importance of a technology neutral and proportionate regulatory
framework.
利害関係者は，多くの場合，限定的で，明確かつ詳細な AI の定義を要求した。利害関係者は，
AI という用語を明確化した上で，「リスク」，「高リスク」，「低リスク」，「リモート生体要素識別」及び「危害」を定義することが重要であることも強調した。
Stakeholders mostly requested a narrow, clear and precise definition for AI. Stakeholders also highlighted
that besides the clarification of the term of AI, it is important to define ‘risk’, ‘high-risk’, ‘low-risk’,‘remote biometric identification’ and ‘harm’.
回答者の大半は，リスクベースのアプローチに明示で好意的である。リスクベースの枠組みを用いることは，全ての AI システムの包括的な規制よりも良い選択肢だと判断された。リスク及び脅威のタイプは，部門毎及び案件毎のアプローチを基礎とすべきである。リスクもまた，権利及び安全に対する影響を考慮に入れて計算されるべきである。
Most of the respondents are explicitly in favour of the risk-based approach. Using a risk-based framework
was considered a better option than blanket regulation of all AI systems. The types of risks and threats
should be based on a sector-by-sector and case-by-case approach. Risks also should be calculated taking
into account the impact on rights and safety.
法定サンドボックスは，AI の促進のために非常に有用なものであり得るし，また，一定の利害関係者，特に事業者協会からの賛成を受けた。
Regulatory sandboxes could be very useful for the promotion of AI and are welcomed by certain
stakeholders, especially the Business Associations.
執行のモデルに関してその意見を形成した利害関係者の中で，50％超の者，特に事業者協会からの者は，リスクの事前自己評価と高リスク AI システムに関する事後執行との組み合わせに賛成した。
Among those who formulated their opinion on the enforcement models, more than 50%, especially from358

法と情報雑誌 6 巻 5 号（2021 年 11 月）
the business associations, were in favour of a combination of an ex-ante risk self-assessment and an expost enforcement for high-risk AI systems.
3.2 専門知識の収集と利用
Collection and use of expertise23

提案は，2 年間の分析，そして，学術団体，企業，ソーシャルパートナー，非政府組織，構成国及び市民を含め，利害関係者の緊密な参加を基礎としている。準備作業は，人工知能に関する欧州委員会の戦略の実装に関する委員会に助言するという職務を負う包摂的かつ広範な 52 名の著名専門家という構成をもつ AI に関するハイレベル専門家グループ（HLEG）を設置し，2018 年に開始された。2019 年 4 月，欧州委員会は，信頼性のある AI のための HLEG 運用指針 23 に定める鍵となる要求事項を支持した24。その運用指針は，利害関係者からの 500 を超える回答提出を考慮に入れるために改訂された。鍵となる要求事項は，一定の価値指向性のある基本原則によってAI の開発及び利用が導かれるべきであるという，欧州の内外の多数の民間組織及び公的組織によって策定された多数の倫理コード及び基本原則により証明される広範かつ一般的なアプローチを反映している。人工知能の信頼性に関する評価リスト（ALTAI）25は，350 を超える組織の実証実
験過程においてそれらの要求事項を運用できるようにした。
The proposal builds on two years of analysis and close involvement of stakeholders, including academics,
businesses, social partners, non-governmental organisations, Member States and citizens. The preparatory
work started in 2018 with the setting up of a High-Level Expert Group on AI (HLEG) which had an
inclusive and broad composition of 52 well-known experts tasked to advise the Commission on theimplementation of the Commission’s Strategy on Artificial Intelligence. In April 2019, the Commission
supported 23 the key requirements set out in the HLEG ethics guidelines for Trustworthy AI 24, which had
been revised to take into account more than 500 submissions from stakeholders. The key requirements
reflect a widespread and common approach, as evidenced by a plethora of ethical codes and principles
developed by many private and public organisations in Europe and beyond, that AI development and use
should be guided by certain essential value-oriented principles. The Assessment List for Trustworthy
Artificial Intelligence (ALTAI) 25 made those requirements operational in a piloting process with over 350
organisations.
加えて，年次の AI 総会に参集して AI の技術上及び社会的な影響を討議するための約 4000 の利害関係者のためのプラットフォームとして，AI アライアンス26が形成された。

欧州委員会, 人間中心の人工知能への信頼の構築, COM(2019) 168.
HLEG, 信頼性のある AI のための倫理運用指針, 2019.
25
HLEG, 自己評価のための信頼性のある人工知能に関する評価リスト（ALTAI）, 2020.
26
AI アライアンスは，2018 年 6 月に開始された多角的な利害関係者のフォーラムである。
AI Alliance https://ec.europa.eu/digital-single-market/en/european-ai-alliance
23
24

359

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In addition, the AI Alliance 26 was formed as a platform for approximately 4000 stakeholders to debate
the technological and societal implications of AI, culminating in a yearly AI Assembly.
AI に関する白書は，450 を超える追加的な意見書を含め，1250 を超える利害関係者からの意
見をもたらし，この包摂的なアプローチを更に発展させた。その結果として，欧州委員会は，開始影響評価を刊行した。それは，130 を超える回答意見を受けた27。追加的な利害関係者のワ
ークショップ及びイベントも組織され，その結果は，その影響評価における分析及びこの提案の中で行われている政策上の選択を支持している28。その影響評価の中にフィードさせるため，ある外部委託研究も調達された。
The White Paper on AI further developed this inclusive approach, inciting comments from more than
1250 stakeholders, including over 450 additional position papers. As a result, the Commission
published an Inception Impact Assessment, which in turn attracted more than 130 comments 27.
Additional stakeholder workshops and events were also organised the results of which support theanalysis in the impact assessment and the policy choices made in this proposal 28. An external study
was also procured to feed into the impact assessment.
3.3 影響評価
Impact assessment「より良い規制」の基本方針に沿って，欧州委員会は，欧州委員会の法令審査委員会によって吟味されるこの提案のための影響評価を実施した。法令審査委員会の会合は，2020 年 12 月 16 日に開催され，消極の意見となった。その意見に対応するための影響評価書の大きな改訂が行われ，影響評価の再度の申込みを経て，法令審査委員会は，2021 年 3 月 21 日に積極の意見を発した。法令審査委員会の意見，勧告及び同委員会がどのように考えたかの説明書は，影響評価
書の別紙 1 に示されている。
In line with its “Better Regulation” policy, the Commission conducted an impact assessment for this
proposal examined by the Commission's Regulatory Scrutiny Board. A meeting with the Regulatory
Scrutiny Board was held on 16 December 2020, which was followed by a negative opinion. After
substantial revision of the impact assessment to address the comments and a resubmission of the impact
assessment, the Regulatory Scrutiny Board issued a positive opinion on 21 March 2021. The opinions of
the Regulatory Scrutiny Board, the recommendations and an explanation of how they have been taken
into account are presented in Annex 1 of the impact assessment.

欧州委員会, 人工知能のための要求事項を定める欧州議会及び理事会の法行為の提案のための開始影響評価28実施された全てのコンサルテーションの結果の詳細に関しては，影響評価書の別紙 2 参照。
27

360

法と情報雑誌 6 巻 5 号（2021 年 11 月）
欧州委員会は，提案の一般目的を達成するための政策上の異なる選択肢を検討した。その一般目的とは，欧州連合における信頼性のある AI の開発及び利用のための条件を創設することにより，単一市場の適正な稼働を確保することである。
The Commission examined different policy options to achieve the general objective of the proposal,
which is to ensure the proper functioning of the single market by creating the conditions for thedevelopment and use of trustworthy AI in the Union.
法令による介入の 4 つの異なる段階における政策上の選択肢が評価された：
選択肢 1：任意のラベリング制度を定める EU の法律文書；
選択肢 2：部門別の「アドホック」アプローチ；
選択肢 3：適切なリスクベースのアプローチを伴う Horizon EU 立法上の法律文書；
選択肢 3+：適切なリスクベースのアプローチ＋非高リスク AI システムのための行動準則を伴う Horizon EU 立法上の法律文書；
選択肢 4：AI システムが示すリスクとは無関係に，全ての AI システムに関する強行的な要件を定める Horizon EU 立法上の法律文書。
Four policy options of different degrees of regulatory intervention were assessed:
Option 1: EU legislative instrument setting up a voluntary labelling scheme;
Option 2: a sectoral, “ad-hoc” approach;Option 3: Horizontal EU legislative instrument following a proportionate risk-based approach;Option 3+: Horizontal EU legislative instrument following a proportionate risk-based approach+ codes of conduct for non-high-risk AI systems;

Option 4: Horizontal EU legislative instrument establishing mandatory requirements for all AI
systems, irrespective of the risk they pose.
欧州委員会の確立された手法に従い，基本的な権利に対する影響に特に的を絞り，経済的及び社会的な影響に照らして，個々の政策上の選択肢が評価された。優先選択肢は選択肢 3+，すな
わち，非高リスク AI システムの全ての提供者に関して行動準則によることを可能とし，高リスク AI
システムのみに関する法令上の枠組みである。要件は，データ，文書化及びトレーサビリティ，情報の提供と透明性，人間による監視及び堅牢性と正確性となり，高リスク AI システムに関しては強行的なものとなり得る。別の AI システムのための行動準則を導入する企業は，任意にそのようにし得る。
According to the Commission's established methodology, each policy option was evaluated against
economic and societal impacts, with a particular focus on impacts on fundamental rights. The preferred
option is option 3+, a regulatory framework for high-risk AI systems only, with the possibility for all
providers of non-high-risk AI systems to follow a code of conduct. The requirements will concern data,
documentation and traceability, provision of information and transparency, human oversight and361

法と情報雑誌 6 巻 5 号（2021 年 11 月）
robustness and accuracy and would be mandatory for high-risk AI systems. Companies that introduced
codes of conduct for other AI systems would do so voluntarily.
優先選択肢は，最も実効性のある方法でこの提案の目的を達成するために適していると判断された。AIの開発者及び利用者に対して限定的ではあるけれども実効性のある行動のセットを要求することにより，優先選択肢は，そのような侵害を発生させ得る高いリスクが存在する場合，システムに対する要件のみに的を絞ることにより，基本的な権利の侵害のリスクと人々の安全のリスクを抑制し，かつ，実効的な監督と執行を育成する。その結果として，その選択肢は，法令遵守費用をミニマム化することを維持し，そして，より高い価格と遵守費用のゆえに採用の不必要な遅速化を避けることを維持する。SMEs にとってあり得る不利に対処するため，この選択肢は，法定サンドボックスの創設，及び，適合性評価と関連する手数料を定める際に SMEs の利益を考慮すべき義務を含め，SMEs の法令遵守とその費用削減を支援するための幾つかの条項を含める。
The preferred option was considered suitable to address in the most effective way the objectives of this
proposal. By requiring a restricted yet effective set of actions from AI developers and users, the preferred
option limits the risks of violation of fundamental rights and safety of people and foster effective
supervision and enforcement, by targeting the requirements only to systems where there is a high risk thatsuch violations could occur. As a result, that option keeps compliance costs to a minimum, thus avoiding
an unnecessary slowing of uptake due to higher prices and compliance costs. In order to address possible
disadvantages for SMEs, this option includes several provisions to support their compliance and reduce
their costs, including creation of regulatory sandboxes and obligation to consider SMEs interests whensetting fees related to conformity assessment.
優先選択肢は，人々のAIへの信頼を増加させ，企業は法的安定性を獲得し，そして，構成国は，単一市場を断片化させ得る一方的な行動をとるための理由を見出さなくなる。より高い信頼によるより高い需要の結果として，法的安定性によってより多くの提供が可能となり，そして，AI システムの国境を越える移動の障害が存在しなくなり，AI のための単一市場が繁栄することになる。欧州
連合は，デジタル自律性を増加させることをもたらす AI 技術を組み込んだ革新的なサービスと製品及びスタンドアロンの AI システムの急速に成長する AI エコシステムを発展させ続けることになる。
The preferred option will increase people’s trust in AI, companies will gain in legal certainty, and Member
States will see no reason to take unilateral action that could fragment the single market. As a result ofhigher demand due to higher trust, more available offers due to legal certainty, and the absence of obstacles
to cross-border movement of AI systems, the single market for AI will likely flourish. The European
Union will continue to develop a fast-growing AI ecosystem of innovative services and products
embedding AI technology or stand-alone AI systems, resulting in increased digital autonomy.
市民の安全または基本的な権利に対する高いリスクを組成する AI アプリケーションを開発または362

法と情報雑誌 6 巻 5 号（2021 年 11 月）
利用する企業または行政機関は，特別の要件及び義務を遵守しなければならない。それらの要件を遵守することは，2025 年までに，約 17 万ユーロの平均的な高リスク AI システムの供給のための約 6000 ユーロないし 7000 ユーロの額の費用負担となることを意味し得る。AI の利用者にとって，利用の場合の相違に応じて，それが適切なときは人間による監視に費やされる時間のための毎年の費用が存在し得ることになる。それらの費用は，毎年約 5000 ユーロないし 8000 ユーロと推定された。高リスク AI の供給者にとって，更に，検証の費用が 3000 ユーロないし 7500 ユー
ロの額となり得る。高リスクとして分類されない AI アプリケーションを開発または利用する企業または行政機関は，情報提供という最小限の義務を負うのみとなる。ただし，それらの者は，適切な要件に従うための行動準則を他の者と共に共同して採択し，それらの者の AI システムが信頼性のあるものであることを確保することを選択し得る。そのような場合，高リスク AI システムに関するものと同じくらいの額となり得るが，おそらく，もっと低額となり得る。
Businesses or public authorities that develop or use AI applications that constitute a high risk for the safety
or fundamental rights of citizens would have to comply with specific requirements and obligations.
Compliance with these requirements would imply costs amounting to approximately EUR € 6000 to EUR€ 7000 for the supply of an average high-risk AI system of around EUR € 170000 by 2025. For AI users,
there would also be the annual cost for the time spent on ensuring human oversight where this isappropriate, depending on the use case. Those have been estimated at approximately EUR € 5000 to EUR€ 8000 per year. Verification costs could amount to another EUR € 3000 to EUR € 7500 for suppliers ofhigh-risk AI. Businesses or public authorities that develop or use any AI applications not classified as highrisk would only have minimal obligations of information. However, they could choose to join others andtogether adopt a code of conduct to follow suitable requirements, and to ensure that their AI systems aretrustworthy. In such a case, costs would be at most as high as for high-risk AI systems, but most probably
lower.
異なるカテゴリの利害関係者（経済取引主体／企業；適合性評価組織，標準化組織及びそれ以外の公的組織；個人／市民；研究者）に対する政策上の選択肢の影響は，この提案を支える影響評
価書の別紙 3 の中でその詳細が説明されている。
The impacts of the policy options on different categories of stakeholders (economic operators/ business;
conformity assessment bodies, standardisation bodies and other public bodies; individuals/citizens;
researchers) are explained in detail in Annex 3 of the Impact assessment supporting this proposal.
3.4 法令適合性と簡素化
Regulatory fitness and simplification
この提案は，高リスク AI システムの提供者及び利用者に適用されることになる義務を定める。そのようなシステムを開発し，欧州連合の市場に置く提供者にとって，提案は，法的安定性をつくり出し，かつ，AI と関連するサービス及び製品の国境を越える提供を妨げる障害が生じないことを363

法と情報雑誌 6 巻 5 号（2021 年 11 月）
確保することになる。AI を利用する企業にとって，提案は，それらの企業の顧客の間の信頼を向上させることになる。国内行政機関にとって，提案は，AI の利用における公衆の信頼を向上させ，また，（欧州の調整の仕組みを導入し，適切な実行能力を提供し，そして，文書化，トレーサビリテ
ィ及び透明性に関する新たな要件による AI システムの監査を容易にすることにより）執行の仕組みを強化することになる。更に，その枠組みは，法定サンドボックスを含め，技術革新を支える特別の措置，及び，高リスク AI システムの小規模な利用者及び提供者が新たな規定を遵守することを支援する特別の措置を想定することになる。
This proposal lays down obligation that will apply to providers and users of high-risk AI systems. For
providers who develop and place such systems on the Union market, it will create legal certainty andensure that no obstacle to the cross-border provision of AI-related services and products emerge. For
companies using AI, it will promote trust among their customers. For national public administrations, itwill promote public trust in the use of AI and strengthen enforcement mechanisms (by introducing a
European coordination mechanism, providing for appropriate capacities, and facilitating audits of the AI
systems with new requirements for documentation, traceability and transparency). Moreover, theframework will envisage specific measures supporting innovation, including regulatory sandboxes andspecific measures supporting small-scale users and providers of high-risk AI systems to comply with the
new rules.
提案は，AI における欧州の競争力と産業基盤を強化することも特に狙いとしている。AI システムに適用可能な（例えば，製品とサービスに関する）欧州連合の既存の部門別立法との完全な一貫性が確保され，それは，新たな規定の執行の更なる明確性と簡素化をもたらすことになる。
The proposal also specifically aims at strengthening Europe’s competitiveness and industrial basis in AI.
Full consistency is ensured with existing sectoral Union legislation applicable to AI systems (e.g. on
products and services) that will bring further clarity and simplify the enforcement of the new rules.
3.5 基本的な権利
Fundamental rights
AI 固有の特性（例：不透明性，複雑性，データへの依存，自律的な振る舞い）をもつ AI の利用は，
EU の基本権憲章（「憲章」）に掲げられた多数の基本的な権利に負の影響を与え得る。この提案
は，それらの基本的な権利の高いレベルの保護を確保することを求め，かつ，明確に定義されたリスクベースのアプローチを通じて，リスクの様々な発生源に対処することを狙いとしている。信頼性のある AI のための要件のセットと価値連鎖の全ての参加者に対する比例的な義務によって，提案は，憲章によって保護された権利：すなわち，人間の尊厳の権利（第 1 条），私生活の尊重と個人データの保護（第 7 条及び第 8 条），非差別（第 21 条），及び，女性と男性の間の平等（第 23条）の保護を拡大し，促進することになる。提案は，表現の自由（第 11 条）及び集会の自由（第 12条）の権利に対する萎縮効果を避けること，実効的な救済及び公正な裁判を受ける権利，防御の364

法と情報雑誌 6 巻 5 号（2021 年 11 月）
権利の保護及び無罪の推定（第 47 条及び第 48 条）並びによい行政の一般原則を確保することを狙いとしている。更に，一定の局面において適用可能なときは，提案は，労働者の公正かつ正当な労働条件の権利（第 31 条），高いレベルの消費者保護（第 28 条），児童の権利（第 24 条）及び障害をもつ者の社会統合（第 26 条）のような，多数の特別のグループの権利に積極の影響を与えることになる。人々の健康及び安全との関係を含め，高いレベルの環境保護及び環境の質の向上の権利（第 37 条）も関連性がある。事前の試験，リスク管理及び人間の監視に関する義務は，教育及び訓練，雇用，重要なサービス，法執行及び法務当局のような，重要な分野における AIに補助された誤った判断または偏った判断のリスクをミニマム化することにより，上記以外の基本的な権利の尊重も促進することになる。それでも基本的な権利の侵害が発生する場合，強力な事
後監督と共に，その AI システムの透明性とトレーサビリティを確保することにより，被害者のための実効性のある救済が行われ得る。
The use of AI with its specific characteristics (e.g. opacity, complexity, dependency on data, autonomous
behaviour) can adversely affect a number of fundamental rights enshrined in the EU Charter ofFundamental Rights (‘the Charter’). This proposal seeks to ensure a high level of protection for thosefundamental rights and aims to address various sources of risks through a clearly defined risk-based
approach. With a set of requirements for trustworthy AI and proportionate obligations on all value chain
participants, the proposal will enhance and promote the protection of the rights protected by the Charter:
the right to human dignity (Article 1), respect for private life and protection of personal data (Articles 7
and 8), non-discrimination (Article 21) and equality between women and men (Article 23). It aims toprevent a chilling effect on the rights to freedom of expression (Article 11) and freedom of assembly(Article 12), to ensure protection of the right to an effective remedy and to a fair trial, the rights of defence
and the presumption of innocence (Articles 47 and 48), as well as the general principle of goodadministration. Furthermore, as applicable in certain domains, the proposal will positively affect the rights
of a number of special groups, such as the workers’ rights to fair and just working conditions (Article 31),
a high level of consumer protection (Article 28), the rights of the child (Article 24) and the integration of
persons with disabilities (Article 26). The right to a high level of environmental protection and theimprovement of the quality of the environment (Article 37) is also relevant, including in relation to thehealth and safety of people. The obligations for ex ante testing, risk management and human oversightwill also facilitate the respect of other fundamental rights by minimising the risk of erroneous or biased
AI-assisted decisions in critical areas such as education and training, employment, important services, law
enforcement and the judiciary. In case infringements of fundamental rights still happen, effective redressfor affected persons will be made possible by ensuring transparency and traceability of the AI systems
coupled with strong ex post controls.
この提案は，健康，安全，消費者保護及びその他の基本的な権利の保護のような公共の利益という優先する理由の遵守を確保するため（「責任ある技術革新」），高リスク AI 技術が開発され，利用される場合，企業活動を営む自由（第 16 条）並びに芸術及び科学の自由（第 13 条）に対する幾つかの制限を課している。それらの制限は，比例的なものであり，かつ，安全上の重大なリスク及365

法と情報雑誌 6 巻 5 号（2021 年 11 月）
び基本的な権利の侵害のおそれを防止及び緩和するために最小限必要なものに限定される。
This proposal imposes some restrictions on the freedom to conduct business (Article 16) and the freedomof art and science (Article 13) to ensure compliance with overriding reasons of public interest such as
health, safety, consumer protection and the protection of other fundamental rights (‘responsible
innovation’) when high-risk AI technology is developed and used. Those restrictions are proportionate
and limited to the minimum necessary to prevent and mitigate serious safety risks and likely infringementsof fundamental rights.
透明性の義務を増加させることは，個人がその実効性のある救済の権利を行使するために必要なミニマムの情報，そして，監督機関及び執行機関の任務に沿って，それらの機関に向けて必要な透明性のみにその透明性の義務が限定されることから，知的財産の保護の権利（第 17条第 2 項）を不当に害することにはならない。その情報の違法な入手，利用及び開示に対する
非開示のノウハウ及び企業情報（営業秘密）の保護に関する指令 2016/943 を含め，情報の開示は，その分野の関連立法を遵守して行われることになる。行政機関及び指定組織が，重要な義務の遵守を検討するために，機密情報またはソースコードへのアクセスを与えられる必要があるときは，それらの者は，機密保持義務に拘束される状態に置かれる。
The increased transparency obligations will also not disproportionately affect the right to protection of
intellectual property (Article 17(2)), since they will be limited only to the minimum necessary
information for individuals to exercise their right to an effective remedy and to the necessarytransparency towards supervision and enforcement authorities, in line with their mandates. Any
disclosure of information will be carried out in compliance with relevant legislation in the field,
including Directive 2016/943 on the protection of undisclosed know-how and business information(trade secrets) against their unlawful acquisition, use and disclosure. When public authorities andnotified bodies need to be given access to confidential information or source code to examinecompliance with substantial obligations, they are placed under binding confidentiality obligations.
4. 予算上の影響
Budgetary Implications
構成国は，立法上の要件を実装する職責を負う監督機関を指定しなければならなくなる。それらの機関の監督権限は，例えば，適合性評価組織または市場の監視と関連する既存の手配を基礎とし得るが，十分な技術的専門知識及び人的資源と財政上の資源を必要とすることになる。各構
成国における既存の構造の相違により，構成国当たり 1 ないし 25 フルタイム当量の額となり得る。
Member States will have to designate supervisory authorities in charge of implementing the legislativerequirements. Their supervisory function could build on existing arrangements, for example regarding366

法と情報雑誌 6 巻 5 号（2021 年 11 月）
conformity assessment bodies or market surveillance, but would require sufficient technological expertiseand human and financial resources. Depending on the pre-existing structure in each Member State, this
could amount to 1 to 25 Full Time Equivalents per Member State.
含まれる費用の細目的な概要は，この提案書と一体となる「財政見積書」の中で提供される。
A detailed overview of the costs involved is provided in the ‘financial statement’ linked to this proposal.
5. その他の要素
Other Elements
5.1 実装計画並びに監視，評価及び報告の手配
Implementation plans and monitoring, evaluation and reporting arrangements
堅牢な監視と評価の仕組みを定めることは，提案の個別対象の達成において提案が実効的なものであることを確保するために必須である。欧州委員会は，提案の効果を監視する職責を負うことになる。欧州委員会は，EU 規模の公的データベースにスタンドアロンの高リスク AI アプリケーシ
ョンを登録するためのシステムを構築する。この登録は，職務権限のある機関，利用者及びそれら以外の利害をもつ者が，提案の中に定められている要件を高リスク AI システムが遵守しているか否かを検証すること，そして，基本的な権利を損なう高いリスクを示す AI システムに対する拡大された監督を実行することも実現可能にする。このデータベースにフィードするため，AI の提供
者は，その提供者のシステム及びその提供者のシステムに関して実施された適合性評価に関する意味のある情報を提供することを義務づけられることになる。
Providing for a robust monitoring and evaluation mechanism is crucial to ensure that the proposal will beeffective in achieving its specific objectives. The Commission will be in charge of monitoring the effectsof the proposal. It will establish a system for registering stand-alone high-risk AI applications in a public
EU-wide database. This registration will also enable competent authorities, users and other interested
people to verify if the high-risk AI system complies with the requirements laid down in the proposal andto exercise enhanced oversight over those AI systems posing high risks to fundamental rights. To feed thisdatabase, AI providers will be obliged to provide meaningful information about their systems and theconformity assessment carried out on those systems.
更に，AI 提供者は，それに気づいたときは直ちに，基本的な権利の義務違反を組成するインシ
デントまたは誤作動に関して，並びに，AI システムのリコールまたは市場からの引き上げに関して，職務権限のある国内機関に対して連絡することを義務づけられる。その場合，職務権限のある国内機関は，インシデントまたは誤作動を調査し，必要な全ての情報を収集し，かつ，欧州委員会に対し，定期的に，適切なメタデータと共にその情報を送信する。欧州委員会は，AI のための367

法と情報雑誌 6 巻 5 号（2021 年 11 月）
市場全体の包括的な分析によって，そのインシデントに関する情報を補足する。
Moreover, AI providers will be obliged to inform national competent authorities about serious incidents
or malfunctioning that constitute a breach of fundamental rights obligations as soon as they become awareof them, as well as any recalls or withdrawals of AI systems from the market. National competentauthorities will then investigate the incidents/or malfunctioning, collect all the necessary information andregularly transmit it to the Commission with adequate metadata. The Commission will complement thisinformation on the incidents by a comprehensive analysis of the overall market for AI.
欧州委員会は，それが適用可能となる日の 5 年後，提案された AI 枠組みを再評価し，見直す報告書を公表する。
The Commission will publish a report evaluating and reviewing the proposed AI framework five years
following the date on which it becomes applicable.
5.2. 提案の個別条項の詳細な説明
Detailed explanation of the specific provisions of the proposal
5.2.1. 適用範囲及び定義（第 I 款）
Scope and Definitions (Title I)
第 I 款は，規則の対象事項，AI システムを市場に置くこと，サービスに供すること及び利用することに適用される新たな規定の適用範囲を定義する。同款は，法律文書全体で使用される定義も定める。その法的枠組みにおける AI システムの定義は，AI と関連する技術と市場の急速な発展を考慮に入れた上で，技術的中立性があり，かつ，可能な限り将来耐性があることを狙いとしている。
必要な法的安定性を提供するため，第 I 款は，新たな技術の発展に沿って欧州委員会によって調整される AI 開発に関するアプローチ及び技法の細目リストを含む別紙 I によって補完される。
AI 価値連鎖の中にある重要な参加者もまた，平等な活動の場を確保するため，公的な業務主体と民間の業務主体の両者を包摂する AI システムの提供者及び利用者のように明確に定義される。
Title I defines the subject matter of the regulation and the scope of application of the new rules that cover
the placing on the market, putting into service and use of AI systems. It also sets out the definitions usedthroughout the instrument. The definition of AI system in the legal framework aims to be as technology
neutral and future proof as possible, taking into account the fast technological and market developments
related to AI. In order to provide the needed legal certainty, Title I is complemented by Annex I, whichcontains a detailed list of approaches and techniques for the development of AI to be adapted by theCommission in line with new technological developments. Key participants across the AI value chain are
also clearly defined such as providers and users of AI systems that cover both public and private operators
to ensure a level playing field.
368

法と情報雑誌 6 巻 5 号（2021 年 11 月）
5.2.2. 禁止される人工知能実務（第 II 款）
Prohibited Artificial Intelligence Practices (Title II)
第 II 款は，禁止される AI のリストを設けている。規則は，リスクベースのアプローチに従い，(i)許容できないリスク，(ii)高リスク，及び(iii)低リスクまたは最小リスクをつくり出す AI の利用を区別している。第 II 款中の禁止される実務のリストは，その利用が，例えば，基本的な権利を侵害することにより，欧州連合の価値と矛盾することから許容できないと判断される全ての AI システムを包含している。その禁止は，当該の者または他の者に心理的または身体的な危害を生じさせ得るような態様で当該の者の行動を実質的に歪めるため，人の知覚を超えるサブリミナル技術により人を操作し，または，児童や障害をもつ者のような特別の脆弱性をもつグループの脆弱性を悪用する大きな可能性をもつ実務を包摂する。上記以外の，AI システムによって容易にされ得る成人を害す
る操作的または悪用的な実務は，自然人が適正に情報提供を受け，自然人の行動に影響を与え得るプロファイリングまたはその他の実務に服することのない自由な選択をもつことを保障するデータ保護，消費者保護及びデジタルサービスの既存の立法によって包摂され得る。提案は，行政機関によって一般的な目的のために行われる AI ベースの社会的採点評価も禁止する。最後に，一定の限定された例外が適用されない限り，法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システムの利用もまた禁止される。
Title II establishes a list of prohibited AI. The regulation follows a risk-based approach, differentiating
between uses of AI that create (i) an unacceptable risk, (ii) a high risk, and (iii) low or minimal risk. The
list of prohibited practices in Title II comprises all those AI systems whose use is considered unacceptable
as contravening Union values, for instance by violating fundamental rights. The prohibitions covers
practices that have a significant potential to manipulate persons through subliminal techniques beyond
their consciousness or exploit vulnerabilities of specific vulnerable groups such as children or persons withdisabilities in order to materially distort their behaviour in a manner that is likely to cause them or anotherperson psychological or physical harm. Other manipulative or exploitative practices affecting adults thatmight be facilitated by AI systems could be covered by the existing data protection, consumer protection
and digital service legislation that guarantee that natural persons are properly informed and have freechoice not to be subject to profiling or other practices that might affect their behaviour. The proposal also
prohibits AI-based social scoring for general purposes done by public authorities. Finally, the use of ‘real
time’ remote biometric identification systems in publicly accessible spaces for the purpose of law
enforcement is also prohibited unless certain limited exceptions apply.
5.2.3. 高リスク AI システム（第 III 款）
High-Risk AI Systems (Title III)
第 III 款は，自然人の健康及び安全または基本的な権利に対する高いリスクをつくり出す AI シス
テムに関する特別の規定を含んでいる。リスクベースのアプローチに沿って，それらの高リスク AI
システムは，一定の強行的な要件の遵守及び事前の適合性評価に服して，欧州の市場において369

法と情報雑誌 6 巻 5 号（2021 年 11 月）
許容される。高リスクとしての AI システムの分類は，既存の製品安全性立法に沿って，その AI シ
ステムの所期の目的を基礎とする。それゆえ，高リスクとしての分類は，その AI システムによって実行される機能だけに基づくものではなく，その個別の目的及び当該システムが利用される様式にも基づく。
Title III contains specific rules for AI systems that create a high risk to the health and safety or fundamental
rights of natural persons. In line with a risk-based approach, those high-risk AI systems are permitted on
the European market subject to compliance with certain mandatory requirements and an ex-ante
conformity assessment. The classification of an AI system as high-risk is based on the intended purposeof the AI system, in line with existing product safety legislation. Therefore, the classification as high-risk
does not only depend on the function performed by the AI system, but also on the specific purpose andmodalities for which that system is used.
第 III 款の第 1 章は，高リスク AI システムの主要な 2 つの類型の分類を定め，それらを識別特定している：

第三者による事前の適合性評価に服する製品の安全性構成要素として利用されることが意図されている AI システム；

それ以外の，別紙 III に明示で列挙される主として基本的な権利に影響のあるスタンド
アロンの AI システム。
Chapter 1 of Title III sets the classification rules and identifies two main categories of high-risk AI systems:
AI systems intended to be used as safety component of products that are subject to third party
ex-ante conformity assessment;other stand-alone AI systems with mainly fundamental rights implications that are explicitly
listed in Annex III.
この別紙 III の高リスク AI システムのリストは，そのリスクが既に現実化している，または，近い将来に現実化する可能性のある限定された数の AI システムを含めている。規則が最新の AI の利用及び応用に即応し得ることを確保するため，欧州委員会は，基準及びリスク評価手法のセットを適用することにより，一定の事前に定義された分野の範囲内において利用される高リスク AI シス
テムのリストを拡張できる。
This list of high-risk AI systems in Annex III contains a limited number of AI systems whose risks havealready materialised or are likely to materialise in the near future. To ensure that the regulation can be
adjusted to emerging uses and applications of AI, the Commission may expand the list of high-risk AI
systems used within certain pre-defined areas, by applying a set of criteria and risk assessment
methodology.
第 2 章は，高リスク AI システムに関し，データ及びデータ統治，文書及び記録の維持，透明性及370

法と情報雑誌 6 巻 5 号（2021 年 11 月）
び利用者に対する情報の提供，人間による監督，堅牢性，正確性及び安全性と関係する法律上の要件を定めている。提案されたミニマムの要件は，多数の勤勉な事業者にとっては既に最新のものであり，また，HLEG の倫理運用指針29から導出され，350 を超える組織によって実証実験30された 2 年間の準備作業の成果物である。それらの要件は，他の国際的な勧告及び基本原則とも概ね一貫性があり，そのことは，提案された AI の枠組みが，EU の国際的な取引相手によって採択されたそれらの勧告等と互換性があることを確保するものである。それらの要件の遵守を達成するための細目的な技術上の解決策は，技術標準によって，または，他の技術仕様によって提供され得るであろうし，あるいは，AI システムの提供者が自由に利用できる一般的なエンジニアリン
グもしくは科学の知識に従って開発され得るであろう。この柔軟性は，とりわけ重要である。それは，その柔軟性が，この分野における最先端のもの及び技術及び科学の進歩を考慮に入れた上で，それらの要件に適合する方法を AI システムの提供者が選択できるようにするからである。
Chapter 2 sets out the legal requirements for high-risk AI systems in relation to data and data governance,
documentation and recording keeping, transparency and provision of information to users, humanoversight, robustness, accuracy and security. The proposed minimum requirements are already state-ofthe-art for many diligent operators and the result of two years of preparatory work, derived from the Ethics
Guidelines of the HLEG 29, piloted by more than 350 organisations 30. They are also largely consistent
with other international recommendations and principles, which ensures that the proposed AI framework
is compatible with those adopted by the EU’s international trade partners. The precise technical solutions
to achieve compliance with those requirements may be provided by standards or by other technicalspecifications or otherwise be developed in accordance with general engineering or scientific knowledge
at the discretion of the provider of the AI system. This flexibility is particularly important, because it allows
providers of AI systems to choose the way to meet their requirements, taking into account the state-of-theart and technological and scientific progress in this field.
第3 章は，高リスク AI システムの提供者に対し，明確な横断的な義務のセットを課している。AI 価
値連鎖全体の中にある利用者及びそれ以外の参加者（例：輸入業者，流通業者，権限のある代理者）に対しても，比例的な義務が課されている。
Chapter 3 places a clear set of horizontal obligations on providers of high-risk AI systems. Proportionate
obligations are also placed on users and other participants across the AI value chain (e.g., importers,
distributors, authorized representatives).
個々のタイプの高リスク AI システム毎に従うべき適合性評価手続の詳細については第 5 章が説明し，第 4 章は，適合性評価手続の中で独立の第三者として関与すべきものとして指定組織に関
人工知能に関するハイレベル専門家グループ, 信頼性のある AI のための倫理運用指針，2019.
それらは，欧州委員会の 2019 年の人間中心の AI へのアプローチ通知の中で欧州委員会によって承認された。
2930

371

法と情報雑誌 6 巻 5 号（2021 年 11 月）
する枠組みを定めている。適合性評価というアプローチは，時間の経過と共にその実行能力を積極的に増強する必要のある経済取引主体及び指定組織の負担を最小化することを狙いとしている。新立法枠組みの立法（例：機械，玩具，医療機器等）の下で規制を受ける製品の安全性の構成要素として利用されることを意図する AI システムは，それらの AI システムを構成要素とする製品の事前及び事後の法令遵守と執行の仕組みと同じ仕組みに服することになる。重要な相違点
は，事前及び事後の仕組みが部門別の立法によって設けられた要件だけではなく，この規則によって設けられる要件の遵守も確保するという点である。
Chapter 4 sets the framework for notified bodies to be involved as independent third parties in conformity
assessment procedures, while Chapter 5 explains in detail the conformity assessment procedures to befollowed for each type of high-risk AI system. The conformity assessment approach aims to minimise theburden for economic operators as well as for notified bodies, whose capacity needs to be progressively
ramped up over time. AI systems intended to be used as safety components of products that are regulated
under the New Legislative Framework legislation (e.g. machinery, toys, medical devices, etc.) will be
subject to the same ex-ante and ex-post compliance and enforcement mechanisms of the products ofwhich they are a component. The key difference is that the ex-ante and ex-post mechanisms will ensurecompliance not only with the requirements established by sectorial legislation, but also with therequirements established by this regulation.
別紙III に示すスタンドアロンの高リスク AI システムに関しては，新たな法令遵守及び執行の制度が設けられる。その制度は，第三者適合性評価に服することになるリモートの生体要素識別シス
テムを除き，その提供者による内部監督上の点検を通じて実装される新立法枠組みの立法のモデルに従うものである。早期のフェーズの法令による介入であること，そして，AI 部門が非常に革新的なものであること，及び，監査のための専門知識がまだ蓄積中であることに鑑み，強力な事
後執行と結合された内部点検を通じた包括的な事前適合性評価は，それらのシステムのための実効性があり合理性のある解決策となり得る。「スタンドアロン」の高リスク AI システムに関する内部点検を通じた評価は，規則の全ての要件の遵守と堅牢な品質管理制度及びリスク管理システムの遵守の，完全であり，実効性があり，かつ，適正に文書化された事後監視及び市場化後監視を要する。関連する適合性評価を提供者が実施した後，提供者は，それらのスタンドアロンの高リス
ク AI システムを，公共の透明性及び監視を増加させ，職務権限のある機関による事後監督を強化するために欧州委員会によって運営管理される EU のデータベースに登録すべきである。それとは対照的に，既存の製品安全性立法との一貫性を維持するために，製品の安全性構成要素である AI システムの適合性評価は，関連する部門別製品安全性立法の下で既に設けられている第三者の適合性評価手続の制度に従うことになる。新たな事前適合性再評価は，AI システムの大きな変更の場合（及び，特に，そのシステムの技術文書の中でその提供者によって事前に定められ，かつ，事前適合性評価の時点で点検されたところを超える変更が実行される場合）に必要なものとなる。
As regards stand-alone high-risk AI systems that are referred to in Annex III, a new compliance and372

法と情報雑誌 6 巻 5 号（2021 年 11 月）
enforcement system will be established. This follows the model of the New Legislative Framework
legislation implemented through internal control checks by the providers with the exception of remotebiometric identification systems that would be subject to third party conformity assessment. A
comprehensive ex-ante conformity assessment through internal checks, combined with a strong ex-post
enforcement, could be an effective and reasonable solution for those systems, given the early phase of theregulatory intervention and the fact the AI sector is very innovative and expertise for auditing is only now
being accumulated. An assessment through internal checks for ‘stand-alone’ high-risk AI systems would
require a full, effective and properly documented ex ante compliance with all requirements of theregulation and compliance with robust quality and risk management systems and post-market monitoring.
After the provider has performed the relevant conformity assessment, it should register those stand-alone
high-risk AI systems in an EU database that will be managed by the Commission to increase public
transparency and oversight and strengthen ex post supervision by competent authorities. By contrast, forreasons of consistency with the existing product safety legislation, the conformity assessments of AI
systems that are safety components of products will follow a system with third party conformity
assessment procedures already established under the relevant sectoral product safety legislation. New exante re-assessments of the conformity will be needed in case of substantial modifications to the AI systems(and notably changes which go beyond what is pre-determined by the provider in its technicaldocumentation and checked at the moment of the ex-ante conformity assessment).
5.2.4. 一定の AI システムに関する透明性義務（第 IV 款）Transparency Obligations for certain AI Systems (Title IV)
第 IV 款は，それらの AI システムが示す特定の操作のリスクを考慮に入れるべき一定の AI シス
テムと関係するものである。(i)人間との間でやりとりするシステム，(ii)生体要素データを基礎として，情動を検知し，または，（社会的な）類型との関係を判定するために利用されるシステム，または，(iii)コンテントの生成または操作するシステム（「ディープフェイク」）に関しては，透明性義務が適用されることになる。人が AI システムとの間でやりとりする際，または，人の情動もしくは個性が自動化された手段によって認識される際，人々は，その状況について情報提供を受けなければならない。正規のコンテントと酷似する画像，音響または映像のコンテントを生成または操作するために AI システムが利用される場合，正当な目的（法執行，表現の自由）のための例外に服して，そのコンテントが自動化された手段によって生成されていることを開示する義務が存在すべきである。このことは，人が情報提供を受けた上での選択を行うこと，または，所与の状況から脱出することを可能とする。
Title IV concerns certain AI systems to take account of the specific risks of manipulation they pose.
Transparency obligations will apply for systems that (i) interact with humans, (ii) are used to detect
emotions or determine association with (social) categories based on biometric data, or (iii) generate ormanipulate content (‘deep fakes’). When persons interact with an AI system or their emotions or
characteristics are recognised through automated means, people must be informed of that circumstance.
373

法と情報雑誌 6 巻 5 号（2021 年 11 月）
If an AI system is used to generate or manipulate image, audio or video content that appreciably resembles
authentic content, there should be an obligation to disclose that the content is generated through automatedmeans, subject to exceptions for legitimate purposes (law enforcement, freedom of expression). This
allows persons to make informed choices or step back from a given situation.
5.2.5. 技術革新を支援する措置（第 V 款）
Measures in Support of Innovation (Title V)
第 V 款は，技術革新フレンドリで，将来耐性があり，かつ，混乱に抗する回復力のある法的枠組
みをつくり出すという目的のために貢献する。その目的のために，第 V 款は，職務権限のある国内機関が，法定サンドボックスを設置し，かつ，統治，監督及び法的責任の面における基本的な枠組みを定めることを推進する。AI 法定サンドボックスは，職務権限のある機関との間で合意した試験計画を基礎とする限定された期間内，革新的な技術を試験するための管理された環境を構築する。第 V 款は，SMEs 及びスタートアップの法令上の負担を軽減するための措置を含んでいる。
Title V contributes to the objective to create a legal framework that is innovation-friendly, future-proof
and resilient to disruption. To that end, it encourages national competent authorities to set up regulatory
sandboxes and sets a basic framework in terms of governance, supervision and liability. AI regulatory
sandboxes establish a controlled environment to test innovative technologies for a limited time on the basisof a testing plan agreed with the competent authorities. Title V also contains measures to reduce theregulatory burden on SMEs and start-ups.
5.2.6. 統治及び実装（第 VI 款，第 VII 款及び第 VIII 款）
Governance and Implementation (Titles VI, VII and VII)
第VI款は，欧州連合レベル及び国内レベルの統治制度を設ける。欧州連合レベルにおいて，提案は，構成国及び欧州委員会からの代表によって構成される欧州人工知能委員会（「委員会」）を設けている。委員会は，国内監督機関と欧州委員会の実効的な協力に貢献することにより，また，
欧州委員会に対して助言と専門知識を提供することにより，この規則の円滑で，実効性があり，かつ，整合性のある実装を容易にする。委員会は，構成国間のベストプラクティスの収集及び共有も行う。
Title VI sets up the governance systems at Union and national level. At Union level, the proposal
establishes a European Artificial Intelligence Board (the ‘Board’), composed of representatives from theMember States and the Commission. The Board will facilitate a smooth, effective and harmonised
implementation of this regulation by contributing to the effective cooperation of the national supervisory
authorities and the Commission and providing advice and expertise to the Commission. It will also collectand share best practices among the Member States.
374

法と情報雑誌 6 巻 5 号（2021 年 11 月）
国内レベルにおいて，構成国は，規則の適用及び実装を監督する目的のために，1 または複数の職務権限のある国内機関を指定し，かつ，それらの職務権限のある国内機関の中から国内監
督機関を指定しなければならない。欧州データ保護監督官は，欧州連合の機関，部局及び組織がこの規則の適用範囲内にあるときは，それらの機関，部局及び組織の監督のための職務権限のある機関として行動することになる。
At national level, Member States will have to designate one or more national competent authorities and,among them, the national supervisory authority, for the purpose of supervising the application andimplementation of the regulation. The European Data Protection Supervisor will act as the competentauthority for the supervision of the Union institutions, agencies and bodies when they fall within the scopeof this regulation.
第 VII 款は，主として基本的な権利に影響を及ぼすスタンドアロンの高リスク AI システムの EU 規
模のデータベースを設けることにより，欧州委員会及び国内機関の監視の仕事を容易にすることを狙いとしている。そのデータベースは，欧州委員会によって運用され，そして，AI システムを市場に置きまたはサービスに供する前にその提供者のシステムを登録することが要求されるその AI
システムの提供者によってデータが提供される。
Title VII aims to facilitate the monitoring work of the Commission and national authorities through theestablishment of an EU-wide database for stand-alone high-risk AI systems with mainly fundamental
rights implications. The database will be operated by the Commission and provided with data by theproviders of the AI systems, who will be required to register their systems before placing them on themarket or otherwise putting them into service.
第 VIII 款は，市場化後の監視及び報告並びに AI と関連するインシデント及び誤作動に関する調査と関連する AI システムの提供者に対する監視義務及び報告義務を定めている。市場監視機
関もまた，既に市場に置かれている全ての高リスク AI システムに関しては，市場を監督し，かつ，義務及び要件の遵守を調査する。市場監視機関は，市場監視に関する規則(EU) 2019/1020 に基づく全ての権限をもち得る。事後執行は，AI システムが市場に置かれた後，AI システムが想定外のリスクを生成する場合において行政機関が関与するための迅速な活動を保証する権限と資金をもつことを確保すべきである。その行政機関は，規則に基づく運用者の関連義務のそれらの者の遵守も監視することになる。提案は，構成国レベルにおいて，追加的な組織または機関を自動的に創設することを予定していない。それゆえ，構成国は，規則の条項を監視及び執行する権限も委任され得る既存の部門別の機関を指定（及びその専門知識を利用）し得る。
Title VIII sets out the monitoring and reporting obligations for providers of AI systems with regard to postmarket monitoring and reporting and investigating on AI-related incidents and malfunctioning. Market
surveillance authorities would also control the market and investigate compliance with the obligations andrequirements for all high-risk AI systems already placed on the market. Market surveillance authorities375

法と情報雑誌 6 巻 5 号（2021 年 11 月）
would have all powers under Regulation (EU) 2019/1020 on market surveillance. Ex-post enforcement
should ensure that once the AI system has been put on the market, public authorities have the powers andresources to intervene in case AI systems generate unexpected risks, which warrant rapid action. They
will also monitor compliance of operators with their relevant obligations under the regulation. The
proposal does not foresee the automatic creation of any additional bodies or authorities at Member Statelevel. Member States may therefore appoint (and draw upon the expertise of) existing sectorial authorities,
who would be entrusted also with the powers to monitor and enforce the provisions of the regulation.
これら全てのことは，構成国内の基本的な権利と関連する義務の事後執行の既存の制度及びその権限の割当てを妨げない。その任務のために必要な場合，既存の監督機関及び執行機関は，
この規則に従って維持管理される文書を要求し，それにアクセスする権限ももち，かつ，それが必要なときは，市場監視機関に対し，技術的な手段により，その高リスク AI システムの試験を組織することを要請する権限をもつ。
All this is without prejudice to the existing system and allocation of powers of ex-post enforcement of
obligations regarding fundamental rights in the Member States. When necessary for their mandate,existing supervision and enforcement authorities will also have the power to request and access any
documentation maintained following this regulation and, where needed, request market surveillanceauthorities to organise testing of the high-risk AI system through technical means.
5.2.7. 行動準則（第 IX 款）
Codes of Conduct (Title IX)
第 IX 款は，非高リスク AI システムの提供者が（第 III 款に定める）高リスク AI システムに関する強行的な要件を任意に適用することを推進することを狙いとする行動準則の作成のための枠組みを創設する。非高リスク AI システムの提供者は，自ら行動準則を作成し，実装できる。それらの準則は，例えば，環境の持続性，障害をもつ者のアクセシビリティ，AI システムの設計及び開発における利害関係者の参加，並びに，開発チームの多様性と関連する任意の確約を含めることもできる。
Title IX creates a framework for the creation of codes of conduct, which aim to encourage providers of
non-high-risk AI systems to apply voluntarily the mandatory requirements for high-risk AI systems (aslaid out in Title III). Providers of non-high-risk AI systems may create and implement the codes of conduct
themselves. Those codes may also include voluntary commitments related, for example, to environmental
sustainability, accessibility for persons with disability, stakeholders’ participation in the design anddevelopment of AI systems, and diversity of development teams.

376

法と情報雑誌 6 巻 5 号（2021 年 11 月）
5.2.8. 最終規定（第 X 款，第 XI 款及び第 XII 款）
Final Provisions (Titles X, XI and XII)
第 X 款は，全ての関係者の情報及びデータの機密性を尊重すべき義務を強調し，規則の実装の間に入手される情報の交換に関する規定を定めている。第 X 款は，条項の違反に対する実効的であり，比例的であり，かつ，抑止力のある制裁により，規則の実効的な実装を確保するための措置も含めている。
Title X emphasizes the obligation of all parties to respect the confidentiality of information and data andsets out rules for the exchange of information obtained during the implementation of the regulation. Title
X also includes measures to ensure the effective implementation of the regulation through effective,
proportionate, and dissuasive penalties for infringements of the provisions.
第 XI 款は，委任の実行及び実装権限に関する規定を定めている。提案は，欧州委員会に対し，それが適切なときは，規則の統一的な適用を確保するために実装行為を採択する権限，または，別紙 I ないし VII のリストをアップデートまたは補遺するために委任される行為を採択する権限を与えている。
Title XI sets out rules for the exercise of delegation and implementing powers. The proposal empowers
the Commission to adopt, where appropriate, implementing acts to ensure uniform application of theregulation or delegated acts to update or complement the lists in Annexes I to VII.
第 XII 款は，別紙 III のアップデートの必要性を定期的に評価し，また，規則の評価及び見直しに関する報告を定期的に準備すべき欧州委員会の義務を含めている。第 XII 款は，関係する全ての者に関して円滑な実装を容易にするため，規則の適用の最初の日とは異なる移行措置期間を含め，最終規定も定めている。
Title XII contains an obligation for the Commission to assess regularly the need for an update of Annex
III and to prepare regular reports on the evaluation and review of the regulation. It also lays down final
provisions, including a differentiated transitional period for the initial date of the applicability of theregulation to facilitate the smooth implementation for all parties concerned.
2021/0106 (COD)377

法と情報雑誌 6 巻 5 号（2021 年 11 月）

人工知能に関する整合化された規定を定め，欧州連合の一定の立法行為を改正する
欧州議会及び理事会の規則（人工知能法）の提案
Proposal for a Regulation of the European Parliament and of the Council on Regulation laying down
harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union
Legislative Acts
欧州議会及び欧州連合の理事会は，
欧州連合の機能に関する条約，とりわけ，その第 16 条及び第 114 条に鑑み，
欧州委員会からの提案に鑑み，立法案を国内議会に送付した後．
欧州経済社会委員会の意見書に鑑み31，
地域委員会の意見書に鑑み32，
通常の立法手続に従って審議し，THE EUROPEAN PARLIAMENT AND THE COUNCIL OF THE EUROPEAN UNION,
Having regard to the Treaty on the Functioning of the European Union, and in particular Articles 16 and114 thereof,
Having regard to the proposal from the European Commission,
After transmission of the draft legislative act to the national parliaments,
Having regard to the opinion of the European Economic and Social Committee 31,
Having regard to the opinion of the Committee of the Regions 32,
Acting in accordance with the ordinary legislative procedure,
Whereas:(1) この規則の目的は，とりわけ，欧州連合の価値と適合する人工知能の開発，マーケティング
及び利用に関し，統一的な法的枠組みを定めることにより，域内市場の稼働を向上させることにある。この規則は，高いレベルの健康，安全及び基本的な権利の保護のような公共の利益という多数の優先する理由及びこの規則が，AI ベースの物品及びサービスの国境を越える支障のない移動を確保することを求め，そして，この規則によって明示で認められていな
い限り，AI システムの開発，マーケティング及び利用に対して構成国が制限を加えることを避けることを求める。
The purpose of this Regulation is to improve the functioning of the internal market by laying downa uniform legal framework in particular for the development, marketing and use of artificial
31
32

OJ C […], […], p. […].
OJ C […], […], p. […].

378

法と情報雑誌 6 巻 5 号（2021 年 11 月）
intelligence in conformity with Union values. This Regulation pursues a number of overriding
reasons of public interest, such as a high level of protection of health, safety and fundamental rights,
and it ensures the free movement of AI-based goods and services cross-border, thus preventing
Member States from imposing restrictions on the development, marketing and use of AI systems,
unless explicitly authorised by this Regulation.
(2) 人工知能システム（AI システム）は，国境を越える場合を含め，複数の経済部門及び社会部門において容易に配置され得るものであり，欧州連合中で循環する。ある構成国は，人工知能が安全であり，かつ，基本的な権利の義務を遵守して開発及び利用されることを確保するための国内法令の採択を既に開始している。国内法令が異なっていることは，域内市場の断片化を導き得るものであり，また，AI システムを開発または利用する運用者のための法的安定性を減少させ得る。それゆえ，域内市場内の AI システム及び関連製品とサービスの支
障のない循環を損ねる多様性を避けるべきものとしつつ，欧州連合の機能に関する条約（TFEU）の第 114 条を基礎として，域内市場全域にわたり，運用者に対する統一的な義務を定め，並びに，公共の利益という優先する理由と個人の権利の統一的な保護の保障を定めることにより，欧州連合全域にわたる一貫性があり，かつ，高いレベルの保護が確保されるべきである。法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別のために AI システムの利用の制限と関係する個人データの処理と関連する個人の保護に関する特別の規定をこの規則が含んでいる範囲内では，それらの特別の規定が関係する限り，TFEU の第 16 条をこの規則の基礎とすることが適切である。それらの特別の規定及び TFEU の第 16 条に依拠することに照らし，欧州データ保護委員会と協議することが適切である。
Artificial intelligence systems (AI systems) can be easily deployed in multiple sectors of theeconomy and society, including cross border, and circulate throughout the Union. Certain Member
States have already explored the adoption of national rules to ensure that artificial intelligence is safe
and is developed and used in compliance with fundamental rights obligations. Differing nationalrules may lead to fragmentation of the internal market and decrease legal certainty for operators thatdevelop or use AI systems. A consistent and high level of protection throughout the Union should
therefore be ensured, while divergences hampering the free circulation of AI systems and related
products and services within the internal market should be prevented, by laying down uniform
obligations for operators and guaranteeing the uniform protection of overriding reasons of public
interest and of rights of persons throughout the internal market based on Article 114 of the Treaty on
the Functioning of the European Union (TFEU). To the extent that this Regulation contains specificrules on the protection of individuals with regard to the processing of personal data concerning
restrictions of the use of AI systems for ‘real-time’ remote biometric identification in publicly
accessible spaces for the purpose of law enforcement, it is appropriate to base this Regulation, in as
far as those specific rules are concerned, on Article 16 of the TFEU. In light of those specific rules
and the recourse to Article 16 TFEU, it is appropriate to consult the European Data Protection Board.
379

法と情報雑誌 6 巻 5 号（2021 年 11 月）(3) 人工知能は，産業界及び社会活動の全範囲にわたり幅広い経済的及び社会的な受益に貢献し得る急速に進化している技術ファミリーである。予測を向上させること，業務遂行及び資源配分を最適化すること，及び，個人と組織にとって利用可能なデジタルソリューションを個別化することにより，人工知能の利用は，企業に対して鍵となる競争上の優位を提供でき，また，例えば，医療，農業，教育及び訓練，インフラ管理，エネルギー，輸送及び物流，公共サービス，保安，法務，資源及びエネルギーの効率性，並びに，気候変動の緩和及び適応において，社会上及び環境上の受益の結果を支援できる。
Artificial intelligence is a fast evolving family of technologies that can contribute to a wide array of
economic and societal benefits across the entire spectrum of industries and social activities. By
improving prediction, optimising operations and resource allocation, and personalising digitalsolutions available for individuals and organisations, the use of artificial intelligence can provide key
competitive advantages to companies and support socially and environmentally beneficial outcomes,
for example in healthcare, farming, education and training, infrastructure management, energy,transport and logistics, public services, security, justice, resource and energy efficiency, and climatechange mitigation and adaptation.
(4) それと同時に，人工知能の特定の応用及び利用に関する状況の相違に応じて，人工知能は，
欧州連合法によって保護されている公共の利益及び権利に対するリスクを生成し，それに対する危害を生じさせ得る。そのような危害は，有形または無形のものであり得る。
At the same time, depending on the circumstances regarding its specific application and use, artificial
intelligence may generate risks and cause harm to public interests and rights that are protected byUnion law. Such harm might be material or immaterial.
(5) それゆえ，欧州連合法によって承認及び保護されている健康及び安全並びに基本的な権利の保護のような高いレベルの公共の利益の保護に適合するのと同時に域内市場における人工知能の開発，利用及び採用を育成するため，人工知能に関する整合化された規定を定める欧州連合の法的枠組みが必要である。その目的を達成するため，一定の AI システムを市場に置くこと及びサービスに供することを規制し，そして，域内市場の円滑な稼働を確保し，かつ，物品及びサービスの支障のない移動の原則からのそれらのシステムが受益できるようにする規定が定められるべきである。それらの規定を定めることにより，この規則は，欧州理事会33によって述べられているような安全で，信頼性があり，かつ，倫理的な人工知能の開発におけるグローバルなリーダーになるという欧州連合の目的を支援し，かつ，欧州議会34
から特に要請されているような倫理上の基本原則の保護を確保する。
欧州理事会，欧州理事会の特別会合（2020 年 10 月 1 日及び 2 日）－決議, EUCO 13/20, 2020, p. 6.
人工知能，産業用ロボット及び関連技術の倫理上の側面の枠組みに関する欧州議会の 2020 年 10
月 20 日の決議及び欧州委員会への勧告 2020/2012(INL).
33
34

380

法と情報雑誌 6 巻 5 号（2021 年 11 月）
A Union legal framework laying down harmonised rules on artificial intelligence is therefore needed
to foster the development, use and uptake of artificial intelligence in the internal market that at thesame time meets a high level of protection of public interests, such as health and safety and theprotection of fundamental rights, as recognised and protected by Union law. To achieve that
objective, rules regulating the placing on the market and putting into service of certain AI systems
should be laid down, thus ensuring the smooth functioning of the internal market and allowing thosesystems to benefit from the principle of free movement of goods and services. By laying down thoserules, this Regulation supports the objective of the Union of being a global leader in the developmentof secure, trustworthy and ethical artificial intelligence, as stated by the European Council 33, and it
ensures the protection of ethical principles, as specifically requested by the European Parliament 34.
(6) AI システムの概念は，将来の技術開発に合わせる柔軟性を提供しつつ，法的安定性を確保するため，明確に定義されるべきである。その定義は，ソフトウェアの鍵となる基本的な特性，
とりわけ，人間によって定義された所与の目的のために，物理的な局面であるかデジタルの局面であるかを問わず，コンテント，予測，勧告，または，システムがやりとりする環境に影響を与える判断のような出力を生成する能力を基礎とすべきである。AI システムは，そのシステムが製品の中に物理的に統合されているか（組み込み），または，製品の中に統合されることなくその製品の機能を提供するか（非組み込み）に拘らず，様々なレベルの自律性をもって運用されるように設計され得るものであり，また，スタンドアロンベースまたは製品の構成要素として利用され得るものである。AI システムの定義は，その開発のために使用される特定の技法及びアプローチのリストによって補遺されるべきであり，そのリストは，そのリストを改訂するために委任される行為の欧州委員会による採択を通じて，市場と技術の発展に照らして最新のものに維持されるべきである。
The notion of AI system should be clearly defined to ensure legal certainty, while providing theflexibility to accommodate future technological developments. The definition should be based on
the key functional characteristics of the software, in particular the ability, for a given set of humandefined objectives, to generate outputs such as content, predictions, recommendations, or decisions
which influence the environment with which the system interacts, be it in a physical or digitaldimension. AI systems can be designed to operate with varying levels of autonomy and be used ona stand-alone basis or as a component of a product, irrespective of whether the system is physicallyintegrated into the product (embedded) or serve the functionality of the product without being
integrated therein (non-embedded). The definition of AI system should be complemented by a listof specific techniques and approaches used for its development, which should be kept up-to–date in
the light of market and technological developments through the adoption of delegated acts by theCommission to amend that list.
(7) この規則の中で用いられる生体要素データの概念は，欧州議会及び理事会の規則(EU)381

法と情報雑誌 6 巻 5 号（2021 年 11 月）
2016/67935の第 4 条第 14 号，欧州議会及び理事会の規則(EU) 2018/172536の第 3 条第 18号，並びに，欧州議会及び理事会の指令(EU) 2016/68037の第 3 条第 13 号に定義されている生体要素データの概念に沿うものであり，かつ，それらの規則に定義されている概念と一貫性があるように解釈されるべきである。
The notion of biometric data used in this Regulation is in line with and should be interpreted
consistently with the notion of biometric data as defined in Article 4(14) of Regulation (EU)2016/679 of the European Parliament and of the Council 35, Article 3(18) of Regulation (EU)2018/1725 of the European Parliament and of the Council 36 and Article 3(13) of Directive (EU)2016/680 of the European Parliament and of the Council 37.
(8) この規則の中で用いられるリモート生体要素識別システムの概念は，ある人の生体要素データと参照データベースの中に格納されている生体要素データとの照合により，かつ，対象となる者が所在するどうか及びその者が識別され得るかを事前に知ることなしに，隔地にある自然人の識別同定を意図する AI システムのように，特定の技術，プロセス，または，使用される生体データのタイプとは無関係に機能的に定義されるべきである。AI システムの特性
及びそれが利用される態様の相違並びにそれに含まれる異なるリスクを考慮し，「リアルタイム」のリモート生体要素識別システムと「事後」のリモート生体要素識別システムとの間で区別が行われるべきである。「リアルタイム」のシステムの場合，生体要素データの取得，比較及び識別特定は，全て，即時に，ほぼ即時に，または，いかなる場合においても大きな時間経
過なく発生する。この点に関して，多少の時間経過を定めることにより，当の AI システムの「リアルタイム」の利用に関するこの規則の規定を回避する余地が全くないものとすべきである。「リアルタイム」のシステムは，ビデオ映像のような，カメラまたはそれと類似の機能をもつ
カメラ以外の機器類によって生成される「同時」または「ほぼ同時」の素材の利用を含む。「事後」のシステムの場合，それとは対照的に，生体要素データは，既に取得されており，かつ，
その識別要素の比較は，大きな時間経過の後の場合に限り発生する。これは，閉回路テレ
ビカメラまたは私用機器類によって生成された画像または映像のような，関係する自然人に関してそのシステムが使用される前に生成された素材を含む。
個人データの処理と関連する自然人の保護及びそのデータの支障のない移動に関する，並びに，指令 95/46/EC を廃止する欧州議会及び理事会の 2016 年 4 月 27 日の規則(EU) 2016/679（一般デー
タ保護規則）(OJ L 119, 4.5.2016, p. 1)
36
欧州連合の機関，組織，事務局及び部局による個人データの処理と関連する自然人の保護に関す
る並びにそのデータの支障のない移動に関する，並びに，規則(EC) No 45/2001 及び決定 No
1247/2002/EC を廃止する欧州議会及び理事会の 2018 年 10 月 23 日の規則(EU) 2018/1725 (OJ L 295,
21.11.2018, p. 39)37
犯罪行為の防止，捜査，検知もしくは訴追または刑罰の執行の目的のための職務権限のある機関による個人データの処理と関連する自然人の保護に関する，並びに，理事会枠組み決定 2008/977/JHAを廃止する欧州議会及び理事会の 2016 年 4 月 27 日の指令(EU) 2016/680（法執行指令） (OJ L 119,4.5.2016, p. 89)35382

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The notion of remote biometric identification system as used in this Regulation should be defined
functionally, as an AI system intended for the identification of natural persons at a distance throughthe comparison of a person’s biometric data with the biometric data contained in a reference database,and without prior knowledge whether the targeted person will be present and can be identified,irrespectively of the particular technology, processes or types of biometric data used. Considering
their different characteristics and manners in which they are used, as well as the different risks
involved, a distinction should be made between ‘real-time’ and ‘post’ remote biometric identification
systems. In the case of ‘real-time’ systems, the capturing of the biometric data, the comparison andthe identification occur all instantaneously, near-instantaneously or in any event without a significant
delay. In this regard, there should be no scope for circumventing the rules of this Regulation on the‘real-time’ use of the AI systems in question by providing for minor delays. ‘Real-time’ systems
involve the use of ‘live’ or ‘near-‘live’ material, such as video footage, generated by a camera orother device with similar functionality. In the case of ‘post’ systems, in contrast, the biometric data
have already been captured and the comparison and identification occur only after a significant delay.
This involves material, such as pictures or video footage generated by closed circuit television
cameras or private devices, which has been generated before the use of the system in respect of thenatural persons concerned.
(9) この規則の目的のために，公衆がアクセス可能な場の概念は，当の場所が私有であるか公有であるかに拘らず，公衆にとってアクセス可能な物理的な場所を示すものとして理解されるべきである。それゆえ，その概念は，家屋，私的なクラブ，事務所，倉庫及び工場のような，その性質上及び通常は，それらの者が特に招待され，または，許可を得ていない限り，法執行機関を含め第三者にとって自由にアクセス可能ではない私有の場所を含まない。オンラインの空間は，物理的な場所ではないので，そのどちらにも含まれない。ただし，入場券または年齢制限のような特別の場所にアクセスするための一定の条件が適用され得るということだけでは，その場がこの規則の意味における公衆がアクセス可能なものではないということを意味しない。その結果として，道路のような公共の場に加えて，政府の建物の関連部分及び大半の輸送インフラ，並びに，映画館，劇場，店舗及びショッピングセンターのような場は，
通常は，公衆がアクセス可能な場でもある。ただし，当の場が公衆にアクセス可能であるか否かは，個々の問題となる状況の特性を考慮に入れた上で，ケースバイケースで判断されるべきである。
For the purposes of this Regulation the notion of publicly accessible space should be understood as
referring to any physical place that is accessible to the public, irrespective of whether the place inquestion is privately or publicly owned. Therefore, the notion does not cover places that are private
in nature and normally not freely accessible for third parties, including law enforcement authorities,
unless those parties have been specifically invited or authorised, such as homes, private clubs, offices,
warehouses and factories. Online spaces are not covered either, as they are not physical spaces.
However, the mere fact that certain conditions for accessing a particular space may apply, such as383

法と情報雑誌 6 巻 5 号（2021 年 11 月）
admission tickets or age restrictions, does not mean that the space is not publicly accessible within
the meaning of this Regulation. Consequently, in addition to public spaces such as streets, relevant
parts of government buildings and most transport infrastructure, spaces such as cinemas, theatres,
shops and shopping centres are normally also publicly accessible. Whether a given space isaccessible to the public should however be determined on a case-by-case basis, having regard to thespecificities of the individual situation at hand.
(10) 平等な活動の場と欧州連合全域にわたる個人の権利と自由の実効性のある保護を確保するため，この規則によって定められる規定は，そのシステムが欧州連合内に設置されているものであるか第三国内に設置されているものであるかに拘らず，非差別の態様で，AIシステムの提供者に対して，及び，欧州連合内に設置されている AI システムの利用者に対して適用されるべきである。
In order to ensure a level playing field and an effective protection of rights and freedoms ofindividuals across the Union, the rules established by this Regulation should apply to providers ofAI systems in a non-discriminatory manner, irrespective of whether they are established within theUnion or in a third country, and to users of AI systems established within the Union.
(11) AI システムのデジタルな性質に照らし，一定の AI システムは，そのシステムが市場に置かれていない場合であっても，また，サービスに供されておらず，欧州連合内において利用されていない場合であっても，この規則の適用範囲内にあるものとすべきである。例えば，高リ
スクとして分類されるような AI システムによって実行される活動との関係において欧州連合の外に拠点のある運用者に対して一定のサービス提供を契約する欧州連合内に拠点のある運用者であり，そのシステムが欧州連合内に所在する自然人に対して影響を与える場合がそのような場合に該当する。それらの状況において，欧州連合の外の運用者によって利用される AI システムは，欧州連合内で適法に収集されたデータを処理し，欧州連合から移転することができ，また，当該AIシステムが市場に置かれ，サービスに供され，または，欧州連合
内において利用されることなく，その処理から生ずる当該 AI システムの出力を欧州連合内で契約を結んでいる運用者に対して提供し得る。この規則の回避を防止するため，そして，
欧州連合内に所在する自然人の実効性のある保護を確保するため，この規則は，それらのシステムによって生産された出力が欧州連合内において利用される範囲内において，第三国内に設置されている AI システムの提供者及び利用者に対しても適用されるべきである。
ただし，情報及び証拠が交換される外国のパートナーとの間の協力のための既存の協定と特別の必要性を考慮に入れるため，欧州連合との間または構成国との間の法執行及び法務上の協力のために国内レベルまたは欧州レベルで締結された国際協定の枠組みの中で行動する第三国の行政機関及び国際組織に対し，この規則は，適用されてはならない。そのよ
うな協定は，構成国と第三国との間，または，欧州連合，Europol 及びそれ以外の EU の部局と第三国及び国際組織との間において，二国間で締結されている。
384

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In light of their digital nature, certain AI systems should fall within the scope of this Regulation evenwhen they are neither placed on the market, nor put into service, nor used in the Union. This is thecase for example of an operator established in the Union that contracts certain services to an operator
established outside the Union in relation to an activity to be performed by an AI system that would
qualify as high-risk and whose effects impact natural persons located in the Union. In thosecircumstances, the AI system used by the operator outside the Union could process data lawfullycollected in and transferred from the Union, and provide to the contracting operator in the Union the
output of that AI system resulting from that processing, without that AI system being placed on themarket, put into service or used in the Union. To prevent the circumvention of this Regulation andto ensure an effective protection of natural persons located in the Union, this Regulation should also
apply to providers and users of AI systems that are established in a third country, to the extent theoutput produced by those systems is used in the Union. Nonetheless, to take into account existingarrangements and special needs for cooperation with foreign partners with whom information andevidence is exchanged, this Regulation should not apply to public authorities of a third country andinternational organisations when acting in the framework of international agreements concluded atnational or European level for law enforcement and judicial cooperation with the Union or with its
Member States. Such agreements have been concluded bilaterally between Member States and third
countries or between the European Union, Europol and other EU agencies and third countries andinternational organisations.
(12) この規則は，AI システムの提供者または利用者として行動する場合における欧州連合の機関，事務局，組織及び部局に対しても適用されるべきである。専ら軍事目的で開発または利用される AI システムは，そのシステムの利用が欧州連合条約（TEU）の第 V 款に基づいて規律される共通対外安全保障政策の免脱の下にあるときは，この規則の適用範囲から除外
されるべきである。この規則は，[デジタルサービス法による改正後の]欧州議会及び理事会の指令 2000/31/EC に定める中間介在サービスプロバイダの法的責任と関連する条項を妨げてはならない。
This Regulation should also apply to Union institutions, offices, bodies and agencies when acting as
a provider or user of an AI system. AI systems exclusively developed or used for military purposes
should be excluded from the scope of this Regulation where that use falls under the exclusive remitof the Common Foreign and Security Policy regulated under Title V of the Treaty on the European
Union (TEU). This Regulation should be without prejudice to the provisions regarding the liabilityof intermediary service providers set out in Directive 2000/31/EC of the European Parliament andof the Council [as amended by the Digital Services Act].
(13) 健康，安全及び基本的な権利と関連する公共の利益の一貫性があり，かつ，高いレベルの保護を確保するため，全ての高リスク AI システムのための共通の規範的標準が定められるべきである。それらの標準は，欧州連合の基本権憲章（憲章）と一貫性があるべきであり，か385

法と情報雑誌 6 巻 5 号（2021 年 11 月）
つ，非差別のものであり，かつ，欧州連合の国際取引上の確約に沿うものであるべきである。
In order to ensure a consistent and high level of protection of public interests as regards health, safety
and fundamental rights, common normative standards for all high-risk AI systems should beestablished. Those standards should be consistent with the Charter of fundamental rights of theEuropean Union (the Charter) and should be non-discriminatory and in line with the Union’s
international trade commitments.
(14) AI システムに関する比例的であり，かつ，実効的であり，拘束力のある規定のセットを導入するため，明確に定義されたリスクベースのアプローチに従うべきである。そのアプローチ
は，そのような規定のタイプ及び内容を，AI システムが生成し得るリスクの脅威度及び範囲に合わせるべきである。それゆえ，高リスク AI システムの要件及び関連運用者の義務を定めるため，そして，一定の AI システムに関する透明性義務を定めるため，一定の人工知能
実務を禁止する必要性がある。
In order to introduce a proportionate and effective set of binding rules for AI systems, a clearly
defined risk-based approach should be followed. That approach should tailor the type and content
of such rules to the intensity and scope of the risks that AI systems can generate. It is therefore
necessary to prohibit certain artificial intelligence practices, to lay down requirements for high-risk
AI systems and obligations for the relevant operators, and to lay down transparency obligations forcertain AI systems.
(15) 人工知能の多数の有益な利用とは別に，その技術は，濫用され得るものであり，また，操作し，搾取し，及び，社会を支配する実務のための画期的で強力なツールも提供し得る。そのような実務は，特に危険なものであり，かつ，非差別の権利，データ保護及びプライバシー
並びに児童の権利を含め，人間の尊厳の尊重，自由，平等，民主主義及び法の支配並びに欧州連合の基本的な権利という欧州連合の価値とそれらの実務が矛盾するものであるがゆえに禁止されるべきである。
Aside from the many beneficial uses of artificial intelligence, that technology can also be misused
and provide novel and powerful tools for manipulative, exploitative and social control practices.
Such practices are particularly harmful and should be prohibited because they contradict Union
values of respect for human dignity, freedom, equality, democracy and the rule of law and Union
fundamental rights, including the right to non-discrimination, data protection and privacy and therights of the child.
(16) 人の行動を歪める意図で，それによって身体的または心理的な危害が生ずるおそれがある
一定の AI システムを市場に置くこと，サービスに供すること，または，利用することは，禁止されるべきである。そのような AI システムは，人には知覚できない，または，その年齢，身体386

法と情報雑誌 6 巻 5 号（2021 年 11 月）
的または精神的な障害のゆえの児童もしくは人々の脆弱性を悪用するサブリミナルの構成要素を具備している。それらのシステムは，人間の行動を実質的に歪める意図で，かつ，当該の者またはその他の者に対して危害を生じさせ，または，生じさせるおそれのある態様でそのようにする。その AI システムの外にあり，その提供者または利用者の管理の外にある要因から人間の行動の歪みが生ずる場合には，その意図は，推定され得ない。そのような AI
システムと関連する正当な目的のための調査研究は，その調査研究が，自然人を危害に晒す人間対機械の関係における AI システムの利用には該当せず，かつ，そのような調査研究
が，科学研究のための承認された倫理基準に従って実施されるときは，その禁止によって止められてはならない。
The placing on the market, putting into service or use of certain AI systems intended to distort humanbehaviour, whereby physical or psychological harms are likely to occur, should be forbidden. Such
AI systems deploy subliminal components individuals cannot perceive or exploit vulnerabilities ofchildren and people due to their age, physical or mental incapacities. They do so with the intention
to materially distort the behaviour of a person and in a manner that causes or is likely to cause harmto that or another person. The intention may not be presumed if the distortion of human behaviour
results from factors external to the AI system which are outside of the control of the provider or theuser. Research for legitimate purposes in relation to such AI systems should not be stifled by theprohibition, if such research does not amount to use of the AI system in human-machine relations
that exposes natural persons to harm and such research is carried out in accordance with recognised
ethical standards for scientific research.
(17) 行政機関またはその代わりの者による一般的な目的のための自然人の社会的採点評価を提供する AI システムは，差別的な結果と一定のグループの疎外をもたらし得る。それらのシステムは，尊厳と非差別の権利及び平等と正義という価値を害し得る。そのような AI システ
ムは，複数の文脈または既知もしくは想定された個人の特定もしくは個性の特性における自然人の社会的行動を基礎として，自然人の信頼性を評価または分類する。そのような AI シ
ステムから獲得される社会採点評価は，データが当初に生成または収集された文脈とは関係のない社会的文脈における自然人またはそのグループ全体の有害または好ましくない取扱いを導き得るものであり，または，自然人の社会的行動の重さに対して不適切または正当化されない有害な取扱いを導き得る。それゆえ，そのような AI システムは，禁止されるべきである。
AI systems providing social scoring of natural persons for general purpose by public authorities oron their behalf may lead to discriminatory outcomes and the exclusion of certain groups. They may
violate the right to dignity and non-discrimination and the values of equality and justice. Such AI
systems evaluate or classify the trustworthiness of natural persons based on their social behaviour inmultiple contexts or known or predicted personal or personality characteristics. The social scoreobtained from such AI systems may lead to the detrimental or unfavourable treatment of natural387

法と情報雑誌 6 巻 5 号（2021 年 11 月）
persons or whole groups thereof in social contexts, which are unrelated to the context in which thedata was originally generated or collected or to a detrimental treatment that is disproportionate or
unjustified to the gravity of their social behaviour. Such AI systems should be therefore prohibited.
(18) 法執行の目的のための公衆がアクセス可能な場における自然人の「リアルタイム」のリモート
生体要素識別のための AI システムの利用は，とりわけ，そのシステムが大部分の人々の私的な生活を害し得る範囲内において，関係する者の権利及び自由を侵害するものであり，
常時監視の感覚を惹起させ，そして，集会の自由及びそれ以外の基本的な権利の行使を間接的に抑制するものと判断される。加えて，その影響が即時的なものであること，及び，「リアルタイム」で運用されるそのようなシステムの利用に関して更に点検または訂正させるための機会が限定されていることは，法執行活動によって関係づけられている者の権利及び自由に関し，より高められたリスクをもたらす。
The use of AI systems for ‘real-time’ remote biometric identification of natural persons in publicly
accessible spaces for the purpose of law enforcement is considered particularly intrusive in the rights
and freedoms of the concerned persons, to the extent that it may affect the private life of a large partof the population, evoke a feeling of constant surveillance and indirectly dissuade the exercise of thefreedom of assembly and other fundamental rights. In addition, the immediacy of the impact and thelimited opportunities for further checks or corrections in relation to the use of such systems operatingin ‘real-time’ carry heightened risks for the rights and freedoms of the persons that are concerned bylaw enforcement activities.
(19) それゆえ，重大な公共の利益を達成するためにその利用が厳格に必要であり，かつ，その利用の重要性がリスクを上回る場合において，限定的に列挙され，かつ，狭く定義された 3
つの状況を例外として，法執行の目的のためのそれらのシステムの利用は，禁止されるべきである。それらの状況は，失踪中の児童を含め，潜在的な犯罪被害者の捜索；自然人の生命もしくは身体の安全に対する一定の脅威またはテロ攻撃の脅威；関係構成国においてそれらの犯罪行為が少なくとも 3 年の上限期間による拘禁刑または拘束命令によって処罰され得るものであり，かつ，そのことが当該構成国の法律に定められている場合，理事会枠組み
決定 2002/584/JHA38に示す犯罪行為の加害者または被疑者の検知，所在確認，識別同定または訴追を含む。そのような国内法に従った拘禁刑または拘束命令の閾値は，「リアルタイム」のリモート生体要素識別システムの利用を潜在的に正当化するためにその犯罪行為が十分に重大であることを確保することに貢献する。更に，理事会枠組み決定 2002/584/JHAに列挙されている 32 の犯罪行為の中の幾つかは，実務上，他の犯罪行為よりも関連性をもつ可能性が高く，その中で，列挙された異なる犯罪行為の加害者または被疑者の検知，所在確認，識別同定または訴追の実際の遂行のために，かつ，重大性，蓋然性及び危害の規欧州逮捕令状及び構成国間の身柄引渡し手続に関する 2002 年 6 月 13 日の理事会枠組み決定
2002/584/JHA (OJ L 190, 18.7.2002, p. 1).
38388

法と情報雑誌 6 巻 5 号（2021 年 11 月）
模または発生し得る負の結果において存在し得る相違を考慮に入れた上で，「リアルタイム」のリモート生体要素識別によることは，必要なものであり，かつ，高度に多様な度合いに対して比例的なものであると予想される。
The use of those systems for the purpose of law enforcement should therefore be prohibited, except
in three exhaustively listed and narrowly defined situations, where the use is strictly necessary toachieve a substantial public interest, the importance of which outweighs the risks. Those situations
involve the search for potential victims of crime, including missing children; certain threats to thelife or physical safety of natural persons or of a terrorist attack; and the detection, localisation,
identification or prosecution of perpetrators or suspects of the criminal offences referred to in Council
Framework Decision 2002/584/JHA 38 if those criminal offences are punishable in the Member State
concerned by a custodial sentence or a detention order for a maximum period of at least three years
and as they are defined in the law of that Member State. Such threshold for the custodial sentence or
detention order in accordance with national law contributes to ensure that the offence should beserious enough to potentially justify the use of ‘real-time’ remote biometric identification systems.
Moreover, of the 32 criminal offences listed in the Council Framework Decision 2002/584/JHA,
some are in practice likely to be more relevant than others, in that the recourse to ‘real-time’ remotebiometric identification will foreseeably be necessary and proportionate to highly varying degrees
for the practical pursuit of the detection, localisation, identification or prosecution of a perpetrator orsuspect of the different criminal offences listed and having regard to the likely differences in theseriousness, probability and scale of the harm or possible negative consequences.
(20) それらのシステムが責任のある比例的な態様で利用されることを確保するため，それら限定列挙された 3 つの例外と狭く定義された状況の中で，とりわけ利用の要求を生じさせている
状況の性質，及び，関係する全ての者の権利及び自由に対するその利用から生ずる結果，その利用のための安全確保及び条件に関し，一定の要素が考慮に入れられるべきことを定めることも重要である。加えて，法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システムの利用は，とりわけ，脅威，被害者または加害者と関連する証拠または徴候を考慮した上で，時間及び場所の適切な制限に服するべきである。人の参照データベースは，上述の 3 つの各状況の個々の利用にとって適切なものとすべきである。
In order to ensure that those systems are used in a responsible and proportionate manner, it is also
important to establish that, in each of those three exhaustively listed and narrowly defined situations,certain elements should be taken into account, in particular as regards the nature of the situation
giving rise to the request and the consequences of the use for the rights and freedoms of all persons
concerned and the safeguards and conditions provided for with the use. In addition, the use of ‘realtime’ remote biometric identification systems in publicly accessible spaces for the purpose of law
enforcement should be subject to appropriate limits in time and space, having regard in particular to389

法と情報雑誌 6 巻 5 号（2021 年 11 月）
the evidence or indications regarding the threats, the victims or perpetrator. The reference databaseof persons should be appropriate for each use case in each of the three situations mentioned above.
(21) 法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素
識別システムの個々の利用は，構成国の法務機関または独立の行政機関の明示かつ個別の許可に服するべきである。そのような許可は，適正に正当化される緊急の状況にある場合，
すなわち，当のシステムの利用の必要性が，その利用を開始する前に許可を得ることを実際
上及び客観的に不可能とさせているような状況がある場合を除き，原則として，その利用の前に得られるべきである。そのような緊急の状況において，その利用は，絶対最小限必要な範囲に制限されるべきであり，かつ，国内法の中で定められ，その法執行機関によって各個別の緊急利用の場合の文脈において指定される適切な安全確保及び条件に服するべきである。加えて，法執行機関は，そのような状況において，特に，より早期に許可を求められなかった理由を提供し，可能な限り速やかに，許可を得ることを求めるべきである。
Each use of a ‘real-time’ remote biometric identification system in publicly accessible spaces for the
purpose of law enforcement should be subject to an express and specific authorisation by a judicial
authority or by an independent administrative authority of a Member State. Such authorisation
should in principle be obtained prior to the use, except in duly justified situations of urgency, that is,situations where the need to use the systems in question is such as to make it effectively andobjectively impossible to obtain an authorisation before commencing the use. In such situations ofurgency, the use should be restricted to the absolute minimum necessary and be subject toappropriate safeguards and conditions, as determined in national law and specified in the context ofeach individual urgent use case by the law enforcement authority itself. In addition, the law
enforcement authority should in such situations seek to obtain an authorisation as soon as possible,
whilst providing the reasons for not having been able to request it earlier.
(22) 更に，当の構成国がその構成国の国内法の細目規定の中でそのような利用の許可が可能であることを明示で定めることを決定した場合において，その範囲内に限り，この規則に従った構成国の領土内におけるそのような利用が，この規則によって定められる限定的な枠組
みの範囲内で，可能であることを定めることが適切である。その結果として，構成国は，この規則の下において，そのような可能性を全く定めないか，または，この規則の中で定められた許可を受けた利用を正当化可能な対象の幾つかに関してのみそのような可能性を定める
かの自由を維持する。
Furthermore, it is appropriate to provide, within the exhaustive framework set by this Regulationthat such use in the territory of a Member State in accordance with this Regulation should only bepossible where and in as far as the Member State in question has decided to expressly provide forthe possibility to authorise such use in its detailed rules of national law. Consequently, Member Statesremain free under this Regulation not to provide for such a possibility at all or to only provide for390

法と情報雑誌 6 巻 5 号（2021 年 11 月）
such a possibility in respect of some of the objectives capable of justifying authorised use identified
in this Regulation.
(23) 法執行の目的のための公衆がアクセス可能な場における自然人の「リアルタイム」のリモート
生体要素識別のための AI システムの利用は，必然的に生体要素データの処理を含む。この規則の規定は，一定の例外に服して，TFEU の第16 条を基礎としてそのような利用を禁止するものであり，指令(EU) 2016/680 の第 10 条に含まれる生体要素データの処理に関する規定との関係において特別法として，そして，そのような利用及び関係する生体要素データの処理が限定的な態様で規制されるものとして適用されるべきである。それゆえ，指令(EU)2016/680 の第 10 条に列挙する根拠に基づきそのようなシステムを利用し，そのようなシステ
ムと関係するようなデータを処理するために職務権限のある機関が法執行の目的のために行動する場合において，この規則の枠組みの外に職務権限のある機関のための適用範囲を残すことなく，そのような利用及び処理は，この規則によって定められる枠組みと互換性がある場合に限り，可能とすべきである。この文脈において，この規則は，指令(EU) 2016/680の第 8 条に基づく個人データの処理のための法的根拠を提供することを意図していない。
ただし，職務権限のある機関による場合を含め，法執行以外の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システムの利用は，この規則によって定められる法執行の目的のためのそのような利用と関連する特別の枠組みに包摂してはならない。それゆえ，そのような法執行以外の目的のための利用は，この規則及びその許可に効力を与え得る国内法上の適用可能な細目規定に基づく許可の要件に服するものとしてはならない。
The use of AI systems for ‘real-time’ remote biometric identification of natural persons in publicly
accessible spaces for the purpose of law enforcement necessarily involves the processing of
biometric data. The rules of this Regulation that prohibit, subject to certain exceptions, such use,which are based on Article 16 TFEU, should apply as lex specialis in respect of the rules on theprocessing of biometric data contained in Article 10 of Directive (EU) 2016/680, thus regulatingsuch use and the processing of biometric data involved in an exhaustive manner. Therefore, such use
and processing should only be possible in as far as it is compatible with the framework set by thisRegulation, without there being scope, outside that framework, for the competent authorities, where
they act for purpose of law enforcement, to use such systems and process such data in connection
thereto on the grounds listed in Article 10 of Directive (EU) 2016/680. In this context, this Regulation
is not intended to provide the legal basis for the processing of personal data under Article 8 of
Directive 2016/680. However, the use of ‘real-time’ remote biometric identification systems inpublicly accessible spaces for purposes other than law enforcement, including by competentauthorities, should not be covered by the specific framework regarding such use for the purpose oflaw enforcement set by this Regulation. Such use for purposes other than law enforcement should
therefore not be subject to the requirement of an authorisation under this Regulation and theapplicable detailed rules of national law that may give effect to it.
391

法と情報雑誌 6 巻 5 号（2021 年 11 月）(24) 法執行以外の目的のために公衆がアクセス可能な場において職務権限のある機関によってそれらのシステムが利用される場合を含め，この規則によって規制を受ける法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システムの利用と関係するもの以外の生体要素識別のための AI システムの利用に含まれる生体要素
データ及びそれ以外の個人データの処理は，それに該当するときは，規則(EU) 2016/679 の第 9 条第 1 項，規則(EU) 2018/1725 の第 10 条第 1 項及び指令(EU) 2016/680 の第 10 条から帰結する全ての要件を遵守し続けるべきである。
Any processing of biometric data and other personal data involved in the use of AI systems forbiometric identification, other than in connection to the use of ‘real-time’ remote biometricidentification systems in publicly accessible spaces for the purpose of law enforcement as regulatedby this Regulation, including where those systems are used by competent authorities in publicly
accessible spaces for other purposes than law enforcement, should continue to comply with all
requirements resulting from Article 9(1) of Regulation (EU) 2016/679, Article 10(1) of Regulation(EU) 2018/1725 and Article 10 of Directive (EU) 2016/680, as applicable.
(25) TEU 及び TFEU に附属する自由，保安及び法務の領域との関係における連合王国及びアイルランドの地位に関する議定書第21 号の第 6 条 a に従い，アイルランドは，TFEU の第 16条を基礎として定められた条項の遵守を要求する刑事における法務上の協力及び警察協力の方式を規律する規定によってアイルランドが拘束されない場合においては，TFEU の第 3部の第 V 款の第 4 章または第 5 章の範囲内にある活動を遂行する場合における構成国による個人データの処理と関連する TFEU の第 16 条を基礎として採択されたこの規則の第 5
条第 1 項の(d)，第 2 項及び第 3 項に定める規定によって拘束されない。
In accordance with Article 6a of Protocol No 21 on the position of the United Kingdom and Ireland
in respect of the area of freedom, security and justice, as annexed to the TEU and to the TFEU,
Ireland is not bound by the rules laid down in Article 5(1), point (d), (2) and (3) of this Regulation
adopted on the basis of Article 16 of the TFEU which relate to the processing of personal data by theMember States when carrying out activities falling within the scope of Chapter 4 or Chapter 5 of
Title V of Part Three of the TFEU, where Ireland is not bound by the rules governing the forms of
judicial cooperation in criminal matters or police cooperation which require compliance with theprovisions laid down on the basis of Article 16 of the TFEU.
(26) TEU 及び TFEU に附属するデンマークの地位に関する議定書第 22 号の第 2 条及び第 2条 a に従い，デンマークは，TFEU の第 3 部の第 V 款の第 4 章または第 5 章の範囲内にある活動を遂行する場合における構成国による個人データの処理と関連する TFEU の第16 条を基礎として採択されたこの規則の第 5 条第 1 項の(d)，第 2 項及び第 3 項に定める規定によって拘束されず，または，その適用に服さない。
392

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In accordance with Articles 2 and 2a of Protocol No 22 on the position of Denmark, annexed to the
TEU and TFEU, Denmark is not bound by rules laid down in Article 5(1), point (d), (2) and (3) ofthis Regulation adopted on the basis of Article 16 of the TFEU, or subject to their application, which
relate to the processing of personal data by the Member States when carrying out activities fallingwithin the scope of Chapter 4 or Chapter 5 of Title V of Part Three of the TFEU.
(27) 高リスク AI システムは，それらのシステムが一定の強行的な要件を遵守する場合に限り，欧州連合の市場に置かれまたはサービスに供されるべきである。それらの要件は，欧州連合
内で利用可能な高リスク AI システム，あるいは，その出力が欧州連合内で利用される高リス
ク AI システムが，欧州連合法によって承認され，保護されている欧州連合の重要な公共の利益に対して許容できないリスクを示さないことを確保すべきである。高リスクとして識別された AI システムは，欧州連合内の人の健康，安全及び基本的な権利に対して大きく危険な影
響をもつシステムに限定されるべきであり，そのような限定は，もしあるとしても，国際取引に対する潜在的な制限をミニマム化する。
High-risk AI systems should only be placed on the Union market or put into service if they comply
with certain mandatory requirements. Those requirements should ensure that high-risk AI systems
available in the Union or whose output is otherwise used in the Union do not pose unacceptable risks
to important Union public interests as recognised and protected by Union law. AI systems identified
as high-risk should be limited to those that have a significant harmful impact on the health, safety
and fundamental rights of persons in the Union and such limitation minimises any potential
restriction to international trade, if any.
(28) AI システムは，とりわけ，そのようなシステムが製品の構成要素として運用される場合，人の健康及び安全に対する負の結果を生産し得る。域内市場における製品の支障のない移動を容易にするための，及び，安全な製品あるいは法令を遵守する製品のみが市場への道を見出すことを確保するための欧州連合整合立法の目的と一貫性のあるものとして，AI システム
を含め，そのデジタル構成要素のゆえに全体としての製品によって生成され得る安全性のリ
スクが適正に防止及び緩和されることが重要である。例えば，製造業の文脈であるか人の補助及び介助の文脈であるかを問わず，増加している自律的なロボットは，複雑な環境の中でそれらのロボットの機能が安全に運用及び遂行できるものとすべきである。同様に，生命及び健康の利害が特に高い医療部門においては，増加している高度診療システム及び人間の判断の支援システムは，信頼性があり，かつ，正確なものとすべきである。憲章によって保護されている基本的な権利に対する AI システムにより生ずる負の影響の範囲は，高リスクとして AI システムを分類する際に特に関連性がある。それらの権利は，人間の尊厳，私生活
及び家庭の生活の尊重，個人データの保護，表現及び情報提供の自由，集会及び団体の自由の権利，並びに，非差別，消費者保護，労働者の権利，障害のある者の権利，実効的な救済及び公正な裁判の権利，防御の権利及び無罪の推定，良い行政の権利を含む。これらの権利に加え，児童が，EU 憲章の第 24 条及び児童の権利に関する国際連合条約に掲げ393

法と情報雑誌 6 巻 5 号（2021 年 11 月）られた（更に，デジタル環境と関連して UNCRC 一般見解第25 号の中で精緻化された）特別の権利をもつことを強調することが重要である。それら両者は，児童の脆弱性の考慮，及び，児童の福利のために必要となるような保護と取扱いの提供を要求している。憲章の中に掲げられ，欧州連合の諸政策の中に実装された高いレベルの環境保護の基本的な権利は，人の健康及び安全との関係を含め，AI システムが生じさせ得る危害の程度を評価する際，考慮されるべきである。
AI systems could produce adverse outcomes to health and safety of persons, in particular when such
systems operate as components of products. Consistently with the objectives of Union
harmonisation legislation to facilitate the free movement of products in the internal market and toensure that only safe and otherwise compliant products find their way into the market, it is importantthat the safety risks that may be generated by a product as a whole due to its digital components,
including AI systems, are duly prevented and mitigated. For instance, increasingly autonomous
robots, whether in the context of manufacturing or personal assistance and care should be able tosafely operate and performs their functions in complex environments. Similarly, in the health sector
where the stakes for life and health are particularly high, increasingly sophisticated diagnostics
systems and systems supporting human decisions should be reliable and accurate. The extent of theadverse impact caused by the AI system on the fundamental rights protected by the Charter is ofparticular relevance when classifying an AI system as high-risk. Those rights include the right tohuman dignity, respect for private and family life, protection of personal data, freedom of expression
and information, freedom of assembly and of association, and non-discrimination, consumer
protection, workers’ rights, rights of persons with disabilities, right to an effective remedy and to afair trial, right of defence and the presumption of innocence, right to good administration. In addition
to those rights, it is important to highlight that children have specific rights as enshrined in Article 24of the EU Charter and in the United Nations Convention on the Rights of the Child (further
elaborated in the UNCRC General Comment No. 25 as regards the digital environment), both ofwhich require consideration of the children’s vulnerabilities and provision of such protection andcare as necessary for their well-being. The fundamental right to a high level of environmental
protection enshrined in the Charter and implemented in Union policies should also be consideredwhen assessing the severity of the harm that an AI system can cause, including in relation to thehealth and safety of persons.
(29) 製品もしくはシステムの安全性構成要素である高リスク AI システム，または，欧州議会及び理事会の規則(EC) No 300/200839，欧州議会及び理事会の規則(EU) No 167/201340，欧州議
民間航空の安全性の分野における共通の規定に関する，及び，規則(EC) No 2320/2002 を廃止する
欧州議会及び理事会の 2008 年 3 月 11 日の規則(EC) No 300/2008 (OJ L 97, 9.4.2008, p. 72).
40
農業車両及び林業車両の承認及び市場監視に関する欧州議会及び理事会の 2013 年 2 月 5 日の規則(EU) No 167/2013 (OJ L 60, 2.3.2013, p. 1).
39394

法と情報雑誌 6 巻 5 号（2021 年 11 月）
会及び理事会の規則(EU) No 168/201341，欧州議会及び理事会の指令 2014/90/EU42，欧州
議会及び理事会の指令(EU) 2016/79743，欧州議会及び理事会の規則(EU) 2018/85844，欧州
議会及び理事会の規則(EU) 2018/1139 45 並びに欧州議会及び理事会の規則(EU)2019/214446の適用範囲内にあるそれ自体が製品もしくはシステムである高リスク AI システムに関しては，欧州委員会が，それらの法令を基礎とする将来の委任される行為または実装
行為を採択する際，各部門の技術上及び法令上の特性を基礎として，かつ，既存の統治，適合性評価及び執行の仕組み並びにそれらの法令の中で定められる機関に干渉することなく，この規則に定める高リスク AI システムの強行的な要件を考慮に入れることを確保するため，それらの法令を改正することが重要である。
As regards high-risk AI systems that are safety components of products or systems, or which arethemselves products or systems falling within the scope of Regulation (EC) No 300/2008 of theEuropean Parliament and of the Council 39, Regulation (EU) No 167/2013 of the European
Parliament and of the Council 40, Regulation (EU) No 168/2013 of the European Parliament and of
the Council 41, Directive 2014/90/EU of the European Parliament and of the Council 42, Directive
2 輪，3 輪及び 4 輪の自転車の承認及び市場監視に関する欧州議会及び理事会の 2013 年 1 月 15日の規則 (EU) No 168/2013 (OJ L 60, 2.3.2013, p. 52).
41

42 舶用機器に関する，及び，理事会指令 96/98/EC を廃止する欧州議会及び理事会の 2014 年

7 月 23 日の指令 2014/90/EU (OJ L 257, 28.8.2014, p. 146).
43 欧州連合内の鉄道システムの相互運用性に関する欧州議会及び理事会の 2016 年 5 月 11 日の指令(EU) 2016/797 (OJ L 138, 26.5.2016, p. 44).
自動車及びその被牽引車，そのような自動車用のシステム，構成要素及び分離された技術ユニットの承認及び市場監視に関する，規則(EC) No 175/2007 及び規則(EC) No 595/2009 を改正する，並びに，指令 2007/46/EC を廃止する欧州議会及び理事会の 2018 年 5 月 30 日の規則(EU) 2018/858 (OJ L
151, 14.6.2018, p. 1).
45
民間航空の分野における共通規定に関する及び欧州連合航空安全局を設置する，並びに，欧州議会及び理事会の規則(EC) No 2111/2005，規則(EC) No 1008/2008，規則(EU) No 996/2010，規則(EU)No 376/2014，指令 2014/30/EU 及び指令 2014/53/EU を改正する，欧州議会及び理事会の規則(EC)No 552/2004，規則(EC) No 216/2008 及び理事会規則(EEC) No 3922/91 を廃止する欧州議会及び理事
会の 2018 年 7 月 4 日の規則(EU) 2018/1139 (OJ L 212, 22.8.2018, p. 1).
46
その一般的な安全性及び車両乗員の保護並びに脆弱な道路利用者と関連して，自動車及びその被牽引車，そのような自動車用のシステム，構成要素及び分離された技術ユニットの型式承認の要件に関する，欧州議会及び理事会の規則(EU) 2018/858 を改正する，欧州議会及び理事会の規則(EC) No
78/2009，規則(EC) No 79/2009 及び規則(EC) No 661/2009 並びに理事会規則(EC) No 631/2009，理事
会規則(EU) No 406/2010，理事会規則(EU) No 672/2010，理事会規則(EU) No 1003/2010，理事会規則(EU) No 1005/2010，理事会規則(EU) No 1008/2010，理事会規則(EU) No 1009/2010，理事会規則(EU)No 19/2011，理事会規則(EU) No 109/2011，理事会規則(EU) No 458/2011，理事会規則(EU) No 65/2012，
理事会規則(EU) No 130/2012，理事会規則(EU) No 347/2012，理事会規則(EU) No 351/2012，理事会規則(EU) No 1230/2012 及び理事会規則(EU) 2015/166 を廃止する欧州議会及び理事会の 2019 年 11 月
27 日の規則(EU) 2019/2144 (OJ L 325, 16.12.2019, p. 1).
44395

法と情報雑誌 6 巻 5 号（2021 年 11 月）(EU) 2016/797 of the European Parliament and of the Council 43, Regulation (EU) 2018/858 of theEuropean Parliament and of the Council 44, Regulation (EU) 2018/1139 of the European Parliamentand of the Council 45, and Regulation (EU) 2019/2144 of the European Parliament and of theCouncil 46, it is appropriate to amend those acts to ensure that the Commission takes into account,on the basis of the technical and regulatory specificities of each sector, and without interfering withexisting governance, conformity assessment and enforcement mechanisms and authorities
established therein, the mandatory requirements for high-risk AI systems laid down in thisRegulation when adopting any relevant future delegated or implementing acts on the basis of thoseacts.
(30) 製品の安全性構成要素である AI システムまたはそれ自体が製品である AI システムであって，一定の欧州連合整合立法の適用範囲内にあるものは，当の製品が，関連する欧州連合
整合立法による第三者適合性評価組織の適合性評価手続を経ていないときは，この規則の下において高リスクとしてそのシステムを分類することが適切である。とりわけ，機械，玩具，
エレベータ，爆発の危険性のある場所における利用を意図する機器類及び防御システム，
無線機器類，加圧機器類，娯楽用舟艇機器類，ロープウェイ設備，ガス燃焼器具，医療機器
及び体外診断用医療機器がそのような製品である。
As regards AI systems that are safety components of products, or which are themselves products,
falling within the scope of certain Union harmonisation legislation, it is appropriate to classify themas high-risk under this Regulation if the product in question undergoes the conformity assessment
procedure with a third-party conformity assessment body pursuant to that relevant Union
harmonisation legislation. In particular, such products are machinery, toys, lifts, equipment andprotective systems intended for use in potentially explosive atmospheres, radio equipment, pressure
equipment, recreational craft equipment, cableway installations, appliances burning gaseous fuels,
medical devices, and in vitro diagnostic medical devices.
(31) この規則による高リスクとしての AI システムの分類は，その安全性構成要素が AI システムである製品または AI システムそれ自体である製品が，その製品に適用される関連欧州連合
整合立法の中で設けられている基準の下で「高リスク」と判断されるということを必然的に意味するものとしてはならない。特に，中リスク及び高リスクの製品に関して第三者適合性評価が定められている欧州議会及び理事会の規則(EU) 2017/74547並びに欧州議会及び理事会の規則(EU) 2017/74648がその場合に該当する。
医療機器に関する，指令 2001/83/EC，規則(EC) No 178/2002 及び規則(EC) No 1223/2009 を改正す
る，並びに，理事会指令 90/385/EEC 及び理事会指令 93/42/EEC を廃止する欧州議会及び理事会の2017 年 4 月 5 日の規則(EU) 2017/745 (OJ L 117, 5.5.2017, p. 1).
48
体外診断用医療機器に関する，並びに，指令 98/79/EC 及び委員会決定 2010/227/EU を廃止する欧州議会及び理事会の 2017 年 4 月 5 日の規則(EU) 2017/746 (OJ L 117, 5.5.2017, p. 176).
47396

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The classification of an AI system as high-risk pursuant to this Regulation should not necessarilymean that the product whose safety component is the AI system, or the AI system itself as a product,
is considered ‘high-risk’ under the criteria established in the relevant Union harmonisation legislationthat applies to the product. This is notably the case for Regulation (EU) 2017/745 of the European
Parliament and of the Council 47 and Regulation (EU) 2017/746 of the European Parliament and of
the Council 48, where a third-party conformity assessment is provided for medium-risk and high-risk
products.
(32) 製品の安全性構成要素である AI システムまたはそれ自体が製品である AI システム以外の高リスク AI システムのことを意味するスタンドアロンの AI システムに関しては，そのシステムの所期の目的に照らし，あり得る危害の程度及びその危害の発生の蓋然性の両者を考慮に入れた上で，人の健康及び安全または基本的な権利に対する危害の高度なリスクをそれらのシステムが示し，かつ，それらのシステムがこの規則の中で特に定める多数の事前に定義された分野において利用されるときは，高リスクとしてそのシステムを分類することが適切である。それらのシステムの識別同定は，高リスク AIシステムのリストの将来の改訂のためにも想定されている同じ手法及び基準を基礎とする。
As regards stand-alone AI systems, meaning high-risk AI systems other than those that are safety
components of products, or which are themselves products, it is appropriate to classify them as highrisk if, in the light of their intended purpose, they pose a high risk of harm to the health and safety or
the fundamental rights of persons, taking into account both the severity of the possible harm and its
probability of occurrence and they are used in a number of specifically pre-defined areas specified
in the Regulation. The identification of those systems is based on the same methodology and criteria
envisaged also for any future amendments of the list of high-risk AI systems.
(33) 自然人のリモート生体要素識別を意図する AI システムの技術上の不正確性は，バイアスのかかった結果を導き得るものであり，差別的な効果を伴う。それが年齢，民族性，性または障害に由来するものであるときは，このことと特に関連性がある。それゆえ，「リアルタイム」及び「事後」のリモート生体要素識別システムは，高リスクとして分類されるべきである。そのシステムが示すリスクを考慮し，両者のタイプのリモート生体要素識別システムは，履歴記録能力と人間による監視に関する特別の要件に服すべきである。
Technical inaccuracies of AI systems intended for the remote biometric identification of natural
persons can lead to biased results and entail discriminatory effects. This is particularly relevant whenit comes to age, ethnicity, sex or disabilities. Therefore, ‘real-time’ and ‘post’ remote biometricidentification systems should be classified as high-risk. In view of the risks that they pose, both typesof remote biometric identification systems should be subject to specific requirements on logging
capabilities and human oversight.
397

法と情報雑誌 6 巻 5 号（2021 年 11 月）(34) 重要インフラの運営管理及び業務遂行に関しては，そのシステムの不良または誤作動が人の生命及び健康への大規模なリスクに晒し得るものであり，また，社会活動及び経済活動を正常に行う上での大混乱を導き得るものであるので，道路交通並びに水，ガス，熱及びエネ
ルギーの供給の運営管理及び業務遂行における安全性構成要素として利用されることを意図する AI システムを高リスクとして分類することが適切である。
As regards the management and operation of critical infrastructure, it is appropriate to classify as
high-risk the AI systems intended to be used as safety components in the management and operationof road traffic and the supply of water, gas, heating and electricity, since their failure or
malfunctioning may put at risk the life and health of persons at large scale and lead to appreciabledisruptions in the ordinary conduct of social and economic activities.
(35) 特に，教育機関及び職業訓練機関へのアクセスの決定または人の評価のため，人の教育の一部またはその前提としての試験における人の評価のために教育または職業訓練において利用される AI システムは，人の生活の教育課程及び職業課程をそれらのシステムが決定し得るものであり，それゆえ，人の生活を安全にするための人の能力に影響を与え得るものであるので，高リスクと判断されるべきである。不適切に設計され，利用される場合，そのようなシステムは，教育と訓練の権利，並びに，差別に対して反対する権利を侵害し，差別の歴史的パターンを永続化させ得る。
AI systems used in education or vocational training, notably for determining access or assigningpersons to educational and vocational training institutions or to evaluate persons on tests as part ofor as a precondition for their education should be considered high-risk, since they may determine
the educational and professional course of a person’s life and therefore affect their ability to secure
their livelihood. When improperly designed and used, such systems may violate the right toeducation and training as well as the right not to be discriminated against and perpetuate historicalpatterns of discrimination.
(36) 特に，人の採用及び選択のため，雇用募集及び雇用終了に関する判断を行うため，及び，労働と関連する契約関係における仕事の割当て，人の監視または評価のために雇用，労働者の管理及び自営へのアクセスにおいて利用される AI システムは，それらの者の将来のキ
ャリアの見通しと生活に対してそれらのシステムがかなりの影響を与え得るので，高リスクとして分類されるべきである。労働と関係する関連契約関係は，従業者及び欧州委員会の 2021
年作業計画に示すプラットフォームを介して役務を提供する者を含めるべきである。そのような者は，原則として，この規則の意味における利用者と判断されてはならない。採用過程全体を通じて，かつ，労働と関連する契約関係における人の評価，採用または人材確保において，そのようなシステムは，例えば，女性，一定の年齢のグループ，障害をもつ人々，または，一定の人種的な出自もしくは民族的な出自をもつ人々あるいは一定の性的指向をもつ人々に対して，差別の歴史的パターンを永続化させ得る。それらの者の業務遂行能力及び398

法と情報雑誌 6 巻 5 号（2021 年 11 月）
行動を監視するために利用される AI システムもまた，それらの者のデータ保護及びプライバシーの権利に影響を与え得る。
AI systems used in employment, workers management and access to self-employment, notably forthe recruitment and selection of persons, for making decisions on promotion and termination and fortask allocation, monitoring or evaluation of persons in work-related contractual relationships, should
also be classified as high-risk, since those systems may appreciably impact future career prospects
and livelihoods of these persons. Relevant work-related contractual relationships should involve
employees and persons providing services through platforms as referred to in the Commission Work
Programme 2021. Such persons should in principle not be considered users within the meaning of
this Regulation. Throughout the recruitment process and in the evaluation, promotion, or retentionof persons in work-related contractual relationships, such systems may perpetuate historical patternsof discrimination, for example against women, certain age groups, persons with disabilities, or
persons of certain racial or ethnic origins or sexual orientation. AI systems used to monitor the
performance and behaviour of these persons may also impact their rights to data protection andprivacy.
(37) AI システムの利用に特別の考慮をするのに値するもう 1 つの分野は，人々にとって社会への全面的な参加のためまたは人の生活水準を向上させるために必要な一定の必須の民間の役務及び公共の役務並びに受益へのアクセス及びその享受である。とりわけ，自然人の信用スコア及び信用度を評価するために利用される AI システムは，それらの個人の資金へのアクセスまたは住宅，電気及び通信サービスのような必須の役務へのアクセスを決定づけるものであるので，高リスク AI システムとして分類されるべきである。この目的のために利用される AI システムは，例えば，人種的な出自もしくは民族的な出自，障害，年齢，性的指向を基礎とする個人またはグループの差別を導き得るものであり，かつ，差別の歴史的パター
ンを永続化させ得るものであり，または，新たな形態の差別的な影響をつくり出し得るものである。非常に小さな規模の影響と市場において利用可能な代替手段を考慮し，小規模な提供者によって，その提供者自身の利用のためにサービスに供される場合においては，信用度評価及び信用スコアの目的のための AI システムを適用除外とすることが適切である。行政機関から公的な補助の受益または役務を申し込む自然人またはそれを受ける自然人は，典型的に，それらの受益及び役務に依存しており，そして，それに対応する機関との関係において脆弱な立場にある。そのような受益及び役務が行政機関によって拒否され，減額され，取消され，または，返還請求されるべきかどうかを判断するために AI システムが利用される
場合，それらのシステムは，人の生活に大きな影響をもち得るのであり，また，社会の保護，非差別，人間の尊厳または実効的な救済の権利のようなそれらの者の基本的な権利を侵害し得る。それゆえ，それらのシステムは，高リスクとして分類されるべきである。ただし，この規則は，それらの AI システムが法人及び自然人する高リスクを伴わないものであることを条件として，行政機関における革新的なアプローチの開発及び利用を妨げてはならない。そのことは，法令を遵守する安全な AI システムの広範な利用からの受益を止め得る。最後に，399

法と情報雑誌 6 巻 5 号（2021 年 11 月）
緊急対応サービスの実行順序決定における順序決定または優先順位づけのために利用される AI システムもまた，人の生命及び健康並びにそれらの者の財産にとって非常に重要な状況において行政機関が判断を行うことから，高リスクとして分類されるべきである。
Another area in which the use of AI systems deserves special consideration is the access to andenjoyment of certain essential private and public services and benefits necessary for people to fully
participate in society or to improve one’s standard of living. In particular, AI systems used to evaluate
the credit score or creditworthiness of natural persons should be classified as high-risk AI systems,
since they determine those persons’ access to financial resources or essential services such as housing,electricity, and telecommunication services. AI systems used for this purpose may lead todiscrimination of persons or groups and perpetuate historical patterns of discrimination, for example
based on racial or ethnic origins, disabilities, age, sexual orientation, or create new forms of
discriminatory impacts. Considering the very limited scale of the impact and the available
alternatives on the market, it is appropriate to exempt AI systems for the purpose of creditworthinessassessment and credit scoring when put into service by small-scale providers for their own use.
Natural persons applying for or receiving public assistance benefits and services from publicauthorities are typically dependent on those benefits and services and in a vulnerable position in
relation to the responsible authorities. If AI systems are used for determining whether such benefits
and services should be denied, reduced, revoked or reclaimed by authorities, they may have asignificant impact on persons’ livelihood and may infringe their fundamental rights, such as the rightto social protection, non-discrimination, human dignity or an effective remedy. Those systems
should therefore be classified as high-risk. Nonetheless, this Regulation should not hamper thedevelopment and use of innovative approaches in the public administration, which would stand tobenefit from a wider use of compliant and safe AI systems, provided that those systems do not entail
a high risk to legal and natural persons. Finally, AI systems used to dispatch or establish priority inthe dispatching of emergency first response services should also be classified as high-risk since they
make decisions in very critical situations for the life and health of persons and their property.
(38) 法執行機関による AI システムの一定の利用を含む活動は，大きな度合いの力の不均衡によって特徴づけられ，かつ，監視，逮捕または自然人の自由の剥奪を導き得るものであり，また，憲章の中で保障された基本的な権利に対して負の影響を与え得るものである。とりわけ，
AI システムが高品質のデータによって訓練されておらず，データの正確性または堅牢性の面における適切な要件に適合しておらず，または，適正に設計されておらず，市場に置かれ，もしくは，サービスに供される前に試験されていない場合，そのシステムは，差別的あるいは不正確または正当化されない態様で人々を選別し得る。更に，とりわけ，そのような AI
システムが，十分に透明性があり，説明可能性があり，かつ，文書化されているものではな
い場合，実効的な救済及び公正な裁判を受ける権利並びに防御の権利及び無罪の推定のような，重要な手続上の基本的な権利の行使が阻害され得る。それゆえ，負の影響を避ける
ために正確性，信頼性及び透明性が特に重要であり，公共の信頼を保持し，かつ，説明責400

法と情報雑誌 6 巻 5 号（2021 年 11 月）
任と実効的な救済を確保する法執行の過程において利用されることを意図する多数の AI シ
ステムは，高リスクとして分類することが適切である。当の活動の性質及びその活動と関連するリスクを考慮し，それらの高リスク AI システムは，とりわけ，個別のリスク評価，ポリグラフ及
び類似ツールのため，または，自然人の心理状態を検知するため，「ディープフェイク」を検知するため，刑事手続において証拠の信用性を評価するため，自然人のプロファイリングを基礎として現実の犯罪行為または潜在的な犯罪行為の発生または再発生を予測するため，
または，自然人もしくはグループの性格特性及び個性もしくは過去の犯罪行動を評価するため，犯罪行為の検知，捜査または訴追の過程におけるプロファイリングのため，並びに，自然人と関連する犯罪分析のために法執行機関によって利用されることを意図する AI システ
ムを含めるべきである。税務当局及び関税当局による行政手続のために利用されることを特に意図する AI システムは，犯罪行為の検知，捜査及び訴追の目的のために法執行機関によって利用される高リスク AI システムと判断されてはならない。
Actions by law enforcement authorities involving certain uses of AI systems are characterised by asignificant degree of power imbalance and may lead to surveillance, arrest or deprivation of a natural
person’s liberty as well as other adverse impacts on fundamental rights guaranteed in the Charter. In
particular, if the AI system is not trained with high quality data, does not meet adequate requirements
in terms of its accuracy or robustness, or is not properly designed and tested before being put on themarket or otherwise put into service, it may single out people in a discriminatory or otherwise
incorrect or unjust manner. Furthermore, the exercise of important procedural fundamental rights,
such as the right to an effective remedy and to a fair trial as well as the right of defence and thepresumption of innocence, could be hampered, in particular, where such AI systems are notsufficiently transparent, explainable and documented. It is therefore appropriate to classify as highrisk a number of AI systems intended to be used in the law enforcement context where accuracy,
reliability and transparency is particularly important to avoid adverse impacts, retain public trust andensure accountability and effective redress. In view of the nature of the activities in question and therisks relating thereto, those high-risk AI systems should include in particular AI systems intended to
be used by law enforcement authorities for individual risk assessments, polygraphs and similar tools
or to detect the emotional state of natural person, to detect ‘deep fakes’, for the evaluation of thereliability of evidence in criminal proceedings, for predicting the occurrence or reoccurrence of an
actual or potential criminal offence based on profiling of natural persons, or assessing personality
traits and characteristics or past criminal behaviour of natural persons or groups, for profiling in thecourse of detection, investigation or prosecution of criminal offences, as well as for crime analytics
regarding natural persons. AI systems specifically intended to be used for administrative proceedings
by tax and customs authorities should not be considered high-risk AI systems used by law
enforcement authorities for the purposes of prevention, detection, investigation and prosecution of
criminal offences.
(39) 移民，難民及び国境管理において利用される AI システムは，しばしば特に脆弱な立場にあ401

法と情報雑誌 6 巻 5 号（2021 年 11 月）る人々及び職務権限のある行政機関の活動の結果に依存している人々を害する。それゆえ，それらの文脈において利用される AI システムの正確性，非差別の性質及び透明性は，避難民の基本的権利，特に，支障のない移動の権利，非差別，私生活及び個人データの保護，
国際的な保護及び良い行政の尊重を保障するため，とりわけ重要である。それゆえ，ポリグ
ラフ及び類似のツールとして，または，自然人の心理状態を検知するため；構成国の領土に入国する自然人または査証もしくは難民の申請をする自然人によって示される一定のリスクを評価するため；自然人の関連文書の真正性を検査するため；移民，査証及び居住の許可を求める申請，並びに，難民認定を申請する自然人の適格性を確認するという目的に関する付随的な不服申立ての審査のために職務権限のある行政機関を補助するため，移民，難民及び国境管理の職務に職責を負う職務権限のある行政機関によって利用されることを意図する AI システムを高リスクとして分類することが適切である。この規則の適用のある移民，難民及び国境管理の分野における AI システムは，欧州議会及び理事会の指令
2013/32/EU49，欧州議会及び理事会の規則(EC) No 810/200950，並びに，それら以外の関連立法によって定められた手続上の関連要件を遵守すべきである。
AI systems used in migration, asylum and border control management affect people who are often
in particularly vulnerable position and who are dependent on the outcome of the actions of thecompetent public authorities. The accuracy, non-discriminatory nature and transparency of the AI
systems used in those contexts are therefore particularly important to guarantee the respect of thefundamental rights of the affected persons, notably their rights to free movement, non-discrimination,
protection of private life and personal data, international protection and good administration. It istherefore appropriate to classify as high-risk AI systems intended to be used by the competent publicauthorities charged with tasks in the fields of migration, asylum and border control management aspolygraphs and similar tools or to detect the emotional state of a natural person; for assessing certain
risks posed by natural persons entering the territory of a Member State or applying for visa or
asylum; for verifying the authenticity of the relevant documents of natural persons; for assisting
competent public authorities for the examination of applications for asylum, visa and residence
permits and associated complaints with regard to the objective to establish the eligibility of thenatural persons applying for a status. AI systems in the area of migration, asylum and border control
management covered by this Regulation should comply with the relevant procedural requirements
set by the Directive 2013/32/EU of the European Parliament and of the Council 49, the Regulation(EC) No 810/2009 of the European Parliament and of the Council 50 and other relevant legislation.
(40) 民主主義，法の支配，個人の自由，並びに，実効的な救済及び公正な裁判の権利に対する国際的な保護の付与及び撤回のための共通手続に関する欧州議会及び理事会の 2013 年 6 月 26
日の指令 2013/32/EU (OJ L 180, 29.6.2013, p. 60).
50
査証に関する欧州共同体法典を定める欧州議会及び理事会の 2009 年 7 月 13 日の規則(EC) No
810/2009（Visa コード）(OJ L 243, 15.9.2009, p. 1)
49402

法と情報雑誌 6 巻 5 号（2021 年 11 月）
潜在的に大きな影響を考慮し，法務の運営及び民主的な過程を意図する一定の AI システ
ムは，高リスクとして分類されるべきである。とりわけ，潜在的なバイアス，異常及び不透明性のリスクに対処するため，事実及び法律の検索及び解釈において，並びに，具体的な事実のセットに対する法律の適用において，法務機関を補助することを意図する AI システムは，高リスクとして分類するのが適切である。ただし，そのような分類は，法務当局の判断，文書
またはデータの匿名化または仮名化，要員の間の通信，行政上の職務または資金の割当てのような，個々の事件における実際の法務上の行政を害することのない純粋に補助的な行政活動のために意図された AI システムに対して拡張してはならない。
Certain AI systems intended for the administration of justice and democratic processes should beclassified as high-risk, considering their potentially significant impact on democracy, rule of law,individual freedoms as well as the right to an effective remedy and to a fair trial. In particular, toaddress the risks of potential biases, errors and opacity, it is appropriate to qualify as high-risk AI
systems intended to assist judicial authorities in researching and interpreting facts and the law and inapplying the law to a concrete set of facts. Such qualification should not extend, however, to AI
systems intended for purely ancillary administrative activities that do not affect the actual
administration of justice in individual cases, such as anonymisation or pseudonymisation of judicial
decisions, documents or data, communication between personnel, administrative tasks or allocationof resources.
(41) この規則の下において高リスクとして AI システムが分類されたという事実は，個人データの保護に関する法律，自然人の心理状況を検知するためのポリグラフ及び類似のツールまたはそれら以外のシステムの利用に関する法律のような，欧州連合法の他の法行為の下において，または，欧州連合法と互換性のある国内法の下において，そのシステムの利用が必
然的に適法であることを示すものとして解釈してはならない。そのような利用は，憲章並びに欧州連合の二次法である適用可能な法行為及び国内法から帰結する適用可能な要件に従う場合に限り，行われ続けるべきである。この規則は，それが関連するときは，特別の類型の個人データを含め，個人データの処理のための法的根拠を定めるものとして理解してはならない。
The fact that an AI system is classified as high risk under this Regulation should not be interpreted
as indicating that the use of the system is necessarily lawful under other acts of Union law or undernational law compatible with Union law, such as on the protection of personal data, on the use ofpolygraphs and similar tools or other systems to detect the emotional state of natural persons. Anysuch use should continue to occur solely in accordance with the applicable requirements resulting
from the Charter and from the applicable acts of secondary Union law and national law. This
Regulation should not be understood as providing for the legal ground for processing of personaldata, including special categories of personal data, where relevant.
403

法と情報雑誌 6 巻 5 号（2021 年 11 月）(42) 利用者及び影響を受ける者のために欧州連合の市場に置かれ，あるいは，サービスに供される高リスク AI システムからのリスクを緩和するため，そのシステムの利用の所期の目的を考慮に入れ，かつ，その提供者によって策定されるリスク管理システムに従い，一定の強行的な要件が適用されるべきである。
To mitigate the risks from high-risk AI systems placed or otherwise put into service on the Union
market for users and affected persons, certain mandatory requirements should apply, taking into
account the intended purpose of the use of the system and according to the risk management system
to be established by the provider.
(43) 要件は，使用されるデータセットの品質，技術文書及び記録の維持，透明性及び利用者に対する情報の提供，人間による監督，並びに，堅牢性，正確性及びサイバーセキュリティと関連して，高リスク AI システムに適用されるべきである。それらの要件は，それに該当するときは，そのシステムの所期の目的に照らして，かつ，取引に対する正当化されない制限を避ける合理的に利用可能なより取引制限的な措置がない場合に適用可能なものとして，健康，安全及び基本的な権利に対するリスクを実効的に緩和するために必要なものである。
Requirements should apply to high-risk AI systems as regards the quality of data sets used, technicaldocumentation and record-keeping, transparency and the provision of information to users, humanoversight, and robustness, accuracy and cybersecurity. Those requirements are necessary toeffectively mitigate the risks for health, safety and fundamental rights, as applicable in the light of
the intended purpose of the system, and no other less trade restrictive measures are reasonably
available, thus avoiding unjustified restrictions to trade.
(44) 高リスク AI システムが意図されたとおりに安全に機能遂行し，欧州連合法によって禁止されている差別の淵源とならないことを確保するという観点から，特に，モデルの訓練を含む技法が用いられている場合において，多くの AI システムの性能にとって高いデータ品質が必須である。訓練し，検証し及び試験する高品質のデータセットは，適切なデータ統治及び運営管理実務の実装を要求する。訓練し，検証し及び試験するデータセットは，そのシステムの所期の目的を考慮した上で，十分な関連性と代表比率をもち，かつ，異常がなく，完全なものとすべきである。それらのデータセットは，それに基づいてその高リスク AI システムが利用されることが意図されている人または人のグループとの関連を含め，適切な統計特性ももつべきである。とりわけ，訓練し，検証し及び試験するデータセットは，そのシステムの所期の目的に照らして要求される範囲内において，その AI システムが利用されることが意図されている範囲内における地理的，行動上または機能上の個々の設定または文脈にとって特有の機能，特性または要素を考慮に入れるべきである。AI システムのバイアスから生じ得る差
別から他者の権利を保護するため，その提供者は，高リスクAIシステムとの関係においてバイアスの監視，検知及び修正を確保するために，公共の利益上の重要な事項として，特別類型の個人データを処理できるべきである。
404

法と情報雑誌 6 巻 5 号（2021 年 11 月）
High data quality is essential for the performance of many AI systems, especially when techniques
involving the training of models are used, with a view to ensure that the high-risk AI system performs
as intended and safely and it does not become the source of discrimination prohibited by Union law.
High quality training, validation and testing data sets require the implementation of appropriate data
governance and management practices. Training, validation and testing data sets should be
sufficiently relevant, representative and free of errors and complete in view of the intended purposeof the system. They should also have the appropriate statistical properties, including as regards the
persons or groups of persons on which the high-risk AI system is intended to be used. In particular,
training, validation and testing data sets should take into account, to the extent required in the lightof their intended purpose, the features, characteristics or elements that are particular to the specificgeographical, behavioural or functional setting or context within which the AI system is intended to
be used. In order to protect the right of others from the discrimination that might result from the bias
in AI systems, the providers should be able to process also special categories of personal data, as amatter of substantial public interest, in order to ensure the bias monitoring, detection and correction
in relation to high-risk AI systems.
(45) 高リスク AI システムの開発に関しては，提供者，指定組織のような一定の関与者，並びに，それら以外の，デジタル技術革新ハブ，試験施設及び実験施設並びに研究者のような関連法主体は，この規則と関連するそれらの者それぞれの活動分野内にある高品質のデータセットへアクセスし，それを利用できるものとすべきである。欧州委員会によって設けられる欧州共通データ空間，並びに，企業間及び公共の利益における政府との間のデータ共有の促進は，AI システムの訓練，検証及び試験のための高品質データへの信頼性のある，説明責任のある，かつ，非差別的なアクセスを提供するための道具となる。例えば，医療においては，欧州医療データ空間は，プライバシーを維持し，安全であり，適時であり，透明性があり，かつ，信頼性のある態様により，かつ，適切な組織的統治により，医療データへの非差別的なアクセス，それらのデータセットに基づく人工知能アルゴリズムの試験を促進する。部門
別の機関を含め，データへのアクセスを提供または支援する職務権限のある関連機関もまた，AI システムの訓練，検証及び試験のための高品質データの提供を支援し得る。
For the development of high-risk AI systems, certain actors, such as providers, notified bodies andother relevant entities, such as digital innovation hubs, testing experimentation facilities andresearchers, should be able to access and use high quality datasets within their respective fields ofactivities which are related to this Regulation. European common data spaces established by theCommission and the facilitation of data sharing between businesses and with government in the
public interest will be instrumental to provide trustful, accountable and non-discriminatory access tohigh quality data for the training, validation and testing of AI systems. For example, in health, theEuropean health data space will facilitate non-discriminatory access to health data and the trainingof artificial intelligence algorithms on those datasets, in a privacy-preserving, secure, timely,transparent and trustworthy manner, and with an appropriate institutional governance. Relevant405

法と情報雑誌 6 巻 5 号（2021 年 11 月）
competent authorities, including sectoral ones, providing or supporting the access to data may also
support the provision of high-quality data for the training, validation and testing of AI systems.
(46) 高リスク AI システムがどのように開発されたのか，及び，そのシステムのライフサイクルを通じてそのシステムがどのように処理を遂行するのかに関する情報をもつことは，この規則に基づく要件の遵守を検証するために必須である。このことは，記録を維持すること及び技術文書の可用性，その AI システムの関連要件の遵守を評価するために必要となる情報を含めることを要求する。そのような情報は，そのシステムの一般的な特性，実行能力及び制限，使用されたアルゴリズム，データ，訓練，試験及び検査のプロセス，並びに，関連リスク管理シ
ステムに関する文書を含めるべきである。技術文書は，最新の状態に維持されるべきである。
Having information on how high-risk AI systems have been developed and how they performthroughout their lifecycle is essential to verify compliance with the requirements under thisRegulation. This requires keeping records and the availability of a technical documentation,
containing information which is necessary to assess the compliance of the AI system with therelevant requirements. Such information should include the general characteristics, capabilities andlimitations of the system, algorithms, data, training, testing and validation processes used as well as
documentation on the relevant risk management system. The technical documentation should be
kept up to date.
(47) 自然人にとって一定の AI システムを理解不可能なものまたは余りに複雑なものとしてしまい
得る不透明性に対処するため，高リスク AI システムに対し，一定程度の透明性が要求されるべきである。利用者は，そのシステムの出力を解釈し，それを適切に利用できるべきである。
それゆえ，高リスク AI システムは，関連文書及び利用上の指示を具備すべきであり，かつ，それが適切なときは，基本的権利のリスクの可能性及び差別と関連するものを含め，わかり
やすく明確な情報を含めるべきである。
To address the opacity that may make certain AI systems incomprehensible to or too complex fornatural persons, a certain degree of transparency should be required for high-risk AI systems. Users
should be able to interpret the system output and use it appropriately. High-risk AI systems should
therefore be accompanied by relevant documentation and instructions of use and include concise
and clear information, including in relation to possible risks to fundamental rights and discrimination,
where appropriate.
(48) 高リスク AI システムは，自然人がその稼働を監督できるような方法で設計され，開発されるべきである。その目的のために，そのシステムが市場に置かれまたはサービスに供される前に，そのシステムの提供者によって，適切な人間による監督の措置が特定されるべきである。
とりわけ，それが適切なときは，そのような措置は，そのシステムが，そのシステムそれ自体
によっては優先され得ず，かつ，人間の運用者に対して応答する，内部に組み込まれた運406

法と情報雑誌 6 巻 5 号（2021 年 11 月）
用上の制約に服すること，そして，人間による監督の任務を受けた自然人が必要な能力，訓練及びその役割を遂行するための権限をもつことを保証すべきである。
High-risk AI systems should be designed and developed in such a way that natural persons canoversee their functioning. For this purpose, appropriate human oversight measures should be
identified by the provider of the system before its placing on the market or putting into service. In
particular, where appropriate, such measures should guarantee that the system is subject to in-built
operational constraints that cannot be overridden by the system itself and is responsive to the humanoperator, and that the natural persons to whom human oversight has been assigned have thenecessary competence, training and authority to carry out that role.
(49) 高リスク AI システムは，そのシステムのライフサイクルを通じて一貫性のある処理を遂行すべきであり，かつ，一般に承認された最新技術に従い，適切なレベルの正確性，堅牢性及びサイバーセキュリティに適合すべきである。正確性のレベル及び正確性のメトリクスは，その利用者に対して通知されるべきである。
High-risk AI systems should perform consistently throughout their lifecycle and meet an appropriate
level of accuracy, robustness and cybersecurity in accordance with the generally acknowledged stateof the art. The level of accuracy and accuracy metrics should be communicated to the users.
(50) 技術上の堅牢性は，高リスク AI システムにとって鍵となる要件の 1 つである。高リスク AI シ
ステムは，システムの制限と関係するリスク（例：異常，障害，一貫性の欠如，想定外の状況）に抗する回復力，並びに，その AI システムの安全性を損ない，そして，危険な振る舞いまたはそれ以外の好ましくない振る舞いを帰結し得る悪意ある活動に抗する回復力をもつべきである。それらのリスクに対する防護に失敗すれば，例えば，その AI システムによって生成される異常な判定または誤った出力もしくはバイアスのかかった出力によって，基本的な権利に対して安全性上の影響を与え，または負の影響を与えることを導き得る。
The technical robustness is a key requirement for high-risk AI systems. They should be resilient
against risks connected to the limitations of the system (e.g. errors, faults, inconsistencies,
unexpected situations) as well as against malicious actions that may compromise the security of the
AI system and result in harmful or otherwise undesirable behaviour. Failure to protect against theserisks could lead to safety impacts or negatively affect the fundamental rights, for example due toerroneous decisions or wrong or biased outputs generated by the AI system.
(51) サイバーセキュリティは，そのシステムの脆弱性を悪用する悪意ある第三者による，そのシステムの利用，振る舞い，性能を改変し，または，そのシステムのセキュリティプロパティを攻撃受容状態にしようとする試みに対して AI システムが回復力をもつことを確保する上で重要な役割を果たす。AI システムに対するサイバー攻撃は，訓練データセットのような AI に固407

法と情報雑誌 6 巻 5 号（2021 年 11 月）
有の資産に影響を与え（例：データ汚染攻撃）もしくは訓練されたモデルに影響を与え（例：
敵対的訓練攻撃），または，AI システムのデジタル資産もしくはその基盤となる ICT インフラの脆弱性を悪用し得る。それゆえ，そのリスクに対して適切なサイバーセキュリティのレベルを確保するため，その基盤となる ICT インフラに適切なセキュリティも考慮に入れた上で，その高リスク AI システムの提供者によって適切な措置が講じられるべきである。
Cybersecurity plays a crucial role in ensuring that AI systems are resilient against attempts to alter
their use, behaviour, performance or compromise their security properties by malicious third parties
exploiting the system’s vulnerabilities. Cyberattacks against AI systems can leverage AI specificassets, such as training data sets (e.g. data poisoning) or trained models (e.g. adversarial attacks), or
exploit vulnerabilities in the AI system’s digital assets or the underlying ICT infrastructure. To ensure
a level of cybersecurity appropriate to the risks, suitable measures should therefore be taken by theproviders of high-risk AI systems, also taking into account as appropriate the underlying ICT
infrastructure.
(52) 欧州連合整合立法の一部として，高リスク AI システムを市場に置くこと，サービスに供すること及び利用することに適用可能な，製品の承認のための要件及び市場監視を定める欧州議会及び理事会の規則(EC) No 765/200851，製品のマーケティングのための共通枠組みに関する欧州議会及び理事会の決定 No 768/2008/EC52，並びに，製品の市場監視及び法令遵守に関する欧州議会及び理事会の規則(EU) 2019/102053（「製品のマーケティングのための
新立法枠組み」）と一貫性のある規定が定められるべきである。
As part of Union harmonisation legislation, rules applicable to the placing on the market, putting
into service and use of high-risk AI systems should be laid down consistently with Regulation (EC)No 765/2008 of the European Parliament and of the Council 51 setting out the requirements foraccreditation and the market surveillance of products, Decision No 768/2008/EC of the European
Parliament and of the Council 52 on a common framework for the marketing of products andRegulation (EU) 2019/1020 of the European Parliament and of the Council 53 on market surveillanceand compliance of products (‘New Legislative Framework for the marketing of products’).
(53) 当該自然人または法人がそのシステムを設計または開発した者であるか否かに拘らず，高リ製品のマーケティングと関連する承認の要件及び市場監視を定め，規則(EEC) No 339/93 を廃止す
る欧州議会及び理事会の 2008 年 7 月 9 日の規則(EC) No 765/2008 (OJ L 218, 13.8.2008, p. 30).
52
製品のマーケティングのための共通枠組みに関する，及び，理事会決定 93/465/EEC を廃止する欧州議会及び理事会の 2008 年 7 月 9 日の決定 No 768/2008/EC (OJ L 218, 13.8.2008, p. 82).
53
製品の市場監視及び法令遵守に関する，並びに，指令 2004/42/EC，規則(EC) No 765/2008 及び規則(EU) No 305/2011 を改正する欧州議会及び理事会の 2019 年 6 月 20 日の規則(EU) 2019/1020 (OJ L
169, 25.6.2019, p. 1-44)51408

法と情報雑誌 6 巻 5 号（2021 年 11 月）
スク AI システムを市場に置くことまたはサービスに供することに関し，提供者として定義される特定の自然人または法人が責任を負うことが適切である。
It is appropriate that a specific natural or legal person, defined as the provider, takes the responsibility
for the placing on the market or putting into service of a high-risk AI system, regardless of whether
that natural or legal person is the person who designed or developed the system.
(54) 提供者は，良好な品質管理システムを設け，必要な適合性評価手続を完遂することを確保し，関連文書を作成し，そして，堅牢な市場化後監視システムを設けるべきである。その行政機
関自身の利用のために高リスク AI システムをサービスに供する行政機関は，それが適切なときは，部門の特性並びに当の行政機関の職務及び組織を考慮に入れた上で，国内レベル
または地域レベルで採択される品質管理システムの一部として品質管理システムに関する規定を採択及び実装できる。
The provider should establish a sound quality management system, ensure the accomplishment of
the required conformity assessment procedure, draw up the relevant documentation and establish arobust post-market monitoring system. Public authorities which put into service high-risk AI
systems for their own use may adopt and implement the rules for the quality management system aspart of the quality management system adopted at a national or regional level, as appropriate, taking
into account the specificities of the sector and the competences and organisation of the publicauthority in question.
(55) 新立法枠組みの関連部門別立法の適用を受ける製品の安全性構成要素である高リスク AI
システムが，その製品とは独立して市場に置かれない場合，または，サービスに供されない
場合，新立法枠組みの関連立法の下で定義される最終製品の製造業者は，この規則の中に設けられる提供者の義務を遵守すべきであり，かつ，最終製品の中に組み込まれる AI シス
テムがこの規則の要件を遵守することを確保すべきである。
Where a high-risk AI system that is a safety component of a product which is covered by a relevant
New Legislative Framework sectorial legislation is not placed on the market or put into service
independently from the product, the manufacturer of the final product as defined under the relevant
New Legislative Framework legislation should comply with the obligations of the provider
established in this Regulation and notably ensure that the AI system embedded in the final productcomplies with the requirements of this Regulation.
(56) この規則の執行を実現可能とするため，及び，運用者のための平等な場を創設するため，
かつ，デジタル製品を利用可能とすることの異なる形態を考慮に入れた上で，全ての状況の下において，欧州連合内に拠点をもつ全ての者が，当局に対し，AI システムの遵守に関する必要な全ての情報を提供できることを確保することが重要である。それゆえ，欧州連合内409

法と情報雑誌 6 巻 5 号（2021 年 11 月）
においてそれらの者の AI システムが利用可能とされる前に，輸入業者が特定され得ないときは，欧州連合の外に拠点をもつ提供者は，書面による委任により，欧州連合内に拠点をもつ権限のある代理者を指定すべきである。
To enable enforcement of this Regulation and create a level-playing field for operators, and taking
into account the different forms of making available of digital products, it is important to ensure that,
under all circumstances, a person established in the Union can provide authorities with all thenecessary information on the compliance of an AI system. Therefore, prior to making their AI
systems available in the Union, where an importer cannot be identified, providers established outside
the Union shall, by written mandate, appoint an authorised representative established in the Union.
(57) 新立法枠組みの基本原則に沿って，法的安定性を確保するため，及び，それらの関連取引主体による法令の遵守を促進するため，輸入業者及び流通業者のような関連経済取引主体に対する特別の義務が定められるべきである。
In line with New Legislative Framework principles, specific obligations for relevant economic
operators, such as importers and distributors, should be set to ensure legal certainty and facilitate
regulatory compliance by those relevant operators.
(58) AI システムの性質，並びに，実際の設定における AI システムの性能の適正な監視を確保すべき必要性と関連するものを含め，AI システムの利用と関係してあり得る安全及び基本的な権利に対するリスクに鑑み，利用者の特別の責任を定めることが適切である。とりわけ，利
用者は，利用上の指示に従って高リスク AI システムを利用すべきであり，また，その AI シス
テムの稼働の監視に関し，及び，記録の維持に関し，上記以外の一定の義務がしかるべく定められるべきである。
Given the nature of AI systems and the risks to safety and fundamental rights possibly associatedwith their use, including as regard the need to ensure proper monitoring of the performance of an AI
system in a real-life setting, it is appropriate to set specific responsibilities for users. Users should inparticular use high-risk AI systems in accordance with the instructions of use and certain otherobligations should be provided for with regard to monitoring of the functioning of the AI systems
and with regard to record-keeping, as appropriate.
(59) その利用が私的で非職業的な活動の過程で行われる場合を除き，その権限の下でその AI
システムが運用される自然人または法人，行政機関，部局もしくは組織が AI システムの利用者であることを想定することが重要である。
It is appropriate to envisage that the user of the AI system should be the natural or legal person, publicauthority, agency or other body under whose authority the AI system is operated except where the410

法と情報雑誌 6 巻 5 号（2021 年 11 月）
use is made in the course of a personal non-professional activity.
(60) 人工知能の価値連鎖の複雑性に照らし，関連する第三者，特に，ソフトウェア，ソフトウェアツ
ール及びコンポーネント，事前に訓練されたモデル及びデータの販売及び供給に関与する者，または，ネットワークサービスの提供者は，この規則に基づく義務をそれらの者が遵守することを実現可能とするために提供者及び利用者との間で，また，この規則に基づいて設けられる職務権限のある機関との間で，しかるべく協力すべきである。
In the light of the complexity of the artificial intelligence value chain, relevant third parties, notably
the ones involved in the sale and the supply of software, software tools and components, pre-trainedmodels and data, or providers of network services, should cooperate, as appropriate, with providers
and users to enable their compliance with the obligations under this Regulation and with competentauthorities established under this Regulation.
(61) 標準化は，この規則の遵守を確保するため，提供者に対して技術的な解決策を提供するという重要な役割を果たすべきである。欧州議会及び理事会の規則(EU) No 1025/201254の中で定義されている整合化された技術標準の遵守は，この規則の要件の充足を提供者が示すための手段の 1 つであるべきである。ただし，欧州委員会は，整合化された技術標準が存在しない分野またはそれが不十分な分野において共通の技術仕様を採択できる。
Standardisation should play a key role to provide technical solutions to providers to ensurecompliance with this Regulation. Compliance with harmonised standards as defined in Regulation(EU) No 1025/2012 of the European Parliament and of the Council 54 should be a means forproviders to demonstrate conformity with the requirements of this Regulation. However, theCommission could adopt common technical specifications in areas where no harmonised standards
exist or where they are insufficient.
(62) 高リスク AI システムの高いレベルの信頼性を確保するため，それらのシステムは，それらのシステムが市場に置かれまたはサービスに供される前に，適合性評価に服するべきである。
In order to ensure a high level of trustworthiness of high-risk AI systems, those systems should be
subject to a conformity assessment prior to their placing on the market or putting into service.

欧州技術標準に関する，理事会指令 89/686/EEC 及び理事会指令 93/15/EEC，欧州議会及び理事会の指令 94/9/EC，指令 94/25/EC，指令 95/16/EC，指令 97/23/EC，指令 98/34/EC，指令 2004/22/EC，
指令 2007/23/EC，指令 2009/23/EC 及び指令 2009/105/EC を改正し，理事会決定 87/95/EEC，欧州議会及び理事会の決定 No 1673/2006/EC を廃止する欧州議会及び理事会の 2012 年 10 月 25 日の規則
(EU) No 1025/2012 (OJ L 316, 14.11.2012, p. 12).
54411

法と情報雑誌 6 巻 5 号（2021 年 11 月）(63) 運用者の負担をミニマム化するため，及び，重複が生じ得ることを避けるため，新立法枠組
みのアプローチに従う既存の欧州連合整合立法の適用のある製品と関連する高リスク AI シ
ステムに関しては，それらの AI システムのこの規則の要件の遵守は，当該立法の下で既に予定されている適合性評価の一部として評価されるべきである。そして，この規則の要件を適用できることは，新立法枠組みの個々の関連立法の下における適合性評価の個々の論理，手法または一般構造を害してはならない。このアプローチは，この規則と[機械規則]との間の相互作用の中に全面的に反映される。この規則の要件によって機械における安全性機能を確保する AI システムの安全性のリスクが対処されつつ，[機械規則]の中にある一定の個別の要件は，全体としての機械の安全性を損なわないようにするため，その機械全体の中へその AI システムを安全に統合することを確保することになる。[機械規則]は，この規則の定義と同じ AI システムの定義を適用する。
It is appropriate that, in order to minimise the burden on operators and avoid any possible duplication,
for high-risk AI systems related to products which are covered by existing Union harmonisation
legislation following the New Legislative Framework approach, the compliance of those AI systems
with the requirements of this Regulation should be assessed as part of the conformity assessment
already foreseen under that legislation. The applicability of the requirements of this Regulation
should thus not affect the specific logic, methodology or general structure of conformity assessment
under the relevant specific New Legislative Framework legislation. This approach is fully reflectedin the interplay between this Regulation and the [Machinery Regulation]. While safety risks of AI
systems ensuring safety functions in machinery are addressed by the requirements of this Regulation,certain specific requirements in the [Machinery Regulation] will ensure the safe integration of the
AI system into the overall machinery, so as not to compromise the safety of the machinery as a whole.
The [Machinery Regulation] applies the same definition of AI system as this Regulation.
(64) 製品の安全性の分野における市場化前専門認証者のより拡大された経験，及び，関係するリスクの異なる性質に鑑み，少なくとも，この規則の適用の最初のフェーズにおいては，製品と関連するもの以外の高リスク AI システムの第三者適合性評価の適法範囲を制限することが適切である。それゆえ，そのようなシステムの適合性評価は，原則として，その提供者自身の責任の下で，その提供者によって遂行されるべきである。その唯一の例外は，人のリモー
ト生体要素識別のために利用されることを意図する AI システムであり，その AI システムに関しては，それが禁止されていない範囲内で，適合性評価における指定組織の関与を予定すべきである。
Given the more extensive experience of professional pre-market certifiers in the field of productsafety and the different nature of risks involved, it is appropriate to limit, at least in an initial phaseof application of this Regulation, the scope of application of third-party conformity assessment for
high-risk AI systems other than those related to products. Therefore, the conformity assessment ofsuch systems should be carried out as a general rule by the provider under its own responsibility,412

法と情報雑誌 6 巻 5 号（2021 年 11 月）
with the only exception of AI systems intended to be used for the remote biometric identification of
persons, for which the involvement of a notified body in the conformity assessment should beforeseen, to the extent they are not prohibited.
(65) 人のリモート生体要素識別のために利用されることを意図する AI システムのための第三者適合性評価を遂行するため，指定組織は，特に，独立性があること，能力があること及び利益相反がないことに関する要件のセットをそれらの組織が遵守することを条件として，職務権限のある国内機関によってこの規則に基づいて指定されるべきである。
In order to carry out third-party conformity assessment for AI systems intended to be used for the
remote biometric identification of persons, notified bodies should be designated under thisRegulation by the national competent authorities, provided they are compliant with a set of
requirements, notably on independence, competence and absence of conflicts of interests.
(66) 欧州連合整合立法によって規制を受ける製品に関する大きな変更という共通の確立された概念に沿って，そのシステムのこの規則の遵守に影響を与え得る変更が生じた場合，または，
そのシステムの所期の目的を変更する場合，AI システムが新たな適合性評価を受けることが適切である。加えて，市場に置かれた後，または，サービスに供された後においても「学習」を計測する AI システム（すなわち，そのシステムが，どのように機能が遂行されるかを自動的に調整する場合）に関しては，提供者によって事前に決定され，かつ，適合性評価の時点で評価されアルゴリズム及びその性能の変更が大きな変更を構成してはならないことを定める規定を定める必要性がある。
In line with the commonly established notion of substantial modification for products regulated byUnion harmonisation legislation, it is appropriate that an AI system undergoes a new conformity
assessment whenever a change occurs which may affect the compliance of the system with thisRegulation or when the intended purpose of the system changes. In addition, as regards AI systems
which continue to ‘learn’ after being placed on the market or put into service (i.e. they automatically
adapt how functions are carried out), it is necessary to provide rules establishing that changes to thealgorithm and its performance that have been pre-determined by the provider and assessed at the
moment of the conformity assessment should not constitute a substantial modification.
(67) 高リスク AI システムは，そのシステムが域内市場内において支障なく移動できるようにする
ため，そのシステムがこの規則に適合していることを表示するための CE マークを付すべきである。構成国は，この規則に定める要件を遵守しており，かつ，CE マークを付している高リ
スク AI システムを市場に置き，または，サービスに供することに対する正当化されない障害をつくり出してはならない。
High-risk AI systems should bear the CE marking to indicate their conformity with this Regulation413

法と情報雑誌 6 巻 5 号（2021 年 11 月）
so that they can move freely within the internal market. Member States should not create unjustified
obstacles to the placing on the market or putting into service of high-risk AI systems that comply
with the requirements laid down in this Regulation and bear the CE marking.
(68) 一定の条件の下において，革新的な技術の迅速な可用性は，人の健康及び安全にとって，そして，社会全体にとって重要であり得る。そして，公共の保安または自然人の生命及び健康の保護並びに産業上及び商業上の財産の保護という例外的な理由に基づき，適合性評
価を受けていない AI システムを市場に置くこと，または，サービスに供することを構成国が許可し得ることが適切である。
Under certain conditions, rapid availability of innovative technologies may be crucial for health andsafety of persons and for society as a whole. It is thus appropriate that under exceptional reasons ofpublic security or protection of life and health of natural persons and the protection of industrial andcommercial property, Member States could authorise the placing on the market or putting into
service of AI systems which have not undergone a conformity assessment.
(69) 人工知能の分野における欧州委員会及び構成国の仕事を容易にするため，そして，公衆に向けた透明性を増加させるため，既存の関連する欧州連合整合立法の適用範囲内にある製品と関連する高リスク AI システム以外の高リスク AI システムの提供者は，その提供者の高リ
スク AI システムを，欧州委員会によって設置され，運営管理される EU のデータベースに登録することを要求されるべきである。欧州委員会は，欧州議会及び理事会の規則(EU)2018/172555に従い，当該データベースの管理者とすべきである。そのデータベースの全面的な稼働を確保するため，配置の際，そのデータベースの設置手続は，欧州委員会による機能上の仕様の策定及び独立の監査報告を含めるべきである。
In order to facilitate the work of the Commission and the Member States in the artificial intelligence
field as well as to increase the transparency towards the public, providers of high-risk AI systems
other than those related to products falling within the scope of relevant existing Union harmonisation
legislation, should be required to register their high-risk AI system in a EU database, to be establishedand managed by the Commission. The Commission should be the controller of that database, in
accordance with Regulation (EU) 2018/1725 of the European Parliament and of the Council 55. Inorder to ensure the full functionality of the database, when deployed, the procedure for setting thedatabase should include the elaboration of functional specifications by the Commission and an
independent audit report.
欧州連合の機関，組織，事務局及び部局による個人データの処理と関連する自然人の保護に関す
る並びにそのデータの支障のない移動に関する，並びに，規則(EC) No 45/2001 及び決定 No 1247/
2002/EC を廃止する欧州議会及び理事会の 2018 年 10 月 23 日の規則(EU) 2018/1725 (OJ L 295,
21.11.2018, p. 39)55414

法と情報雑誌 6 巻 5 号（2021 年 11 月）(70) 自然人とやりとりすること，または，コンテントを生成することを意図する一定の AI システムは，その品質が高リスクであるか否かに拘らず，なりすましまたは偽装という特別のリスクを示し得る。それゆえ，一定の状況下において，それらのシステムの利用は，高リスク AI システムの要件及び義務を妨げることなく，特別の透明性義務に服すべきである。とりわけ，自然人
は，そのことが利用の状況及び文脈から明白ではない限り，その者が AI システムとやりとりしていることの通知を受けるべきである。更に，自然人は，その者が心理認識システムまたは
生体要素分類システムに晒されている場合，通知を受けるべきである。そのような情報提供
及び通知は，障害のある者にとってアクセス可能なフォーマットで提供されるべきである。更
に，存在する個人，場所または出来事と酷似し，それが本物であるかのように誤解させ得る
画像，音響または映像のコンテントを生成または操作するために AI システムを利用する利
用者は，人工知能の出力であることをしかるべく表示することにより，または，それが人工的な産物であることを開示することにより，そのコンテントが人工的に生成または操作されたことを開示すべきである。
Certain AI systems intended to interact with natural persons or to generate content may pose specificrisks of impersonation or deception irrespective of whether they qualify as high-risk or not. In certain
circumstances, the use of these systems should therefore be subject to specific transparency
obligations without prejudice to the requirements and obligations for high-risk AI systems. In
particular, natural persons should be notified that they are interacting with an AI system, unless thisis obvious from the circumstances and the context of use. Moreover, natural persons should be
notified when they are exposed to an emotion recognition system or a biometric categorisation
system. Such information and notifications should be provided in accessible formats for persons
with disabilities. Further, users, who use an AI system to generate or manipulate image, audio orvideo content that appreciably resembles existing persons, places or events and would falsely appear
to a person to be authentic, should disclose that the content has been artificially created ormanipulated by labelling the artificial intelligence output accordingly and disclosing its artificial
origin.
(71) 人工知能は，責任ある技術革新及び適切な安全確保とリスク緩和措置の統合を確保しつつ，法定の監視の新たな方式と実験のための安全な空間を要する急速に発展している技術ファ
ミリーである。技術革新フレンドリであり，将来耐性があり，かつ，混乱に抗する回復力である
法的枠組みを確保するため，1 または複数の構成国からの職務権限のある国内機関は，それらのシステムが市場に置かれ，あるいは，サービスに供される前に，厳格な法定の監視の下で，革新的な AI システムの開発及び試験を促進するための法定の人工知能サンドボック
スを構築することが推奨されるべきである。
Artificial intelligence is a rapidly developing family of technologies that requires novel forms ofregulatory oversight and a safe space for experimentation, while ensuring responsible innovationand integration of appropriate safeguards and risk mitigation measures. To ensure a legal framework415

法と情報雑誌 6 巻 5 号（2021 年 11 月）
that is innovation-friendly, future-proof and resilient to disruption, national competent authorities
from one or more Member States should be encouraged to establish artificial intelligence regulatory
sandboxes to facilitate the development and testing of innovative AI systems under strict regulatory
oversight before these systems are placed on the market or otherwise put into service.
(72) 法定サンドボックスの目的は，この規則及び欧州連合及び構成国の他の関連立法を革新的な AI システムが遵守することを確保するため；技術革新をする者のための法的安定性を拡大し，機会，リスクの発生及び AI 利用の影響についての職務権限のある機関の監視と理解を拡大するため，そして，中小企業（SMEs）とスタートアップのための障壁を除去することによる場合を含め，市場へのアクセスを加速させるため，開発及び市場化前のフェーズにおいて，管理された実験及び試験の環境を構築することにより，AI の技術革新を育成することにあるべきである。欧州連合全域にわたる統一的な実装と規模の経済を確保するため，法定
サンドボックスの実装，及び，そのサンドボックスの監視に関与する関連機関の間の協力のための枠組みに関する共通の規定を定めることが適切である。この規則は，規則(EU)2016/679 の第 6 条第 4 項及び規則(EU) 2018/1725 の第 6 条に沿って，かつ，指令(EU)2016/680 の第 4 条第 2 項を妨げることなく，AI 法定サンドボックスの中で，公共の利益における一定の AI システムの開発のため，別の目的のために収集される個人データの利用に関する法的根拠を定めるべきである。サンドボックス内の開発及び実験の間に生じ得る安全及び基本的な権利に対する高リスクを緩和するため，サンドボックスへの参加者は，職務権限のある機関の指図に従うこと，及び，迅速かつ誠実に行動することによる場合を含め，適切な安全確保を確保し，かつ，職務権限のある機関と協力すべきである。規則(EU) 2016/679の第 83 条第 2 項及び指令(EU) 2016/680 の第 57 条に基づく行政罰を加えるかどうかを職務権限のある機関が判断する際，サンドボックス内における参加者の行動が考慮に入れられるべきである。
The objectives of the regulatory sandboxes should be to foster AI innovation by establishing acontrolled experimentation and testing environment in the development and pre-marketing phasewith a view to ensuring compliance of the innovative AI systems with this Regulation and otherrelevant Union and Member States legislation; to enhance legal certainty for innovators and thecompetent authorities’ oversight and understanding of the opportunities, emerging risks and theimpacts of AI use, and to accelerate access to markets, including by removing barriers for small andmedium enterprises (SMEs) and start-ups. To ensure uniform implementation across the Union andeconomies of scale, it is appropriate to establish common rules for the regulatory sandboxes’
implementation and a framework for cooperation between the relevant authorities involved in the
supervision of the sandboxes. This Regulation should provide the legal basis for the use of personal
data collected for other purposes for developing certain AI systems in the public interest within the
AI regulatory sandbox, in line with Article 6(4) of Regulation (EU) 2016/679, and Article 6 ofRegulation (EU) 2018/1725, and without prejudice to Article 4(2) of Directive (EU) 2016/680.
Participants in the sandbox should ensure appropriate safeguards and cooperate with the competent416

法と情報雑誌 6 巻 5 号（2021 年 11 月）
authorities, including by following their guidance and acting expeditiously and in good faith tomitigate any high-risks to safety and fundamental rights that may arise during the development andexperimentation in the sandbox. The conduct of the participants in the sandbox should be taken into
account when competent authorities decide whether to impose an administrative fine under Article
83(2) of Regulation 2016/679 and Article 57 of Directive 2016/680.
(73) 技術革新を促進及び保護するため，AI システムの小規模な提供者及び利用者の利益が特に考慮に入れられることが重要である。その目的のために，構成国は，認識向上及び情報の広報に関するものを含め，それらの小規模な運用者に的を絞った取り組みを発展させるべきである。更に，指定組織が適合性評価の手数料を定める際，小規模な提供者の特別の利益及び需要が考慮に入れられるべきである。強行的な文書化及び当局に対する通知と関連する翻訳の費用は，提供者及びそれ以外の運用者，特に，小規模な運用者にとって，大きな費用を組成し得る。構成国は，それが可能であれば，関連提供者の文書化のため，及び，運用者との通信のために，その構成国によって定められ，承認される言語中の 1 つが国境を越える利用者の可能な限り大多数によって広く理解される言語であることを確保すべきである。
In order to promote and protect innovation, it is important that the interests of small-scale providers
and users of AI systems are taken into particular account. To this objective, Member States should
develop initiatives, which are targeted at those operators, including on awareness raising andinformation communication. Moreover, the specific interests and needs of small-scale providers
shall be taken into account when Notified Bodies set conformity assessment fees. Translation costs
related to mandatory documentation and communication with authorities may constitute asignificant cost for providers and other operators, notably those of a smaller scale. Member Statesshould possibly ensure that one of the languages determined and accepted by them for relevant
providers’ documentation and for communication with operators is one which is broadly understoodby the largest possible number of cross-border users.
(74) 市場における知識及び経験の欠如から生じる実装へのリスクをミニマム化するため，並びに，この規則に基づく義務を提供者及び指定組織が遵守することを容易にするため，欧州委員会及び構成国によって国内レベル及び EU レベルで設けられる AI オンデマンドプラットフ
ォーム，欧州デジタル技術革新ハブ並びに試験施設及び実験施設は，それが可能であれ
ば，この規則の実装に貢献すべきである。それらそれぞれの任務及び職務権限分野の範囲内において，それらは，提供者及び指定組織に対し，とりわけ，技術上及び科学上の支援を提供し得る。
In order to minimise the risks to implementation resulting from lack of knowledge and expertise in
the market as well as to facilitate compliance of providers and notified bodies with their obligations
under this Regulation, the AI-on demand platform, the European Digital Innovation Hubs and the417

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Testing and Experimentation Facilities established by the Commission and the Member States atnational or EU level should possibly contribute to the implementation of this Regulation. Within
their respective mission and fields of competence, they may provide in particular technical andscientific support to providers and notified bodies.
(75) 関連する欧州連合整合立法により設けられ，または，承認され，かつ，当該欧州連合整合立法の適用のある製品または機器類の適合性評価の過程における職務を満たす組織，グループまたは研究施設に対し，欧州委員会が，それが可能な範囲内で，試験施設及び実験施
設へのアクセスを促進することが適切である。特に，規則(EU) 2017/745 及び規則(EU)2017/746 による医療機器の分野における専門家パネル，専門研究施設及び参考研究施設の場合がそれに該当する。
It is appropriate that the Commission facilitates, to the extent possible, access to Testing andExperimentation Facilities to bodies, groups or laboratories established or accredited pursuant to any
relevant Union harmonisation legislation and which fulfil tasks in the context of conformity
assessment of products or devices covered by that Union harmonisation legislation. This is notably
the case for expert panels, expert laboratories and reference laboratories in the field of medical
devices pursuant to Regulation (EU) 2017/745 and Regulation (EU) 2017/746.
(76) この規則の円滑で，実効的かつ整合性のとれた実装を容易にするため，欧州人工知能委員会が設けられるべきである。この規則の中で定められている要件と関連する技術上の仕様または既存の技術標準に関するものを含め，この規則の実装と関連する事項に関し意見，勧告，助言または指針を発行すること，並びに，人工知能と関係する個別の問題に関し，欧州委員会に助言と補助を提供することを含め，委員会は，多数の諮問の職務に関する職責を負うべきである。
In order to facilitate a smooth, effective and harmonised implementation of this Regulation a
European Artificial Intelligence Board should be established. The Board should be responsible for anumber of advisory tasks, including issuing opinions, recommendations, advice or guidance onmatters related to the implementation of this Regulation, including on technical specifications orexisting standards regarding the requirements established in this Regulation and providing advice toand assisting the Commission on specific questions related to artificial intelligence.
(77) 構成国は，この規則の適用及び執行において，鍵となる役割をもつ。この点に関し，各構成国は，この規則の適用及び実装を監視する目的のために，1 または複数の職務権限のある国内機関を指定すべきである。構成国の側における組織上の効率性を増加させるため，そして，公衆と構成国レベル及び欧州連合レベルの機関それぞれとの間の公式の連絡場所を設置するため，各構成国内に， 1 つの国内機関が国内監督機関として指定されるべきである。
418

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Member States hold a key role in the application and enforcement of this Regulation. In this respect,each Member State should designate one or more national competent authorities for the purpose of
supervising the application and implementation of this Regulation. In order to increase organisation
efficiency on the side of Member States and to set an official point of contact vis-à-vis the public andother counterparts at Member State and Union levels, in each Member State one national authority
should be designated as national supervisory authority.
(78) 高リスク AI システムの提供者が，その提供者の AI システムを改善するための高リスク AI シ
ステムの利用並びに設計及び開発のプロセスを考慮に入れ得ること，または，あり得る是正の行動を適時の態様で行い得ることを確保するため，全ての提供者は，市場化後監視シス
テムを設けるべきである。このシステムもまた，市場に置かれまたはサービスに供された後にも「学習」し続ける AI システムから生じることがあり得るリスクがより効率的かつ適時に対処され得ることを確保するために重要である。この文脈において，提供者は，その提供者の AI
システムの利用から生ずる重大なインシデントまたは基本的な権利を保護する国内法及び欧州連合法の違反を関連機関に対して報告するためのシステムを設けることも要求されるべきである。
In order to ensure that providers of high-risk AI systems can take into account the experience on theuse of high-risk AI systems for improving their systems and the design and development process or
can take any possible corrective action in a timely manner, all providers should have a post-market
monitoring system in place. This system is also key to ensure that the possible risks emerging fromAI systems which continue to ‘learn’ after being placed on the market or put into service can be more
efficiently and timely addressed. In this context, providers should also be required to have a system
in place to report to the relevant authorities any serious incidents or any breaches to national andUnion law protecting fundamental rights resulting from the use of their AI systems.
(79) 欧州連合整合立法であるこの規則に定める要件及び義務の適切かつ実効的な執行を確保するため，規則(EU) 2019/1020 によって設けられた製品の市場監視と法令遵守の制度は，その全部について適用されるべきである。その任務のために必要なときは，平等性組織を含め，基本的な権利を保護する欧州連合法の適用を監視する国内行政機関または国内行
政組織もまた，この規則に基づいて作成された文書へのアクセスをもつべきである。
In order to ensure an appropriate and effective enforcement of the requirements and obligations set
out by this Regulation, which is Union harmonisation legislation, the system of market surveillanceand compliance of products established by Regulation (EU) 2019/1020 should apply in its entirety.
Where necessary for their mandate, national public authorities or bodies, which supervise theapplication of Union law protecting fundamental rights, including equality bodies, should also haveaccess to any documentation created under this Regulation.
419

法と情報雑誌 6 巻 5 号（2021 年 11 月）(80) 金融サービスに関する欧州連合の立法は，内部統制及びリスク管理の規定，並びに，AI シ
ステムを活用する場合を含め，金融サービスの提供の過程において規制を受ける金融機関に適用される要件を含んでいる。この規則に基づく義務並びに欧州連合の金融サービス立法の関連規定及び要件の一貫性のある適用と執行を確保するため，それが適用可能なときは欧州中央銀行を含め，金融サービス立法の監視及び執行に関して職責を負う機関は，規制を受ける金融機関または監視を受ける金融機関によって提供または利用される AI システ
ムに関し，市場監視活動の目的のための場合を含め，この規則の実装を監視する目的のために職務権限のある機関として指定されるべきである。この規則と欧州議会及び理事会の指令 2013/36/EU56の下で規制を受ける信用機関に適用可能な規定との間の一貫性を更に拡大するため，適合性評価手続及び提供者のリスク管理と関係する手続上の義務，市場化後監視及び文書化義務を，指令 2013/36/EU に基づく既存の義務及び手続の中に統合することが適切である。重複を避けるため，指令 2013/36/EU によって規制を受ける信用機関に適用されるものの範囲内において，高リスク AI システムの提供者の品質管理システム及び利用者に課される義務の監視との関係において，限定的な特例も予定されるべきである。
Union legislation on financial services includes internal governance and risk management rules andrequirements which are applicable to regulated financial institutions in the course of provision of
those services, including when they make use of AI systems. In order to ensure coherent applicationand enforcement of the obligations under this Regulation and relevant rules and requirements of theUnion financial services legislation, the authorities responsible for the supervision and enforcementof the financial services legislation, including where applicable the European Central Bank, should
be designated as competent authorities for the purpose of supervising the implementation of thisRegulation, including for market surveillance activities, as regards AI systems provided or used byregulated and supervised financial institutions. To further enhance the consistency between thisRegulation and the rules applicable to credit institutions regulated under Directive 2013/36/EU of
the European Parliament and of the Council 56, it is also appropriate to integrate the conformity
assessment procedure and some of the providers’ procedural obligations in relation to risk
management, post marketing monitoring and documentation into the existing obligations andprocedures under Directive 2013/36/EU. In order to avoid overlaps, limited derogations should also
be envisaged in relation to the quality management system of providers and the monitoring
obligation placed on users of high-risk AI systems to the extent that these apply to credit institutions
regulated by Directive 2013/36/EU.
(81) 高リスク AI システム以外の AI システムがこの規則の要件に従って開発されることは，欧州連合内における信頼性のある人工知能の大きな採用を導き得る。非高リスクAIシステムの提56 信用機関の活動へのアクセス並びに信用機関及び投資企業の健全性監督に関する，指令

2002/87/EC を改正し，指令 2006/48/EC 及び指令 2006/49/EC を廃止する欧州議会及び理事会の 2013 年 6 月 26 日の指令 2013/36/EU (OJ L 176, 27.6.2013, p. 338).
420

法と情報雑誌 6 巻 5 号（2021 年 11 月）
供者は，高リスク AI システムに適用可能な強行的な要件の任意の適用を育成することを意図する行動準則を作成することが推奨されるべきである。提供者もまた，例えば，環境の持続性，障害をもつ者のアクセシビリティ，AI システムの設計及び開発への利害関係者の参加，並びに，開発チームの多様性と関連する追加的な要件を任意で適用することが推奨されるべきである。欧州委員会は，データアクセスのインフラ，異なるタイプのデータの意味論上及び技術上の相互運用性を含め，AI の開発のための国境を越えるデータ交換を妨げる技術
上の障壁を低くすることを容易にするため，部門別の性質のものを含め，取り組みを発展させ得る。
The development of AI systems other than high-risk AI systems in accordance with the requirementsof this Regulation may lead to a larger uptake of trustworthy artificial intelligence in the Union.
Providers of non-high-risk AI systems should be encouraged to create codes of conduct intended tofoster the voluntary application of the mandatory requirements applicable to high-risk AI systems.
Providers should also be encouraged to apply on a voluntary basis additional requirements related,for example, to environmental sustainability, accessibility to persons with disability, stakeholders’participation in the design and development of AI systems, and diversity of the development teams.
The Commission may develop initiatives, including of a sectorial nature, to facilitate the loweringof technical barriers hindering cross-border exchange of data for AI development, including on data
access infrastructure, semantic and technical interoperability of different types of data.
(82) この規則に従って非高リスクであり，そして，この規則に定める要件の遵守を要求されない製品と関連する AI システムが，それでもなお，市場に置かれまたはサービスに供される際に安全であることが重要である。この目的に貢献するため，欧州議会及び理事会の指令
2001/95/EC57が安全網として適用され得る。
It is important that AI systems related to products that are not high-risk in accordance with thisRegulation and thus are not required to comply with the requirements set out herein are neverthelesssafe when placed on the market or put into service. To contribute to this objective, the Directive
2001/95/EC of the European Parliament and of the Council 57 would apply as a safety net.
(83) 欧州連合レベル及び国内レベルの職務権限のある機関の信頼に満ち建設的な協力を確保するため，この規則の適用に関与する全ての関係者は，その職務の遂行において入手した情報及びデータの機密性を尊重すべきである。
In order to ensure trustful and constructive cooperation of competent authorities on Union andnational level, all parties involved in the application of this Regulation should respect the
製造物の一般的な安全性に関する欧州議会及び理事会の 2001 年12 月3 日の指令2001/95/EC (OJ
L 11, 15.1.2002, p. 4).
57421

法と情報雑誌 6 巻 5 号（2021 年 11 月）
confidentiality of information and data obtained in carrying out their tasks.
(84) 構成国は，その違反に対する実効的であり，比例的であり，かつ，抑止力のある制裁を定めることによる場合を含め，この規則の条項が実装されることを確保するために必要となる全ての措置を講ずるべきである。一定の特別の違反に関しては，構成国は，この規則の許容範
囲及び基準を考慮に入れるべきである。欧州データ保護監督官は，この規則の適用範囲内にある欧州連合の機関，部局及び組織に対して罰金を科す権限をもつべきである。
Member States should take all necessary measures to ensure that the provisions of this Regulation
are implemented, including by laying down effective, proportionate and dissuasive penalties for theirinfringement. For certain specific infringements, Member States should take into account themargins and criteria set out in this Regulation. The European Data Protection Supervisor shouldhave the power to impose fines on Union institutions, agencies and bodies falling within the scopeof this Regulation.
(85) 法令上の枠組みが必要に応じて調整され得ることを確保するため，TFEU の第 290 条に従い，AI システムを定義するための別紙 I に示す技法及びアプローチ，別紙 II に列挙する欧州連合整合立法，別紙 III に列挙する高リスク AI システム，別紙 IV に列挙する技術文書と関連する条項，別紙 V の中にある EU 適合宣言書の内容，別紙 VI 及び別紙 VII の中にある適合性評価手続と関連する条項，並びに，品質管理システムの評価及び技術文書の評価を基礎とする適合性評価手続が適用されるべき高リスク AI システムを定める条項を改訂するための法行為を採択する権限は，欧州委員会に対して委任されるべきである。その準備作
業の間，専門家レベルのものを含め，欧州委員会が適切なコンサルテーションを実施すること，及び，より良い立法に関する 2016 年 4 月 13 日の機関間合意58に定める基本原則に従ってそれらのコンサルテーションが行われることが特に重要である。とりわけ，委任される行為の準備への平等な参加を確保するため，欧州議会及び理事会は，構成国の専門家と同時に全ての文書を受領し，かつ，それらの専門家は，自動的に，委任される行為の準備を取り扱う欧州委員会の専門家グループの会合へのアクセスをもつ。
In order to ensure that the regulatory framework can be adapted where necessary, the power to adopt
acts in accordance with Article 290 TFEU should be delegated to the Commission to amend thetechniques and approaches referred to in Annex I to define AI systems, the Union harmonisation
legislation listed in Annex II, the high-risk AI systems listed in Annex III, the provisions regarding
technical documentation listed in Annex IV, the content of the EU declaration of conformity inAnnex V, the provisions regarding the conformity assessment procedures in Annex VI and VII andthe provisions establishing the high-risk AI systems to which the conformity assessment procedure
based on assessment of the quality management system and assessment of the technical58

OJ L 123, 12.5.2016, p. 1.

422

法と情報雑誌 6 巻 5 号（2021 年 11 月）
documentation should apply. It is of particular importance that the Commission carry out appropriate
consultations during its preparatory work, including at expert level, and that those consultations be
conducted in accordance with the principles laid down in the Interinstitutional Agreement of 13
April 2016 on Better Law-Making 58. In particular, to ensure equal participation in the preparationof delegated acts, the European Parliament and the Council receive all documents at the same timeas Member States’ experts, and their experts systematically have access to meetings of Commission
expert groups dealing with the preparation of delegated acts.
(86) この規則の実装のための統一的な条件を確保するため，実装権限は，欧州委員会に対して与えられるべきである。それらの権限は，欧州議会及び理事会の規則(EU) No 182/201159に従って行使されるべきである。
In order to ensure uniform conditions for the implementation of this Regulation, implementing
powers should be conferred on the Commission. Those powers should be exercised in accordancewith Regulation (EU) No 182/2011 of the European Parliament and of the Council 59.
(87) この規則の目的は構成国によっては十分に達成され得ず，その活動の規模及び影響のゆえに，欧州連合レベルでより良く達成され得るので，欧州連合は，TEU の第 5 条に定める補完性の原則に従い，措置を採択できる。同条に定める比例性の原則に従い，この規則は，その目的を達成するために必要なところを超えることがない。
Since the objective of this Regulation cannot be sufficiently achieved by the Member States and canrather, by reason of the scale or effects of the action, be better achieved at Union level, the Union
may adopt measures in accordance with the principle of subsidiarity as set out in Article 5 TEU. In
accordance with the principle of proportionality as set out in that Article, this Regulation does not go
beyond what is necessary in order to achieve that objective.
(88) この規則は，[OP－第 85 条に定められる日を挿入してください]から適用されるべきである。
ただし，統治及び適合性評価制度と関連するインフラは，その日よりも前に運用されるべきである。それゆえ，指定組織及び統治構造に関する条項は，[OP－日を挿入してください－
この規則が発効した 3 か月後]から適用されるべきである。加えて，構成国は，行政罰を含め，制裁に関する規定を定め，欧州委員会に対してそれを通知すべきであり，かつ，この規則の適用の日からそれらの制裁が適正かつ実効的に実装されることを確保すべきである。それゆえ，制裁に関する条項は，[OP－日を挿入してください－この指令が発効した 12 か月後]から適用されるべきである。

欧州委員会の実装権限の行使の構成国による管理のための仕組みに関する規定及び基本原則を定める欧州議会及び理事会の 2011 年 2 月 16 日の規則(EU) No 182/2011 (OJ L 55, 28.2.2011, p. 13)59423

法と情報雑誌 6 巻 5 号（2021 年 11 月）
This Regulation should apply from … [OP – please insert the date established in Art. 85]. However,
the infrastructure related to the governance and the conformity assessment system should be
operational before that date, therefore the provisions on notified bodies and governance structure
should apply from … [OP – please insert the date – three months following the entry into force of
this Regulation]. In addition, Member States should lay down and notify to the Commission therules on penalties, including administrative fines, and ensure that they are properly and effectively
implemented by the date of application of this Regulation. Therefore the provisions on penalties
should apply from [OP – please insert the date – twelve months following the entry into force of thisRegulation].
(89) 欧州データ保護監督官及び欧州データ保護委員会は，規則(EU) 2018/1725 の第 42 条第 2項に従って協議し，[…]に意見書を提出した，
The European Data Protection Supervisor and the European Data Protection Board were consulted
in accordance with Article 42(2) of Regulation (EU) 2018/1725 and delivered an opinion on […]”.
以上のとおりであるので，この規則を採択する：
HAVE ADOPTED THIS REGULATION:

424

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第Ⅰ款 総則的な規定
Title I General Provisions
第 1 条 対象事項
Article 1 Subject matter
この規則は，以下の事項を定める：(a) 欧州連合内において人工知能システム（「AI システム」）を市場に置くこと，サービスに供すること，及び，利用することに関する整合化された規定；(b) 一定の人工知能実務の禁止；(c) 高リスク AI システムに関する特別の要件及びそのようなシステムの運用者の義務；(d) 自然人との間でやりとりすることを意図する AI システム，心理状態認識システム及び生体要素分類システム，並びに，画像，音響または映像のコンテントを生成または操作するために利用される AI システムに関する整合化された透明性の規定；(e) 市場の監視及び監督に関する規定。
This Regulation lays down:(a) harmonised rules for the placing on the market, the putting into service and the use of artificial
intelligence systems (‘AI systems’) in the Union;(b) prohibitions of certain artificial intelligence practices;(c) specific requirements for high-risk AI systems and obligations for operators of such systems;(d) harmonised transparency rules for AI systems intended to interact with natural persons,emotion recognition systems and biometric categorisation systems, and AI systems used togenerate or manipulate image, audio or video content;(e) rules on market monitoring and surveillance.
第 2 条 適用範囲
Article 2 Scope1.

この規則は，以下の者に対して適用される：(a) それらの提供者が欧州連合内に拠点をもつか第三国内に拠点をもつかに拘らず，欧州連合内において AI システムを市場に置きまたはサービスに供する提供者；(b) 欧州連合内にある AI システムの利用者；(c) そのシステムから生成される出力が欧州連合内において利用される場合，第三国内にある AI システムの提供者及び利用者。
This Regulation applies to:(a) providers placing on the market or putting into service AI systems in the Union, irrespective ofwhether those providers are established within the Union or in a third country;425

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) users of AI systems located within the Union;(c) providers and users of AI systems that are located in a third country, where the output producedby the system is used in the Union;2.

以下の法行為の適用範囲内にあり，製品もしくはシステムの安全性構成要素である高リスク
AI システムまたはそれ自体が製品もしくはシステムである高リスク AI システムに関しては，
この規則の第 84 条のみが適用される：(a) 規則(EC) 300/2008；(b) 規則(EU) No 167/2013；(c) 規則(EU) No 168/2013；(d) 指令 2014/90/EU；(e) 指令(EU) 2016/797；(f) 規則(EU) 2018/858；(g) 規則(EU) 2018/1139；(h) 規則(EU) 2019/2144。
For high-risk AI systems that are safety components of products or systems, or which are themselves
products or systems, falling within the scope of the following acts, only Article 84 of this Regulation
shall apply:(a) Regulation (EC) 300/2008;(b) Regulation (EU) No 167/2013;(c) Regulation (EU) No 168/2013;(d) Directive 2014/90/EU;(e) Directive (EU) 2016/797;(f) Regulation (EU) 2018/858;(g) Regulation (EU) 2018/1139;(h) Regulation (EU) 2019/2144.

3.

この規則は，専ら軍用に開発または利用される AI システムに対して適用してはならない。
This Regulation shall not apply to AI systems developed or used exclusively for military purposes.

4.

この規則は，欧州連合との間または 1 もしくは複数の構成国との間の法執行及び法務上の協力に関する国際協定の枠組み内においてそれらの行政機関または国際組織が AI システ
ムを利用する場合，第 1 項によりこの規則の適用範囲内にある第三国の行政機関に対しても国際組織に対しても適用してはならない。
This Regulation shall not apply to public authorities in a third country nor to internationalorganisations falling within the scope of this Regulation pursuant to paragraph 1, where thoseauthorities or organisations use AI systems in the framework of international agreements for law
enforcement and judicial cooperation with the Union or with one or more Member States.
426

法と情報雑誌 6 巻 5 号（2021 年 11 月）
5.

この規則は，[デジタルサービス法の対応する条項によって置き換えられるものとしての]欧州議会及び理事会の指令 2000/31/EC60の第 II 章第 IV 節に定める中間媒介プロバイダの法的責任に関する条項の適用を害してはならない。
This Regulation shall not affect the application of the provisions on the liability of intermediaryservice providers set out in Chapter II, Section IV of Directive 2000/31/EC of the European
Parliament and of the Council 60 [as to be replaced by the corresponding provisions of the Digital
Services Act].

第 3 条 定義
Article 3 Definitions
この規則の目的のために，以下の定義が適用される：(1) 「人工知能システム」（AI システム）とは，別紙 I に列挙する 1 または複数の技法及びアプローチにより開発され，かつ，人間によって定義された所与の目的のセットのために，
コンテント，予測，勧告，または，システムがやりとりによる環境に影響を与える判断のよ
うな出力を生成し得るソフトウェアのことを意味し；(2) 「提供者」とは，有償または無償に拘らず，自身の名称もしくは商標の下で市場に置きもしくはサービスに供するために，AI システムを開発し，または，開発された AI システムをもつ自然人または法人，行政機関，部局もしくは組織のことを意味し；(3) 「小規模提供者」とは，委員会勧告 2003/361/EC61の意味におけるマイクロ企業または小規模企業である提供者のことを意味し；(4) 「利用者」とは，その AI システムが私的で非職業的な活動の過程で利用される場合を除き，その権限の下で AI システムを利用する自然人または法人，行政機関，部局もしく
は組織のことを意味し；(5) 「権限のある代理者」とは，AI システムの提供者から書面による委任を受け，その提供者の代わりに，それぞれ，この規則によって定められた義務及び手続を遂行及び実施
する欧州連合内に拠点をもつ自然人または法人のことを意味し；(6) 「輸入業者」とは，欧州連合の外に拠点をもつ自然人または法人の名称または商標を付した AI システムを市場に置きまたはサービスに供する欧州連合内に拠点をもつ自然人
または法人のことを意味し；(7) 「流通業者」とは，その特性を損なうことなく欧州連合の市場において AI システムを利用できるようにする流通網内の提供者または輸入業者以外の自然人または法人のこと

域内市場における情報社会サービスの一定の法的側面，とりわけ電子商取引に関する欧州議会及び理事会の 2000 年 6 月 8 日の指令 2000/31/EC（「電子商取引に関する指令」）, OJ L 178, 17.7.2000, p.
1-16.
61
マイクロ企業，小規模企業及び中規模企業の定義に関する 2003 年5 月6 日の委員会勧告(OJ L 124,
20.5.2003, p. 36).
60427

法と情報雑誌 6 巻 5 号（2021 年 11 月）を意味し；(8) 「運用者」とは，提供者，利用者，権限のある代理者，輸入業者及び流通業者のことを意
味し；(9) 「市場に置く」とは，欧州連合の市場において AI システムを最初に利用可能にすることを意味し；(10) 「市場において利用可能にする」とは，有償または無償に拘らず，商業活動の過程において，欧州連合の市場における流通または利用のために AI システムを供給することを意味し；(11) 「サービスに供する」とは，その AI システムの所期の目的のために，欧州連合の市場において，その利用者に対して直接的に最初に利用するため，または，自身の利用のた
め，AI システムを供給することを意味し；(12) 「所期の目的」とは，特別の利用過程及び利用条件を含め，利用上の指示，広告または販促の資料及び文言の中で，並びに，技術文書の中で提供者から供給される情報に示されているように，提供者によって意図されたAIシステムの利用目的のことを意味し；(13) 「合理的に予見可能な濫用」とは，その AI システムの所期の目的に従っていない方法
による AI システムの利用であって，合理的に予見可能な人間の行動または他のシステ
ムとのやりとりから生じ得るもののことを意味し；(14) 「製品またはシステムの安全性構成要素」とは，当該製品もしくはシステムのための安全性機能を満たす製品もしくはシステムの構成要素，または，その不良または誤作動が人の健康及び安全もしくは財産を危険に晒すもののことを意味し；(15) 「利用上の指示」とは，利用されることが意図されている高リスク AI システム内の地理上，行動上または機能上の設定を含め，利用者に対して特に AI システムの所期の目的及び適正な利用を情報提供するために提供者から提供される情報のことを意味し；(16) 「AI システムのリコール」とは，利用者に対して利用可能にされた AI システムの提供者への返還を達成することを狙いとする措置のことを意味し；(17) 「AI システムの引き上げ」とは，AI システムの流通，展示及び提供の禁止を狙いとする措置のことを意味し；(18) 「AI システムの性能」とは，所期の目的を達成するための AI システムの能力のことを意
味し；(19) 「通知機関」とは，適合性評価組織の評価，指定及び通知並びにその監視のために必要となる手続を定め，かつ，実施することに関して職責を負う国内機関のことを意味し；(20) 「適合性評価」とは，この規則の第 III 款第 2 章に定める AI システムと関連する要件が満たされているか否かを検証する過程のことを意味し；(21) 「適合性評価組織」とは，試験，証明及び検査を含め，第三者適合性評価を遂行する組織のことを意味し；(22) 「指定組織」とは，この規則及びそれ以外の欧州連合整合立法に従って指定された適合性評価組織のことを意味し；(23) 「大きな変更」とは，その AI システムが市場に置かれた後またはサービスに供された後の AI システムの変更であって，その AI システムがこの規則の第 III 款第 2 章に定める428

法と情報雑誌 6 巻 5 号（2021 年 11 月）
要件を遵守することに影響を与え，または，その AI システムが評価された所期の目的の変更をもたらすもののことを意味し；(24) 「CE マーク適合性」（CE マークを付すこと）とは，この規則の第 III 款第 2 章に定める要件，または，他の適用可能な，そのマークを貼付することを定めている製品の市場化のための条件を整合化する欧州連合の立法（「欧州連合整合立法」）に定める要件を AI シ
ステムが充足していることを提供者が表示するマークを付すことを意味し；(25) 「市場化後監視」とは，必要な是正の行動または防止の行動を直ちに適用する必要性を判断する目的のために，その提供者が市場に置きまたはサービスに供している AI シス
テムの利用から得られる経験を積極的に収集し，かつ，見直すための，AI システムの提供者によって遂行される全ての活動のことを意味し；(26) 「市場監視機関」とは，規則(EU) 2019/1020 による活動を遂行し，かつ，同規則による措置を講ずる国内機関のことを意味し；(27) 「整合化された技術標準」とは，規則(EU) No 1025/2012 の第 2 条第 1 項(c)に定義する
欧州技術標準のことを意味し；(28) 「共通仕様」とは，技術標準以外の，この規則に下で定められた一定の要件及び義務を遵守するための手段を提供する技術上の解決策を含む文書のことを意味し；(29) 「訓練データ」とは，ニューラルネットワークの重みづけを含め，AI システムが学習可能なパラメータを調整することを通じて AI システムを訓練するために使用されるデータのことを意味し；(30) 「検証データ」とは，訓練された AI システムの評価を提供するため，並びに，AI システ
ムが学習していないパラメータ及びそのシステムの学習プロセスを調整するため，就中，加調整を防ぐために使用されるデータのことを意味し；検証データセットは，固定分割または可変分割のいずれかとして，訓練データセットとは別のデータセットまたは訓練データセットの一部であり得るのであり；(31) 「試験データ」とは，その AI システムが市場に置かれまたはサービスに供される前に，
当該システムの期待される性能を確認するために，訓練された AI システムまたは検証された AI システムの独立の評価を提供するために使用されるデータのことを意味し；(32) 「入力データ」とは，そのシステムが出力を生成する基礎として AI システムに対して提供されるデータまたは AI システムから直接に得られるデータのことを意味し；(33) 「生体要素データ」とは，顔画像または指紋データのような，自然人の身体特性，生理特性または行動特性と関連する特別の技術的処理から生ずる個人データであって，当該自然人のユニークな識別同定をできるようにし，または，それを確認するもののことを意味し；(34) 「心理認識システム」とは，その自然人の生体要素データを基礎として自然人の心理または意図を識別または推論する目的のための AI システムのことを意味し；(35) 「生体要素分類システム」とは，その自然人の生体要素データを基礎として，性，年齢，
髪の色，眼の色，刺青，人種的な出自または性的指向もしくは政治的指向のような特定の分類に自然人を振り分ける目的のための AI システムのことを意味し；(36) 「リモート生体要素識別システム」とは，人の生体要素データを参照データベース内に429

法と情報雑誌 6 巻 5 号（2021 年 11 月）
格納されている生体要素データとの照合により，かつ，その者が所在するどうか及びその者が識別され得るかをその AI システムの利用者が事前に知ることなしに，隔地にある自然人を識別同定する目的のための AI システムのことを意味し；(37) 「「リアルタイム」のリモート生体要素識別システム」とは，それによって生体要素データを獲得し，大きな時間経過なく照合と識別同定の全てを発生させるリモート生体要素識
別システムのことを意味する。このシステムは，即時識別だけではなく，回避を避けるた
めの限定された短時間の経過のある識別によっても組成され；(38) 「「事後」のリモート生体要素識別システム」とは，「リアルタイム」のリモート生体要素識別システム以外のリモート生体要素識別システムのことを意味し；(39) 「公衆がアクセス可能な場」とは，アクセスのために一定の条件が適用され得るか否かに拘らず，公衆にとってアクセス可能な物理的な場所のことを意味し；(40) 「法執行機関」とは，以下のものを意味し：(a) 公共の保安に対する脅威に抗する防護及びその防止を含め，犯罪行為の防止，捜査，検知もしくは訴追または刑罰の執行に関する職務権限のある行政機関；または，(b) 公共の保安に対する脅威に抗する防護及びその防止を含め，構成国の法律によって，犯罪行為の防止，捜査，検知もしくは訴追または刑罰の執行の目的のための公権限及び公権力を行使することの委任を受けた(a)以外の組織もしくは法主
体；(41) 「法執行」とは，公共の保安に対する脅威に抗する防護及びその防止を含め，犯罪行為の防止，捜査，検知もしくは訴追または刑罰の執行に関し，法執行機関によって遂行される活動のことを意味し；(42) 「国内監督機関」とは，この規則の実装及び適用に関し，当該構成国に委任された活動の調整に関し，欧州委員会の単一連絡部局として行動することに関し，並びに，欧州人工知能委員会において構成国を代表することに関し，構成国が職責を割当てた機関のことを意味し；(43) 「職務権限のある国内機関」とは，国内監督機関，通知機関及び市場監視機関のことを意味し；(44) 「重大なインシデント」とは，以下のいずれかを直接または間接に導くインシデントまたは導かせ得るインシデントまたは導き得るインシデントのことを意味する：(a) 人の死亡，または，人の健康，財産もしくは環境に対する重大な損害；(b) 重要インフラの管理運営及び業務遂行の重大かつ不可逆的な混乱。
For the purpose of this Regulation, the following definitions apply:(1) ‘artificial intelligence system’ (AI system) means software that is developed with one or moreof the techniques and approaches listed in Annex I and can, for a given set of human-defined
objectives, generate outputs such as content, predictions, recommendations, or decisions
influencing the environments they interact with;(2) ‘provider’ means a natural or legal person, public authority, agency or other body that develops
430

法と情報雑誌 6 巻 5 号（2021 年 11 月）
an AI system or that has an AI system developed with a view to placing it on the market or
putting it into service under its own name or trademark, whether for payment or free of charge;(3) ‘small-scale provider’ means a provider that is a micro or small enterprise within the meaningof Commission Recommendation 2003/361/EC 61;(4) ‘user’ means any natural or legal person, public authority, agency or other body using an AI
system under its authority, except where the AI system is used in the course of a personal nonprofessional activity;(5) ‘authorised representative’ means any natural or legal person established in the Union who hasreceived a written mandate from a provider of an AI system to, respectively, perform and carryout on its behalf the obligations and procedures established by this Regulation;(6) ‘importer’ means any natural or legal person established in the Union that places on the market
or puts into service an AI system that bears the name or trademark of a natural or legal person
established outside the Union;(7) ‘distributor’ means any natural or legal person in the supply chain, other than the provider orthe importer, that makes an AI system available on the Union market without affecting its
properties;(8) ‘operator’ means the provider, the user, the authorised representative, the importer and the
distributor;(9) ‘placing on the market’ means the first making available of an AI system on the Union market;(10) ‘making available on the market’ means any supply of an AI system for distribution or use on
the Union market in the course of a commercial activity, whether in return for payment or freeof charge;(11) ‘putting into service’ means the supply of an AI system for first use directly to the user or for
own use on the Union market for its intended purpose;(12) ‘intended purpose’ means the use for which an AI system is intended by the provider, including
the specific context and conditions of use, as specified in the information supplied by theprovider in the instructions for use, promotional or sales materials and statements, as well as in
the technical documentation;(13) ‘reasonably foreseeable misuse’ means the use of an AI system in a way that is not inaccordance with its intended purpose, but which may result from reasonably foreseeable
human behaviour or interaction with other systems;(14) ‘safety component of a product or system’ means a component of a product or of a system
which fulfils a safety function for that product or system or the failure or malfunctioning of
which endangers the health and safety of persons or property;(15) ‘instructions for use’ means the information provided by the provider to inform the user of inparticular an AI system’s intended purpose and proper use, inclusive of the specificgeographical, behavioural or functional setting within which the high-risk AI system isintended to be used;(16) ‘recall of an AI system’ means any measure aimed at achieving the return to the provider of an431

法と情報雑誌 6 巻 5 号（2021 年 11 月）
AI system made available to users;(17) ‘withdrawal of an AI system’ means any measure aimed at preventing the distribution, display
and offer of an AI system;(18) ‘performance of an AI system’ means the ability of an AI system to achieve its intended
purpose;(19) ‘notifying authority’ means the national authority responsible for setting up and carrying out
the necessary procedures for the assessment, designation and notification of conformity
assessment bodies and for their monitoring;(20) ‘conformity assessment’ means the process of verifying whether the requirements set out inTitle III, Chapter 2 of this Regulation relating to an AI system have been fulfilled;(21) ‘conformity assessment body’ means a body that performs third-party conformity assessment
activities, including testing, certification and inspection;(22) ‘notified body’ means a conformity assessment body designated in accordance with thisRegulation and other relevant Union harmonisation legislation;(23) ‘substantial modification’ means a change to the AI system following its placing on the market
or putting into service which affects the compliance of the AI system with the requirements set
out in Title III, Chapter 2 of this Regulation or results in a modification to the intended purpose
for which the AI system has been assessed;(24) ‘CE marking of conformity’ (CE marking) means a marking by which a provider indicatesthat an AI system is in conformity with the requirements set out in Title III, Chapter 2 of thisRegulation and other applicable Union legislation harmonising the conditions for the marketingof products (‘Union harmonisation legislation’) providing for its affixing;(25) ‘post-market monitoring’ means all activities carried out by providers of AI systems toproactively collect and review experience gained from the use of AI systems they place on themarket or put into service for the purpose of identifying any need to immediately apply any
necessary corrective or preventive actions;(26) ‘market surveillance authority’ means the national authority carrying out the activities andtaking the measures pursuant to Regulation (EU) 2019/1020;(27) ‘harmonised standard’ means a European standard as defined in Article 2(1)(c) of Regulation(EU) No 1025/2012;(28) ‘common specifications’ means a document, other than a standard, containing technicalsolutions providing a means to, comply with certain requirements and obligations establishedunder this Regulation;(29) ‘ training data’ means data used for training an AI system through fitting its learnable
parameters, including the weights of a neural network;(30) ‘validation data’ means data used for providing an evaluation of the trained AI system and fortuning its non-learnable parameters and its learning process, among other things, in order toprevent overfitting; whereas the validation dataset can be a separate dataset or part of the
training dataset, either as a fixed or variable split;432

法と情報雑誌 6 巻 5 号（2021 年 11 月）(31) ‘testing data’ means data used for providing an independent evaluation of the trained andvalidated AI system in order to confirm the expected performance of that system before its
placing on the market or putting into service;(32) ‘input data’ means data provided to or directly acquired by an AI system on the basis of which
the system produces an output;(33) ‘biometric data’ means personal data resulting from specific technical processing relating to
the physical, physiological or behavioural characteristics of a natural person, which allow or
confirm the unique identification of that natural person, such as facial images or dactyloscopic
data;(34) ‘emotion recognition system’ means an AI system for the purpose of identifying or inferring
emotions or intentions of natural persons on the basis of their biometric data;(35) ‘biometric categorisation system’ means an AI system for the purpose of assigning natural
persons to specific categories, such as sex, age, hair colour, eye colour, tattoos, ethnic origin or
sexual or political orientation, on the basis of their biometric data;(36) ‘remote biometric identification system’ means an AI system for the purpose of identifying
natural persons at a distance through the comparison of a person’s biometric data with thebiometric data contained in a reference database, and without prior knowledge of the user ofthe AI system whether the person will be present and can be identified ;(37) ‘real-time’ remote biometric identification system’ means a remote biometric identification
system whereby the capturing of biometric data, the comparison and the identification all occur
without a significant delay. This comprises not only instant identification, but also limited shortdelays in order to avoid circumvention.
(38) ‘‘post’ remote biometric identification system’ means a remote biometric identification systemother than a ‘real-time’ remote biometric identification system;(39) ‘publicly accessible space’ means any physical place accessible to the public, regardless ofwhether certain conditions for access may apply;(40) ‘law enforcement authority’ means:(a) any public authority competent for the prevention, investigation, detection or prosecutionof criminal offences or the execution of criminal penalties, including the safeguarding
against and the prevention of threats to public security; or(b) any other body or entity entrusted by Member State law to exercise public authority andpublic powers for the purposes of the prevention, investigation, detection or prosecutionof criminal offences or the execution of criminal penalties, including the safeguarding
against and the prevention of threats to public security;(41) ‘ law enforcement’ means activities carried out by law enforcement authorities for theprevention, investigation, detection or prosecution of criminal offences or the execution of
criminal penalties, including the safeguarding against and the prevention of threats to public
security;(42) ‘national supervisory authority’ means the authority to which a Member State assigns the433

法と情報雑誌 6 巻 5 号（2021 年 11 月）
responsibility for the implementation and application of this Regulation, for coordinating theactivities entrusted to that Member State, for acting as the single contact point for theCommission, and for representing the Member State at the European Artificial Intelligence
Board;(43) ‘national competent authority’ means the national supervisory authority, the notifying authority
and the market surveillance authority;(44) ‘serious incident’ means any incident that directly or indirectly leads, might have led or mightlead to any of the following:(a) the death of a person or serious damage to a person’s health, to property or theenvironment,(b) a serious and irreversible disruption of the management and operation of criticalinfrastructure.
第 4 条 別紙 I の改訂
Article 4 Amendments to Annex I
別紙 I に列挙する技法及びアプローチと同様の特性を基礎として，市場の発展及び技術の発展に合わせて別紙 I のリストをアップデートするため，欧州委員会は，別紙 I に列挙する技法及びアプローチのリストを改訂するために第 73 条に従って委任される行為を採択する権限を与えられる。
The Commission is empowered to adopt delegated acts in accordance with Article 73 to amend thelist of techniques and approaches listed in Annex I, in order to update that list to market andtechnological developments on the basis of characteristics that are similar to the techniques andapproaches listed therein.
第Ⅱ款 禁止される人工知能実務
Title II Prohibited Artificial Intelligence Practices
第5条
Article 51.

以下の人工知能実務は，禁止される：
The following artificial intelligence practices shall be prohibited:(a) 当該の者または他の者に対して身体的または心理的な危害を生じさせるおそれのある態様で人の行動を実質的に歪めるため，人の知覚を超えたサブリミナル技法を具備す
る AI システムを市場に置くこと，サービスに供することまたは利用すること；434

法と情報雑誌 6 巻 5 号（2021 年 11 月）

the placing on the market, putting into service or use of an AI system that deploys subliminal
techniques beyond a person’s consciousness in order to materially distort a person’s behaviour
in a manner that causes or is likely to cause that person or another person physical or
psychological harm;(b) 当該の者または他の者に対して身体的または心理的な危害を生じさせるおそれのある態様で当該特別のグループに属する人の行動を実質的に歪めるため，その年齢，身体的または精神的な障害のゆえに脆弱性をもつ特別のグループの脆弱性を悪用する
AI システムを市場に置くこと，サービスに供することまたは利用すること；
the placing on the market, putting into service or use of an AI system that exploits any of thevulnerabilities of a specific group of persons due to their age, physical or mental disability, inorder to materially distort the behaviour of a person pertaining to that group in a manner thatcauses or is likely to cause that person or another person physical or psychological harm;(c) 以下のいずれかまたは両方を導く社会的採点評価によって，一定期間にわたり，人の社会的行動または既知もしくは予測される個人の特徴もしくは個性の特徴を基礎として
自然人の信頼性の評価または分類をするために，行政機関またはその代わりの者がAI システムを市場に置くこと，サービスに供することまたは利用すること；(i) そのデータが当初に生成または収集された文脈とは関係のない社会的文脈において，一定の自然人またはそのグループの有害または好ましくない取扱い；(ii) 自然人の社会的行動またはその社会的行動の重さに対して不適切または正当化されない，一定の自然人またはそのグループの有害または好ましくない取扱い
the placing on the market, putting into service or use of AI systems by public authorities or on
their behalf for the evaluation or classification of the trustworthiness of natural persons over acertain period of time based on their social behaviour or known or predicted personal or
personality characteristics, with the social score leading to either or both of the following:(i) detrimental or unfavourable treatment of certain natural persons or whole groups thereofin social contexts which are unrelated to the contexts in which the data was originallygenerated or collected;(ii) detrimental or unfavourable treatment of certain natural persons or whole groups thereof
that is unjustified or disproportionate to their social behaviour or its gravity;(d) 以下の目的のいずれかのためにそのような利用が厳格に必要な場合であり，かつ，その範囲内の場合ではない限り，法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システム：(i) 失踪中の児童を含め，特定の潜在的な犯罪被害者に対象を絞った捜索；435

法と情報雑誌 6 巻 5 号（2021 年 11 月）
自然人の生命もしくは身体の安全に対する特定の，大きく，かつ，差し迫った脅威
またはテロ攻撃の脅威の防止；(iii) 理事会枠組み決定 2002/584/JHA62の第 2 条第 2 項に示され，かつ，当該構成国の法律によって定められる少なくとも 3 年の上限期間による拘禁刑または拘束命令によって，関係する構成国内で処罰可能な犯罪行為の加害者または容疑者の検知，所在確認，識別同定または訴追。
(ii)

the use of ‘real-time’ remote biometric identification systems in publicly accessible spaces forthe purpose of law enforcement, unless and in as far as such use is strictly necessary for one of
the following objectives:(i) the targeted search for specific potential victims of crime, including missing children;(ii) the prevention of a specific, substantial and imminent threat to the life or physical safetyof natural persons or of a terrorist attack;(iii) the detection, localisation, identification or prosecution of a perpetrator or suspect of acriminal offence referred to in Article 2(2) of Council Framework Decision
2002/584/JHA 62 and punishable in the Member State concerned by a custodial sentenceor a detention order for a maximum period of at least three years, as determined by thelaw of that Member State.
2.

第 1 項の(d)に示す目的のいずれかのための法執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識別システムの利用は，以下の要素を考慮に入れるものとする：(a) 利用の可能性を生じさせている状況の性質，とりわけ，そのシステムの利用が存在しな
い場合において生ずる危害の重大性，蓋然性及び規模；(b) 関係する全ての者の権利及び自由に対してそのシステムの利用から生ずる結果，とりわけ，それらの結果の重大性，蓋然性及び規模。
The use of ‘real-time’ remote biometric identification systems in publicly accessible spaces for the
purpose of law enforcement for any of the objectives referred to in paragraph 1 point (d) shall take
into account the following elements:(a) the nature of the situation giving rise to the possible use, in particular the seriousness,probability and scale of the harm caused in the absence of the use of the system;(b) the consequences of the use of the system for the rights and freedoms of all persons concerned,
in particular the seriousness, probability and scale of those consequences.
加えて，第 1 項の(d)に示す目的のいずれかのための法執行の目的のための公衆がアクセ

欧州逮捕令状及び構成国間の身柄引渡し手続に関する 2002 年 6 月 13 日の理事会枠組み決定
2002/584/JHA (OJ L 190, 18.7.2002, p. 1).
62436

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ス可能な場における「リアルタイム」のリモート生体要素識別システムの利用は，その利用と関係し，とりわけ，時的制限，場所的制限及び人的制限と関連する必要かつ比例的な安全確保及び条件を遵守する。
In addition, the use of ‘real-time’ remote biometric identification systems in publicly accessible
spaces for the purpose of law enforcement for any of the objectives referred to in paragraph 1 point(d) shall comply with necessary and proportionate safeguards and conditions in relation to the use,in particular as regards the temporal, geographic and personal limitations.
3.

第 1 項の(d)及び第 2 項に関し，公衆がアクセス可能な場における「リアルタイム」のリモート
生体要素識別システムの法執行の目的のための各個別の利用は，理由を付した申請に基づいて発され，かつ，第 4 項に示す国内法の細目規定に従い，その利用が行われる構成国の法務当局または独立行政機関から与えられる事前の許可に服する。ただし，適正に正当化される緊急の状況においては，そのシステムの利用は，許可を受けることなく実行でき，かつ，その許可は，その利用中または利用後に限り要求され得る。
As regards paragraphs 1, point (d) and 2, each individual use for the purpose of law enforcement ofa ‘real-time’ remote biometric identification system in publicly accessible spaces shall be subject toa prior authorisation granted by a judicial authority or by an independent administrative authority of
the Member State in which the use is to take place, issued upon a reasoned request and in accordancewith the detailed rules of national law referred to in paragraph 4. However, in a duly justified situationof urgency, the use of the system may be commenced without an authorisation and the authorisation
may be requested only during or after the use.
職務権限のある法務機関または行政機関は，当の「リアルタイム」のリモート生体要素識別シ
ステムの利用が，その申請書に示されているような第 1 項の(d)に定める目的のいずれかを達成するために必要であり，かつ，比例的であることの，その機関に対して提出された客観的な証拠または明確な徴候を基礎としてその機関が納得した場合に限り，その許可を与える。
その申請を判断する際，職務権限のある法務機関または行政機関は，第 2 項に示す要素を考慮に入れる。
The competent judicial or administrative authority shall only grant the authorisation where it issatisfied, based on objective evidence or clear indications presented to it, that the use of the ‘realtime’ remote biometric identification system at issue is necessary for and proportionate to achieving
one of the objectives specified in paragraph 1, point (d), as identified in the request. In deciding on
the request, the competent judicial or administrative authority shall take into account the elements
referred to in paragraph 2.

4.

構成国は，第 1 項の(d)，第 2 項及び第 3 項に列挙する制限の範囲内及び条件の下で，法437

法と情報雑誌 6 巻 5 号（2021 年 11 月）
執行の目的のための公衆がアクセス可能な場における「リアルタイム」のリモート生体要素識
別システムの利用の全部または一部を許可できることを定めることを決定できる。当該構成国は，その構成国の国内法の中で，第 3 項に示す許可の申請，発令及び実行，並びに，それと関連する監督に関する必要な細目規定を定める。それらの規定は，第 1 項の(d)の(iii)に示すどの犯罪行為であるかを含め，第 1 項の(d)に列挙する目的のどれとの関係において職務権限のある機関が法執行の目的のためにそれらのシステムを利用することの許可を受け得るかも定める。
A Member State may decide to provide for the possibility to fully or partially authorise the use of‘real-time’ remote biometric identification systems in publicly accessible spaces for the purpose oflaw enforcement within the limits and under the conditions listed in paragraphs 1, point (d), 2 and 3.
That Member State shall lay down in its national law the necessary detailed rules for the request,
issuance and exercise of, as well as supervision relating to, the authorisations referred to in paragraph
3. Those rules shall also specify in respect of which of the objectives listed in paragraph 1, point (d),including which of the criminal offences referred to in point (iii) thereof, the competent authorities
may be authorised to use those systems for the purpose of law enforcement.
第Ⅲ款 高リスク AI システム
Title III High-risk AI Systems
第 1 章 AI システムの高リスクとしての分類
Chapter 1 Classification of AI Systems as High-risk
第 6 条 高リスク AI システムに関する分類規定
Article 6 Classification rules for high-risk AI systems
1.

(a)及び(b)に示す製品とは独立して AI システムが市場に置かれまたはサービスに供されるか否かに拘らず，当該 AI システムは，以下の両方の条件が満たされるときは，高リスクと判断される：(a) その AI システムが，別紙 II に列挙する欧州連合整合立法の適用のある製品の安全性
構成要素として利用されることが意図され，または，それ自体が同立法の適用のある製品であること；(b) その安全性構成要素が AI システムである製品または製品としての AI システムそれ自体が，別紙 II に列挙する欧州連合整合立法より当該製品を市場に置きまたはサービスに供するための第三者適合性評価を要求されるものであること。
Irrespective of whether an AI system is placed on the market or put into service independently fromthe products referred to in points (a) and (b), that AI system shall be considered high-risk where bothof the following conditions are fulfilled:438

法と情報雑誌 6 巻 5 号（2021 年 11 月）(a) the AI system is intended to be used as a safety component of a product, or is itself a product,
covered by the Union harmonisation legislation listed in Annex II;(b) the product whose safety component is the AI system, or the AI system itself as a product, isrequired to undergo a third-party conformity assessment with a view to the placing on themarket or putting into service of that product pursuant to the Union harmonisation legislation
listed in Annex II.
2.

第 1 項に示す高リスク AI システムに加えて，別紙 III に示す AI システムも高リスクと判断される。
In addition to the high-risk AI systems referred to in paragraph 1, AI systems referred to in Annex
III shall also be considered high-risk.

第 7 条 別紙 III の改訂
Article 7 Amendments to Annex III
1.

欧州委員会は，以下の条件の両方が満たされる高リスク AI システムを付加することにより，
別紙 III のリストをアップデートするために第 73 条に従って委任される行為を採択する権限を与えられる：(a) その AI システムが，別紙 III の第 1 号ないし第 8 号に列挙する分野のいずれかにおいて利用されることを意図するものであること；(b) その AI システムが，その重大性及び発生の蓋然性に関して別紙 III に既に示されている高リスク AI システムによって示される危害のリスクまたは負の影響のリスクと均等またはより大きな健康及び安全に対する危害のリスクまたは基本的な権利に対して負の影響を与えるリスクを示すものであること。
The Commission is empowered to adopt delegated acts in accordance with Article 73 to update thelist in Annex III by adding high-risk AI systems where both of the following conditions are fulfilled:(a) the AI systems are intended to be used in any of the areas listed in points 1 to 8 of Annex III;(b) the AI systems pose a risk of harm to the health and safety, or a risk of adverse impact on
fundamental rights, that is, in respect of its severity and probability of occurrence, equivalent
to or greater than the risk of harm or of adverse impact posed by the high-risk AI systems
already referred to in Annex III.

2.

別紙 III に既に示されている高リスク AI システムによって示される危害のリスクと均等またはより大きな健康及び安全に対する危害のリスクまたは基本的な権利に対して負の影響を与えるリスクを AI システムが示すか否かに関する第 1 項の目的のための評価を行う際，欧州委
員会は，以下の基準を考慮に入れる：(a) AI システムの所期の目的；
439

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) AI システムが使用された範囲，または，使用される可能性のある範囲；(c) AI システムの利用が健康及び安全に対する危害もしくは基本的な権利に対する負の影響を既に生じさせている範囲，または，職務権限のある国内機関に提出された報告書または文書化された申告によって示されているそのような危害または負の影響の顕在化と関係する大きな不安を生じさせている範囲；(d) とりわけ，人の多元性を害するその影響度及びその能力の面において，そのような危害またはそのような負の影響の潜在的な範囲；(e) とりわけ，当該出力結果からのオプトアウトの合理的な可能性がないことの実務上の原因または法律上の原因のゆえに，AI システムによって生成される出力結果によって異なる潜在的に危害を受ける者または負の影響を受ける者の範囲；(f) とりわけ，権限，知識，経済状況もしくは社会状況または年齢の不均衡のゆえに，AI シ
ステムの利用者と関係する脆弱な立場にある潜在的に危害を受ける者または負の影響を受ける者の範囲；(g) AI システムによって生成される出力結果が容易に可逆的であるが，それによる人の健康または安全に対する影響をもつ出力結果が容易に可逆的ではないと判断される範囲；(h) 既存の欧州連合の立法が以下の事項を定めている範囲：(i) 損害賠償の請求を除き，AI システムによって示されるリスクとの関係における実効的な救済手段；(ii) それらのリスクを防止または大きくミニマム化するための実効的な措置。
When assessing for the purposes of paragraph 1 whether an AI system poses a risk of harm to thehealth and safety or a risk of adverse impact on fundamental rights that is equivalent to or greaterthan the risk of harm posed by the high-risk AI systems already referred to in Annex III, theCommission shall take into account the following criteria:(a) the intended purpose of the AI system;(b) the extent to which an AI system has been used or is likely to be used;(c) the extent to which the use of an AI system has already caused harm to the health and safetyor adverse impact on the fundamental rights or has given rise to significant concerns in relation
to the materialisation of such harm or adverse impact, as demonstrated by reports or
documented allegations submitted to national competent authorities;(d) the potential extent of such harm or such adverse impact, in particular in terms of its intensity
and its ability to affect a plurality of persons;(e) the extent to which potentially harmed or adversely impacted persons are dependent on theoutcome produced with an AI system, in particular because for practical or legal reasons it is
not reasonably possible to opt-out from that outcome;(f) the extent to which potentially harmed or adversely impacted persons are in a vulnerable
position in relation to the user of an AI system, in particular due to an imbalance of power,
knowledge, economic or social circumstances, or age;440

法と情報雑誌 6 巻 5 号（2021 年 11 月）(g) the extent to which the outcome produced with an AI system is easily reversible, whereby
outcomes having an impact on the health or safety of persons shall not be considered as easily
reversible;(h) the extent to which existing Union legislation provides for:(i) effective measures of redress in relation to the risks posed by an AI system, with theexclusion of claims for damages;(ii) effective measures to prevent or substantially minimise those risks.
第 2 章 高リスク AI システムに関する要件
Chapter 2 Requirements for high-risk AI systems
第 8 条 要件の遵守
Article 8 Compliance with the requirements
1.

高リスク AI システムは，本章の中で定められる要件を遵守する。
High-risk AI systems shall comply with the requirements established in this Chapter.

2.

高リスク AI システムの所期の目的及び第 9 条に示すリスク管理システムは，それらの要件の遵守を確保する際に考慮に入れられる。
The intended purpose of the high-risk AI system and the risk management system referred to in
Article 9 shall be taken into account when ensuring compliance with those requirements.

第 9 条 リスク管理システム
Article 9 Risk management system
1.

高リスク AI システムとの関係においてリスク管理システムが定められ，実装され，文書化され，かつ，維持管理される。
A risk management system shall be established, implemented, documented and maintained inrelation to high-risk AI systems.

2.

リスク管理システムは，高リスク AI システムの全ライフサイクルを通じて実行され，定期的で自動的なアップデートを要する継続的な相互プロセスによって構成される。リスク管理システ
ムは，以下の諸段階によって構成される：(a) 個々の高リスク AI システムと関係する既知のリスク及び予見可能なリスクの特定及び分析；(b) 所期の目的に従い，かつ，合理的に予見可能な濫用という条件の下で高リスク AI シス
441

法と情報雑誌 6 巻 5 号（2021 年 11 月）
テムが利用される場合に生じ得るリスクの予測及び評価；(c) 第 61 条に示す市場化後監視システムから収集されるデータの分析を基礎として，生じる可能性のある他のリスクの評価；(d) 以下の項の条項に従った適切なリスク管理措置の採用。
The risk management system shall consist of a continuous iterative process run throughout the entire
lifecycle of a high-risk AI system, requiring regular systematic updating. It shall comprise thefollowing steps:(a) identification and analysis of the known and foreseeable risks associated with each high-risk
AI system;(b) estimation and evaluation of the risks that may emerge when the high-risk AI system is usedin accordance with its intended purpose and under conditions of reasonably foreseeablemisuse;(c) evaluation of other possibly arising risks based on the analysis of data gathered from the postmarket monitoring system referred to in Article 61;(d) adoption of suitable risk management measures in accordance with the provisions of thefollowing paragraphs.
3.

第 2 項の(d)に示すリスク管理措置は，この第 2 章に定める要件の組み合わされた適用から帰結する効果及びあり得る相互作用を適切に考慮に入れる。それらの措置は，関連する整合化された技術標準または共通仕様に反映されているようなものを含め，一般に承認されている最新のものを考慮に入れる。
The risk management measures referred to in paragraph 2, point (d) shall give due consideration to
the effects and possible interactions resulting from the combined application of the requirements set
out in this Chapter 2. They shall take into account the generally acknowledged state of the art,
including as reflected in relevant harmonised standards or common specifications.

4.

第 2 項の(d)に示すリスク管理措置は，その高リスクシステムが所期の目的に従い，または，合理的に予見可能な濫用という条件の下で利用される限り，個々の危険と関係する残存リス
ク及び高リスク AI システムの全残存リスクが受容可能と判断されるような措置とする。それらの残存リスクは，利用者に対して通知される。
The risk management measures referred to in paragraph 2, point (d) shall be such that any residual
risk associated with each hazard as well as the overall residual risk of the high-risk AI systems isjudged acceptable, provided that the high-risk AI system is used in accordance with its intended
purpose or under conditions of reasonably foreseeable misuse. Those residual risks shall be
communicated to the user.
442

法と情報雑誌 6 巻 5 号（2021 年 11 月）
最も適切なリスク管理措置を定める際，以下の事項が確保される：(a) 適切な設計及び開発を通じた可能な限りのリスクの解消または削減；(b) それが適切なときは，解消され得ないリスクと関連する適切な緩和措置及び管理措置の実装；(c) とりわけ，本条の第 2 項(b)に示すリスクに関し，第 13 条による適切な情報，及び，それが適切なときは，利用者に対する訓練の提供。
In identifying the most appropriate risk management measures, the following shall be ensured:(a) elimination or reduction of risks as far as possible through adequate design and development;(b) where appropriate, implementation of adequate mitigation and control measures in relation torisks that cannot be eliminated;(c) provision of adequate information pursuant to Article 13, in particular as regards the risks
referred to in paragraph 2, point (b) of this Article, and, where appropriate, training to users.
高リスク AI システムの利用と関連するリスクの解消または削減において，その利用者に対して予想される技術上の知識，経験，教育，訓練，並びに，そのシステムが利用されることが意図されている環境を適切に考慮に入れるものとする。
In eliminating or reducing risks related to the use of the high-risk AI system, due consideration shallbe given to the technical knowledge, experience, education, training to be expected by the user andthe environment in which the system is intended to be used.
5.

高リスク AI システムは，最も適切なリスク管理措置を発見するという目的のために試験される。
その試験は，そのシステムの所期の目的との一貫性を維持して高リスク AI システムが処理を遂行すること，及び，そのシステムが本章に定める要件を遵守していることを確保する。
High-risk AI systems shall be tested for the purposes of identifying the most appropriate risk
management measures. Testing shall ensure that high-risk AI systems perform consistently for theirintended purpose and they are in compliance with the requirements set out in this Chapter.

6.

試験手続は，その AI システムの所期の目的を達成するために適したものとし，かつ，当該目的を達成するために必要となるところを超えることを要しない。
Testing procedures shall be suitable to achieve the intended purpose of the AI system and do notneed to go beyond what is necessary to achieve that purpose.

7.

高リスク AI システムの試験は，開発過程を通じていずれかの時点において，しかるべく，かつ，いかなる場合においても，市場に置かれまたはサービスに供される前に実施される。試験は，その高リスク AI システムの所期の目的にとって適切な事前に定義されたメトリクス及び443

法と情報雑誌 6 巻 5 号（2021 年 11 月）
蓋然性閾値に照らして行われる。
The testing of the high-risk AI systems shall be performed, as appropriate, at any point in timethroughout the development process, and, in any event, prior to the placing on the market or theputting into service. Testing shall be made against preliminarily defined metrics and probabilistic
thresholds that are appropriate to the intended purpose of the high-risk AI system.
8.

第 1 項ないし第 7 項に示すリスク管理システムを実装する際，高リスク AI システムが児童からアクセスされる可能性があるかどうか，または，児童に対して影響をもつかどうかに特に考慮が払われるものとする。
When implementing the risk management system described in paragraphs 1 to 7, specificconsideration shall be given to whether the high-risk AI system is likely to be accessed by or havean impact on children.

9.

指令 2013/36/EU によって規制を受ける信用機関に関しては，第 1 項ないし第 8 項に示す側面は，同指令の第 74 条によりそれらの信用機関によって設けられるリスク管理手続の一部とする。
For credit institutions regulated by Directive 2013/36/EU, the aspects described in paragraphs 1 to 8
shall be part of the risk management procedures established by those institutions pursuant to Article
74 of that Directive.

第 10 条 データ及びデータ統治
Article 10 Data and data governance1.

データを用いたモデルの訓練を含む技法を活用する高リスク AI システムは，第 2 項ないし第 5 項に示す品質基準に適合するデータセットの訓練，検証及び試験を基礎として開発される。
High-risk AI systems which make use of techniques involving the training of models with data shallbe developed on the basis of training, validation and testing data sets that meet the quality criteria
referred to in paragraphs 2 to 5.

2.

データセットの訓練，検証及び試験は，適切なデータ統治と管理の実務に服する。それらの実務は，とりわけ，以下のことと関係をもつ：(a) 関連する設計の選択；(b) データの収集；(c) 注釈，ラベリング，クリーニング，強化及び集約のような，関連するデータの事前準備処
444

法と情報雑誌 6 巻 5 号（2021 年 11 月）
理業務；(d) 特に，そのデータが測定及び代表のために予想している情報との関係において，関連する仮説の定式化；(e) 必要なデータセットの可用性，量及び適切性の事前評価；(f) あり得るバイアスを考慮する吟味；(g) あり得るデータのギャップ及び欠落の発見，及び，それらのギャップ及び欠落がどのように対処され得るか。
Training, validation and testing data sets shall be subject to appropriate data governance andmanagement practices. Those practices shall concern in particular,(a) the relevant design choices;(b) data collection;(c) relevant data preparation processing operations, such as annotation, labelling, cleaning,enrichment and aggregation;(d) the formulation of relevant assumptions, notably with respect to the information that the data
are supposed to measure and represent;(e) a prior assessment of the availability, quantity and suitability of the data sets that are needed;(f) examination in view of possible biases;(g) the identification of any possible data gaps or shortcomings, and how those gaps andshortcomings can be addressed.
3.

データセットの訓練，検証及び試験は，関連性があり，代表比率をもち，異常がなく，かつ，
完全なものとする。それらのデータセットは，それが適切なときは，それに基づいてその高リ
スク AI システムが利用されることが意図されている人または人のグループとの関連を含め，適切な統計特性をもつ。データセットのそれらの特性は，個々のデータセットのレベルまたはそれらの組み合わせに合わされ得る。
Training, validation and testing data sets shall be relevant, representative, free of errors and complete.
They shall have the appropriate statistical properties, including, where applicable, as regards the
persons or groups of persons on which the high-risk AI system is intended to be used. These
characteristics of the data sets may be met at the level of individual data sets or a combination thereof.

4.

データセットの訓練，検証及び試験は，所期の目的によって要求される範囲内において，その高リスク AI システムが利用されることが意図されている範囲内における地理的，行動上または機能上の個々の設定にとって特有の特性または要素を考慮に入れる。
Training, validation and testing data sets shall take into account, to the extent required by the intended
purpose, the characteristics or elements that are particular to the specific geographical, behaviouralor functional setting within which the high-risk AI system is intended to be used.
445

法と情報雑誌 6 巻 5 号（2021 年 11 月）

5.

高リスク AI システムと関係するバイアスの監視，検知及び修正を確保するプロセスのために厳格に必要な範囲内で，そのようなシステムの提供者は，仮名化のような最新のセキュリティ
及びプライバシー保護措置，または，求める目的を匿名化が大きく阻害し得る場合には暗号化の措置という二次利用または利用に関する技術的制限を含め，自然人の基本的な権利及び自由のための適切な安全確保に服して，規則(EU) 2016/679 の第 9 条第 1 項，指令(EU)2016/680 の第 10 条及び規則(EU) 2018/1725 の第 10 条第 1 項に示す特別類型の個人デー
タを処理できる。
To the extent that it is strictly necessary for the purposes of ensuring bias monitoring, detection andcorrection in relation to the high-risk AI systems, the providers of such systems may process special
categories of personal data referred to in Article 9(1) of Regulation (EU) 2016/679, Article 10 of
Directive (EU) 2016/680 and Article 10(1) of Regulation (EU) 2018/1725, subject to appropriate
safeguards for the fundamental rights and freedoms of natural persons, including technicallimitations on the re-use and use of state-of-the-art security and privacy-preserving measures, suchas pseudonymisation, or encryption where anonymisation may significantly affect the purpose
pursued.

6.

適切なデータの統治と管理の実務は，それらの高リスク AI システムが第 2 項を遵守することを確保するため，モデルの訓練に含まれる技法を活用する高リスク AI システム以外の高リス
ク AI システムの開発に適用される。
Appropriate data governance and management practices shall apply for the development of highrisk AI systems other than those which make use of techniques involving the training of models inorder to ensure that those high-risk AI systems comply with paragraph 2.

第 11 条 技術文書
Article 11 Technical documentation
1.

高リスク AI システムの技術文書は，当該システムが市場に置かれまたはサービスに供される前に作成され，かつ，最新の状態に保たれる。
The technical documentation of a high-risk AI system shall be drawn up before that system is placedon the market or put into service and shall be kept up-to date.
技術文書は，その AIシステムが本章に定める要件を遵守していることを示すような方法で作成され，かつ，その AI システムのそれらの要件の遵守を評価するために必要となる全ての情報と共に，職務権限のある国内機関及び指定組織に対して提出される。その技術文書は，
446

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ミニマムのものとして，別紙 IV に定める要素を含める。
The technical documentation shall be drawn up in such a way to demonstrate that the high-risk AI
system complies with the requirements set out in this Chapter and provide national competentauthorities and notified bodies with all the necessary information to assess the compliance of the AI
system with those requirements. It shall contain, at a minimum, the elements set out in Annex IV.
2.

別紙 II の第 A 節に列挙する法行為が適用される製品と関連する高リスク AI システムが市場に置かれまたはサービスに供される場合，別紙 IV に定める全ての情報並びにそれらの法行為の下で要求される情報を含む単一技術文書が作成される。
Where a high-risk AI system related to a product, to which the legal acts listed in Annex II, section
A apply, is placed on the market or put into service one single technical documentation shall bedrawn up containing all the information set out in Annex IV as well as the information required
under those legal acts.

3.

欧州委員会は，技術の進歩に照らし，そのシステムによる本章に定める要件の遵守を評価するために必要となる全ての情報をその技術文書が提供することを確保するために必要なときは，別紙 IV を改訂するために第 73 条に従って委任される行為を採択する権限を与えられる。
The Commission is empowered to adopt delegated acts in accordance with Article 73 to amend
Annex IV where necessary to ensure that, in the light of technical progress, the technicaldocumentation provides all the necessary information to assess the compliance of the system withthe requirements set out in this Chapter.

第 12 条 記録（ログ）の維持
Article 12 Record-keeping
1.

高リスク AI システムは，その高リスク AI システムが運用されている間の出来事の自動的な記録（「ログ」）を実現可能にする能力をもつように設計及び開発される。それらのログ記録の能力は，承認された標準または共通仕様を満たすものとする。
High-risk AI systems shall be designed and developed with capabilities enabling the automaticrecording of events (‘logs’) while the high-risk AI systems is operating. Those logging capabilities
shall conform to recognised standards or common specifications.

2.

ログ記録の能力は，その AI システムの所期の目的にとって適切なその AI システムのライフサイクルを通じたその AI システムの稼働のトレーサビリティのレベルを確保する。
447

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The logging capabilities shall ensure a level of traceability of the AI system’s functioning throughout
its lifecycle that is appropriate to the intended purpose of the system.
3.

とりわけ，ログ記録の能力は，その AI システムが，第 65 条第 1 項の意味におけるリスクを示
す結果となり得る状況または大きな変更を導き得る状況の発生に関し，その高リスク AI シス
テムの運用の監視をできるようにし，かつ，第 61 条に示す市場化後監視を容易にする。
In particular, logging capabilities shall enable the monitoring of the operation of the high-risk AI
system with respect to the occurrence of situations that may result in the AI system presenting a risk
within the meaning of Article 65(1) or lead to a substantial modification, and facilitate the postmarket monitoring referred to in Article 61.

4.

別紙 III の第 1 項(a)に示す高リスク AI システムに関しては，そのログ記録の能力は，ミニマ
ムのものとして，以下のものを提供する：(a) そのシステムの個々の利用の期間の記録（個々の利用の開始日時及び終了日時）；(b) そのシステムによって入力データが点検された参照データベース；(c) 検索が一致を導いた入力データ；(d) 第 14 条第 5 項に示す，結果の検証に関与する自然人の識別名。
For high-risk AI systems referred to in paragraph 1, point (a) of Annex III, the logging capabilities
shall provide, at a minimum:(a) recording of the period of each use of the system (start date and time and end date and time ofeach use);(b) the reference database against which input data has been checked by the system;(c) the input data for which the search has led to a match;(d) the identification of the natural persons involved in the verification of the results, as referred toin Article 14 (5).

第 13 条 透明性及び利用者に対する情報提供
Article 13 Transparency and provision of information to users
1.

高リスク AI システムは，利用者がそのシステムの出力を理解でき，かつ，そのシステムを適切に利用できるようにするために，その AI システムの運用が十分な透明性を確保するような方法で設計及び開発される。本款第 3 章に定める利用者及び提供者の関連する義務の遵守を達成するため，適切なタイプ及び程度の透明性が確保される。
High-risk AI systems shall be designed and developed in such a way to ensure that their operation is
sufficiently transparent to enable users to interpret the system’s output and use it appropriately. An
appropriate type and degree of transparency shall be ensured, with a view to achieving compliance448

法と情報雑誌 6 巻 5 号（2021 年 11 月）
with the relevant obligations of the user and of the provider set out in Chapter 3 of this Title.
2.

高リスク AI システムは，適切なデジタルフォーマットまたはそれ以外のフォーマットによる，
わかりやすく，完全であり，正確であり，かつ，明確な関連情報を含み，利用者がアクセス可
能かつ理解可能な利用上の指示を添付する。
High-risk AI systems shall be accompanied by instructions for use in an appropriate digital format
or otherwise that include concise, complete, correct and clear information that is relevant, accessible
and comprehensible to users.

3.

第 2 項に示す情報は，以下の事項を示すものとする：(a) 提供者の，及び，それが適用可能なときは，その提供者の権限のある代理者の識別名
及び連絡先；(b) 以下の事項を含め，高リスク AI システムの性能の特性，実行能力及び制限：(i) そのシステムの所期の目的；(ii) その高リスク AI システムが試験され検証がされ，かつ，予想され得る第 15 条に示す正確性，堅牢性及びサイバーセキュリティのレベル，並びに，予想されるレベルの正確性，堅牢性及びサイバーセキュリティに対して影響をもち得る既知及び予見可能な状況；(iii) その AI システムの所期の目的に従った，または，健康及び安全もしくは基本的な権利に対するリスクを導き得る合理的に予見可能な濫用という条件の下におけるその高リスク AI システムの利用と関連する既知または予見可能な状況；(iv) そのシステムが利用されることが意図されている人または人のグループと関連するその AI システムの性能；(v) その AI システムの所期の目的を考慮に入れた上で，それが適切なときは，入力データに関する仕様，または，それ以外の，訓練，検証及び試験に使用されたデータセットの面において関連する情報。
(c) もしあるときは，高リスク AI システムの変更，及び，最初の適合性評価の時点において提供者によって事前に決定されたそのシステムの性能の変更；(d) AI システムの出力の利用者による解釈を容易にするために設けられる技術的措置を含め，第 14 条に示す人間による監視の措置；(e) ソフトウェアのアップデートに関するものを含め，当該 AI システムの適正な稼働を確保するためのその高リスク AI システムの予想される存続期間並びに必要な維持管理措
置及び補修措置。
The information referred to in paragraph 2 shall specify:(a) the identity and the contact details of the provider and, where applicable, of its authorised
representative;(b) the characteristics, capabilities and limitations of performance of the high-risk AI system,449

法と情報雑誌 6 巻 5 号（2021 年 11 月）
including:(i) its intended purpose;(ii) the level of accuracy, robustness and cybersecurity referred to in Article 15 against which
the high-risk AI system has been tested and validated and which can be expected, andany known and foreseeable circumstances that may have an impact on that expected levelof accuracy, robustness and cybersecurity;(iii) any known or foreseeable circumstance, related to the use of the high-risk AI system inaccordance with its intended purpose or under conditions of reasonably foreseeablemisuse, which may lead to risks to the health and safety or fundamental rights;(iv) its performance as regards the persons or groups of persons on which the system isintended to be used;(v) when appropriate, specifications for the input data, or any other relevant information interms of the training, validation and testing data sets used, taking into account theintended purpose of the AI system.
(c) the changes to the high-risk AI system and its performance which have been pre-determinedby the provider at the moment of the initial conformity assessment, if any;(d) the human oversight measures referred to in Article 14, including the technical measures put
in place to facilitate the interpretation of the outputs of AI systems by the users;(e) the expected lifetime of the high-risk AI system and any necessary maintenance and caremeasures to ensure the proper functioning of that AI system, including as regards software
updates.
第 14 条 人間による監視
Article 14 Human oversight1.

高リスク AI システムは，その AI システムが利用される期間内，適切な人間対機械インタフェ
イスツールによる場合を含め，そのシステムが自然人によって実効的に監視され得るような方法で設計及び開発される。
High-risk AI systems shall be designed and developed in such a way, including with appropriate
human-machine interface tools, that they can be effectively overseen by natural persons during theperiod in which the AI system is in use.

2.

人間による監視は，そのシステムの所期の目的に従って，または，合理的に予見可能な濫
用という条件の下で高リスク AI システムが利用される際，とりわけ，本章に定める他の要件の適用にも拘らずそのようなリスクが持続している場合において，生じ得る健康，安全または基本的な権利に対するリスクを防止することまたはミニマム化することを狙いとする。
Human oversight shall aim at preventing or minimising the risks to health, safety or fundamental450

法と情報雑誌 6 巻 5 号（2021 年 11 月）
rights that may emerge when a high-risk AI system is used in accordance with its intended purpose
or under conditions of reasonably foreseeable misuse, in particular when such risks persist
notwithstanding the application of other requirements set out in this Chapter.
3.

人間による監視は，以下の措置の 1 つまたは全部によって確保される：(a) 技術的に利用可能なときは，その高リスク AI システムが市場に置かれまたはサービスに供される前に，提供者によってその高リスク AI システムの中で指示され，構築された措置；(b) その高リスク AI システムが市場に置かれまたはサービスに供される前に，提供者によって指示され，かつ，利用者によって実装されることが適切である措置。
Human oversight shall be ensured through either one or all of the following measures:(a) identified and built, when technically feasible, into the high-risk AI system by the provider
before it is placed on the market or put into service;(b) identified by the provider before placing the high-risk AI system on the market or putting it
into service and that are appropriate to be implemented by the user.

4.

第3 項に示す措置は，人間による監視に従事すべき者が，その状況において適切であれば，以下のことをできるようにする：(a) その高リスク AI システムの能力及び制限を完全に理解すること，並びに，そのシステムの運用を適正に監視できること，それによって，異常，機能障害，予期せぬ性能発揮の徴候が検知され，可能な限り速やかに対処されること；(b) とりわけ，自然人によって行われる判断のための情報または勧告を提供するために利用される高リスク AI システムに関し，高リスク AI システムによって生成される出力に対する自動的な依存または過剰依存の傾向があり得ることの認識を維持すること（「自動化バイアス」）；(c) とりわけ，そのシステムの特性並びに利用可能な解釈ツール及び解釈手法を考慮に入れた上で，その高リスク AI システムの出力を正確に解釈できること；(d) いかなる特別な状況においても，その高リスク AI システムを利用しないという判断ができること，あるいは，その高リスク AI システムの出力を無視し，無効化し，または，覆せること；(e) その高リスク AI システムの運用に介入できること，または，「停止」ボタンまたはそれと類似する手続によりシステムに割り込めること。
The measures referred to in paragraph 3 shall enable the individuals to whom human oversight is
assigned to do the following, as appropriate to the circumstances:(a) fully understand the capacities and limitations of the high-risk AI system and be able to duly
monitor its operation, so that signs of anomalies, dysfunctions and unexpected performancecan be detected and addressed as soon as possible;451

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) remain aware of the possible tendency of automatically relying or over-relying on the output
produced by a high-risk AI system (‘automation bias’), in particular for high-risk AI systems
used to provide information or recommendations for decisions to be taken by natural persons;(c) be able to correctly interpret the high-risk AI system’s output, taking into account in particular
the characteristics of the system and the interpretation tools and methods available;(d) be able to decide, in any particular situation, not to use the high-risk AI system or otherwise
disregard, override or reverse the output of the high-risk AI system;(e) be able to intervene on the operation of the high-risk AI system or interrupt the system througha “stop” button or a similar procedure.
5.

別紙 III の第 1 号(a)に示す高リスク AI システムに関しては，第 3 項に示す措置は，それに加えて，少なくとも 2 名の自然人によってそのことが検証及び確認されない限り，そのシステ
ムから生じている発見された事態を基礎として，利用者によっていかなる行動または判断も行われないことを確保するようなものとする。
For high-risk AI systems referred to in point 1(a) of Annex III, the measures referred to in paragraph3 shall be such as to ensure that, in addition, no action or decision is taken by the user on the basis of
the identification resulting from the system unless this has been verified and confirmed by at least
two natural persons.

第 15 条 正確性，堅牢性及びサイバーセキュリティ
Article 15 Accuracy, robustness and cybersecurity
1.

高リスク AI システムは，その高リスク AI システムの所期の目的に照らし，その高リスク AI シ
ステムが適切なレベルの正確性，堅牢性及びサイバーセキュリティを達成し，かつ，その全
ライフサイクルを通じてそれらに関し一貫性をもって処理を遂行するような方法で設計及び開発される。
High-risk AI systems shall be designed and developed in such a way that they achieve, in the lightof their intended purpose, an appropriate level of accuracy, robustness and cybersecurity, andperform consistently in those respects throughout their lifecycle.

2.

高リスク AI システムの正確性のレベル及び関連する正確性メトリクスは，添付される利用上の指示の中で宣言される。
The levels of accuracy and the relevant accuracy metrics of high-risk AI systems shall be declaredin the accompanying instructions of use.

3.

高リスク AI システムは，とりわけ，自然人または他のシステムとの間のやりとりに起因して，そ452

法と情報雑誌 6 巻 5 号（2021 年 11 月）のシステム内またはそのシステムが運用される環境内で生じ得る異常，障害または一貫性の欠如に関し，回復力をもつものとする。
High-risk AI systems shall be resilient as regards errors, faults or inconsistencies that may occur
within the system or the environment in which the system operates, in particular due to theirinteraction with natural persons or other systems.
高リスク AI システムの堅牢性は，技術的な冗長性ソリューションによって達成され得る。それは，バックアップ計画またはフェールセーフ計画を含め得る。
The robustness of high-risk AI systems may be achieved through technical redundancy solutions,which may include backup or fail-safe plans.
市場に置かれまたはサービスに供された後にも学習を継続する高リスク AI システムは，将来の運用のための入力として使用される出力（「フィードバックループ」）のゆえにバイアスがかかっている可能性のある出力が適切な緩和措置によって適正に対処されることが確保されるような方法で開発される。
High-risk AI systems that continue to learn after being placed on the market or put into service shallbe developed in such a way to ensure that possibly biased outputs due to outputs used as an input for
future operations (‘feedback loops’) are duly addressed with appropriate mitigation measures.
4.

高リスク AI システムは，システムの脆弱性を悪用することによってそのシステムの利用または性能を変更しようとする無権限の第三者による試みに関し，回復力をもつものとする。
High-risk AI systems shall be resilient as regards attempts by unauthorised third parties to alter theiruse or performance by exploiting the system vulnerabilities.
高リスク AI システムのサイバーセキュリティを確保することを狙いとする技術的な措置は，関連する状況及びリスクにとって適切なものとする。
The technical solutions aimed at ensuring the cybersecurity of high-risk AI systems shall beappropriate to the relevant circumstances and the risks.
AI固有の脆弱性に対処するための技術的な解決策は，それが適切なときは，訓練するデー
タセットを操作しようとする試みの攻撃（「データ汚染」），モデルまたはモデルフローに誤りを生じさせるように設計された入力（「敵対的サンプル」）に対する防止及び管理のための措置
を含める。
453

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The technical solutions to address AI specific vulnerabilities shall include, where appropriate,measures to prevent and control for attacks trying to manipulate the training dataset (‘data
poisoning’), inputs designed to cause the model to make a mistake (‘adversarial examples’), ormodel flaws.
第 3 章 高リスク AI システムの提供者及び利用者並びにそれ以外の関係者の義務
Chapter 3 Obligations of providers and users of high-risk AI systems and other parties
第 16 条 高リスク AI システムの提供者の義務
Article 16 Obligations of providers of high-risk AI systems
高リスク AI システムの提供者は：(a) その提供者の高リスク AI システムが本款第 2 章に定める要件を遵守することを確保すること；(b) 第 17 条を遵守して設けられる品質管理システムをもつこと；(c) その高リスク AI システムの技術文書を作成すること；(d) その提供者の管理の下にあるときは，その提供者の高リスク AI システムによって自動的に生成されるログを維持すること；(e) その高リスク AI システムが市場に置かれまたはサービスに供される前に，その高リスク
AI システムが関連する適合性評価手続を受けることを確保すること；(f) 第 51 条に示す登録義務を遵守すること；(g) その高リスク AI システムが本款第 2 章に定める要件を充足していない場合，必要な是正の措置を講ずること；(h) その AI システムが利用可能にされまたはサービスに供された構成国の職務権限のある国内機関に対し，及び，それが適用可能なときは，指定組織に対し，その不遵守及び行われた是正の行動を連絡すること；(i) 第 49 条に従ってこの規則の適合性を表示するため，その提供者の高リスク AI システ
ムに CE マークを付すこと；(j) 職務権限のある国内機関からの要求に応じて，その高リスク AI システムが本款第 2 章に定める要件を遵守していることを示すこと。
Providers of high-risk AI systems shall:(a) ensure that their high-risk AI systems are compliant with the requirements set out in Chapter 2of this Title;(b) have a quality management system in place which complies with Article 17;(c) draw-up the technical documentation of the high-risk AI system;(d) when under their control, keep the logs automatically generated by their high-risk AI systems;(e) ensure that the high-risk AI system undergoes the relevant conformity assessment procedure,
prior to its placing on the market or putting into service;454

法と情報雑誌 6 巻 5 号（2021 年 11 月）(f) comply with the registration obligations referred to in Article 51;(g) take the necessary corrective actions, if the high-risk AI system is not in conformity with therequirements set out in Chapter 2 of this Title;(h) inform the national competent authorities of the Member States in which they made the AI
system available or put it into service and, where applicable, the notified body of the noncompliance and of any corrective actions taken;(i) to affix the CE marking to their high-risk AI systems to indicate the conformity with thisRegulation in accordance with Article 49;(j) upon request of a national competent authority, demonstrate the conformity of the high-risk AI
system with the requirements set out in Chapter 2 of this Title.
第 17 条 品質管理システム
Article 17 Quality management system
1.

高リスク AI システムの提供者は，この規則の遵守を確保する品質管理システムを設ける。そのシステムは，自動的に，かつ，書面化された基本方針，手続及び指示の方式によって整理された態様で文書化され，かつ，少なくとも，以下の側面を含める：(a) 適合性評価手続及びその高リスク AI システムの変更の管理に関する手続の遵守を含
め，法令の遵守の戦略；(b) その高リスク AI システムの設計，設計管理及び設計検証のために使用される技法，手順及び体系化された行動；(c) その高リスク AI システムの開発，品質管理及び品質保証のために使用される技法，手続及び体系化された行動；(d) その高リスク AI システムの開発の前，最中及び後に実施される検討手続，試験手続及び検証手続，並びに，それらの手続が実施される頻度；(e) 技術標準を含め，適用される技術仕様，並びに，関連する整合化された技術標準の全てが適用されない場合においては，その高リスク AI システムが本款第 2 章に定める要件を遵守することを確保するために用いられる手段；(f) データの収集，データの分析，データのラベリング，データの記録保存，データの選別，
データの発掘，データの統合，データの保持及びそれら以外のデータと関連する運用
を含め，高リスク AI システムが市場に置かれまたはサービスに供される前に，及び，その目的のために遂行されるデータ管理のためのシステム及び手続；(g) 第 9 条に示すリスク管理システム；(h) 第 61 条に従い，市場化後監視システムの設置，実装及び維持管理；(i) 重大なインシデント及び誤作動の第 62 条に従った報告と関連する手続；(j) 職務権限のある国内機関，データへのアクセスを提供または支援する部門別の機関を含め，職務権限のある機関，指定組織，それら以外の運用者，顧客またはそれら以外の利害関係者との間の通信の取扱い；(k) 関連する全ての文書及び情報の記録の維持のためのシステム及び手続；455

法と情報雑誌 6 巻 5 号（2021 年 11 月）(l) 手段と関連する供給の安全性を含め，資源管理；(m) 本項に列挙する全ての側面と関係する管理者及びそれ以外の職員の責任を定める説
明責任の枠組み。
Providers of high-risk AI systems shall put a quality management system in place that ensurescompliance with this Regulation. That system shall be documented in a systematic and orderly
manner in the form of written policies, procedures and instructions, and shall include at least thefollowing aspects:(a) a strategy for regulatory compliance, including compliance with conformity assessment
procedures and procedures for the management of modifications to the high-risk AI system;(b) techniques, procedures and systematic actions to be used for the design, design control anddesign verification of the high-risk AI system;(c) techniques, procedures and systematic actions to be used for the development, quality control
and quality assurance of the high-risk AI system;(d) examination, test and validation procedures to be carried out before, during and after thedevelopment of the high-risk AI system, and the frequency with which they have to be carriedout;(e) technical specifications, including standards, to be applied and, where the relevant harmonised
standards are not applied in full, the means to be used to ensure that the high-risk AI systemcomplies with the requirements set out in Chapter 2 of this Title;(f) systems and procedures for data management, including data collection, data analysis, datalabelling, data storage, data filtration, data mining, data aggregation, data retention and anyother operation regarding the data that is performed before and for the purposes of the placing
on the market or putting into service of high-risk AI systems;(g) the risk management system referred to in Article 9;(h) the setting-up, implementation and maintenance of a post-market monitoring system, in
accordance with Article 61;(i) procedures related to the reporting of serious incidents and of malfunctioning in accordancewith Article 62;(j) the handling of communication with national competent authorities, competent authorities,
including sectoral ones, providing or supporting the access to data, notified bodies, otheroperators, customers or other interested parties;(k) systems and procedures for record keeping of all relevant documentation and information;(l) resource management, including security of supply related measures;(m) an accountability framework setting out the responsibilities of the management and other staff
with regard to all aspects listed in this paragraph.
2.

第 1 項に示す側面の実装は，提供者の組織の規模と比例的なものとする。
456

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The implementation of aspects referred to in paragraph 1 shall be proportionate to the size of theprovider’s organisation.
3.

指令 2013/36/EU によって規制を受ける信用機関である提供者に関しては，品質管理システ
ムを設けるべき義務は，同指令の第 74 条による内部統制の手立て，過程及び仕組みに関する規定の遵守によって充足されているものとみなされる。この文脈において，この規則の第 40 条に示す整合化された技術標準が考慮に入れられる。
For providers that are credit institutions regulated by Directive 2013/36/ EU, the obligation to put aquality management system in place shall be deemed to be fulfilled by complying with the rules oninternal governance arrangements, processes and mechanisms pursuant to Article 74 of that
Directive. In that context, any harmonised standards referred to in Article 40 of this Regulation shallbe taken into account.

第 18 条 技術文書を作成すべき義務
Article 18 Obligation to draw up technical documentation
1.

高リスク AI システムの提供者は，別紙 IV に従い，第 11 条に示す技術文書を作成する。
Providers of high-risk AI systems shall draw up the technical documentation referred to in Article
11 in accordance with Annex IV.

2.

指令 2013/36/EU によって規制を受ける信用機関である提供者は，同指令の第 74 条による内部統制の手立て，過程及び仕組みに関する文書の一部として，その技術文書を維持管理する。
Providers that are credit institutions regulated by Directive 2013/36/EU shall maintain the technicaldocumentation as part of the documentation concerning internal governance, arrangements,
processes and mechanisms pursuant to Article 74 of that Directive.

第 19 条 適合性評価
Article 19 Conformity assessment1.

高リスク AI システムの提供者は，その提供者のシステムが市場に置かれまたはサービスに供される前に，その提供者のシステムが第 43 条に従った関連する適合性評価手続を受けることを確保する。その AI システムが本款第 2 章に定める要件を遵守していることが当該適合性評価によって示されたときは，その提供者は，第 48 条に従って EU 適合宣言書を作成し，かつ，第 49 条に従って適合性の CE マークを付す。
457

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Providers of high-risk AI systems shall ensure that their systems undergo the relevant conformity
assessment procedure in accordance with Article 43, prior to their placing on the market or putting
into service. Where the compliance of the AI systems with the requirements set out in Chapter 2 ofthis Title has been demonstrated following that conformity assessment, the providers shall draw up
an EU declaration of conformity in accordance with Article 48 and affix the CE marking ofconformity in accordance with Article 49.
2.

指令2013/36/EU によって規制を受ける信用機関である提供者によって市場に置かれまたはサービスに供される別紙 III の第 5 号(b)に示す高リスク AI システムに関しては，その適合性評価は，同指令の第 97 条ないし第 101 条に示す手続の一部として遂行される。
For high-risk AI systems referred to in point 5(b) of Annex III that are placed on the market or put
into service by providers that are credit institutions regulated by Directive 2013/36/EU, theconformity assessment shall be carried out as part of the procedure referred to in Articles 97 to101of that Directive.

第 20 条 自動的に生成されるログ
Article 20 Automatically generated logs
1.

高リスク AI システムの提供者は，その利用者との間の契約条項の効力により，あるいは，法律の条項の効力により，その提供者の管理の下にあるそのようなログの範囲内において，その提供者の高リスク AI システムによって自動的に生成されるログを維持する。そのログは，高リスク AI システムの所期の目的，並びに，欧州連合法または国内法に基づく適用可能な
法律上の義務に照らして適切な期間，保管される。
Providers of high-risk AI systems shall keep the logs automatically generated by their high-risk AI
systems, to the extent such logs are under their control by virtue of a contractual arrangement withthe user or otherwise by law. The logs shall be kept for a period that is appropriate in the light of theintended purpose of high-risk AI system and applicable legal obligations under Union or national
law.

2.

指令 2013/36/EU によって規制を受ける信用機関である提供者は，同指令の第 74 条に基づく文書の一部として，その提供者の高リスク AI システムによって自動的に生成されたログを維持管理する。
Providers that are credit institutions regulated by Directive 2013/36/EU shall maintain the logs
automatically generated by their high-risk AI systems as part of the documentation under Articles
74 of that Directive.
458

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 21 条 是正の行動
Article 21 Corrective actions
その提供者が市場に置きまたはサービスに供している高リスク AI システムがこの規則を充足していないと判断し，または，適合しないと判断する理由をもつ高リスク AI システムの提供者
は，直ちに，当該システムに適合性を与えるため，そのシステムを引き上げるため，または，
そのシステムをリコールするため，しかるべく必要な是正の行動を行う。その提供者は，当の高リスク AI システムの流通業者に対し，並びに，それが適用可能なときは，権限のある代理者及び輸入業者に対し，しかるべく連絡する。
Providers of high-risk AI systems which consider or have reason to consider that a high-risk AI
system which they have placed on the market or put into service is not in conformity with thisRegulation shall immediately take the necessary corrective actions to bring that system into
conformity, to withdraw it or to recall it, as appropriate. They shall inform the distributors of the highrisk AI system in question and, where applicable, the authorised representative and importers
accordingly.
第 22 条 情報提供の義務
Article 22 Duty of information
高リスク AI システムが第 65 条第 1 項の意味におけるリスクを示し，かつ，当該リスクがその提供者にとって既知のものであるときは，当該提供者は，直ちに，そのシステムが利用可能にされている構成国の職務権限のある国内機関に対し，及び，それが適用されるときは，その高リスク AI システムに関して証明書を発行した指定組織に対して連絡し，とりわけ，遵守していないこと及び行われた是正の行動を連絡する。
Where the high-risk AI system presents a risk within the meaning of Article 65(1) and that risk is
known to the provider of the system, that provider shall immediately inform the national competentauthorities of the Member States in which it made the system available and, where applicable, thenotified body that issued a certificate for the high-risk AI system, in particular of the non-complianceand of any corrective actions taken.
第 23 条 職務権限のある機関との協力
Article 23 Cooperation with competent authorities
高リスク AI システムの提供者は，職務権限のある国内機関からの要求に応じて，当該機関に対し，関係する構成国によって定められた欧州連合の公用語により，その高リスク AI システ
ムが本款第 2 章に定める要件を遵守していることを示すために必要となる全ての情報及び文書を提供する。職務権限のある国内機関からの理由を付した要求に応じて，提供者は，当該459

法と情報雑誌 6 巻 5 号（2021 年 11 月）
機関に対し，その利用者との間の契約条項の効力により，あるいは，法律の条項の効力により，その提供者の管理の下にあるそのようなログの範囲内において，その提供者の高リスク
AI システムによって自動的に生成されるログへのアクセスも与える。
Providers of high-risk AI systems shall, upon request by a national competent authority, provide that
authority with all the information and documentation necessary to demonstrate the conformity of thehigh-risk AI system with the requirements set out in Chapter 2 of this Title, in an official Union
language determined by the Member State concerned. Upon a reasoned request from a national
competent authority, providers shall also give that authority access to the logs automaticallygenerated by the high-risk AI system, to the extent such logs are under their control by virtue of acontractual arrangement with the user or otherwise by law.
第 24 条 製品製造業者の義務
Article 24 Obligations of product manufacturers
別紙 II の第 A 節に列挙する法行為が適用される製品と関連する高リスク AI システムが，それらの法行為に従って製造された製品と共に，かつ，その製品の製造業者の名の下で市場に置かれまたはサービスに供される場合，その製品の製造業者は，その AI システムがこの規則を遵守することに責任を負い，かつ，その AI システムが関係する限り，この規則によって提供者に対して課されるものと同じ義務を負う。
Where a high-risk AI system related to products to which the legal acts listed in Annex II, section A,
apply, is placed on the market or put into service together with the product manufactured inaccordance with those legal acts and under the name of the product manufacturer, the manufacturerof the product shall take the responsibility of the compliance of the AI system with this Regulation
and, as far as the AI system is concerned, have the same obligations imposed by the present
Regulation on the provider.
第 25 条 権限のある代理者
Article 25 Authorised representatives
1.

それらの者のシステムが欧州連合の市場において利用可能とされる前に，輸入業者が特定され得ないときは，欧州連合の外に拠点をもつ提供者は，書面による委任により，欧州連合
内に拠点をもつ権限のある代理者を指定する。
Prior to making their systems available on the Union market, where an importer cannot be identified,providers established outside the Union shall, by written mandate, appoint an authorised
representative which is established in the Union.
460

法と情報雑誌 6 巻 5 号（2021 年 11 月）
2.

権限のある代理者は，提供者から受けた委任の中で指示された職務を遂行する。その委任
は，権限のある代理者に対し，以下の職務を遂行する権限を与える：(a) EU 適合宣言書及び技術文書の複製物を職務権限のある国内機関及び第63 条第7 項に示す国内機関が自由に利用できることを維持すること；(b) 理由を付した要求に応じて，職務権限のある国内機関に対し，その利用者との間の契約条項の効力により，あるいは，法律の条項の効力により，その提供者の管理の下にあるそのようなログの範囲内において，その提供者の高リスク AI システムによって自動的に生成されるログへのアクセスを含め，高リスク AI システムが本款第 2 章に定める要件を遵守していることを示すために必要となる全ての情報及び文書を提供すること；(c) 理由を付した要求に応じて，その高リスク AI システムと関連する職務権限のある国内機関の職務に関し，職務権限のある国内機関に協力すること。
The authorised representative shall perform the tasks specified in the mandate received from theprovider. The mandate shall empower the authorised representative to carry out the following tasks:(a) keep a copy of the EU declaration of conformity and the technical documentation at thedisposal of the national competent authorities and national authorities referred to in Article
63(7);(b) provide a national competent authority, upon a reasoned request, with all the information anddocumentation necessary to demonstrate the conformity of a high-risk AI system with therequirements set out in Chapter 2 of this Title, including access to the logs automaticallygenerated by the high-risk AI system to the extent such logs are under the control of theprovider by virtue of a contractual arrangement with the user or otherwise by law;(c) cooperate with competent national authorities, upon a reasoned request, on any action the lattertakes in relation to the high-risk AI system.

第 26 条 輸入業者の義務
Article 26 Obligations of importers1.

高リスク AI システムが市場に置かれる前に，そのようなシステムの輸入業者は，以下のことを確保する：(a) 当該 AI システムの提供者によって，適切な適合性評価手続が実施され終えていること；(b) 別紙 IV に従った技術文書を提供者が作成し終えていること；(c) 要求される適合マークをそのシステムが付していること，及び，要求される文書及び利用上の指示が付されていること。
Before placing a high-risk AI system on the market, importers of such system shall ensure that:(a) the appropriate conformity assessment procedure has been carried out by the provider of thatAI system461

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) the provider has drawn up the technical documentation in accordance with Annex IV;(c) the system bears the required conformity marking and is accompanied by the required
documentation and instructions of use.
2.

高リスク AIシステムがこの規則を充足していないと判断し，または，充足していないと判断す
る理由をもつときは，その輸入業者は，当該 AI システムが適合性を得ない限り，当該システ
ムを市場に置いてはならない。その高リスク AI システムが第 65 条第 1 項の意味におけるリスクを示すときは，その輸入業者は，その AI システムの提供者及び市場監視機関に対し，そのことを連絡する。
Where an importer considers or has reason to consider that a high-risk AI system is not in conformity
with this Regulation, it shall not place that system on the market until that AI system has beenbrought into conformity. Where the high-risk AI system presents a risk within the meaning of Article
65(1), the importer shall inform the provider of the AI system and the market surveillance authorities
to that effect.

3.

輸入業者は，その名称，登録された取引上の名称または登録された商標，並びに，その輸入業者が連絡をとり得る住所をその高リスク AI システムに表示し，または，それができない
場合，それに該当するときは，そのシステムの梱包またはそのシステムの添付文書に表示する。
Importers shall indicate their name, registered trade name or registered trade mark, and the address
at which they can be contacted on the high-risk AI system or, where that is not possible, on its
packaging or its accompanying documentation, as applicable.

4.

輸入業者は，高リスク AI システムがその輸入業者の責任の下にある間，それが適用可能な
ときは，その倉庫保管または輸送の条件が本款第 2 章に定める要件の遵守を危険に晒さないことを確保する。
Importers shall ensure that, while a high-risk AI system is under their responsibility, where applicable,
storage or transport conditions do not jeopardise its compliance with the requirements set out in
Chapter 2 of this Title.

5.

輸入業者は，理由を付した要求に応じて，職務権限のある国内機関に対し，その利用者との間の契約条項の効力により，あるいは，法律の条項の効力により，その提供者の管理の下にあるそのようなログの範囲内において，その提供者の高リスク AI システムによって自動的に生成されるログへのアクセスを含め，当該職務権限のある国内機関によって容易に理解され得る言語により，高リスク AI システムが本款第 2 章に定める要件を遵守していることを示すために必要となる全ての情報及び文書を提供する。輸入業者はまた，当該システムとの関係
462

法と情報雑誌 6 巻 5 号（2021 年 11 月）
において職務権限のある国内機関が行う活動に関し，その機関と協力する。
Importers shall provide national competent authorities, upon a reasoned request, with all necessary
information and documentation to demonstrate the conformity of a high-risk AI system with therequirements set out in Chapter 2 of this Title in a language which can be easily understood by thatnational competent authority, including access to the logs automatically generated by the high-risk
AI system to the extent such logs are under the control of the provider by virtue of a contractual
arrangement with the user or otherwise by law. They shall also cooperate with those authorities on
any action national competent authority takes in relation to that system.
第 27 条 流通業者の義務
Article 27 Obligations of distributors
1.

高リスク AI システムが市場において利用可能とされる前に，流通業者は，その高リスク AI シ
ステムが要求される CE 適合マークを付していること，そのシステムが要求される文書及び利用上の指示を添付していること，並びに，それに該当するときは，そのシステムの提供者及び輸入業者がこの規則に定める義務を遵守していることを検証する。
Before making a high-risk AI system available on the market, distributors shall verify that the highrisk AI system bears the required CE conformity marking, that it is accompanied by the required
documentation and instruction of use, and that the provider and the importer of the system, as
applicable, have complied with the obligations set out in this Regulation.

2.

流通業者が，高リスク AI システムが本款第 2 章に定める要件を充足していないと判断し，または，充足していないと判断する理由をもつときは，その流通業者は，当該システムがそれらの要件を充足させない限り，その高リスク AI システムを市場に置いてはならない。更に，
そのシステムが第 65 条第1 項の意味におけるリスクを示すときは，その流通業者は，それが適用されるときは，そのシステムの提供者または輸入業者に対し，そのことを連絡する。
Where a distributor considers or has reason to consider that a high-risk AI system is not in conformity
with the requirements set out in Chapter 2 of this Title, it shall not make the high-risk AI system
available on the market until that system has been brought into conformity with those requirements.
Furthermore, where the system presents a risk within the meaning of Article 65(1), the distributor
shall inform the provider or the importer of the system, as applicable, to that effect.

3.

流通業者は，高リスク AI システムがその輸入業者の責任の下にある間，それが適用可能な
ときは，その倉庫保管または輸送が本款第 2 章に定める要件の遵守を危険に晒さないことを
確保する。
463

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Distributors shall ensure that, while a high-risk AI system is under their responsibility, whereapplicable, storage or transport conditions do not jeopardise the compliance of the system with therequirements set out in Chapter 2 of this Title.
4.

その流通業者が市場において利用可能にした高リスク AI システムが本款第 2 章に定める要件を充足していないと判断し，または，充足していないと判断する理由をもつ流通業者は，
当該システムにそれらの要件を充足させるため，そのシステムを引き上げるため，もしくは，
そのシステムをリコールするために必要となる是正の行動を行い，または，提供者，輸入業者または関連する運用者がしかるべくそれらの是正の行動を行うことを確保する。その高リス
ク AI システムが第 65 条第 1 項の意味におけるリスクを示すときは，その流通業者は，直ちに，その流通業者がその製品を利用できるようにした構成国の職務権限のある国内機関に対し，とりわけ，遵守していないこと及び行われた是正の行動の詳細情報を提供して，そのことを連絡する。
A distributor that considers or has reason to consider that a high-risk AI system which it has madeavailable on the market is not in conformity with the requirements set out in Chapter 2 of this Title
shall take the corrective actions necessary to bring that system into conformity with thoserequirements, to withdraw it or recall it or shall ensure that the provider, the importer or any relevant
operator, as appropriate, takes those corrective actions. Where the high-risk AI system presents a risk
within the meaning of Article 65(1), the distributor shall immediately inform the national competentauthorities of the Member States in which it has made the product available to that effect, giving
details, in particular, of the non-compliance and of any corrective actions taken.

5.

職務権限のある国内機関からの理由を付した要求に応じて，高リスク AI システムの流通業者は，当該機関に対し，高リスク AI システムが本款第 2 章に定める要件を充足していることを示すために必要となる全ての情報及び文書を提供する。流通業者はまた，当該機関によって行われる行動に関し，当該職務権限のある国内機関と協力する。
Upon a reasoned request from a national competent authority, distributors of high-risk AI systems
shall provide that authority with all the information and documentation necessary to demonstrate theconformity of a high-risk system with the requirements set out in Chapter 2 of this Title. Distributors
shall also cooperate with that national competent authority on any action taken by that authority.

第 28 条 流通業者，輸入業者，利用者またはそれ以外の第三者の義務
Article 28 Obligations of distributors, importers, users or any other third-party
1.

流通業者，輸入業者，利用者またはそれ以外の第三者は，この規則の目的のために提供者としてみなされ，かつ，以下のいずれかの状況において，第 16 条に基づく提供者の義務に
服する：
464

法と情報雑誌 6 巻 5 号（2021 年 11 月）(a) それらの者がその名称または商標の下で高リスク AI システムを市場に置きまたはサービスに供する場合；(b) それらの者が既に市場に置きまたはサービスに供した高リスク AI システムの所期の目的を変更する場合；(c) それらの者がその高リスク AI システムに大きな変更を行う場合。
Any distributor, importer, user or other third-party shall be considered a provider for the purposes ofthis Regulation and shall be subject to the obligations of the provider under Article 16, in any of thefollowing circumstances:(a) they place on the market or put into service a high-risk AI system under their name ortrademark;(b) they modify the intended purpose of a high-risk AI system already placed on the market or put
into service;(c) they make a substantial modification to the high-risk AI system.
2.

第 1 項の(b)または(c)に示す状況が生じた場合，その高リスク AI システムを最初に市場に置きまたはサービスに供した提供者は，この規則の目的のために提供者とはみなされてはならない。
Where the circumstances referred to in paragraph 1, point (b) or (c), occur, the provider that initiallyplaced the high-risk AI system on the market or put it into service shall no longer be considered aprovider for the purposes of this Regulation.

第 29 条 高リスク AI システムの利用者の義務
Article 29 Obligations of users of high-risk AI systems
1.

高リスク AI システムの利用者は，第 2 項及び第 5 項により，そのシステムに添付されている
利用上の指示に従ってそのようなシステムを利用する。
Users of high-risk AI systems shall use such systems in accordance with the instructions of use
accompanying the systems, pursuant to paragraphs 2 and 5.

2.

第 1 項の義務は，欧州連合法または国内法に基づく利用者の他の義務を妨げず，また，提供者から指示された人間による監視の措置を実装する目的のための利用者自身の資源及び活動を行う際のその利用者の裁量を妨げない。
The obligations in paragraph 1 are without prejudice to other user obligations under Union or
national law and to the user’s discretion in organising its own resources and activities for the purposeof implementing the human oversight measures indicated by the provider.
465

法と情報雑誌 6 巻 5 号（2021 年 11 月）
3.

第 1 項を妨げることなく，その利用者が入力データに対する管理を実行する範囲内において，当該利用者は，入力データが，その高リスク AI システムの所期の目的の観点から関連性のあるものであることを確保する。
Without prejudice to paragraph 1, to the extent the user exercises control over the input data, thatuser shall ensure that input data is relevant in view of the intended purpose of the high-risk AI system.

4.

利用者は，その利用上の指示を基礎として，高リスク AI システムの運用を監視する。利用上の指示に従った利用が，その高リスク AI システムの中で第 65 条第 1 項の意味におけるリス
クを示すことを生じさせているかもしれないと判断する合理的な根拠をその利用者がもつときは，その利用者は，その提供者または流通業者に対して連絡し，かつ，そのシステムの利用を停止する。その利用者は，第 62 条の意味における重大なインシデントもしくは誤作動を発見し，その AI システムの利用をとりやめた場合においても，その提供者または流通業者に連絡する。その利用者が提供者まで到達できない場合，第 62 条が準用して適用される。
Users shall monitor the operation of the high-risk AI system on the basis of the instructions of use.
When they have reasons to consider that the use in accordance with the instructions of use may resultin the AI system presenting a risk within the meaning of Article 65(1) they shall inform the provider
or distributor and suspend the use of the system. They shall also inform the provider or distributor
when they have identified any serious incident or any malfunctioning within the meaning of Article
62 and interrupt the use of the AI system. In case the user is not able to reach the provider, Article 62
shall apply mutatis mutandis.
指令 2013/36/EU によって規制を受ける信用機関である利用者に関しては，第 1 副項に定める監視義務は，同指令の第 74 条による内部統制の手立て，過程及び仕組みに関する規定の遵守によって充足されているものとみなされる。
For users that are credit institutions regulated by Directive 2013/36/EU, the monitoring obligation
set out in the first subparagraph shall be deemed to be fulfilled by complying with the rules oninternal governance arrangements, processes and mechanisms pursuant to Article 74 of that
Directive.

5.

高リスク AI システムの利用者は，その利用者の管理の下にあるそのようなログの範囲内において，当該高リスク AI システムによって自動的に生成されるログを維持する。そのログは，高リスク AI システムの所期の目的，並びに，欧州連合法または国内法に基づく適用可能な法
律上の義務に照らして適切な期間，保管される。
Users of high-risk AI systems shall keep the logs automatically generated by that high-risk AI system,to the extent such logs are under their control. The logs shall be kept for a period that is appropriate466

法と情報雑誌 6 巻 5 号（2021 年 11 月）
in the light of the intended purpose of the high-risk AI system and applicable legal obligations under
Union or national law.
指令 2013/36/EU によって規制を受ける信用機関である利用者は，同指令の第 74 条による内部統制の手立て，過程及び仕組みに関する文書の一部としてそのログを維持管理する。
Users that are credit institutions regulated by Directive 2013/36/EU shall maintain the logs as partof the documentation concerning internal governance arrangements, processes and mechanisms
pursuant to Article 74 of that Directive.
6.

高リスク AI システムの利用者は，それが適用可能なときは，規則(EU) 2016/679 の第 35 条または指令(EU) 2016/680 の第 27 条に基づくデータ保護影響評価を遂行すべき利用者の義務を遵守するために第 13 条に基づいて提供される情報を利用する。
Users of high-risk AI systems shall use the information provided under Article 13 to comply with
their obligation to carry out a data protection impact assessment under Article 35 of Regulation (EU)2016/679 or Article 27 of Directive (EU) 2016/680, where applicable.
第 4 章 通知機関及び指定組織
Chapter 4 Notifying Authorities and Notified Bodies

第 30 条 通知機関
Article 30 Notifying authorities
1.

各構成国は，適合性評価組織の評価，指定及び通知並びにその監視のために必要となる手続を定め，かつ，実施することに関して職責を負う通知機関を指定し，または，設置する。
Each Member State shall designate or establish a notifying authority responsible for setting up andcarrying out the necessary procedures for the assessment, designation and notification of conformity
assessment bodies and for their monitoring.

2.

構成国は，規則(EC) No 765/2008 に示す国内認定機関を通知機関として指定できる。
Member States may designate a national accreditation body referred to in Regulation (EC) No
765/2008 as a notifying authority.

3.

通知機関は，適合性評価組織との間で利益相反が生じることがなく，かつ，その通知機関の活動の客観性及び公平性が防護されるような方法で設置，組織及び運用される。
Notifying authorities shall be established, organised and operated in such a way that no conflict of467

法と情報雑誌 6 巻 5 号（2021 年 11 月）
interest arises with conformity assessment bodies and the objectivity and impartiality of theiractivities are safeguarded.
4.

通知機関は，適合性評価機関の通知と関連する決定がその組織の評価を実施する者とは別の能力のある者によって行われるような方法で組織される。
Notifying authorities shall be organised in such a way that decisions relating to the notification ofconformity assessment bodies are taken by competent persons different from those who carried out
the assessment of those bodies.

5.

通知機関は，適合性評価組織が実施する活動または相談サービスを商業ベースまたは競争ベースで提供してはならない。
Notifying authorities shall not offer or provide any activities that conformity assessment bodies
perform or any consultancy services on a commercial or competitive basis.

6.

通知機関は，その機関が入手した情報の機密性を防護する。
Notifying authorities shall safeguard the confidentiality of the information they obtain.

7.

通知機関は，その機関の職務の適正な遂行のためにその機関が自由に利用できる十分な員数の能力のある要員をもつ。
Notifying authorities shall have a sufficient number of competent personnel at their disposal for theproper performance of their tasks.

8.

通知機関は，適合性評価が比例的な態様で遂行されること，提供者に対して不必要な負担を負わせることを避けること，そして，事業者の規模，その事業者が業務遂行している部門，
その事業者の構造及び当の AI システムの複雑性の程度を適正に考慮に入れた上で，指定組織がその活動を遂行することを確保する。
Notifying authorities shall make sure that conformity assessments are carried out in a proportionate
manner, avoiding unnecessary burdens for providers and that notified bodies perform their activities
taking due account of the size of an undertaking, the sector in which it operates, its structure and thedegree of complexity of the AI system in question.

468

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 31 条 適合性評価組織の通知を求める申請
Article 31 Application of a conformity assessment body for notification1.

適合性評価組織は，その組織が拠点をもつ構成国の通知機関に対し，通知を求める申請書を提出する。
Conformity assessment bodies shall submit an application for notification to the notifying authorityof the Member State in which they are established.

2.

通知を求める申請書は，適合性評価活動，適合性評価モジュール，及び，その適合性評価
活動が能力をもつと主張する人工知能技術に関する記述を添付し，かつ，それが存在する
ときは，その適合性評価組織が第 33 条に定める要件を満たしていることを証明する国内認可組織から発行された認可証明書を添付する。別の欧州連合整合立法の下で申請者である
指定組織の既存の指定と関連する有効な文書が付加される。
The application for notification shall be accompanied by a description of the conformity assessment
activities, the conformity assessment module or modules and the artificial intelligence technologies
for which the conformity assessment body claims to be competent, as well as by an accreditation
certificate, where one exists, issued by a national accreditation body attesting that the conformity
assessment body fulfils the requirements laid down in Article 33. Any valid document related toexisting designations of the applicant notified body under any other Union harmonisation legislation
shall be added.

3.

関連する適合性評価組織が認可証明書を提供できないときは，その組織は，通知機関に対し，第 33 条に定める要件のその組織の遵守の検証，承認及び定期的な監視のために必要となる証拠書類を提出する。別の欧州連合整合立法の下で指定された指定組織に関しては，
この規則に基づくその組織の指定手続を支援するため，それらの指定と結びつけられている全ての文書及び証明書がしかるべく利用され得る。
Where the conformity assessment body concerned cannot provide an accreditation certificate, it shallprovide the notifying authority with the documentary evidence necessary for the verification,
recognition and regular monitoring of its compliance with the requirements laid down in Article 33.
For notified bodies which are designated under any other Union harmonisation legislation, all
documents and certificates linked to those designations may be used to support their designation
procedure under this Regulation, as appropriate.

469

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 32 条 通知手続
Article 32 Notification procedure1.

通知機関は，第 33 条に定める要件を満たした適合性評価組織のみを通知できる。
Notifying authorities may notify only conformity assessment bodies which have satisfied therequirements laid down in Article 33.

2.

通知機関は，欧州委員会及び他の構成国に対し，欧州委員会によって開発及び運営管理される電子的な通知ツールを用いて通知する。
Notifying authorities shall notify the Commission and the other Member States using the electronic
notification tool developed and managed by the Commission.

3.

その通知は，その適合性評価活動，適合性評価モジュール及び関係する人工知能技術の詳細の全てを含める。
The notification shall include full details of the conformity assessment activities, the conformity
assessment module or modules and the artificial intelligence technologies concerned.

4.

関係する適合性評価組織は，その通知から 1 か月以内に欧州委員会または他の構成国からいかなる異議も提示されなかった場合に限り，指定組織の活動を遂行できる。
The conformity assessment body concerned may perform the activities of a notified body only
where no objections are raised by the Commission or the other Member States within one month ofa notification.

5.

通知機関は，欧州委員会及び他の構成国に対し，その通知のその後の関連する変更を通知する。
Notifying authorities shall notify the Commission and the other Member States of any subsequent
relevant changes to the notification.

第 33 条 指定組織
Article 33 Notified bodies
1.

指定組織は，第 43 条に示す適合性評価手続に従って高リスク AI システムの適合性を検証する。
Notified bodies shall verify the conformity of high-risk AI system in accordance with the conformity
470

法と情報雑誌 6 巻 5 号（2021 年 11 月）
assessment procedures referred to in Article 43.
2.

指定組織は，その組織の職務を満たすために必要となる組織上，品質管理，資金及びプロセスの要件を満たすものとする。
Notified bodies shall satisfy the organisational, quality management, resources and process
requirements that are necessary to fulfil their tasks.

3.

指定組織の組織上の構造，責任の分配，報告ライン及び業務遂行は，その指定組織が実施する適合性評価活動の遂行において，または，その活動実績への信頼が存在することを確保するようなものとする。
The organisational structure, allocation of responsibilities, reporting lines and operation of notified
bodies shall be such as to ensure that there is confidence in the performance by and in the results ofthe conformity assessment activities that the notified bodies conduct.

4.

指定組織は，その組織が遂行する適合性評価活動との関係において高リスク AI システムの提供者から独立するものとする。指定組織はまた，評価される高リスク AI システムと経済的利害関係をもつ他の運用者から，並びに，その提供者の競争者から独立のものとする。
Notified bodies shall be independent of the provider of a high-risk AI system in relation to which it
performs conformity assessment activities. Notified bodies shall also be independent of any otheroperator having an economic interest in the high-risk AI system that is assessed, as well as of any
competitors of the provider.

5.

指定組織は，その組織の活動の独立性，客観性及び公平性を防護するように組織され，運用される。指定組織は，公平性を防護するため，そして，その組織，要員及び評価活動を通じて公平の原則を促進し，かつ，適用するため，構造及び手続を文書化し，かつ，実装する。
Notified bodies shall be organised and operated so as to safeguard the independence, objectivity andimpartiality of their activities. Notified bodies shall document and implement a structure andprocedures to safeguard impartiality and to promote and apply the principles of impartiality
throughout their organisation, personnel and assessment activities.

6.

指定組織は，法律によって開示が要求される場合を除き，適合性評価活動を遂行する間に保有するに至った情報の機密性を，その組織の要員，経営委員会，子組織，下請組織，下請契約者及び関連組織並びに外部組織の要員が尊重することを確保する文書化された手続を設ける。指定組織の事務職員は，その組織の活動が遂行される構成国の通知機関と関係するものを除き，この規則に基づくその組織の職務の遂行において入手した全ての情報
471

法と情報雑誌 6 巻 5 号（2021 年 11 月）
に関し，守秘義務を尊重することを義務づけられる。
Notified bodies shall have documented procedures in place ensuring that their personnel,
committees, subsidiaries, subcontractors and any associated body or personnel of external bodies
respect the confidentiality of the information which comes into their possession during theperformance of conformity assessment activities, except when disclosure is required by law. The
staff of notified bodies shall be bound to observe professional secrecy with regard to all information
obtained in carrying out their tasks under this Regulation, except in relation to the notifying
authorities of the Member State in which their activities are carried out.
7.

指定組織は，事業者の規模，その事業者が業務遂行する部門，その事業者の構造，当の AI
システムの複雑性の程度を適正に考慮にいれた活動の遂行のための手続をもつ。
Notified bodies shall have procedures for the performance of activities which take due account of
the size of an undertaking, the sector in which it operates, its structure, the degree of complexity of
the AI system in question.

8.

指定組織は，関係する構成国が国内法に従ってその損害賠償責任を負うのではない限り，かつ，適合性評価に関して当該構成国が直接に職責を負うのではない限り，その組織の適合性評価活動のための適切な損害賠償責任保険に加入する。
Notified bodies shall take out appropriate liability insurance for their conformity assessment
activities, unless liability is assumed by the Member State concerned in accordance with nationallaw or that Member State is directly responsible for the conformity assessment.

9.

指定組織は，それらの職務が指定組織自身によって遂行されるか，または，その組織の代わりの者によってその組織の責任において遂行されるかを問わず，高度な職業専門家の統合性と特定の分野の要求される能力をもって，この規則に基づいてその組織が負う全ての職務を遂行できるものとする。
Notified bodies shall be capable of carrying out all the tasks falling to them under this Regulation
with the highest degree of professional integrity and the requisite competence in the specific field,
whether those tasks are carried out by notified bodies themselves or on their behalf and under their
responsibility.

10. 指定組織は，その組織の代わりに外部者によって行われる職務を実効的に評価できる十分な内部的能力をもつ。その目的のために，常に，その指定組織が指定されたところと関係する個々の適合性評価手続に関し及び個々のタイプの高リスク AI システムに関し，その指定組織は，十分な員数の，関連する人工知能技術，データ及びデータコンピューティング並び472

法と情報雑誌 6 巻 5 号（2021 年 11 月）に本款第 2 章に定める要件と関連する経験と知識をもつ行政管理の要員，科学技術の要員を恒常的に利用できる能力をもつ。
Notified bodies shall have sufficient internal competences to be able to effectively evaluate the tasks
conducted by external parties on their behalf. To that end, at all times and for each conformity
assessment procedure and each type of high-risk AI system in relation to which they have been
designated, the notified body shall have permanent availability of sufficient administrative, technicaland scientific personnel who possess experience and knowledge relating to the relevant artificial
intelligence technologies, data and data computing and to the requirements set out in Chapter 2 ofthis Title.
11. 指定組織は，第 38 条に示す調整活動に参加する。その組織はまた，欧州の標準化組織に直接に参加し，もしくは，標準化組織で代表され，または，その組織が関連する技術標準に関して注意を払い，かつ，それを最新のものとすることを確保する。
Notified bodies shall participate in coordination activities as referred to in Article 38. They shall also
take part directly or be represented in European standardisation organisations, or ensure that they areaware and up to date in respect of relevant standards.
12. 指定組織は，第 30 条に示す通知機関に対し，その通知機関の評価，指定，通知，監視及び監督の活動をその通知機関が実施できるようにし，かつ，本章に概要を示す評価を容易にするため，要求に応じて，提供者の文書を含め，全ての関連文書を利用可能にし，提出する。
Notified bodies shall make available and submit upon request all relevant documentation, including
the providers’ documentation, to the notifying authority referred to in Article 30 to allow it to conduct
its assessment, designation, notification, monitoring and surveillance activities and to facilitate theassessment outlined in this Chapter.
第 34 条 指定組織の子組織及び指定組織による下請契約
Article 34 Subsidiaries of and subcontracting by notified bodies
1.

指定組織が，適合性評価と関係する特定の職務を下請契約し，または，子組織に行わせる
場合，その指定組織は，その下請契約者または子組織が第 33 条に定める要件に適合することを確保し，かつ，通知機関に対してしかるべく連絡する。
Where a notified body subcontracts specific tasks connected with the conformity assessment or has
recourse to a subsidiary, it shall ensure that the subcontractor or the subsidiary meets the requirements
laid down in Article 33 and shall inform the notifying authority accordingly.
473

法と情報雑誌 6 巻 5 号（2021 年 11 月）
2.

指定組織は，それらが設けられている限り，下請契約者または子組織によって遂行される職務に関し，全面的に責任を負う。
Notified bodies shall take full responsibility for the tasks performed by subcontractors or subsidiaries
wherever these are established.

3.

提供者の同意がある場合に限り，活動が下請けされ，子組織によって遂行され得る。
Activities may be subcontracted or carried out by a subsidiary only with the agreement of theprovider.

4.

指定組織は，下請契約者または子組織の資格の評価及びこの規則に基づき下請契約者または子組織によって遂行された仕事に関する関連文書を，通知機関が自由に利用できるよ
うに保管する。
Notified bodies shall keep at the disposal of the notifying authority the relevant documents
concerning the assessment of the qualifications of the subcontractor or the subsidiary and the work
carried out by them under this Regulation.

第 35 条 この規則に基づき指定される指定組織の識別番号及びリスト
Article 35 Identification numbers and lists of notified bodies designated under this Regulation
1.

欧州委員会は，指定組織に対し，識別番号を割当てる。欧州委員会は，欧州連合の複数の法行為に基づいて組織が指定されている場合であっても，単一の番号を割当てる。
The Commission shall assign an identification number to notified bodies. It shall assign a single
number, even where a body is notified under several Union acts.

2.

欧州委員会は，指定組織に割当てられた識別番号及びその組織が指定された活動を含め，この規則に基づく指定組織のリストを公表する。欧州委員会は，そのリストが最新の状態に保たれることを確保する。
The Commission shall make publicly available the list of the bodies notified under this Regulation,
including the identification numbers that have been assigned to them and the activities for which
they have been notified. The Commission shall ensure that the list is kept up to date.

474

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 36 条 通知の変更
Article 36 Changes to notifications1.

指定組織が第 33 条に定める要件に適合しなくなった，または，指定組織がその義務を充足していないとの疑いを通知機関がもち，または，そのように連絡を受けたときは，当該機関は，遅滞なく，最大限仔細に事実関係を調査する。その過程において，その機関は，その指定組織に対し，提起された異議に関して連絡し，かつ，指定組織に対してその意見を述べる機会を与える。その通知機関が，指定組織の調査結果により同組織が第 33 条に定める要件に適合しなくなった，または，その指定組織がその義務を充足していないとの結論に達したときは，その通知機関は，その違反の重大性の相違に応じて，しかるべく，その通知を制限し，停止し，または，撤回する。その通知機関は，欧州委員会及び他の構成国に対し，直ちに，
しかるべく連絡する。
Where a notifying authority has suspicions or has been informed that a notified body no longer meetsthe requirements laid down in Article 33, or that it is failing to fulfil its obligations, that authority
shall without delay investigate the matter with the utmost diligence. In that context, it shall informthe notified body concerned about the objections raised and give it the possibility to make its views
known. If the notifying authority comes to the conclusion that the notified body investigation nolonger meets the requirements laid down in Article 33 or that it is failing to fulfil its obligations, it
shall restrict, suspend or withdraw the notification as appropriate, depending on the seriousness ofthe failure. It shall also immediately inform the Commission and the other Member Statesaccordingly.

2.

通知の制限，停止もしくは撤回の際，または，指定組織がその活動を終了させた場合，通知機関は，当該指定組織の記録が別の指定組織に移転され，または，職責をもつ通知機関からの要求の際にその機関が利用できるように保管されることを確保するための適切な手立てを講ずる。
In the event of restriction, suspension or withdrawal of notification, or where the notified body hasceased its activity, the notifying authority shall take appropriate steps to ensure that the files of that
notified body are either taken over by another notified body or kept available for the responsible
notifying authorities at their request.

第 37 条 指定組織の職務権限の変更
Article 37 Challenge to the competence of notified bodies
1.

欧州委員会は，それが必要なときは，第 33 条に定める要件を指定組織が遵守しているか否かを疑う根拠が存在する全ての案件を調査する。
475

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The Commission shall, where necessary, investigate all cases where there are reasons to doubt
whether a notified body complies with the requirements laid down in Article 33.
2.

通知機関は，欧州委員会に対し，要求に応じて，関係する指定組織の通知と関連する全ての関連情報を提供する。
The Notifying authority shall provide the Commission, on request, with all relevant information
relating to the notification of the notified body concerned.

3.

欧州委員会は，本条による調査の過程で入手した全ての機密情報が機密のものとして取り扱われることを確保する。
The Commission shall ensure that all confidential information obtained in the course of its
investigations pursuant to this Article is treated confidentially.

4.

指定組織が第33 条に定める要件に適合していないことまたは適合しなくなったことを欧州委
員会が確認したときは，欧州委員会は，それが必要なときは通知の撤回を含め，通知元である構成国が必要な是正措置を講ずることを要求する理由を付した決定を採択する。当該実装行為は，第 74 条第 2 項に示す審議手続に従って採択される。
Where the Commission ascertains that a notified body does not meet or no longer meets therequirements laid down in Article 33, it shall adopt a reasoned decision requesting the notifying
Member State to take the necessary corrective measures, including withdrawal of notification if
necessary. That implementing act shall be adopted in accordance with the examination procedurereferred to in Article 74(2).

第 38 条 指定組織の調整
Article 38 Coordination of notified bodies
1.

欧州委員会は，この規則によって包摂される分野に関し，この規則による AI システムの適合性評価手続において能動的な指定組織間の適切な調整及び協力が設けられ，指定組織の部門別グループの形式で適正に運用されることを確保する。
The Commission shall ensure that, with regard to the areas covered by this Regulation, appropriate
coordination and cooperation between notified bodies active in the conformity assessment
procedures of AI systems pursuant to this Regulation are put in place and properly operated in theform of a sectoral group of notified bodies.

2.

構成国は，その構成国によって指定された指定組織が，直接に，または，指定された代表に476

法と情報雑誌 6 巻 5 号（2021 年 11 月）より，当該グループの仕事に参加することを確保する。
Member States shall ensure that the bodies notified by them participate in the work of that group,
directly or by means of designated representatives.
第 39 条 第三国の適合性評価組織
Article 39 Conformity assessment bodies of third countries
欧州連合が協定を締結している第三国の法律に基づいて設立された適合性評価組織は，この規則に基づく指定組織の活動を遂行することが認められる。
Conformity assessment bodies established under the law of a third country with which the Union
has concluded an agreement may be authorised to carry out the activities of notified Bodies under
this Regulation.
第 5 章 技術標準，適合性評価，証明書，登録
Chapter 5 Standards, Conformity Assessment, Certificates, Registration
第 40 条 整合化された技術標準
Article 40 Harmonised standards
EU 官報上でその参照が公示された整合化された技術標準またはその一部を充足する高リ
スク AI システムは，それらの技術標準がそれらの要件を包摂する範囲内において，本款第2 章に定める要件を充足していると推定される。
High-risk AI systems which are in conformity with harmonised standards or parts thereof thereferences of which have been published in the Official Journal of the European Union shall be
presumed to be in conformity with the requirements set out in Chapter 2 of this Title, to the extent
those standards cover those requirements.
第 41 条 共通仕様
Article 41 Common specifications
1.

第 40 条に示す整合化された技術標準が存在しない場合，または，関連する標準化された技
術標準が十分ではない，もしくは，関連する特定の安全もしくは基本的な権利に対処すべき
必要性があると欧州委員会が判断する場合，欧州委員会は，実装行為により，本款第 2 章に定める要件と関連する共通仕様を採択できる。それらの実装行為は，第 74 条第 2 項に示す審議手続に従って採択される。
477

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Where harmonised standards referred to in Article 40 do not exist or where the Commission
considers that the relevant harmonised standards are insufficient or that there is a need to address
specific safety or fundamental right concerns, the Commission may, by means of implementing acts,
adopt common specifications in respect of the requirements set out in Chapter 2 of this Title. Those
implementing acts shall be adopted in accordance with the examination procedure referred to in
Article 74(2).
2.

欧州委員会は，第 1 項に示す共通仕様を準備する際，欧州連合の部門別の関連法律に基づいて設けられた関連組織または専門家グループの見解を集める。
The Commission, when preparing the common specifications referred to in paragraph 1, shall gather
the views of relevant bodies or expert groups established under relevant sectorial Union law.

3.

第 1 項に示す共通仕様を充足する高リスク AI システムは，それらの共通仕様がそれらの要件を包摂する範囲内において，本款第 2 章に定める要件を充足していると推定される。
High-risk AI systems which are in conformity with the common specifications referred to inparagraph 1 shall be presumed to be in conformity with the requirements set out in Chapter 2 of thisTitle, to the extent those common specifications cover those requirements.

4.

第 1 項に示す共通仕様を提供者が遵守しない場合，その提供者は，少なくとも共通仕様と均等な技術上の解決策をその提供者が採用したことを適正に説明する。
Where providers do not comply with the common specifications referred to in paragraph 1, theyshall duly justify that they have adopted technical solutions that are at least equivalent thereto.

第 42 条 一定の要件の充足性の推定
Article 42 Presumption of conformity with certain requirements
1.

その AI システムの所期の目的を考慮に入れた上で，その AI システムが利用されることが意図されている範囲内における地理的，行動上または機能上の個々の設定と関係するデータ
が訓練及び試験された高リスク AI システムは，第 10 条第 4 項に定める要件を遵守していると推定される。
Taking into account their intended purpose, high-risk AI systems that have been trained and tested
on data concerning the specific geographical, behavioural and functional setting within which they
are intended to be used shall be presumed to be in compliance with the requirement set out in Article
10(4).
478

法と情報雑誌 6 巻 5 号（2021 年 11 月）
2.

欧州議会及び理事会の規則(EU) 2019/88163によるサイバーセキュリティ制度の下で認証され，または，そのシステムに関して同規則に基づく適合宣言が発行され，かつ，EU 官報上においてその認証もしくは適合宣言の参照が公示された高リスク AI システムは，それらのサ
イバーセキュリティ認証もしくは適合宣言またはそれらの一部がそれらの要件を包摂する限り，この規則の第 15 条に定めるサイバーセキュリティの要件を遵守していると推定される。
High-risk AI systems that have been certified or for which a statement of conformity has been issued
under a cybersecurity scheme pursuant to Regulation (EU) 2019/881 of the European Parliamentand of the Council 63 and the references of which have been published in the Official Journal of theEuropean Union shall be presumed to be in compliance with the cybersecurity requirements set out
in Article 15 of this Regulation in so far as the cybersecurity certificate or statement of conformity
or parts thereof cover those requirements.

第 43 条 適合性評価
Article 43 Conformity assessment1.

別紙 III の第 1 号に列挙する高リスク AI システムに関しては，本款第 2 章に定める要件を高リスク AI システムが遵守していることを証明して，第 40 条に示す整合化された技術標準をその提供者が適用したとき，または，それが適用可能なときは，第 41 条に示す共通仕様を適用したときは，その提供者は，以下の手続のいずれかに従う：(a) 別紙 IV に示す内部管理を基礎とする適合性評価手続；(b) 別紙 VII に示す，指定組織が関与する，品質管理システムの評価及び技術文書の評価を基礎とする適合性評価手続。
For high-risk AI systems listed in point 1 of Annex III, where, in demonstrating the compliance of ahigh-risk AI system with the requirements set out in Chapter 2 of this Title, the provider has applied
harmonised standards referred to in Article 40, or, where applicable, common specifications referred
to in Article 41, the provider shall follow one of the following procedures:(a) the conformity assessment procedure based on internal control referred to in Annex VI;(b) the conformity assessment procedure based on assessment of the quality management system
and assessment of the technical documentation, with the involvement of a notified body,referred to in Annex VII.
本款第 2 章に定める要件を高リスク AI システムが遵守していることを証明して，提供者が第40 条に示す整合化された技術標準を適用せず，もしくは，その一部だけを適用するとき，ま63

ENISA（欧州連合サイバーセキュリティ局）に関する，及び，情報通信技術のサイバーセキュリティ認証に関する，並びに，規則(EU) No 526/2013 を廃止する，欧州議会及び理事会の 2019 年 4 月 17日の規則(EU) 2019/881（Cybersecurity Act）(（OJ L 151, 7.6.2019, p.15).

479

法と情報雑誌 6 巻 5 号（2021 年 11 月）
たは，そのような整合化された技術標準が存在せず，かつ，第 41 条に示す共通仕様が利用できないときは，その提供者は，別紙 VII に定める適合性評価手続に従う。
Where, in demonstrating the compliance of a high-risk AI system with the requirements set out in
Chapter 2 of this Title, the provider has not applied or has applied only in part harmonised standards
referred to in Article 40, or where such harmonised standards do not exist and common
specifications referred to in Article 41 are not available, the provider shall follow the conformity
assessment procedure set out in Annex VII.
別紙 VII に示す適合性評価手続の目的のために，提供者は，指定組織を選択できる。ただし，そのシステムが，法執行機関，移民及び難民当局，並びに，EU の機関，組織または部局によってサービスに供されることが意図されている場合，それが適用可能なときは，第 63条第 5 項もしくは第 6 条に示す市場監視機関は，指定組織として行動する。
For the purpose of the conformity assessment procedure referred to in Annex VII, the provider may
choose any of the notified bodies. However, when the system is intended to be put into service by
law enforcement, immigration or asylum authorities as well as EU institutions, bodies or agencies,
the market surveillance authority referred to in Article 63(5) or (6), as applicable, shall act as a
notified body.
2.

別紙 III の第 2 号ないし第 8 号に示す高リスク AI システムに関しては，提供者は，指定組織の関与を定めていない別紙 VI に示す内部管理を基礎とする適合性評価手続に従う。指令2013/36/EU によって規制を受ける信用機関によって市場に置かれまたはサービスに供された別紙 III の第 5 号(b)に示す高リスク AI システムに関しては，適合性評価は，同指令の第97 条ないし第 101 条に示す手続の一部として遂行される。
For high-risk AI systems referred to in points 2 to 8 of Annex III, providers shall follow theconformity assessment procedure based on internal control as referred to in Annex VI, which does
not provide for the involvement of a notified body. For high-risk AI systems referred to in point 5(b)of Annex III, placed on the market or put into service by credit institutions regulated by Directive
2013/36/EU, the conformity assessment shall be carried out as part of the procedure referred to in
Articles 97 to101 of that Directive.

3.

別紙IIの第A節に列挙する法行為が適用される高リスクAIシステムに関しては，提供者は，それらの法行為の下で要求される関連適合性評価に従う。それらの高リスク AI システムに対しては本款第 2 章に定める要件が適用され，かつ，それらの要件は，当該評価の一部となる。
別紙 VII の第 4.3 号，第 4.4 号，第 4.5 号及び第 4.6 号の第 5 項も適用される。
For high-risk AI systems, to which legal acts listed in Annex II, section A, apply, the provider shall480

法と情報雑誌 6 巻 5 号（2021 年 11 月）
follow the relevant conformity assessment as required under those legal acts. The requirements set
out in Chapter 2 of this Title shall apply to those high-risk AI systems and shall be part of thatassessment. Points 4.3., 4.4., 4.5. and the fifth paragraph of point 4.6 of Annex VII shall also apply.
その評価の目的のために，それらの法行為に基づいて通知された指定組織は，第 33 条第4 項，第 9 項及び第 10 項に定める要件をそれらの指定組織が遵守していることがそれらの法行為に基づく通知手続の過程において評価されたことを条件として，その高リスク AI シス
テムの本款第 2 章に定める要件の充足を監督する権限をもつ。
For the purpose of that assessment, notified bodies which have been notified under those legal acts
shall be entitled to control the conformity of the high-risk AI systems with the requirements set out
in Chapter 2 of this Title, provided that the compliance of those notified bodies with requirements
laid down in Article 33(4), (9) and (10) has been assessed in the context of the notification procedure
under those legal acts.
別紙 II の第 A 節に列挙する法行為が，関連要件の全てを包摂する整合化された技術標準の全てを当該製造業者が適用したことを条件として，その製品の製造業者が第三者適合性評価から適用除外されることを可能としている場合，その製造業者が本款第 2 章に定める要件を包摂する整合化された技術標準，または，それが適用可能なときは，第 41 条に示す共通仕様も適用しているときに限り，当該製造業者は，その適用除外を活用できる。
Where the legal acts listed in Annex II, section A, enable the manufacturer of the product to opt out
from a third-party conformity assessment, provided that that manufacturer has applied all
harmonised standards covering all the relevant requirements, that manufacturer may make use ofthat option only if he has also applied harmonised standards or, where applicable, common
specifications referred to in Article 41, covering the requirements set out in Chapter 2 of this Title.
4.

高リスク AI システムは，それが大きく変更されたときは，変更されたシステムが更に流通に置かれるかどうか，または，現在の利用者によって利用され続けるかどうかに拘らず，常に新たな適合性評価手続を受ける。
High-risk AI systems shall undergo a new conformity assessment procedure whenever they aresubstantially modified, regardless of whether the modified system is intended to be further
distributed or continues to be used by the current user.
市場に置かれまたはサービスに供された後においても学習を継続する高リスク AI システムに関しては，最初の適合性評価の時点においてその提供者によって事前に定められており，
かつ，別紙 IV の第 2 号(f)に示す技術文書の中に含まれている情報の一部であるその高リ
スク AI システム及びそのシステムの性能の変更は，大きな変更を構成しない。
481

法と情報雑誌 6 巻 5 号（2021 年 11 月）
For high-risk AI systems that continue to learn after being placed on the market or put into service,changes to the high-risk AI system and its performance that have been pre-determined by theprovider at the moment of the initial conformity assessment and are part of the information containedin the technical documentation referred to in point 2(f) of Annex IV, shall not constitute a substantial
modification.
5.

欧州委員会は，技術の発展に照らし必要となる適合性評価手続の要素を導入するため，別紙 VI 及び別紙 VII をアップデートする目的のために第 73 条に従って委任される行為を採択する権限を与えられる。
The Commission is empowered to adopt delegated acts in accordance with Article 73 for the
purpose of updating Annexes VI and Annex VII in order to introduce elements of the conformity
assessment procedures that become necessary in light of technical progress.

6.

欧州委員会は，別紙 III の第 2 号ないし第 8 号に示す高リスク AI システムを別紙 VII に示す適合性評価手続またはその一部に服させるため，第 1 項及び第 2 項を改正するために委任される行為を採択する権限を与えられる。欧州委員会は，そのようなシステムによって示される健康及び安全並びに基本的な権利の保護に対するリスクを防止する上でまたはミニマ
ム化する上で別紙VI に示す内部管理を基礎とする適合性評価手続の実効性，そして，指定組織の間における適切な能力及び資金の利用可能性を考慮に入れた上で，そのような委任される行為を採択する。
The Commission is empowered to adopt delegated acts to amend paragraphs 1 and 2 in order tosubject high-risk AI systems referred to in points 2 to 8 of Annex III to the conformity assessment
procedure referred to in Annex VII or parts thereof. The Commission shall adopt such delegated acts
taking into account the effectiveness of the conformity assessment procedure based on internal
control referred to in Annex VI in preventing or minimizing the risks to health and safety andprotection of fundamental rights posed by such systems as well as the availability of adequate
capacities and resources among notified bodies.

第 44 条 証明書
Article 44 Certificates1.

別紙 VII に従って指定組織から発行される証明書は，その指定組織が拠点をもつ構成国によって定められた欧州連合の公用語またはその指定組織にとって受容可能な欧州連合の別の公用語で作成される。
Certificates issued by notified bodies in accordance with Annex VII shall be drawn-up in an official
Union language determined by the Member State in which the notified body is established or in an482

法と情報雑誌 6 巻 5 号（2021 年 11 月）
official Union language otherwise acceptable to the notified body.
2.

証明書は，表示された期間内有効であり，その期間は 5 年を超えてはならない。提供者からの申請に基づき，証明書の有効性は，適用可能な適合性評価手続に従った再評価を基礎として，それぞれ 5 年を超えることなく更に期間延長され得る。
Certificates shall be valid for the period they indicate, which shall not exceed five years. On
application by the provider, the validity of a certificate may be extended for further periods, each notexceeding five years, based on a re-assessment in accordance with the applicable conformity
assessment procedures.

3.

指定組織が，AI システムが本款第 2 章に定める要件に適合しなくなったと判断したときは，その指定組織は，比例性の原則を考慮に入れた上で，その指定組織によって定められる適切な期限内にそのシステムの提供者によって適切な是正の行動が行われることによってそれらの要件の遵守が確保されない限り，発行した証明書を停止もしくは撤回し，または，その証明書に制限を加える。その指定組織は，その決定の理由を与える。
Where a notified body finds that an AI system no longer meets the requirements set out in Chapter
2 of this Title, it shall, taking account of the principle of proportionality, suspend or withdraw thecertificate issued or impose any restrictions on it, unless compliance with those requirements isensured by appropriate corrective action taken by the provider of the system within an appropriate
deadline set by the notified body. The notified body shall give reasons for its decision.

第 45 条 指定組織の決定に対する不服申立て
Article 45 Appeal against decisions of notified bodies
構成国は，指定組織の決定に正当な利害関係をもつ当事者が，当該決定に対して不服申立てする手続を利用できることを確保する。
Member States shall ensure that an appeal procedure against decisions of the notified bodies isavailable to parties having a legitimate interest in that decision.
第 46 条 指定組織の情報提供義務
Article 46 Information obligations of notified bodies
1.

指定組織は，通知機関に対し，以下の事項を連絡する：(a) 欧州連合技術文書評価証明書，それらの証明書の補足文書，別紙 VII の要件に従って発行された品質管理システム承認書；(b) 欧州連合技術文書評価証明書または別紙 VII の要件に従って発行された品質管理シ
483

法と情報雑誌 6 巻 5 号（2021 年 11 月）
ステム承認書の拒否，制限，停止または取消；(c) 通知の適用範囲または通知のための条件に影響を与える状況；(d) 適合性評価活動と関連して市場監視機関から受け取った情報提供の要求；(e) 要求に応じて，その指定組織の通知の適用範囲内で遂行された適合性評価活動，及び，国境を越える活動及び下請契約を含め，遂行されたその他の活動。
Notified bodies shall inform the notifying authority of the following:(a) any Union technical documentation assessment certificates, any supplements to thosecertificates, quality management system approvals issued in accordance with the requirementsof Annex VII;(b) any refusal, restriction, suspension or withdrawal of a Union technical documentationassessment certificate or a quality management system approval issued in accordance with therequirements of Annex VII;(c) any circumstances affecting the scope of or conditions for notification;(d) any request for information which they have received from market surveillance authorities
regarding conformity assessment activities;(e) on request, conformity assessment activities performed within the scope of their notification
and any other activity performed, including cross-border activities and subcontracting.
2.

各指定組織は，他の指定組織に対し，以下の事項を連絡する：(a) その指定組織が拒否，停止または取消した品質管理システム承認書，及び，要求に応じて，その指定組織が発行した品質管理システム承認書；(b) その指定組織が拒否，取消，停止またはその他の制限をした欧州連合技術文書評価証明書またはその補足文書，及び，要求に応じて，その指定組織が発行した欧州連合
技術文書評価証明書及びまたはその補足文書。
Each notified body shall inform the other notified bodies of:(a) quality management system approvals which it has refused, suspended or withdrawn, and,upon request, of quality system approvals which it has issued;(b) EU technical documentation assessment certificates or any supplements thereto which it has
refused, withdrawn, suspended or otherwise restricted, and, upon request, of the certificates
and/or supplements thereto which it has issued.

3.

各指定組織は，同じ人工知能技術を包摂する同様の適合性評価活動を遂行している別の指定組織に対し，消極的な適合性評価結果，及び，要求に応じて，積極的な適合性評価結果に関する関連情報を提供する。
Each notified body shall provide the other notified bodies carrying out similar conformity
assessment activities covering the same artificial intelligence technologies with relevant information484

法と情報雑誌 6 巻 5 号（2021 年 11 月）
on issues relating to negative and, on request, positive conformity assessment results.
第 47 条 適合性評価手続の特例
Article 47 Derogation from conformity assessment procedure1.

第 43 条からの特例により，市場監視機関は，公共の保安または人の生命及び健康の保護，環境の保護，並びに，産業上及びインフラ上の重要な財産の保護という例外的な理由に基づき，関係する構成国の領土内において特定の高リスク AI システムを市場に置きまたはサービスに供することを許可できる。その許可は，必要な適合性評価手続が遂行されている間の限定された期間内のものとし，かつ，それらの手続が完了した時に終了となる。それらの手続の完了は，不適正な遅滞なく遂げられるものとする。
By way of derogation from Article 43, any market surveillance authority may authorise the placing
on the market or putting into service of specific high-risk AI systems within the territory of theMember State concerned, for exceptional reasons of public security or the protection of life andhealth of persons, environmental protection and the protection of key industrial and infrastructural
assets. That authorisation shall be for a limited period of time, while the necessary conformity
assessment procedures are being carried out, and shall terminate once those procedures have been
completed. The completion of those procedures shall be undertaken without undue delay.

2.

第 1 項に示す許可は，その高リスク AI システムが本款第 2 章の要件を遵守していると市場監視機関が判断したときに限り，発される。その市場監視機関は，欧州委員会及び他の構成国に対し，第 1 項により発された許可を連絡する。
The authorisation referred to in paragraph 1 shall be issued only if the market surveillance authority
concludes that the high-risk AI system complies with the requirements of Chapter 2 of this Title. The
market surveillance authority shall inform the Commission and the other Member States of any
authorisation issued pursuant to paragraph 1.

3.

第 1 項に従って構成国の市場監視機関によって発された許可に関し，第 2 項に示す情報を受け取った日から 15 暦日以内に構成国または欧州委員会のいずれからも異議が提起されなかったときは，当該許可は是認されたものと推定される。
Where, within 15 calendar days of receipt of the information referred to in paragraph 2, no objection
has been raised by either a Member State or the Commission in respect of an authorisation issued
by a market surveillance authority of a Member State in accordance with paragraph 1, that
authorisation shall be deemed justified.

4.

第 2 項に示す通知を受け取った日から 15 暦日以内に別の構成国の市場監視機関によって485

法と情報雑誌 6 巻 5 号（2021 年 11 月）発された許可に対して構成国から異議が提起される場合，または，その許可が欧州連合法に反するものである，もしくは，第 2 項に示すシステムの遵守に関する構成国の判断が根拠づけられていないと欧州委員会が判断する場合，欧州委員会は，遅滞なく，関係構成国と協議に入る；関係する運用者は，協議を受け，かつ，運用者の見解を提示する機会をもつ。それらの見解を考慮に入れ，欧州委員会は，その許可が是認されるか否かを決定する。欧州委員会は，関係する構成国及び関連運用者に対してその決定書を発出する。
Where, within 15 calendar days of receipt of the notification referred to in paragraph 2, objections
are raised by a Member State against an authorisation issued by a market surveillance authority of
another Member State, or where the Commission considers the authorisation to be contrary to Union
law or the conclusion of the Member States regarding the compliance of the system as referred to inparagraph 2 to be unfounded, the Commission shall without delay enter into consultation with therelevant Member State; the operator(s) concerned shall be consulted and have the possibility topresent their views. In view thereof, the Commission shall decide whether the authorisation isjustified or not. The Commission shall address its decision to the Member State concerned and therelevant operator or operators.
5.

その許可が是認されないと判断される場合，その許可は，関係する構成国の市場監視機関
によって取消される。
If the authorisation is considered unjustified, this shall be withdrawn by the market surveillanceauthority of the Member State concerned.

6.

第 1 項ないし第 5 項からの特例により，規則(EU) 2017/745 及び規則(EU) 2017/746 の適用のある製品の安全性構成要素として使用されることが意図されている高リスク AI システムまたは製品それ自体である高リスク AI システムに関しては，本款第 2 章に定める要件を遵守していることの適合性評価からの特例に関しても，規則(EU) 2017/745 の第 59 条及び規則(EU) 2017/746 の第 54 条が適用される。
By way of derogation from paragraphs 1 to 5, for high-risk AI systems intended to be used as safety
components of devices, or which are themselves devices, covered by Regulation (EU) 2017/745
and Regulation (EU) 2017/746, Article 59 of Regulation (EU) 2017/745 and Article 54 ofRegulation (EU) 2017/746 shall apply also with regard to the derogation from the conformity
assessment of the compliance with the requirements set out in Chapter 2 of this Title.

第 48 条 EU 適合宣言書
Article 48 EU declaration of conformity
1.

提供者は，個々の AI システムについて書面による EU 適合宣言を作成し，その AI システム486

法と情報雑誌 6 巻 5 号（2021 年 11 月）
が市場に置かれまたはサービスに供された後 10 年間，職務権限のある国内機関が自由に利用できるように保管する。EU 適合宣言書は，その宣言書が作成された AI システムを特定する。EU 適合宣言書の複製物は，要求に応じて，関連する職務権限のある国内機関に対して提供される。
The provider shall draw up a written EU declaration of conformity for each AI system and keep it at
the disposal of the national competent authorities for 10 years after the AI system has been placedon the market or put into service. The EU declaration of conformity shall identify the AI system forwhich it has been drawn up. A copy of the EU declaration of conformity shall be given to the relevant
national competent authorities upon request.
2.

EU 適合宣言書は，当の高リスク AI システムが本款第 2 章に定める要件に適合していることを述べる。EU 適合宣言書は，別紙 V に定める情報を含めるものとし，かつ，欧州連合の公用語またはその高リスク AI システムが利用可能にされる構成国から要求される言語によって翻訳される。
The EU declaration of conformity shall state that the high-risk AI system in question meets therequirements set out in Chapter 2 of this Title. The EU declaration of conformity shall contain theinformation set out in Annex V and shall be translated into an official Union language or languages
required by the Member State(s) in which the high-risk AI system is made available.

3.

高リスク AI システムが，EU 適合宣言を要求する別の欧州連合整合立法にも服する場合，その高リスク AI システムに対して適用可能な欧州連合の全ての立法に関して，単一の EU 適
合宣言書が作成される。その宣言書は，その宣言書と関連する欧州連合整合立法の識別のために必要な全ての情報を含める。
Where high-risk AI systems are subject to other Union harmonisation legislation which also requires
an EU declaration of conformity, a single EU declaration of conformity shall be drawn up in respectof all Union legislations applicable to the high-risk AI system. The declaration shall contain all theinformation required for identification of the Union harmonisation legislation to which thedeclaration relates.

4.

EU 適合宣言書を作成することにより，提供者は，本款第 2 章に定める要件の遵守に関して責任を負う。その提供者は，その EU 適合宣言書が最新のものであることをしかるべく維持する。
By drawing up the EU declaration of conformity, the provider shall assume responsibility forcompliance with the requirements set out in Chapter 2 of this Title. The provider shall keep the EU
declaration of conformity up-to-date as appropriate.
487

法と情報雑誌 6 巻 5 号（2021 年 11 月）
5.

欧州委員会は，技術の発展に照らし必要となる要素を導入するため，別紙V に定める EU 適
合宣言書の内容をアップデートする目的のために第73条に従って委任される行為を採択す
る権限を与えられる。
The Commission shall be empowered to adopt delegated acts in accordance with Article 73 for the
purpose of updating the content of the EU declaration of conformity set out in Annex V in order tointroduce elements that become necessary in light of technical progress.

第 49 条 適合性の CE マーク
Article 49 CE marking of conformity
1.

CE マークは，高リスク AI システムに対して，視認性があり，判読性があり，かつ，消滅しない
ように付される。その高リスク AI システムの性質のゆえにそれが不可能または保証されない
場合，CE マークは，梱包または添付文書上にしかるべく付される。
The CE marking shall be affixed visibly, legibly and indelibly for high-risk AI systems. Where thatis not possible or not warranted on account of the nature of the high-risk AI system, it shall be affixed
to the packaging or to the accompanying documentation, as appropriate.

2.

本条第 1 項に示す CE マークは，規則(EC) No 765/2008 の第 30 条に定める一般原則に服する。
The CE marking referred to in paragraph 1 of this Article shall be subject to the general principles
set out in Article 30 of Regulation (EC) No 765/2008.

3.

それが適用可能なときは，CE マークは，第 43 条に定める適合性評価手続に関して職責を負う指定組織の識別番号を続けて表示する。その識別番号は，その高リスク AI システムがCE マークの要件を満たしていることを述べる販促資料の中にも表示される。
Where applicable, the CE marking shall be followed by the identification number of the notified
body responsible for the conformity assessment procedures set out in Article 43. The identification
number shall also be indicated in any promotional material which mentions that the high-risk AI
system fulfils the requirements for CE marking.

第 50 条 文書の保持
Article 50 Document retention
提供者は，その AI システムが市場に置かれまたはサービスに供された後 10 年間，職務権限のある国内機関が自由に利用できるように以下の文書を保管する：
488

法と情報雑誌 6 巻 5 号（2021 年 11 月）
(a)
(b)
(c)
(d)
(e)

第 11 条に示す技術文書；
第 17 条に示す品質管理システムと関係する文書；
それが適用可能なときは，指定組織によって承認された変更に関する文書；
それが適用可能なときは，指定組織から発された決定及びそれ以外の文書；
第 48 条に示す EU 適合宣言書。

The provider shall, for a period ending 10 years after the AI system has been placed on the market or
put into service, keep at the disposal of the national competent authorities:(a) the technical documentation referred to in Article 11;(b) the documentation concerning the quality management system referred to Article 17;(c) the documentation concerning the changes approved by notified bodies where applicable;(d) the decisions and other documents issued by the notified bodies where applicable;(e) the EU declaration of conformity referred to in Article 48.
第 51 条 登録
Article 51 Registration
第 6 条第 2 項に示す高リスク AI システムを市場に置きまたはサービスに供する前に，提供者，または，それが適用可能なときは，権限のある代理者は，当該システムを第 60 条に示す
EU データベースに登録する。
Before placing on the market or putting into service a high-risk AI system referred to in Article 6(2),the provider or, where applicable, the authorised representative shall register that system in the EU
database referred to in Article 60.
第Ⅳ款 一定の AI システムに関する透明性義務
Title IV Transparency Obligations for certain AI Systems
第 52 条 一定の AI システムに関する透明性義務
Article 52 Transparency obligations for certain AI systems
1.

提供者は，そのことが利用の状況及び文脈から明白ではない限り，当該自然人が AI システムとの間でやりとりしていることの情報提供を当該の者が受けるような方法で自然人との間のやりとりを意図する AI システムが設計及び開発されることを確保する。この義務は，それらのシステムが犯罪行為を通報するために公衆に対して利用可能にされているものではない限
り，犯罪行為の検知，予防，捜査及び訴追のために法律によって認められている AI システ
ムに適用してはならない。
Providers shall ensure that AI systems intended to interact with natural persons are designed and489

法と情報雑誌 6 巻 5 号（2021 年 11 月）
developed in such a way that natural persons are informed that they are interacting with an AI system,
unless this is obvious from the circumstances and the context of use. This obligation shall not apply
to AI systems authorised by law to detect, prevent, investigate and prosecute criminal offences,
unless those systems are available for the public to report a criminal offence.
2.

心理認識システムまたは生体要素分類システムの利用者は，それに晒されている自然人に対し，システムの運用について情報提供する。この義務は，犯罪行為の検知，予防，捜査及び訴追のために法律によって認められている生体要素分類のために用いられる AI システ
ムに適用してはならない。
Users of an emotion recognition system or a biometric categorisation system shall inform of theoperation of the system the natural persons exposed thereto. This obligation shall not apply to AI
systems used for biometric categorisation, which are permitted by law to detect, prevent andinvestigate criminal offences.

3.

存在する個人，物体，場所またはそれ以外の主体もしくは出来事と酷似し，かつ，それが本物または真実であるかのように誤解させ得る画像，音響または映像のコンテント（「ディープフェイク」）を生成または操作する AI システムの利用者は，そのコンテントが人工的に生成または操作されたものであることを開示する。
Users of an AI system that generates or manipulates image, audio or video content that appreciably
resembles existing persons, objects, places or other entities or events and would falsely appear to aperson to be authentic or truthful (‘deep fake’), shall disclose that the content has been artificiallygenerated or manipulated.
ただし，第 1 副項は，犯罪行為の検知，予防，捜査及び訴追のために法律によってその利用が認められている場合，または，EUの基本権憲章の中で保障されている表現の自由の権
利並びに芸術及び科学の自由の権利の行使のために必要な場合であり，かつ，第三者の権利及び自由のための適切な安全確保に服しているときは，適用してはならない。
However, the first subparagraph shall not apply where the use is authorised by law to detect, prevent,investigate and prosecute criminal offences or it is necessary for the exercise of the right to freedomof expression and the right to freedom of the arts and sciences guaranteed in the Charter ofFundamental Rights of the EU, and subject to appropriate safeguards for the rights and freedoms ofthird parties

4.

第 1 項，第 2 項及び第 3 項は，この規則の第 III 款に定める要件及び義務を害してはならない。
490

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Paragraphs 1, 2 and 3 shall not affect the requirements and obligations set out in Title III of thisRegulation.
第Ⅴ款 技術革新を支援する措置
Title V Measures in Support of Innovation
第 53 条 AI 法定サンドボックス
Article 53 AI regulatory sandboxes
1.

1 もしくは複数の構成国の職務権限のある機関または欧州データ保護監督官によって設けられる AI 法定サンドボックスは，個別の計画により，AI システムが市場に置かれまたはサービスに供される前の限定された期間，革新的な AI システムの開発，試験及び検証を容易にする管理された環境を提供する。それは，この規則の要件の遵守を確保するため，及び，それが関連するときは，サンドボックス内で監視される欧州連合法及び構成国法の遵守を確保するための職務権限のある機関による直接の監視及び指図の下で行われる。
AI regulatory sandboxes established by one or more Member States competent authorities or theEuropean Data Protection Supervisor shall provide a controlled environment that facilitates thedevelopment, testing and validation of innovative AI systems for a limited time before theirplacement on the market or putting into service pursuant to a specific plan. This shall take place
under the direct supervision and guidance by the competent authorities with a view to ensuring
compliance with the requirements of this Regulation and, where relevant, other Union and Member
States legislation supervised within the sandbox.

2.

構成国は，その革新的な AI システムが個人データの処理を包摂する範囲内で，あるいは，データへのアクセスを提供または支援する他の国内機関または職務権限のある機関の監督権限内にある範囲内で，AI 法定サンドボックスの運用に国内データ保護監督機関及びそれ以外の国内機関が関与することを確保する。
Member States shall ensure that to the extent the innovative AI systems involve the processing of
personal data or otherwise fall under the supervisory remit of other national authorities or competentauthorities providing or supporting access to data, the national data protection authorities and thoseother national authorities are associated to the operation of the AI regulatory sandbox.

3.

AI 法定サンドボックスは，職務権限のある機関の監督権限及び是正権限を害してはならない。そのようなシステムの開発及び試験の間に発見された健康及び安全並びに基本的な権利に対する重大なリスクは，直ちに緩和されるものとし，かつ，それに失敗したときは，そのような緩和が行われるまで，その開発及び試験のプロセスは停止となる。
491

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The AI regulatory sandboxes shall not affect the supervisory and corrective powers of the competentauthorities. Any significant risks to health and safety and fundamental rights identified during thedevelopment and testing of such systems shall result in immediate mitigation and, failing that, in thesuspension of the development and testing process until such mitigation takes place.
4.

AI 法定サンドボックスの参加者は，サンドボックスの中で行われる実験から生ずる第三者に対して加えられた危害に関し，適用可能な欧州連合及び構成国の法的責任の立法に基づく責任を負い続ける。
Participants in the AI regulatory sandbox shall remain liable under applicable Union and Member
States liability legislation for any harm inflicted on third parties as a result from the experimentation
taking place in the sandbox.

5.

AI 法定サンドボックスを設置した構成国の職務権限のある機関は，欧州人工知能委員会の枠組み内において，それらの機関の活動を調整し，協力する。それらの機関は，委員会及び欧州委員会に対し，グッドプラクティスを含め，それらの制度の実装から生じた成果，学んだ教訓，その設置に関する勧告，並びに，それが関連するときは，サンドボックス内において監視されるこの規則及びそれ以外の欧州連合の立法の適用に関する年次報告書を提出する。
Member States’ competent authorities that have established AI regulatory sandboxes shallcoordinate their activities and cooperate within the framework of the European Artificial Intelligence
Board. They shall submit annual reports to the Board and the Commission on the results from theimplementation of those scheme, including good practices, lessons learnt and recommendations on
their setup and, where relevant, on the application of this Regulation and other Union legislation
supervised within the sandbox.

6.

申請のための適格性基準及び手続，選定，参加及びサンドボックスからの退去，参加者の権利及び義務を含め，AI 法定サンドボックスの運用の方式及び条件は，実装行為の中で定められる。それらの実装行為は，第 74 条第 2 項に示す審議手続に従って採択される。
The modalities and the conditions of the operation of the AI regulatory sandboxes, including theeligibility criteria and the procedure for the application, selection, participation and exiting from thesandbox, and the rights and obligations of the participants shall be set out in implementing acts.
Those implementing acts shall be adopted in accordance with the examination procedure referred toin Article 74(2).

492

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 54 条 AI 法定サンドボックス内の公共の利益における一定の AI システムの開発のための個人データの別の目的のための処理
Article 54 Further processing of personal data for developing certain AI systems in the public interest in
the AI regulatory sandbox
1.

AI 法定サンドボックス内において，他の目的のために適法に収集された個人データは，以下の条件の下で，サンドボックス内の一定の革新的な AI システムの開発及び試験の目的のために処理される：(a) その革新的 AI システムが，以下の 1 または複数の分野における重要な公共の利益を防護するために開発されること：(i) 職務権限のある機関の監督及び責任の下において，公共の保安に対する脅威への防護及び防止を含め，犯罪行為の防止，捜査，検知もしくは訴追または刑罰の執行。その処理は，構成国法または欧州連合法を基礎とする；(ii) 疾病の予防，管理及び治療を含め，公衆の安全及び公衆衛生；(iii) 高いレベルの環境保護及び環境の質の向上；(b) 匿名化されたデータ，合成データまたはそれら以外の非個人データを処理することによってはそれらの要件が実効的に充足され得ない場合において，第 III 款第 2 章に示す 1 または複数の要件の遵守のため，その処理されるデータが必要であること；(c) サンドボックス実験の間にデータ主体の基本的な権利に対する高いリスクが生じ得るかどうかを発見するための実効的な監視の仕組み，並びに，それらのリスクを迅速に緩和するため，及び，それが必要なときは，処理を停止するための応答の仕組みが存在すること；(d) サンドボックスの文脈内において処理される個人データが，参加者の管理の下にある，
機能的に区分され，分離され，及び，保護されたデータ処理環境にあり，かつ，許可を受けた者だけが当該データにアクセスできること；(e) 処理される個人データが送信され，移転され，または他の者からアクセスされないこと；(f) サンドボックスの文脈内における個人データの処理が，そのデータ主体を害する措置
または判断を導かないこと；(g) サンドボックスの文脈内において処理される個人データが，サンドボックスへの参加が終了した時点で，または，その個人データの保持期間が満了した時点で削除されること；(h) 本条または他の適用可能な欧州連合もしくは構成国の立法に基づく説明責任及び文書化義務を満たすという目的のためにのみ，かつ，それを満たすために必要な範囲内に限り，サンドボックスの文脈における個人データの処理のログがサンドボックスの参加期間内及びその終了後 1 年間だけ保管されること；(i) その AI システムの訓練，試験及び検証の背後にあるプロセス及び理論的根拠の完全かつ詳細な記述が，試験結果と共に，別紙IV の技術文書の一部として保管されること；(j) 職務権限のある機関の Web サイト上で公表されるサンドボックス内で開発された AI プ
ロジェクトの要旨，その目的及び期待される成果。
493

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In the AI regulatory sandbox personal data lawfully collected for other purposes shall be processed
for the purposes of developing and testing certain innovative AI systems in the sandbox under thefollowing conditions:(a) the innovative AI systems shall be developed for safeguarding substantial public interest in one
or more of the following areas:(i) the prevention, investigation, detection or prosecution of criminal offences or the
execution of criminal penalties, including the safeguarding against and the prevention of
threats to public security, under the control and responsibility of the competent authorities.
The processing shall be based on Member State or Union law;(ii) public safety and public health, including disease prevention, control and treatment;(iii) a high level of protection and improvement of the quality of the environment;(b) the data processed are necessary for complying with one or more of the requirements referred
to in Title III, Chapter 2 where those requirements cannot be effectively fulfilled by processing
anonymised, synthetic or other non-personal data;(c) there are effective monitoring mechanisms to identify if any high risks to the fundamental
rights of the data subjects may arise during the sandbox experimentation as well as response
mechanism to promptly mitigate those risks and, where necessary, stop the processing;(d) any personal data to be processed in the context of the sandbox are in a functionally separate,isolated and protected data processing environment under the control of the participants andonly authorised persons have access to that data;(e) any personal data processed are not be transmitted, transferred or otherwise accessed by otherparties;(f) any processing of personal data in the context of the sandbox do not lead to measures ordecisions affecting the data subjects;(g) any personal data processed in the context of the sandbox are deleted once the participation in
the sandbox has terminated or the personal data has reached the end of its retention period;(h) the logs of the processing of personal data in the context of the sandbox are kept for the durationof the participation in the sandbox and 1 year after its termination, solely for the purpose of andonly as long as necessary for fulfilling accountability and documentation obligations under this
Article or other application Union or Member States legislation;(i) complete and detailed description of the process and rationale behind the training, testing andvalidation of the AI system is kept together with the testing results as part of the technicaldocumentation in Annex IV;(j) a short summary of the AI project developed in the sandbox, its objectives and expected results
published on the website of the competent authorities.
2.

第 1 項は，当該立法の中において明示で示されている目的以外の目的のための処理を排除している欧州連合または構成国の立法を妨げない。
494

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Paragraph 1 is without prejudice to Union or Member States legislation excluding processing forother purposes than those explicitly mentioned in that legislation.
第 55 条 小規模提供者及び利用者のための措置
Article 55 Measures for small-scale providers and users
1.

構成国は，以下の活動を実施する：(a) それらの者がその適格性条件を満たす範囲内において，小規模な提供者及びスタート
アップに対し，AI 法定サンドボックスへの優先的なアクセスを提供すること；(b) 小規模な提供者及び利用者の需要に特化して，この規則の適用に関する特別の認識向上活動を組織すること；(c) それが適切なときは，この規則の実装に関する指針と質問への回答を提供するための小規模な提供者及び利用者並びにそれら以外の技術革新をする者との間の通信のための専用の経路を設けること。
Member States shall undertake the following actions:(a) provide small-scale providers and start-ups with priority access to the AI regulatory sandboxes
to the extent that they fulfil the eligibility conditions;(b) organise specific awareness raising activities about the application of this Regulation tailoredto the needs of the small-scale providers and users;(c) where appropriate, establish a dedicated channel for communication with small-scale
providers and user and other innovators to provide guidance and respond to queries about theimplementation of this Regulation.

2.

第 43 条に基づく適合性評価の手数料を設定する際，それらの提供者の規模と市場規模に比例してその手数料を減額し，小規模な提供者の特別の利益及び需要が考慮に入れられる。
The specific interests and needs of the small-scale providers shall be taken into account when setting
the fees for conformity assessment under Article 43, reducing those fees proportionately to their size
and market size.

495

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第Ⅵ款 統治Title VI Governance
第 1 章 欧州人工知能委員会
Chapter 1 European Artificial Intelligence Board
第 56 条 欧州人工知能委員会の設置
Article 56 Establishment of the European Artificial Intelligence Board
1.

「欧州人工知能委員会」（「委員会」）が設置される。
A ‘European Artificial Intelligence Board’ (the ‘Board’) is established.

2.

委員会は，以下のために，欧州委員会に対し，助言と補助を提供する：(a) この規則によって包摂される事項と関連する国内監督機関と欧州委員会の実効的な協力に貢献するため；(b) この規則によって包摂される事項と関連する域内市場全域にわたって生じている検討
課題に関し，欧州委員会及び国内監督機関並びにそれ以外の職務権限のある機関による指針及び分析を調整し，それに貢献するため；(c) この規則の一貫性のある適用を確保する上で国内監督機関及び欧州委員会を補助すること。
The Board shall provide advice and assistance to the Commission in order to:(a) contribute to the effective cooperation of the national supervisory authorities and theCommission with regard to matters covered by this Regulation;(b) coordinate and contribute to guidance and analysis by the Commission and the national
supervisory authorities and other competent authorities on emerging issues across the internalmarket with regard to matters covered by this Regulation;(c) assist the national supervisory authorities and the Commission in ensuring the consistent
application of this Regulation.

第 57 条 委員会の構造
Article 57 Structure of the Board
1.

委員会は，当該機関の長またはそれと均等な高いレベルの官吏によって代表される国内監
督機関，及び，欧州データ保護監督官によって構成される。それ以外の国内機関は，討議される検討課題がその機関と関連するものであるときは，その会合に招請され得る。
The Board shall be composed of the national supervisory authorities, who shall be represented by496

法と情報雑誌 6 巻 5 号（2021 年 11 月）
the head or equivalent high-level official of that authority, and the European Data Protection
Supervisor. Other national authorities may be invited to the meetings, where the issues discussed areof relevance for them.
2.

委員会は，欧州委員会の同意を得た後，その構成員の単純多数決により委員会の手続規則を採択する。手続規則は，第 58 条に列挙する委員会の職務の執行と関連する業務遂行上の側面も含める。委員会は，個別の問題を検討する目的のために適切なサブグループを設置できる。
The Board shall adopt its rules of procedure by a simple majority of its members, following theconsent of the Commission. The rules of procedure shall also contain the operational aspects related
to the execution of the Board’s tasks as listed in Article 58. The Board may establish sub-groups as
appropriate for the purpose of examining specific questions.

3.

委員会は，欧州委員会によって主宰される。欧州委員会は，会合を招集し，この規則による委員会の職務及び委員会の手続規則に従って，議題を準備する。欧州委員会は，この規則による委員会の活動のための業務管理上及び分析上の支援を提供する。
The Board shall be chaired by the Commission. The Commission shall convene the meetings andprepare the agenda in accordance with the tasks of the Board pursuant to this Regulation and with
its rules of procedure. The Commission shall provide administrative and analytical support for theactivities of the Board pursuant to this Regulation.

4.

委員会は，その会合に出席する外部専門家及びオブザーバーを招請でき，かつ，適切な範囲内で委員会の活動の情報提供をするため利害関係のある第三者との間で意見交換をもつことができる。その目的のために，欧州委員会は，委員会と欧州連合の組織，事務局，部局及び諮問グループとの間の意見交換を促進できる。
The Board may invite external experts and observers to attend its meetings and may hold exchanges
with interested third parties to inform its activities to an appropriate extent. To that end theCommission may facilitate exchanges between the Board and other Union bodies, offices, agencies
and advisory groups.

第 58 条 委員会の職務
Article 58 Tasks of the Board
第56条第2項の文脈において欧州委員会に対して助言及び補助を提供する際，委員会は，
とりわけ：(a) 構成国間で専門知識及びベストプラクティスを収集し，共有する；
497

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) 第 53 条に示す法定サンドボックスの稼働に関するものを含め，構成国内における統一的な行政実務に貢献する；(c) この規則の実装と関連する事項，とりわけ以下の事項に関し，意見書，勧告書または寄稿書面を発行する：(i) 第 III 款第 2 章に定める要件と関連する技術仕様または既存の技術標準に関し；(ii) 第 40 条及び第 41 条に示す整合化された技術標準または共通仕様の利用に関し；(iii) 第 71 条に示す行政罰の設定に関する運用指針を含め，指針文書の準備に関し。
When providing advice and assistance to the Commission in the context of Article 56(2), the Board
shall in particular:(a) collect and share expertise and best practices among Member States;(b) contribute to uniform administrative practices in the Member States, including for thefunctioning of regulatory sandboxes referred to in Article 53;(c) issue opinions, recommendations or written contributions on matters related to theimplementation of this Regulation, in particular(i) on technical specifications or existing standards regarding the requirements set out inTitle III, Chapter 2,(ii) on the use of harmonised standards or common specifications referred to in Articles 40
and 41,(iii) on the preparation of guidance documents, including the guidelines concerning thesetting of administrative fines referred to in Article 71.
第 2 章 職務権限のある国内機関
Chapter 2 National Competent Authorities
第 59 条 職務権限のある国内機関の指定
Article 59 Designation of national competent authorities
1.

この規則の適用及び実装を確保するため，各構成国によって職務権限のある国内機関が設
置または指定される。職務権限のある国内機関は，その機関の活動及び職務の客観性及び公平性を防護するように組織される。
National competent authorities shall be established or designated by each Member State for the
purpose of ensuring the application and implementation of this Regulation. National competentauthorities shall be organised so as to safeguard the objectivity and impartiality of their activities andtasks.

2.

各構成国は，職務権限のある国内機関の中から国内監督機関を指定する。複数の機関を指498

法と情報雑誌 6 巻 5 号（2021 年 11 月）
定することの国家組織上及び行政上の根拠を構成国がもつ場合を除き，国内監督機関は，通知機関及び市場監視機関として行動する。
Each Member State shall designate a national supervisory authority among the national competentauthorities. The national supervisory authority shall act as notifying authority and market
surveillance authority unless a Member State has organisational and administrative reasons todesignate more than one authority.
3.

構成国は，欧州委員会に対し，その構成国の指定，及び，それが適用可能なときは，複数の機関を指定する根拠を連絡する。
Member States shall inform the Commission of their designation or designations and, whereapplicable, the reasons for designating more than one authority.

4.

構成国は，職務権限のある国内機関がこの規則に基づくその機関の職務を満たすための十分な資金及び人員を提供されることを確保する。とりわけ，職務権限のある国内機関は，その能力及び専門知識が人工知能技術，データ及びデータコンピューティング，基本的な権
利，健康及び安全上のリスクの深い理解，並びに，既存の技術標準及び法律上の要件の知識を含んでいる恒常的に利用可能で十分な数の要員をもつものとする。
Member States shall ensure that national competent authorities are provided with adequate financial
and human resources to fulfil their tasks under this Regulation. In particular, national competentauthorities shall have a sufficient number of personnel permanently available whose competencesand expertise shall include an in-depth understanding of artificial intelligence technologies, data anddata computing, fundamental rights, health and safety risks and knowledge of existing standards andlegal requirements.

5.

構成国は，欧州委員会に対し，年次で，その十分性の評価を添えて，職務権限のある国内機関の資金及び人員の状況を報告する。欧州委員会は，討議及びあり得る勧告のために，委員会に対してその情報を送付する。
Member States shall report to the Commission on an annual basis on the status of the financial andhuman resources of the national competent authorities with an assessment of their adequacy. The
Commission shall transmit that information to the Board for discussion and possible
recommendations.

6.

欧州委員会は，職務権限のある国内機関の間の経験の交換を促進する。
The Commission shall facilitate the exchange of experience between national competent authorities.
499

法と情報雑誌 6 巻 5 号（2021 年 11 月）
7.

職務権限のある国内機関は，小規模な提供者に対するものを含め，この規則の実装に関する指針及び助言を提供できる。欧州連合の別の立法の適用のある分野における AI システムと関する指針及び助言を職務権限のある国内機関が提供することを意図するときは，当該欧州連合の立法の下で職務権限のある国内機関は，しかるべく協議する。構成国は，運用者との間の通信のための 1 つの中央連絡部局を設けることもできる。
National competent authorities may provide guidance and advice on the implementation of thisRegulation, including to small-scale providers. Whenever national competent authorities intend toprovide guidance and advice with regard to an AI system in areas covered by other Union legislation,
the competent national authorities under that Union legislation shall be consulted, as appropriate.
Member States may also establish one central contact point for communication with operators.

8.

欧州連合の機関，部局及び組織がこの規則の適用範囲内にある場合，欧州データ保護監
督官は，それらの機関，部局及び組織の監督に関する職務権限のある機関として行動する。
When Union institutions, agencies and bodies fall within the scope of this Regulation, the European
Data Protection Supervisor shall act as the competent authority for their supervision.
第Ⅶ款 スタンドアロンの高リスク AI システムの EU データベース
Title VII EU Database for Stand-alone High-risk AI Systems

第 60 条 スタンドアロンの高リスク AI システムの EU データベース
Article 60 EU database for stand-alone high-risk AI systems
1.

欧州委員会は，構成国と共働して，第 51 条に従って登録される第 6 条第 2 項に示す高リス
ク AI システムに関する第 2 項に示す情報を含む EU データベースを設置及び維持管理する。
The Commission shall, in collaboration with the Member States, set up and maintain a EU database
containing information referred to in paragraph 2 concerning high-risk AI systems referred to in
Article 6(2) which are registered in accordance with Article 51.

2.

別紙 VIII に列挙するデータは，提供者によって EU データベースの中に入れられる。欧州委員会は，提供者に対し，技術上及び運営管理上の支援を提供する。
The data listed in Annex VIII shall be entered into the EU database by the providers. The
Commission shall provide them with technical and administrative support.

3.

EU データベース内に含められる情報は，公衆がアクセス可能なものとする。
500

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Information contained in the EU database shall be accessible to the public.
4.

EU データベースは，この規則に従って情報を収集及び処理するために必要な範囲内に限
り，個人データを含める。当該情報は，システムに登録する責任を負い，かつ，その提供者を代表するための法律上の権限をもつ自然人の氏名及び連絡先を含める。
The EU database shall contain personal data only insofar as necessary for collecting and processing
information in accordance with this Regulation. That information shall include the names andcontact details of natural persons who are responsible for registering the system and have the legal
authority to represent the provider.

5.

欧州委員会は，EUデータベースの管理者となる。欧州委員会は，提供者に対する技術上及び運営管理上の十分な支援も確保する。
The Commission shall be the controller of the EU database. It shall also ensure to providers adequate
technical and administrative support.
第Ⅷ款 市場化後監視，情報共有，市場監視
Title VIII Post-market Monitoring, Information Sharing, Market Surveillance
第 1 章 市場化後監視
Chapter 1 Post-market Monitoring

第 61 条 提供者による市場化後監視及び高リスク AI システムに関する市場化後監視計画
Article 61 Post-market monitoring by providers and post-market monitoring plan for high-risk AI systems
1.

提供者は，人工知能技術の性質及び高リスク AI システムのリスクと比例的な態様で，市場化
後監視システムを設け，かつ，文書化する。
Providers shall establish and document a post-market monitoring system in a manner that is
proportionate to the nature of the artificial intelligence technologies and the risks of the high-risk AI
system.

2.

市場化後監視システムは，能動的かつ自動的に，利用者から提供される関連データを収集
し，文書化し，かつ，分析し，または，高リスク AI システムの存続期間を通じて高リスク AI シ
ステムの能力に関し，他の情報源から収集し，かつ，第 III 款第 2 章に定める要件を AI シス
テムが継続的に遵守していることをその提供者が評価できるようにする。
The post-market monitoring system shall actively and systematically collect, document and analyse
501

法と情報雑誌 6 巻 5 号（2021 年 11 月）
relevant data provided by users or collected through other sources on the performance of high-risk
AI systems throughout their lifetime, and allow the provider to evaluate the continuous complianceof AI systems with the requirements set out in Title III, Chapter 2.
3.

市場化後監視システムは，市場化後監視計画を基礎とする。市場化後監視計画は，別紙 IVに示す技術文書の一部とする。欧州委員会は，市場化後監視計画のためのテンプレート及びその計画内に含められるべき要素のリストを定める細目的な条項を定める実装行為を採択する。
The post-market monitoring system shall be based on a post-market monitoring plan. The postmarket monitoring plan shall be part of the technical documentation referred to in Annex IV. The
Commission shall adopt an implementing act laying down detailed provisions establishing atemplate for the post-market monitoring plan and the list of elements to be included in the plan.

4.

別紙 II に示す法行為の適用のある高リスク AI システムに関しては，当該立法の下において市場化後監視システム及び市場化後監視計画が既に設けられているときは，第1項，第2項及び第 3 項に示す諸要素は，当該システム及び計画の中にしかるべく統合される。
For high-risk AI systems covered by the legal acts referred to in Annex II, where a post-market
monitoring system and plan is already established under that legislation, the elements described inparagraphs 1, 2 and 3 shall be integrated into that system and plan as appropriate.
第 1 副項は，指令 2013/36/EU によって規制を受ける信用機関によって市場に置かれまたはサービスに供された別紙 III の第 5 号(b)に示す高リスク AI システムに対しても適用される。
The first subparagraph shall also apply to high-risk AI systems referred to in point 5(b) of Annex III
placed on the market or put into service by credit institutions regulated by Directive 2013/36/EU.
第 2 章 インシデント及び誤作動に関する情報の共有
Chapter 2 Sharing of Information on Incidents and Malfunctioning

第 62 条 重大なインシデント及び誤作動の報告
Article 62 Reporting of serious incidents and of malfunctioning
1.

欧州連合の市場に置かれた高リスク AI システムの提供者は，当該インシデントまたは違反が発生した構成国の市場監視機関に対し，基本的な権利の保護を意図する欧州連合法の下における義務の違反を構成するそれらの AI システムの重大なインシデントまたは誤作動を報告する。
502

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Providers of high-risk AI systems placed on the Union market shall report any serious incident or
any malfunctioning of those systems which constitutes a breach of obligations under Union law
intended to protect fundamental rights to the market surveillance authorities of the Member States
where that incident or breach occurred.
そのような通知は，その AI システムとそのインシデントもしくは誤作動との間の因果関係またはそのような因果関係の合理的な蓋然性を確認した後直ちに，かつ，いかなる場合においても，その重大なインシデントまたは誤作動をその提供者が認識するに至った時から 15 日
以内に行われる。
Such notification shall be made immediately after the provider has established a causal link between
the AI system and the incident or malfunctioning or the reasonable likelihood of such a link, and, inany event, not later than 15 days after the providers becomes aware of the serious incident or of themalfunctioning.
2.

基本的な権利を保護することを意図する欧州連合法の下における義務の違反と関連する通知を受けた後，市場監視機関は，第 64 条第 3 項に示す国内行政機関または国内行政組織
に対し，連絡する。欧州委員会は，第 1 項に定める義務の遵守を容易にするための専用の指針を策定する。その指針は，遅くとも，この規則が発効した後 12 か月以内に発行される。
Upon receiving a notification related to a breach of obligations under Union law intended to protect
fundamental rights, the market surveillance authority shall inform the national public authorities orbodies referred to in Article 64(3). The Commission shall develop dedicated guidance to facilitate
compliance with the obligations set out in paragraph 1. That guidance shall be issued 12 months
after the entry into force of this Regulation, at the latest.

3.

指令2013/36/EU によって規制を受ける信用機関である提供者によって市場に置かれまたはサービスに供された別紙 III の第 5 号(b)に示す高リスク AI システムに関しては，並びに，規則(EU) 2017/745 及び規則(EU) 2017/746 の適用のある製品の安全性構成要素である高リス
ク AI システムまたは製品それ自体である高リスク AI システムに関しては，重大なインシデン
トまたは誤作動の通知は，基本的な権利の保護を意図する欧州連合法の下における義務の違反を構成する重大なインシデントまたは誤作動に限定される。
For high-risk AI systems referred to in point 5(b) of Annex III which are placed on the market or put
into service by providers that are credit institutions regulated by Directive 2013/36/EU and for highrisk AI systems which are safety components of devices, or are themselves devices, covered byRegulation (EU) 2017/745 and Regulation (EU) 2017/746, the notification of serious incidents ormalfunctioning shall be limited to those that that constitute a breach of obligations under Union law
intended to protect fundamental rights.
503

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 3 章 執行
Chapter 3 Enforcement
第 63 条 市場の監視及び欧州連合の市場における AI システムの監督
Article 63 Market surveillance and control of AI systems in the Union market
1.

この規則の適用のある AI システムに対しては，規則(EU) 2019/1020 が適用される。ただし，
この規則の実効的な執行の目的のために：(a) 規則(EU) 2019/1020 の下における経済取引主体への参照は，この規則の第 III 款第 3章に定める全ての運用者を含めるものとして理解される；(b) 規則(EU) 2019/1020 の下における製品への参照は，この規則の適用範囲内にある全ての AI システムを含めるものとして理解される。
Regulation (EU) 2019/1020 shall apply to AI systems covered by this Regulation. However, for the
purpose of the effective enforcement of this Regulation:(a) any reference to an economic operator under Regulation (EU) 2019/1020 shall be understoodas including all operators identified in Title III, Chapter 3 of this Regulation;(b) any reference to a product under Regulation (EU) 2019/1020 shall be understood as including
all AI systems falling within the scope of this Regulation.

2.

国内監督機関は，欧州委員会に対し，定期的に，関連する市場監視活動の結果を報告する。
国内監督機関は，遅滞なく，欧州委員会及び関連する国内競争当局に対し，市場監視活動の間に発見した，競争法に関する欧州連合法の適用に対して潜在的に影響をもち得る情報を報告する。
The national supervisory authority shall report to the Commission on a regular basis the outcomesof relevant market surveillance activities. The national supervisory authority shall report, without
delay, to the Commission and relevant national competition authorities any information identified in
the course of market surveillance activities that may be of potential interest for the application ofUnion law on competition rules.

3.

別紙 II の第 A 節に列挙する法行為が適用される製品と関連する高リスク AI システムに関しては，この規則の目的のための市場監視機関は，それらの法行為の下で指定された市場監視活動に関して職責を負う機関とする。
For high-risk AI systems, related to products to which legal acts listed in Annex II, section A apply,
the market surveillance authority for the purposes of this Regulation shall be the authority
responsible for market surveillance activities designated under those legal acts.
504

法と情報雑誌 6 巻 5 号（2021 年 11 月）
4.

金融サービスに関する欧州連合の立法によって規制を受ける金融機関によって市場に置かれ，サービスに供され，または，利用される AI システムに関しては，この規則の目的のための市場監視機関は，それらの立法の下でそれらの金融機関の財務上の監督に関して職責を負う関連機関とする。
For AI systems placed on the market, put into service or used by financial institutions regulated byUnion legislation on financial services, the market surveillance authority for the purposes of thisRegulation shall be the relevant authority responsible for the financial supervision of thoseinstitutions under that legislation.

5.

別紙 III の法執行の目的のためにシステムが利用される限りにおいて第 1 号の(a)，第 6 号及び第 7 号に列挙される AI システムに関しては，構成国は，この規則の目的のための市場監視機関として，指令(EU) 2016/680 もしくは規則(EU) 2016/679 の下における職務権限のある
データ保護監督機関，または，それらの AI システムをサービスに供しもしくは利用している
法執行，移民もしくは難民の機関の活動を監督する職務権限のある国内機関のいずれかを指定する。
For AI systems listed in point 1(a) in so far as the systems are used for law enforcement purposes,
points 6 and 7 of Annex III, Member States shall designate as market surveillance authorities for the
purposes of this Regulation either the competent data protection supervisory authorities underDirective (EU) 2016/680, or Regulation 2016/679 or the national competent authorities supervising
the activities of the law enforcement, immigration or asylum authorities putting into service or using
those systems.

6.

欧州連合の機関，部局及び組織がこの規則の適用範囲内にある場合，欧州データ保護監
督官は，それらの機関，部局及び組織の市場監視機関として行動する。
Where Union institutions, agencies and bodies fall within the scope of this Regulation, the European
Data Protection Supervisor shall act as their market surveillance authority.

7.

構成国は，この規則の下で指定された市場監視機関と，別紙 II に列挙する欧州連合整合立法の適用または別紙 III に示す高リスク AI システムと関連し得る欧州連合の他の立法の適用を監視する他の関連する国内機関もしくは国内組織との間の調整を容易にする。
Member States shall facilitate the coordination between market surveillance authorities designatedunder this Regulation and other relevant national authorities or bodies which supervise theapplication of Union harmonisation legislation listed in Annex II or other Union legislation thatmight be relevant for the high-risk AI systems referred to in Annex III.
505

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 64 条 データ及び文書へのアクセス
Article 64 Access to data and documentation
1.

その機関の活動の過程におけるデータ及び文書へのアクセスに関し，市場監視機関は，ア
プリケーションプログラミングインタフェイス（「API」）またはそれ以外の適切な技術的手段及びリモートアクセスを実現可能にするツールによる場合を含め，提供者によって使用された訓練，検証及び試験のデータセットへの全面的なアクセスを与えられる。
Access to data and documentation in the context of their activities, the market surveillance authorities
shall be granted full access to the training, validation and testing datasets used by the provider,including through application programming interfaces (‘API’) or other appropriate technical means
and tools enabling remote access.

2.

第 III 款第 2 章に定める要件を高リスク AI システムが充足していることを評価するために必要がある場合において，かつ，理由を付した要求により，市場監視機関は，その AI システムのソースコードへのアクセスを与えられる。
Where necessary to assess the conformity of the high-risk AI system with the requirements set out
in Title III, Chapter 2 and upon a reasoned request, the market surveillance authorities shall be
granted access to the source code of the AI system.

3.

別紙 III に示す高リスク AI システムの利用と関係して，基本的な権利を保護する欧州連合法の下における義務の尊重を監督または執行する国内行政機関または国内行政組織は，その構成国の裁判管轄権の制限の範囲内におけるそれらの機関または組織の任務に基づく職務権限を満たすために当該文書へのアクセスが必要である場合，この規則に基づいて作成または維持管理されている文書を要求する権限及びそれにアクセスする権限をもつ。関連する行政機関または組織は，関係する構成国の市場監視機関に対し，そのような要求を連絡する。
National public authorities or bodies which supervise or enforce the respect of obligations under
Union law protecting fundamental rights in relation to the use of high-risk AI systems referred to in
Annex III shall have the power to request and access any documentation created or maintained under
this Regulation when access to that documentation is necessary for the fulfilment of the competences
under their mandate within the limits of their jurisdiction. The relevant public authority or body shallinform the market surveillance authority of the Member State concerned of any such request.

4.

この規則の発効後 3 か月以内に，各構成国は，第 3 項に示す行政機関または行政組織を特定し，かつ，国内監督機関の Web サイト上でリストを公表する。構成国は，欧州委員会及び他の全ての構成国に対してそのリストを通知し，かつ，そのリストを最新の状態に保つ。
506

法と情報雑誌 6 巻 5 号（2021 年 11 月）
By 3 months after the entering into force of this Regulation, each Member State shall identify the
public authorities or bodies referred to in paragraph 3 and make a list publicly available on thewebsite of the national supervisory authority. Member States shall notify the list to the Commission
and all other Member States and keep the list up to date.
5.

基本的な権利を保護することを意図する欧州連合法の下における義務の違反が発生したか否かを確認するために第 3 項に示す文書が十分ではない場合，第 3 項に示す行政機関または行政組織は，市場監視機関に対し，技術的手段によってその高リスク AI システムの試
験を組織することを，理由を付して要請し得る。その市場監視機関は，その要請の後の合理的な期間内に，要請元の行政機関または行政組織が緊密に関与して，その試験を組織する。
Where the documentation referred to in paragraph 3 is insufficient to ascertain whether a breach ofobligations under Union law intended to protect fundamental rights has occurred, the publicauthority or body referred to paragraph 3 may make a reasoned request to the market surveillanceauthority to organise testing of the high-risk AI system through technical means. The market
surveillance authority shall organise the testing with the close involvement of the requesting publicauthority or body within reasonable time following the request.

6.

第 3 項に示す国内行政機関または国内行政組織が本条の条項により入手した情報及び文書は，第 70 条に定める機密性の義務を遵守して取り扱われる。
Any information and documentation obtained by the national public authorities or bodies referred toin paragraph 3 pursuant to the provisions of this Article shall be treated in compliance with theconfidentiality obligations set out in Article 70.

第 65 条 リスクを示している AI システムを国内レベルで取り扱うための手続
Article 65 Procedure for dealing with AI systems presenting a risk at national level1.

リスクを示している AI システムは，健康または安全に対するリスクまたは人の基本的な権利の保護に対するリスクが関係している限り，規則(EU) 2019/1020 の第 3 条第 19 号に定義するリスクを示す製品として理解される。
AI systems presenting a risk shall be understood as a product presenting a risk defined in Article 3,
point 19 of Regulation (EU) 2019/1020 insofar as risks to the health or safety or to the protection of
fundamental rights of persons are concerned.

2.

AI システムが第 1 項に示すリスクを示していると判断する十分な根拠を構成国の市場監視機関がもつ場合，その機関は，この規則に定める全ての要件及び義務を AI システムが遵守することとの関係において，関係する AI システムの評価を遂行する。基本的な権利の保護507

法と情報雑誌 6 巻 5 号（2021 年 11 月）
に対するリスクがある場合，その市場監視機関はまた，第 64 条第 3 項に示す関連国内行政機関または国内行政組織に対して連絡する。関連する運用者は，必要に応じて，その市場監視機関及びそれ以外の第 64 条第 3 項に示す国内行政機関または国内行政組織と協力する。
Where the market surveillance authority of a Member State has sufficient reasons to consider thatan AI system presents a risk as referred to in paragraph 1, they shall carry out an evaluation of the AI
system concerned in respect of its compliance with all the requirements and obligations laid downin this Regulation. When risks to the protection of fundamental rights are present, the market
surveillance authority shall also inform the relevant national public authorities or bodies referred toin Article 64(3). The relevant operators shall cooperate as necessary with the market surveillanceauthorities and the other national public authorities or bodies referred to in Article 64(3).
その評価の過程において，市場監視機関がその AI システムがこの規則に定める要件及び義務を遵守していないと判断したときは，その機関は，遅滞なく，関連する運用者に対し，その AI システムを遵守させるため，その AI システムを市場から引き上げるため，または，合理的な期間内にその AI システムをリコールするため，そのリスクの性質に見合った，実施可能な全ての適切な是正の行動をとることを要求する。
Where, in the course of that evaluation, the market surveillance authority finds that the AI systemdoes not comply with the requirements and obligations laid down in this Regulation, it shall without
delay require the relevant operator to take all appropriate corrective actions to bring the AI system
into compliance, to withdraw the AI system from the market, or to recall it within a reasonable period,
commensurate with the nature of the risk, as it may prescribe.
市場監視機関は，関連指定組織に対し，しかるべく連絡する。規則(EU) 2019/1020 の第 18条は，第 2 副項に示す措置に適用される。
The market surveillance authority shall inform the relevant notified body accordingly. Article 18 ofRegulation (EU) 2019/1020 shall apply to the measures referred to in the second subparagraph.
3.

その市場監視機関の国内領土では不遵守を抑制できないと市場監視機関が判断するときは，その市場監視機関は，欧州委員会及び他の構成国に対し，その評価結果及びその運用者に対して行うように要求した行動の結果を連絡する。
Where the market surveillance authority considers that non-compliance is not restricted to its
national territory, it shall inform the Commission and the other Member States of the results of theevaluation and of the actions which it has required the operator to take.
508

法と情報雑誌 6 巻 5 号（2021 年 11 月）
4.

運用者は，その運用者が欧州連合全域にわたる市場において利用可能にした関係する全ての AI システムに関し，全ての適切な是正の行動が行われることを確保する。
The operator shall ensure that all appropriate corrective action is taken in respect of all the AI systems
concerned that it has made available on the market throughout the Union.

5.

第 2 項に示す期間内に AI システムの運用者が十分な是正の行動を行わない場合，市場監
視機関は，その機関の国内市場においてその AI システムが利用可能にされていることを禁止もしくは制限するため，当該市場から引き上げるため，または，その AI システムをリコールするための全ての適切な仮の措置を講ずる。当該機関は，欧州委員会及び他の構成国に対し，遅滞なく，それらの仮の措置を連絡する。
Where the operator of an AI system does not take adequate corrective action within the period
referred to in paragraph 2, the market surveillance authority shall take all appropriate provisional
measures to prohibit or restrict the AI system's being made available on its national market, towithdraw the product from that market or to recall it. That authority shall inform the Commission
and the other Member States, without delay, of those measures.

6.

第 5 項に示す情報は，利用可能な全ての詳細情報，とりわけ，不遵守 AI システムの特定のために必要なデータ，そのAIシステムの原産国，主張されている不遵守の性質及び関連するリスク，行われた国内措置の性質及び期間，並びに，関連する運用者から送られた意見を含める。とりわけ，その市場監視機関は，その不遵守が以下のいずれか 1 つまたは両方によるものであるか否かを示す：(a) その AI システムが第 III 款第 2 章に定める要件に適合することの不遵守；(b) 充足性の推定を与える第 40 条及び第 41 条に示す整合化された技術標準または共通
仕様の欠落。
The information referred to in paragraph 5 shall include all available details, in particular the datanecessary for the identification of the non-compliant AI system, the origin of the AI system, thenature of the non-compliance alleged and the risk involved, the nature and duration of the national
measures taken and the arguments put forward by the relevant operator. In particular, the market
surveillance authorities shall indicate whether the non-compliance is due to one or more of thefollowing:(a) a failure of the AI system to meet requirements set out in Title III, Chapter 2;(b) shortcomings in the harmonised standards or common specifications referred to in Articles 40
and 41 conferring a presumption of conformity.

7.

手続を開始した構成国の市場監視機関以外の構成国の市場監視機関は，遅滞なく，欧州委
員会及び他の構成国に対し，関係する AI システムの不遵守と関連して採択した措置及びそ509

法と情報雑誌 6 巻 5 号（2021 年 11 月）の不遵守と関連してその機関が自由に利用できる付加的な情報を連絡し，かつ，通知された国内措置に同意しない場合には，その機関の異議を連絡する。
The market surveillance authorities of the Member States other than the market surveillanceauthority of the Member State initiating the procedure shall without delay inform the Commission
and the other Member States of any measures adopted and of any additional information at theirdisposal relating to the non-compliance of the AI system concerned, and, in the event ofdisagreement with the notified national measure, of their objections.
8.

第 5 項に示す情報の受領から 3 か月以内に，構成国によって行われた仮の措置に関して構
成国と欧州委員会のいずれからも異議が提起されなかったときは，当該措置は，是認されたものとみなされる。このことは，規則(EU) 2019/1020 の第 18 条に従った関係運用者の手続上の権利を妨げない。
Where, within three months of receipt of the information referred to in paragraph 5, no objection has
been raised by either a Member State or the Commission in respect of a provisional measure taken
by a Member State, that measure shall be deemed justified. This is without prejudice to theprocedural rights of the concerned operator in accordance with Article 18 of Regulation (EU)2019/1020.

9.

全ての構成国の市場監視機関は，遅滞なく，その製品の市場からの引き上げのような，関係する製品に関して適切な制限的措置が講じられることを確保する。
The market surveillance authorities of all Member States shall ensure that appropriate restrictive
measures are taken in respect of the product concerned, such as withdrawal of the product from theirmarket, without delay.

第 66 条 欧州連合の防護手続
Article 66 Union safeguard procedure1.

第 65 条第 5 項に示す通知の受領から 3 か月以内に，別の構成国によって講じられた措置に反対する異議が構成国から提起された場合，または，その措置が欧州連合法に反すると
欧州委員会が判断した場合，欧州委員会は，遅滞なく，関連する構成国及び運用者との協議に入り，かつ，その国内措置を評価する。当該評価の結果を基礎として，欧州委員会は，第 65 条第 5 項に示す通知から 9 か月以内に，その国内措置が是認されるか否かを決定し，関係する構成国に対し，その決定を通知する。
Where, within three months of receipt of the notification referred to in Article 65(5), objections areraised by a Member State against a measure taken by another Member State, or where the510

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Commission considers the measure to be contrary to Union law, the Commission shall without delay
enter into consultation with the relevant Member State and operator or operators and shall evaluate
the national measure. On the basis of the results of that evaluation, the Commission shall decide
whether the national measure is justified or not within 9 months from the notification referred to in
Article 65(5) and notify such decision to the Member State concerned.
2.

その国内措置が是認されると判断される場合，全ての構成国は，その不遵守 AI システムがその構成国の市場から引き上げられることを確保するために必要となる措置を講じ，かつ，
欧州委員会に対し，しかるべく連絡する。その国内措置が是認されないと判断される場合，関係する構成国は，その措置を撤回する。
If the national measure is considered justified, all Member States shall take the measures necessary
to ensure that the non-compliant AI system is withdrawn from their market, and shall inform theCommission accordingly. If the national measure is considered unjustified, the Member State
concerned shall withdraw the measure.

3.

その国内措置が是認されると判断され，かつ，その AI システムの不遵守が，この規則の第40 条及び第 41 条に示す整合化された技術標準または共通仕様の欠落という属性をもつ場
合，欧州委員会は，規則(EU) No 1025/2012 の第 11 条に定める手続を適用する。
Where the national measure is considered justified and the non-compliance of the AI system is
attributed to shortcomings in the harmonised standards or common specifications referred to in
Articles 40 and 41 of this Regulation, the Commission shall apply the procedure provided for in
Article 11 of Regulation (EU) No 1025/2012.

第 67 条 リスクを示している遵守 AI システム
Article 67 Compliant AI systems which present a risk
1.

第65 条に基づく評価を遂行した上で，AI システムがこの規則を遵守しているにも拘らず，その AI システムが人の健康または安全に対するリスクを示していると構成国の市場監視機関
が判断したときは，基本的な権利を保護すること，または，公共の利益の他の側面を保護することを意図する欧州連合法または国内法の下における義務の遵守するため，その機関は，関連する運用者に対し，市場に置かれまたはサービスに供されているときは，関係する AI
システムが当該リスクを示さなくなることを確保するため，その AI システムを市場から引き上げるため，または，合理的な期間内にその AI システムをリコールするため，そのリスクの性質に見合った，実施可能な全ての適切な措置を講ずることを要求する。
Where, having performed an evaluation under Article 65, the market surveillance authority of a
Member State finds that although an AI system is in compliance with this Regulation, it presents a
511

法と情報雑誌 6 巻 5 号（2021 年 11 月）
risk to the health or safety of persons, to the compliance with obligations under Union or nationallaw intended to protect fundamental rights or to other aspects of public interest protection, it shallrequire the relevant operator to take all appropriate measures to ensure that the AI system concerned,
when placed on the market or put into service, no longer presents that risk, to withdraw the AI systemfrom the market or to recall it within a reasonable period, commensurate with the nature of the risk,
as it may prescribe.
2.

提供者またはそれ以外の関連運用者は，第 1 項に示す構成国の市場監視機関により示された期間内に，欧州連合全域にわたる市場においてそれらの者が利用可能にした全ての関係する AI システムに関し，是正の行動を行う。
The provider or other relevant operators shall ensure that corrective action is taken in respect of all
the AI systems concerned that they have made available on the market throughout the Union within
the timeline prescribed by the market surveillance authority of the Member State referred to inparagraph 1.

3.

構成国は，直ちに，欧州委員会及び他の構成国に対して連絡する。その情報は，利用可能な全ての詳細情報，とりわけ，関係する AI システムの特定のために必要なデータ，その AI
システムの原産国及び流通網，関連するリスク，行われた国内措置の性質及び期間を含める。
The Member State shall immediately inform the Commission and the other Member States. That
information shall include all available details, in particular the data necessary for the identification of
the AI system concerned, the origin and the supply chain of the AI system, the nature of the risk
involved and the nature and duration of the national measures taken.

4.

欧州委員会は，遅滞なく，構成国及び関連する運用者との協議に入り，かつ，その講じられた国内措置を評価する。当該評価の結果を基礎として，欧州委員会は，その措置が是認されるか否かを決定し，かつ，それが必要なときは，適切な措置を提案する。
The Commission shall without delay enter into consultation with the Member States and the relevant
operator and shall evaluate the national measures taken. On the basis of the results of that evaluation,
the Commission shall decide whether the measure is justified or not and, where necessary, propose
appropriate measures.

5.

欧州委員会は，その構成国に対し，その決定を発出する。
The Commission shall address its decision to the Member States.
512

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 68 項 形式的な不遵守
Article 68 Formal non-compliance1.

構成国の市場監視機関が以下のいずれかの判断を行う場合，その機関は，関連する提供者に対し，関係する不遵守を終了させるように要求する：(a) 第 49 条に違反して適合マークが付された；(b) 適合マークが付されていない；(c) EU 適合宣言書が作成されていない；(d) EU 適合宣言書が不正確に作成されている；(e) それが適用可能なときは，適合性評価手続に関与した指定組織の識別番号が付されていない。
Where the market surveillance authority of a Member State makes one of the following findings, it
shall require the relevant provider to put an end to the non-compliance concerned:(a) the conformity marking has been affixed in violation of Article 49;(b) the conformity marking has not been affixed;(c) the EU declaration of conformity has not been drawn up;(d) the EU declaration of conformity has not been drawn up correctly;(e) the identification number of the notified body, which is involved in the conformity assessment
procedure, where applicable, has not been affixed;

2.

第 1 項に示す不遵守が持続する場合，関係する構成国は，その高リスク AI システムが市場において利用可能にされていることを制限もしくは禁止するための全ての適切な措置を講じ，または，その AI システムがリコールされ，もしくは，市場から引き上げられることを確保する。
Where the non-compliance referred to in paragraph 1 persists, the Member State concerned shalltake all appropriate measures to restrict or prohibit the high-risk AI system being made available on
the market or ensure that it is recalled or withdrawn from the market.
第Ⅸ款 行動準則
Title IX Codes of Conduct

第 69 条 行動準則
Article 69 Codes of conduct
1.

欧州委員会及び構成国は，高リスク AI システム以外の AI システムに対して第 III 款第 2 章に定める要件を任意に適用することの育成を意図し，そのシステムの所期の目的に照らしてそのような要件の遵守を確保する適切な手段である技術仕様及びソリューションを基礎とする行動準則の作成を推進及び促進する。
513

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The Commission and the Member States shall encourage and facilitate the drawing up of codes ofconduct intended to foster the voluntary application to AI systems other than high-risk AI systemsof the requirements set out in Title III, Chapter 2 on the basis of technical specifications and solutions
that are appropriate means of ensuring compliance with such requirements in light of the intended
purpose of the systems.
2.

欧州委員会及び委員会は，明確な目的とその目的の達成を測定するための鍵となる実績指標を基礎として，例えば，環境の持続性，障害をもつ者のアクセシビリティ，AI システムの設計及び開発への利害関係者の参加，並びに，開発チームの多様性と関連する要件の AI シ
ステムへの任意の適用を育成することを意図する行動準則の作成を推進及び促進する。
The Commission and the Board shall encourage and facilitate the drawing up of codes of conduct
intended to foster the voluntary application to AI systems of requirements related for example toenvironmental sustainability, accessibility for persons with a disability, stakeholders participation in
the design and development of the AI systems and diversity of development teams on the basis ofclear objectives and key performance indicators to measure the achievement of those objectives.

3.

行動準則は，利用者及び利害関係者並びにそれらの者を代表する団体が関与する場合を含め，AI システムの個々の提供者によって，もしくは，提供者を代表する団体によって，または，その両者によって作成され得る。行動準則は，関連システムの所期の目的の類似性を考慮に入れて，1 または複数の AI システムを包摂し得る。
Codes of conduct may be drawn up by individual providers of AI systems or by organisations
representing them or by both, including with the involvement of users and any interested
stakeholders and their representative organisations. Codes of conduct may cover one or more AI
systems taking into account the similarity of the intended purpose of the relevant systems.

4.

欧州委員会及び委員会は，行動準則の作成を推進及び促進する際，小規模な提供者及びスタートアップの特別の利益と需要を考慮に入れる。
The Commission and the Board shall take into account the specific interests and needs of the smallscale providers and start-ups when encouraging and facilitating the drawing up of codes of conduct.

514

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第Ⅹ款 機密性及び罰則
Title X Confidentiality and Penalties
第 70 条 機密性
Article 70 Confidentiality
1.

この規則の適用に関与する職務権限のある国内機関及び指定組織は，とりわけ，以下を保護するような態様で，その職務及び活動を遂行する際に入手した情報及びデータの機密性を尊重する：(a) その情報の違法な入手，利用及び開示に対する非開示のノウハウ及び企業情報（営業秘密）の保護に関する指令 2016/943 の第 5 条への参照が適用される事案を除き，ソースコードを含め，知的財産権，並びに，機密の企業情報または自然人もしくは法人の営業秘密；(b) とりわけ，検査，調査または監査の目的のためのこの規則の実効的な実装；(c) 公共の保安及び国家安全保障上の利益；(d) 刑事手続及び行政手続の完全性。
National competent authorities and notified bodies involved in the application of this Regulation
shall respect the confidentiality of information and data obtained in carrying out their tasks andactivities in such a manner as to protect, in particular:(a) intellectual property rights, and confidential business information or trade secrets of a naturalor legal person, including source code, except the cases referred to in Article 5 of Directive
2016/943 on the protection of undisclosed know-how and business information (trade secrets)
against their unlawful acquisition, use and disclosure apply.
(b) the effective implementation of this Regulation, in particular for the purpose of inspections,investigations or audits;(c) public and national security interests;(d) integrity of criminal or administrative proceedings.

2.

第 1 項を妨げることなく，職務権限のある国内機関の間，及び，職務権限のある国内機関と欧州委員会との間の機密ベースの情報交換は，発信者である職務権限のある国内機関との事前の協議なく，また，別紙 III の第 1 号，第 6 号及び第 7 号に示す高リスク AI システムが法執行機関，移民または難民の機関によって利用されている場合であり，そのような開示が公共の保安及び国家安全保障上の利益を危険に晒し得る場合において，その利用者との事前の協議なく，開示されてはならない。
Without prejudice to paragraph 1, information exchanged on a confidential basis between thenational competent authorities and between national competent authorities and the Commission
shall not be disclosed without the prior consultation of the originating national competent authority515

法と情報雑誌 6 巻 5 号（2021 年 11 月）
and the user when high-risk AI systems referred to in points 1, 6 and 7 of Annex III are used by law
enforcement, immigration or asylum authorities, when such disclosure would jeopardise public andnational security interests.
法執行機関，移民または難民の機関が別紙 III の第 1 号，第 6 号及び第 7 号に示す高リスク
AI システムの提供者である場合，別紙 IV に示す技術文書は，それらの機関の施設内に置かれる。それらの機関は，それが適用可能なときは，第 63 条第 5 項及び第 6 項に示す市場監視機関が，要求により，その文書に直ちにアクセスでき，または，その文書の複製物を入手できることを確保する。その市場調査機関の適切なレベルのセキュリティクリアランスをもつ職員に限り，当該文書またはその複製物へのアクセスが認められる。
When the law enforcement, immigration or asylum authorities are providers of high-risk AI systems
referred to in points 1, 6 and 7 of Annex III, the technical documentation referred to in Annex IVshall remain within the premises of those authorities. Those authorities shall ensure that the market
surveillance authorities referred to in Article 63(5) and (6), as applicable, can, upon request,
immediately access the documentation or obtain a copy thereof. Only staff of the market surveillanceauthority holding the appropriate level of security clearance shall be allowed to access that
documentation or any copy thereof.
3.

第 1 項及び第 2 項は，情報の交換及び警戒の伝達と関連する欧州委員会，構成国及び指定組織の権利及び義務を害してはならず，また，構成国の刑事法に基づいて情報を提供すべき関係者の義務を害してはならない。
Paragraphs 1 and 2 shall not affect the rights and obligations of the Commission, Member States andnotified bodies with regard to the exchange of information and the dissemination of warnings, nor
the obligations of the parties concerned to provide information under criminal law of the Member
States.

4.

欧州委員会及び構成国は，それが必要なときは，十分なレベルの機密性を保証する二国間
または多国間の機密保持協定を欧州委員会及び構成国が締結した第三国の規制当局との間で，機密情報を交換できる。
The Commission and Member States may exchange, where necessary, confidential information
with regulatory authorities of third countries with which they have concluded bilateral or multilateralconfidentiality arrangements guaranteeing an adequate level of confidentiality.

516

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 71 条 罰則
Article 71 Penalties1.

この規則に定める条件を遵守して，構成国は，行政罰を含め，この規則の違反行為に対して適用可能な罰則に関する規定を定め，かつ，その罰則が適正かつ実効的に実装されることを確保するために必要となる全ての措置を講ずる。定められる罰則は，実効的であり，比例的であり，かつ，抑止力のあるものとする。構成国は，小規模な提供者及びスタートアップの利益並びにそれらの者の経済能力を特に考慮に入れる。
In compliance with the terms and conditions laid down in this Regulation, Member States shall lay
down the rules on penalties, including administrative fines, applicable to infringements of thisRegulation and shall take all measures necessary to ensure that they are properly and effectively
implemented. The penalties provided for shall be effective, proportionate, and dissuasive. They shalltake into particular account the interests of small-scale providers and start-up and their economic
viability.

2.

構成国は，欧州委員会に対し，それらの規定及びそれらの措置を通知し，かつ，遅滞なく，それらに影響のあるその後の改正を通知する。
The Member States shall notify the Commission of those rules and of those measures and shallnotify it, without delay, of any subsequent amendment affecting them.

3.

以下の違反行為は，3000 万ユーロまでの額，または，違反者が会社であるときは，前会計年における全世界の収入総額の 6％までの額のいずれか高額の行政罰に服する：(a) 第 5 条に示す人工知能実務の禁止の不遵守；(b) 第 10 条に定める要件の，AI システムの不遵守。
The following infringements shall be subject to administrative fines of up to 30 000 000 EUR or, if
the offender is company, up to 6 % of its total worldwide annual turnover for the preceding financial
year, whichever is higher:(a) non-compliance with the prohibition of the artificial intelligence practices referred to in Article
5;(b) non-compliance of the AI system with the requirements laid down in Article 10.

4.

第 5 条及び第 10 条に定める要件または義務以外のこの規則に定める要件または義務の，AI システムの不遵守は，2000 万ユーロまでの額，または，違反者が会社であるときは，前会
計年における全世界の収入総額の 4％までの額のいずれか高額の行政罰に服する。
The non-compliance of the AI system with any requirements or obligations under this Regulation,517

法と情報雑誌 6 巻 5 号（2021 年 11 月）
other than those laid down in Articles 5 and 10, shall be subject to administrative fines of up to 20
000 000 EUR or, if the offender is a company, up to 4 % of its total worldwide annual turnover forthe preceding financial year, whichever is higher.
5.

要求に対する回答における指定組織及び職務権限のある国内機関に対する不正確，不完
全または誤解させる情報の提供行為は，1000 万ユーロまでの額，または，違反者が会社であるときは，前会計年における全世界の収入総額の 2％までの額のいずれか高額の行政罰に服する。
The supply of incorrect, incomplete or misleading information to notified bodies and national
competent authorities in reply to a request shall be subject to administrative fines of up to 10 000 000
EUR or, if the offender is a company, up to 2 % of its total worldwide annual turnover for thepreceding financial year, whichever is higher.

6.

個別の案件それぞれにおいて行政罰の額を決定する際，個別の状況と関連する全ての状況が考慮に入れられ，かつ，以下の事項に対して適正に考慮が払われる：(a) 違反行為の性質，重さ及び期間並びにその違反行為の結果；(b) 同一の運用者に対し，同一の違反行為に関し，別の市場監視機関によって既に行政罰が加えられているか否か；(c) 違反行為を実行した運用者の規模及び市場占有率。
When deciding on the amount of the administrative fine in each individual case, all relevant
circumstances of the specific situation shall be taken into account and due regard shall be given to
the following:(a) the nature, gravity and duration of the infringement and of its consequences;(b) whether administrative fines have been already applied by other market surveillanceauthorities to the same operator for the same infringement.
(c) the size and market share of the operator committing the infringement;

7.

各構成国は，当該構成国内に設けられている行政機関及び行政組織に対して行政罰が加えられるか否か及びその範囲に関する規定を定める。
Each Member State shall lay down rules on whether and to what extent administrative fines may be
imposed on public authorities and bodies established in that Member State.

8.

構成国の法制度の相違に応じて，行政罰に関する規定は，別の組織の職務権限のある国内
裁判所によって罰金が加えられるような，それらの構成国において適用可能な態様で適用され得る。それらの構成国におけるそのような規定の適用は，均等な効果をもつ。
518

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Depending on the legal system of the Member States, the rules on administrative fines may be
applied in such a manner that the fines are imposed by competent national courts of other bodies asapplicable in those Member States. The application of such rules in those Member States shall havean equivalent effect.
第 72 条 欧州連合の機関，部局及び組織に対する行政罰
Article 72 Administrative fines on Union institutions, agencies and bodies1.

欧州データ保護監督官は，この規則の適用範囲内にある欧州連合の機関，部局及び組織
に対し，行政罰を加えることができる。個別の案件それぞれにおいて行政罰を加えるかどう
か及び行政罰の額を決定する際，個別の状況と関連する全ての状況が考慮に入れられ，かつ，以下の事項に対して適正に考慮が払われる：(a) 違反行為の性質，重さ及び期間並びにその違反行為の結果；(b) 同一の対象事項と関連して欧州連合の関係する機関，部局または組織に対して欧州
データ保護監督官から過去に命ぜられた措置のいずれかの遵守を含め，違反行為を解消し，違反行為の負の影響の可能性を緩和するための欧州データ保護監督官との協力；(c) 欧州連合の機関，部局または組織による過去の同様の違反行為。
The European Data Protection Supervisor may impose administrative fines on Union institutions,
agencies and bodies falling within the scope of this Regulation. When deciding whether to impose
an administrative fine and deciding on the amount of the administrative fine in each individual case,all relevant circumstances of the specific situation shall be taken into account and due regard shallbe given to the following:(a) the nature, gravity and duration of the infringement and of its consequences;(b) the cooperation with the European Data Protection Supervisor in order to remedy the
infringement and mitigate the possible adverse effects of the infringement, including
compliance with any of the measures previously ordered by the European Data Protection
Supervisor against the Union institution or agency or body concerned with regard to the same
subject matter;(c) any similar previous infringements by the Union institution, agency or body;2.

以下の違反行為は，50 万ユーロまでの額の行政罰に服する：(a) 第 5 条に示す人工知能実務の禁止の不遵守；(b) 第 10 条に定める要件の，AI システムの不遵守。
The following infringements shall be subject to administrative fines of up to 500 000 EUR:(a) non-compliance with the prohibition of the artificial intelligence practices referred to in Article
5;519

法と情報雑誌 6 巻 5 号（2021 年 11 月）(b) non-compliance of the AI system with the requirements laid down in Article 10.
3.

第 5 条及び第 10 条に定める要件または義務以外のこの規則に定める要件または義務の，AI システムの不遵守は，25 万ユーロまでの額の行政罰に服する。
The non-compliance of the AI system with any requirements or obligations under this Regulation,other than those laid down in Articles 5 and 10, shall be subject to administrative fines of up to 250
000 EUR.

4.

本条による決定を行う前に，欧州データ保護監督官は，欧州データ保護監督官によって行われる手続の対象となっている欧州連合の機関，部局または組織に対し，違反行為の可能性と関連する事柄に関して聴聞を受ける機会を与える。欧州データ保護監督官は，関係する者が意見を述べることができた要素及び状況のみを彼または彼女の決定を基礎づける。
もしあるときは，申立人は，その手続に緊密に関係づけられる。
Before taking decisions pursuant to this Article, the European Data Protection Supervisor shall givethe Union institution, agency or body which is the subject of the proceedings conducted by theEuropean Data Protection Supervisor the opportunity of being heard on the matter regarding thepossible infringement. The European Data Protection Supervisor shall base his or her decisions only
on elements and circumstances on which the parties concerned have been able to comment.
Complainants, if any, shall be associated closely with the proceedings.

5.

関係する者の防御の権利は，その手続において完全に尊重される。それらの者は，それらの者の個人データまたは営業秘密の保護における個人または事業者の正当な利益に服して，欧州データ保護監督官のファイルにアクセスする資格をもつ。
The rights of defense of the parties concerned shall be fully respected in the proceedings. They shallbe entitled to have access to the European Data Protection Supervisor’s file, subject to the legitimate
interest of individuals or undertakings in the protection of their personal data or business secrets.

6.

本条の罰を加えることにより集められる基金は，欧州連合の一般予算の歳入となる。
Funds collected by imposition of fines in this Article shall be the income of the general budget of theUnion.

520

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第Ⅺ款 権限の委任及び委員会の手続
Title XI Delegation of Power and Committee Procedure
第 73 条 委任の実行
Article 73 Exercise of the delegation1.

委任される行為を採択する権限は，本条に定める条件に服して，欧州委員会に対し与えられる。
The power to adopt delegated acts is conferred on the Commission subject to the conditions laid
down in this Article.

2.

第 4 条，第 7 条第 1 項，第 11 条第 3 項，第 43 条第 5 項及び第 6 項並びに第 48 条第 5 項に示す権限の委任は，[規則の発効]から不定期間で欧州委員会に対して与えられる。
The delegation of power referred to in Article 4, Article 7(1), Article 11(3), Article 43(5) and (6) and
Article 48(5) shall be conferred on the Commission for an indeterminate period of time from[entering into force of the Regulation].

3.

第 4 条，第 7 条第 1 項，第 11 条第 3 項，第 43 条第 5 項及び第 6 項並びに第 48 条第 5 項に示す権限の委任は，いつでも，欧州議会または理事会によって取消され得る。取消しの決定は，同決定の中で指示される権限の委任を終了させる。その決定は，EU 官報上で公示された翌日に発効し，または，その決定の中で指示された後の日に発効する。その決定は，既に発効している委任される行為の有効性を害してはならない。
The delegation of power referred to in Article 4, Article 7(1), Article 11(3), Article 43(5) and (6) and
Article 48(5) may be revoked at any time by the European Parliament or by the Council. A decisionof revocation shall put an end to the delegation of power specified in that decision. It shall take effectthe day following that of its publication in the Official Journal of the European Union or at a later
date specified therein. It shall not affect the validity of any delegated acts already in force.

4.

委任される行為を欧州委員会が採択した後直ちに，欧州委員会は，欧州議会及び理事会に対し，同時に，そのことを通知する。
As soon as it adopts a delegated act, the Commission shall notify it simultaneously to the European
Parliament and to the Council.

5.

第 4 条，第 7 条第 1 項，第 11 条第 3 項，第 43 条第 5 項及び第 6 項並びに第 48 条第 5 項により採択された委任される行為は，欧州議会及び理事会に対する当該行為の通知から 3521

法と情報雑誌 6 巻 5 号（2021 年 11 月）
か月以内に欧州議会もしくは理事会のいずれからも異議が表明されないとき，または，その期間が満了する前に，欧州議会及び理事会の両者から欧州委員会に対して異議を述べない旨が連絡されたときに限り発効する。その期間は，欧州議会または理事会の発意により，3か月まで延長される。
Any delegated act adopted pursuant to Article 4, Article 7(1), Article 11(3), Article 43(5) and (6) and
Article 48(5) shall enter into force only if no objection has been expressed by either the European
Parliament or the Council within a period of three months of notification of that act to the European
Parliament and the Council or if, before the expiry of that period, the European Parliament and theCouncil have both informed the Commission that they will not object. That period shall be extended
by three months at the initiative of the European Parliament or of the Council.
第 74 条 委員会の手続
Article 74 Committee procedure1.

欧州委員会は，委員会による補佐を受ける。その委員会は，規則(EU) No 182/2011 の意味における委員会である。
The Commission shall be assisted by a committee. That committee shall be a committee within themeaning of Regulation (EU) No 182/2011.

2.

本項に対する参照が行われるときは，規則(EU) No 182/2011 の第 5 条が適用される。
Where reference is made to this paragraph, Article 5 of Regulation (EU) No 182/2011 shall apply.
第Ⅻ款 最終規定
Title XII Final Provisions

第 75 条 規則(EC) No 300/2008 の改正
Article 75 Amendment to Regulation (EC) No 300/2008
規則(EC) No 300/2008 の第 4 条第 3 項において，以下の副項が付加される：「欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における人工知能
システムと関係する安全装置の技術仕様並びに承認及び利用のための手続と関連する細目的な措置を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

522

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In Article 4(3) of Regulation (EC) No 300/2008, the following subparagraph is added:“When adopting detailed measures related to technical specifications and procedures for approval
and use of security equipment concerning Artificial Intelligence systems in the meaning ofRegulation (EU) YYY/XX [on Artificial Intelligence] of the European Parliament and of theCouncil*, the requirements set out in Chapter 2, Title III of that Regulation shall be taken into
account.”* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 76 条 規則(EU) No 167/2013 の改正
Article 76 Amendment to Regulation (EU) No 167/2013
規則(EU) No 167/2013 の第 17 条第 5 項において，以下の副項が付加される：「欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における安全性構
成要素である人工知能システムに関して第 1 副項により委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 17(5) of Regulation (EU) No 167/2013, the following subparagraph is added:“When adopting delegated acts pursuant to the first subparagraph concerning artificial intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence] of the European Parliament and of the Council*, the requirements set out in Title III,
Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 77 条 規則(EU) No 168/2013 の改正
Article 77 Amendment to Regulation (EU) No 168/2013
規則(EU) No 168/2013 の第 22 条第 5 項において，以下の副項が付加される：「欧州議会及び理事会の[人工知能]に関する規則(EU) YYY/XX*の意味における安全性構
成要素である人工知能システムに関して第 1 副項により委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

523

法と情報雑誌 6 巻 5 号（2021 年 11 月）
In Article 22(5) of Regulation (EU) No 168/2013, the following subparagraph is added:“When adopting delegated acts pursuant to the first subparagraph concerning Artificial Intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX on [Artificial
Intelligence] of the European Parliament and of the Council*, the requirements set out in Title III,
Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 78 条 指令 2014/90/EU の改正
Article 78 Amendment to Directive 2014/90/EU
指令 2014/90/EU の第 8 条において，以下の項が付加される：「4. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における安全性
構成要素である人工知能システムに関しては，欧州委員会は，第 1 項によるその活動を遂行する際，並びに，第 2 項及び第 3 項に従って技術仕様及び試験の技術標準を採択する際，
同規則の第 III 款第 2 章に定める要件を考慮に入れる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 8 of Directive 2014/90/EU, the following paragraph is added:“4. For Artificial Intelligence systems which are safety components in the meaning of Regulation(EU) YYY/XX [on Artificial Intelligence] of the European Parliament and of the Council*, whencarrying out its activities pursuant to paragraph 1 and when adopting technical specifications andtesting standards in accordance with paragraphs 2 and 3, the Commission shall take into account therequirements set out in Title III, Chapter 2 of that Regulation.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 79 条 指令(EU) 2016/797 の改正
Article 79 Amendment to Directive (EU) 2016/797
指令(EU) 2016/797 の第 5 条において，以下の項が付加される：「12. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における安全性構成要素である人工知能システムに関して第 1 項による委任される行為及び第 11 項による実装行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
524

法と情報雑誌 6 巻 5 号（2021 年 11 月）* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 5 of Directive (EU) 2016/797, the following paragraph is added:“12. When adopting delegated acts pursuant to paragraph 1 and implementing acts pursuant toparagraph 11 concerning Artificial Intelligence systems which are safety components in the meaningof Regulation (EU) YYY/XX [on Artificial Intelligence] of the European Parliament and of theCouncil*, the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 80 条 規則(EU) 2018/858
Article 80 Amendment to Regulation (EU) 2018/858
規則(EU) 2018/858 の第 5 条において，以下の項が付加される：「4. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における安全性
構成要素である人工知能システムに関して第 3 項による委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 5 of Regulation (EU) 2018/858 the following paragraph is added:“4. When adopting delegated acts pursuant to paragraph 3 concerning Artificial Intelligence systems
which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence] of the European Parliament and of the Council *, the requirements set out in Title III,
Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 81 条 規則(EU) 2018/1139 の改正
Article 81 Amendment to Regulation (EU) 2018/1139
規則(EU) 2018/1139 は，以下のように改正される：
Regulation (EU) 2018/1139 is amended as follows:525

法と情報雑誌 6 巻 5 号（2021 年 11 月）(1) 第 17 条において，以下の項が付加される：「3. 第 2 項を妨げることなく，欧州議会及び理事会の[人工知能に関する]規則(EU)YYY/XX*の意味における安全性構成要素である人工知能システムに関して第 1 項による実装行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 17, the following paragraph is added:“3. Without prejudice to paragraph 2, when adopting implementing acts pursuant to paragraph 1
concerning Artificial Intelligence systems which are safety components in the meaning ofRegulation (EU) YYY/XX [on Artificial Intelligence] of the European Parliament and of theCouncil*, the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

(2) 第 19 条において，以下の項が付加される：「4. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX の意味における安全性
構成要素である人工知能システムに関して第 1 項及び第 2 項による委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる」。
In Article 19, the following paragraph is added:“4. When adopting delegated acts pursuant to paragraphs 1 and 2 concerning Artificial Intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence], the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into
account.”(3) 第 43 条において，以下の項が付加される：「4. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX の意味における安全性
構成要素である人工知能システムに関して第 1 項による実装行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる」。
In Article 43, the following paragraph is added:“4. When adopting implementing acts pursuant to paragraph 1 concerning Artificial Intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial526

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Intelligence], the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into
account.”(4) 第 47 条において，以下の項が付加される：「3. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX の意味における安全性
構成要素である人工知能システムに関して第 1 項及び第 2 項による委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる」。
In Article 47, the following paragraph is added:“3. When adopting delegated acts pursuant to paragraphs 1 and 2 concerning Artificial Intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence], the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into
account.”(5) 第 57 条において，以下の項が付加される：「欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX の意味における安全性構
成要素である人工知能システムに関してそれらの実装行為を採択する際，同規則の第 III 款
第 2 章に定める要件が考慮に入れられる」。
In Article 57, the following paragraph is added:“When adopting those implementing acts concerning Artificial Intelligence systems which aresafety components in the meaning of Regulation (EU) YYY/XX [on Artificial Intelligence], therequirements set out in Title III, Chapter 2 of that Regulation shall be taken into account.”(6) 第 58 条において，以下の項が付加される：「3. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX の意味における安全性
構成要素である人工知能システムに関して第 1 項及び第 2 項による委任される行為を採択する際，同規則の第 III 款第 2 章に定める要件が考慮に入れられる」。
In Article 58, the following paragraph is added:“3. When adopting delegated acts pursuant to paragraphs 1 and 2 concerning Artificial Intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence] , the requirements set out in Title III, Chapter 2 of that Regulation shall be taken into527

法と情報雑誌 6 巻 5 号（2021 年 11 月）
account.”.
第 82 条 規則(EU) 2019/2144 の改正
Article 82 Amendment to Regulation (EU) 2019/2144
規則(EU) 2019/2144 の第 11 条において，以下の項が付加される：「3. 欧州議会及び理事会の[人工知能に関する]規則(EU) YYY/XX*の意味における安全性
構成要素である人工知能システムに関して第2項による実装行為を採択する際，同規則の第III 款第 2 章に定める要件が考慮に入れられる。
* [人工知能に関する]規則(EU) YYY/XX (OJ…)」。

In Article 11 of Regulation (EU) 2019/2144, the following paragraph is added:“3. When adopting the implementing acts pursuant to paragraph 2, concerning artificial intelligencesystems which are safety components in the meaning of Regulation (EU) YYY/XX [on Artificial
Intelligence] of the European Parliament and of the Council*, the requirements set out in Title III,
Chapter 2 of that Regulation shall be taken into account.
* Regulation (EU) YYY/XX [on Artificial Intelligence] (OJ …).”

第 83 条 既に市場に置かれまたはサービスに供されている AI システム
Article 83 AI systems already placed on the market or put into service1.

それらの法行為の置き換えまたは改正が，その AI システムまたは関係する AI システムの設計または所期の目的に大きな変更を導くものではない限り，この規則は，[第 85 条第 2 項に示すこの規則の適用の日の 12 か月後]よりも前に市場に置かれまたはサービスに供された別紙 IX に列挙する法行為により設けられた大規模 IT システムの構成要素である AI シス
テムに対して適用してはならない。
This Regulation shall not apply to the AI systems which are components of the large-scale IT
systems established by the legal acts listed in Annex IX that have been placed on the market or put
into service before [12 months after the date of application of this Regulation referred to in Article
85(2)], unless the replacement or amendment of those legal acts leads to a significant change in thedesign or intended purpose of the AI system or AI systems concerned.
この規則に定める要件は，それが適用可能なときは，それらそれぞれの法令の中で定められているように実施される，別紙 IX に列挙する法行為によって設けられた各大規模 IT シス
528

法と情報雑誌 6 巻 5 号（2021 年 11 月）
テムの評価の中で考慮に入れられる。
The requirements laid down in this Regulation shall be taken into account, where applicable, in theevaluation of each large-scale IT systems established by the legal acts listed in Annex IX to beundertaken as provided for in those respective acts.
2.

この規則は，当該の日から，それらのシステムがその設計または所期の目的において大きな変更に服する場合に限り，[第 85 条第 2 項に示すこの規則の適用の日]よりも前に市場に置かれまたはサービスに供された第 1 項に示すシステム以外の高リスク AI システムに対して適用される。
This Regulation shall apply to the high-risk AI systems, other than the ones referred to in paragraph
1, that have been placed on the market or put into service before [date of application of thisRegulation referred to in Article 85(2)], only if, from that date, those systems are subject to significant
changes in their design or intended purpose.

第 84 条 評価及び見直し
Article 84 Evaluation and review
1.

欧州委員会は，この規則の発効後，年に 1 度，別紙 III のリストの改正の必要性を評価する。
The Commission shall assess the need for amendment of the list in Annex III once a year following
the entry into force of this Regulation.

2.

[第 85 条第 2 項に示すこの規則の適用の日の 3 年後]までに，その後は 4 年毎に，欧州委員会は，欧州議会及び理事会に対し，この規則の評価及び見直しに関する報告書を提出する。その報告書は，公表される。
By [three years after the date of application of this Regulation referred to in Article 85(2)] and every
four years thereafter, the Commission shall submit a report on the evaluation and review of thisRegulation to the European Parliament and to the Council. The reports shall be made public.

3.

第 2 項に示す報告書は，以下の事項に特に注意を払う：(a) この規則に基づいて職務権限のある国内機関に割当てられた職務を実効的に遂行するための職務権限のある国内機関の資金及び人員の状態；(b) 罰則の状態，特に，この規則の条項の違反行為に対して構成国によって適用された第
71 条第 1 項に示す行政罰の状態。
The reports referred to in paragraph 2 shall devote specific attention to the following:529

法と情報雑誌 6 巻 5 号（2021 年 11 月）(a) the status of the financial and human resources of the national competent authorities in order
to effectively perform the tasks assigned to them under this Regulation;(b) the state of penalties, and notably administrative fines as referred to in Article 71(1), applied by
Member States to infringements of the provisions of this Regulation.
4.

[第 85 条第 2 項に示すこの規則の適用の日の 3 年]以内に，かつ，その後は 4 年毎に，欧州委員会は，第 III 款第 2 章に定める要件を適用するため，及び，高リスク AI システム以外のAI システムのための他の付加的な要件を適用できることを育成するための行動準則の影響及び有効性を評価する。
Within [three years after the date of application of this Regulation referred to in Article 85(2)] andevery four years thereafter, the Commission shall evaluate the impact and effectiveness of codes ofconduct to foster the application of the requirements set out in Title III, Chapter 2 and possibly otheradditional requirements for AI systems other than high-risk AI systems.

5.

第 1 項ないし第 4 項の目的のために，委員会，構成国及び職務権限のある国内機関は，欧州委員会に対し，その要請により，情報を提供する。
For the purpose of paragraphs 1 to 4 the Board, the Member States and national competentauthorities shall provide the Commission with information on its request.

6.

第 1 項ないし第 4 項に示す評価及び見直しを遂行する際，欧州委員会は，委員会，欧州議会，理事会並びにそれら以外の関連組織または情報源の意見及び判断を考慮に入れる。
In carrying out the evaluations and reviews referred to in paragraphs 1 to 4 the Commission shalltake into account the positions and findings of the Board, of the European Parliament, of the Council,
and of other relevant bodies or sources.

7.

欧州委員会は，それが必要なときは，とりわけ，技術の発展を考慮に入れ，かつ，情報社会の発展状態に照らし，この規則を改正するための適切な提案書を提出する。
The Commission shall, if necessary, submit appropriate proposals to amend this Regulation, inparticular taking into account developments in technology and in the light of the state of progress in
the information society.

第 85 条 発効及び適用
Article 85 Entry into force and application1.

この規則は，EU 官報上で公示された 20 日後に発効する。
530

法と情報雑誌 6 巻 5 号（2021 年 11 月）
This Regulation shall enter into force on the twentieth day following that of its publication in the
Official Journal of the European Union.
2.

この規則は，[規則の発効の 24 か月後]から適用する。
This Regulation shall apply from [24 months following the entering into force of the Regulation].

3.

第 2 項からの特例により：(a) 第 III 款第 4 章及び第 VI 款は，[規則の発効の 3 か月後]から適用する。
(b) 第 71 条は，[規則の発効の 12 か月後]から適用する。
By way of derogation from paragraph 2:(a) Title III, Chapter 4 and Title VI shall apply from [three months following the entry into forceof this Regulation];(b) Article 71 shall apply from [twelve months following the entry into force of this Regulation].

この規則は，その全体について拘束力があり，全ての構成国において直接に適用される。
This Regulation shall be binding in its entirety and directly applicable in all Member States.

ブリュッセルにおいて行われたDone at Brussels,
欧州議会として理事会として

議長

議長

531

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙Ⅰ
第 3 条第 1 号に示す人工知能の技法及びアプローチ
ARTIFICIAL INTELLIGENCE TECHNIQUES AND APPROACHES referred to in Article 3, point 1(a) 監督あり学習，監督なし学習及び強化学習を含め，ディープラーニングを含む広範な多様性をもつ手法を用いる機械学習のアプローチ；
Machine learning approaches, including supervised, unsupervised and reinforcement learning, usinga wide variety of methods including deep learning;(b) 知識表現，帰納（論理）プログラミング，知識ベース，推論エンジン及び演繹エンジン，（シンボリック）学習及びエキスパートシステムを含め，論理ベース及び知識ベースのアプローチ；
Logic- and knowledge-based approaches, including knowledge representation, inductive (logic)
programming, knowledge bases, inference and deductive engines, (symbolic) reasoning and expert
systems;(c) 統計的アプローチ，ベイズ推定，検索モデル及び最適化モデル。
Statistical approaches, Bayesian estimation, search and optimization methods.

532

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 II
欧州連合整合立法のリスト
LIST OF UNION HARMONISATION LEGISLATION
第 A 節－新立法枠組みを基礎とする欧州連合整合立法
Section A – List of Union harmonisation legislation based on the New Legislative Framework1.

[機械規則により廃止される]機械に関する，及び，指令 95/16/EC を改正する欧州議会及び理事会の 2006 年 5 月 17 日の指令 2006/42/EC (OJ L 157, 9.6.2006, p. 24)；
Directive 2006/42/EC of the European Parliament and of the Council of 17 May 2006 on machinery,
and amending Directive 95/16/EC (OJ L 157, 9.6.2006, p. 24) [as repealed by the Machinery
Regulation];

2.

玩具の安全性に関する欧州議会及び理事会の 2009 年 6 月 18 日の指令 2009/48/EC (OJ L
170, 30.6.2009, p. 1)；
Directive 2009/48/EC of the European Parliament and of the Council of 18 June 2009 on the safetyof toys (OJ L 170, 30.6.2009, p. 1);

3.

娯楽用舟艇及び水上オートバイに関する，並びに，指令94/25/EC を廃止する欧州議会及び理事会の 2013 年 11 月 20 日の指令 2013/53/EU (OJ L 354, 28.12.2013, p. 90)；
Directive 2013/53/EU of the European Parliament and of the Council of 20 November 2013 onrecreational craft and personal watercraft and repealing Directive 94/25/EC (OJ L 354, 28.12.2013,
p. 90);

4.

エレベータ及びエレベータ用安全性構成要素と関連する構成国の法律の整合化に関する
欧州議会及び理事会の 2014 年 2 月 26 日の指令 2014/33/EU (OJ L 96, 29.3.2014, p. 251)；
Directive 2014/33/EU of the European Parliament and of the Council of 26 February 2014 on theharmonisation of the laws of the Member States relating to lifts and safety components for lifts (OJ
L 96, 29.3.2014, p. 251);5.

爆発の危険性のある場所における利用を意図する機器類及び防御システムと関連する構成
国の法律の整合化に関する欧州議会及び理事会の 2014 年 2 月 26 日の指令 2014/34/EU(OJ L 96, 29.3.2014, p. 309)；
Directive 2014/34/EU of the European Parliament and of the Council of 26 February 2014 on the533

法と情報雑誌 6 巻 5 号（2021 年 11 月）
harmonisation of the laws of the Member States relating to equipment and protective systems
intended for use in potentially explosive atmospheres (OJ L 96, 29.3.2014, p. 309);6.

無線機器類を市場において利用可能にすることと関連する構成国の法律の整合化に関する，及び，指令 1999/5/EC を廃止する欧州議会及び理事会の 2014 年 4 月 16 日の指令
2014/53/EU (OJ L 153, 22.5.2014, p. 62)；
Directive 2014/53/EU of the European Parliament and of the Council of 16 April 2014 on theharmonisation of the laws of the Member States relating to the making available on the market ofradio equipment and repealing Directive 1999/5/EC (OJ L 153, 22.5.2014, p. 62);7.

加圧機器類の市場において利用可能とすることと関連する構成国の法律の整合化に関する
欧州議会及び理事会の 2014 年 5 月 15 日の指令 2014/68/EU (OJ L 189, 27.6.2014, p. 164)；
Directive 2014/68/EU of the European Parliament and of the Council of 15 May 2014 on theharmonisation of the laws of the Member States relating to the making available on the market ofpressure equipment (OJ L 189, 27.6.2014, p. 164);8.

ロープウェイ設備に関する，及び，指令 2000/9/EC を廃止する欧州議会及び理事会の 2016
年 3 月 9 日の規則(EU) 2016/424 (OJ L 81, 31.3.2016, p. 1)；
Regulation (EU) 2016/424 of the European Parliament and of the Council of 9 March 2016 on
cableway installations and repealing Directive 2000/9/EC (OJ L 81, 31.3.2016, p. 1);

9.

個人用防護具に関する，及び，理事会指令 89/686/EEC を廃止する欧州議会及び理事会の2016 年 3 月 9 日の規則(EU) 2016/425 (OJ L 81, 31.3.2016, p. 51)；
Regulation (EU) 2016/425 of the European Parliament and of the Council of 9 March 2016 on
personal protective equipment and repealing Council Directive 89/686/EEC (OJ L 81, 31.3.2016, p.
51);

10. ガス燃焼器具に関する，及び，指令 2009/142/EC を廃止する欧州議会及び理事会の 2016
年 3 月 9 日の規則(EU) 2016/426 (OJ L 81, 31.3.2016, p. 99)；
Regulation (EU) 2016/426 of the European Parliament and of the Council of 9 March 2016 on
appliances burning gaseous fuels and repealing Directive 2009/142/EC (OJ L 81, 31.3.2016, p. 99);
11. 医療機器に関する，指令 2001/83/EC，規則(EC) No 178/2002 及び規則(EC) No 1223/2009 を改正する，並びに，理事会指令 90/385/EEC 及び理事会指令 93/42/EEC を廃止する欧州議534

法と情報雑誌 6 巻 5 号（2021 年 11 月）
会及び理事会の 2017 年 4 月 5 日の規則(EU) 2017/745 (OJ L 117, 5.5.2017, p. 1)；
Regulation (EU) 2017/745 of the European Parliament and of the Council of 5 April 2017 on
medical devices, amending Directive 2001/83/EC, Regulation (EC) No 178/2002 and Regulation(EC) No 1223/2009 and repealing Council Directives 90/385/EEC and 93/42/EEC (OJ L 117,
5.5.2017, p. 1);
12. 体外診断用医療機器に関する，並びに，指令 98/79/EC 及び委員会決定 2010/227/EU を廃止する欧州議会及び理事会の 2017 年 4 月 5 日の規則(EU) 2017/746 (OJ L 117, 5.5.2017, p.
176)。
Regulation (EU) 2017/746 of the European Parliament and of the Council of 5 April 2017 on invitro diagnostic medical devices and repealing Directive 98/79/EC and Commission Decision
2010/227/EU (OJ L 117, 5.5.2017, p. 176).

535

法と情報雑誌 6 巻 5 号（2021 年 11 月）
第 B 節－別の欧州連合整合立法のリスト
Section B. List of other Union harmonisation legislation
1.

民間航空の安全性の分野における共通の規定に関する，及び，規則(EC) No 2320/2002 を廃止する欧州議会及び理事会の2008年3月11日の規則(EC) No 300/2008 (OJ L 97, 9.4.2008,
p. 72)；
Regulation (EC) No 300/2008 of the European Parliament and of the Council of 11 March 2008 on
common rules in the field of civil aviation security and repealing Regulation (EC) No 2320/2002(OJ L 97, 9.4.2008, p. 72);2.

2 輪，3 輪及び 4 輪の自転車の承認及び市場監視に関する欧州議会及び理事会の 2013 年
1 月 15 日の規則 (EU) No 168/2013 (OJ L 60, 2.3.2013, p. 52)；
Regulation (EU) No 168/2013 of the European Parliament and of the Council of 15 January 2013
on the approval and market surveillance of two- or three-wheel vehicles and quadricycles (OJ L 60,
2.3.2013, p. 52);3.

農業車両及び林業車両の承認及び市場監視に関する欧州議会及び理事会の 2013 年 2 月
5 日の規則(EU) No 167/2013 (OJ L 60, 2.3.2013, p. 1)；
Regulation (EU) No 167/2013 of the European Parliament and of the Council of 5 February 2013
on the approval and market surveillance of agricultural and forestry vehicles (OJ L 60, 2.3.2013, p.
1);

4.

舶用機器に関する，及び，理事会指令 96/98/EC を廃止する欧州議会及び理事会の 2014 年
7 月 23 日の指令 2014/90/EU (OJ L 257, 28.8.2014, p. 146)；
Directive 2014/90/EU of the European Parliament and of the Council of 23 July 2014 on marine
equipment and repealing Council Directive 96/98/EC (OJ L 257, 28.8.2014, p. 146);5.

欧州連合内の鉄道システムの相互運用性に関する欧州議会及び理事会の 2016 年 5 月 11日の指令(EU) 2016/797 (OJ L 138, 26.5.2016, p. 44)；
Directive (EU) 2016/797 of the European Parliament and of the Council of 11 May 2016 on theinteroperability of the rail system within the European Union (OJ L 138, 26.5.2016, p. 44);6.

自動車及びその被牽引車，そのような自動車用のシステム，構成要素及び分離された技術
ユニットの承認及び市場監視に関する，規則(EC) No 175/2007 及び規則(EC) No 595/2009 を536

法と情報雑誌 6 巻 5 号（2021 年 11 月）
改正する，並びに，指令 2007/46/EC を廃止する欧州議会及び理事会の 2018 年 5 月 30 日の規則(EU) 2018/858 (OJ L 151, 14.6.2018, p. 1)；その一般的な安全性及び車両乗員の保護並びに脆弱な道路利用者と関連して，自動車及びその被牽引車，そのような自動車用のシ
ステム，構成要素及び分離された技術ユニットの型式承認の要件に関する，欧州議会及び理事会の規則(EU) 2018/858 を改正する，欧州議会及び理事会の規則(EC) No 78/2009，規則(EC) No 79/2009 及び規則(EC) No 661/2009 並びに理事会規則(EC) No 631/2009，理事会
規則(EU) No 406/2010，理事会規則(EU) No 672/2010，理事会規則(EU) No 1003/2010，理事
会規則(EU) No 1005/2010，理事会規則(EU) No 1008/2010，理事会規則(EU) No 1009/2010，
理事会規則(EU) No 19/2011，理事会規則(EU) No 109/2011，理事会規則(EU) No 458/2011，
理事会規則(EU) No 65/2012，理事会規則(EU) No 130/2012，理事会規則(EU) No 347/2012，
理事会規則(EU) No 351/2012，理事会規則(EU) No 1230/2012 及び理事会規則(EU)2015/166 を廃止する欧州議会及び理事会の 2019 年 11 月 27 日の規則(EU) 2019/2144 (OJ
L 325, 16.12.2019, p. 1)；
Regulation (EU) 2018/858 of the European Parliament and of the Council of 30 May 2018 on theapproval and market surveillance of motor vehicles and their trailers, and of systems, components
and separate technical units intended for such vehicles, amending Regulations (EC) No 715/2007
and (EC) No 595/2009 and repealing Directive 2007/46/EC (OJ L 151, 14.6.2018, p. 1); Regulation(EU) 2019/2144 of the European Parliament and of the Council of 27 November 2019 on typeapproval requirements for motor vehicles and their trailers, and systems, components and separate
technical units intended for such vehicles, as regards their general safety and the protection of vehicle
occupants and vulnerable road users, amending Regulation (EU) 2018/858 of the European
Parliament and of the Council and repealing Regulations (EC) No 78/2009, (EC) No 79/2009 and(EC) No 661/2009 of the European Parliament and of the Council and Commission Regulations(EC) No 631/2009, (EU) No 406/2010, (EU) No 672/2010, (EU) No 1003/2010, (EU) No
1005/2010, (EU) No 1008/2010, (EU) No 1009/2010, (EU) No 19/2011, (EU) No 109/2011, (EU)No 458/2011, (EU) No 65/2012, (EU) No 130/2012, (EU) No 347/2012, (EU) No 351/2012, (EU)No 1230/2012 and (EU) 2015/166 (OJ L 325, 16.12.2019, p. 1);
7.

無人航空機並びにそのエンジン，プロペラ，部品及びリモートで無人航空機を操縦するための機器類と関係する場合，規則(EU) 2018/1139 の第 2 条第 1 項の(a)及び(b)に示す航空機の設計，製造及び市場に置くことに関する限りにおいて，民間航空の分野における共通規定に関する及び欧州連合航空安全局を設置する，並びに，欧州議会及び理事会の規則(EC) No 2111/2005，規則(EC) No 1008/2008，規則(EU) No 996/2010，規則(EU) No 376/2014，
指令 2014/30/EU 及び指令 2014/53/EU を改正する，欧州議会及び理事会の規則(EC) No
552/2004，規則(EC) No 216/2008 及び理事会規則(EEC) No 3922/91 を廃止する欧州議会及び理事会の 2018 年 7 月 4 日の規則(EU) 2018/1139 (OJ L 212, 22.8.2018, p. 1)。
Regulation (EU) 2018/1139 of the European Parliament and of the Council of 4 July 2018 on537

法と情報雑誌 6 巻 5 号（2021 年 11 月）
common rules in the field of civil aviation and establishing a European Union Aviation Safety
Agency, and amending Regulations (EC) No 2111/2005, (EC) No 1008/2008, (EU) No 996/2010,(EU) No 376/2014 and Directives 2014/30/EU and 2014/53/EU of the European Parliament and of
the Council, and repealing Regulations (EC) No 552/2004 and (EC) No 216/2008 of the European
Parliament and of the Council and Council Regulation (EEC) No 3922/91 (OJ L 212, 22.8.2018, p.
1), in so far as the design, production and placing on the market of aircrafts referred to in points (a)and (b) of Article 2(1) thereof, where it concerns unmanned aircraft and their engines, propellers,parts and equipment to control them remotely, are concerned.

538

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 III
第 6 条第 2 項に示す高リスク AI システム
HIGH-RISK AI SYSTEMS referred to in Article 6(2)第 6 条第 2 項による高リスク AI システムは，以下の分野のいずれかに列挙されている AI システ
ムである：
High-risk AI systems pursuant to Article 6(2) are the AI systems listed in any of the following areas:1.

生体要素識別及び自然人の分類：(a) 自然人の「リアルタイム」及び「事後」のリモート生体要素識別のために利用されることを意図する AI システム。
Biometric identification and categorisation of natural persons:(a) AI systems intended to be used for the ‘real-time’ and ‘post’ remote biometric identification ofnatural persons.

2.

重要インフラの運営管理及び業務遂行：(a) 道路交通並びに水，ガス，熱及び電気の供給の運営管理及び業務遂行における安全性構成要素として利用されることを意図する AI システム。
Management and operation of critical infrastructure:(a) AI systems intended to be used as safety components in the management and operation of roadtraffic and the supply of water, gas, heating and electricity.

3.

教育及び職業訓練：(a) 教育機関及び職業訓練機関へのアクセスの決定または自然人の評価のために利用されることを意図する AI システム；(b) 教育機関及び職業訓練機関における生徒の評価の目的のために，並びに，教育機関に入学するために一般的に要求される試験における受験者の評価のために利用されることを意図する AI システム。
Education and vocational training:(a) AI systems intended to be used for the purpose of determining access or assigning natural
persons to educational and vocational training institutions;(b) AI systems intended to be used for the purpose of assessing students in educational andvocational training institutions and for assessing participants in tests commonly required foradmission to educational institutions.
539

法と情報雑誌 6 巻 5 号（2021 年 11 月）
4.

雇用，労働者の管理及び自営へのアクセス：(a) 自然人の採用及び選択のため，特に，欠員補充の募集をするため，申込者の選別またはふるい分けをするため，面接または採用試験の過程において応募者を評価するために利用されることを意図する AI システム；(b) 労働と関連する契約関係の募集及び終了に関する判断を行うため，そのような契約関係における仕事の割当て及び人の能力及び行動の監視及び評価のために利用されることを意図する AI システム。
Employment, workers management and access to self-employment:(a) AI systems intended to be used for recruitment or selection of natural persons, notably foradvertising vacancies, screening or filtering applications, evaluating candidates in the courseof interviews or tests;(b) AI intended to be used for making decisions on promotion and termination of work-related
contractual relationships, for task allocation and for monitoring and evaluating performanceand behavior of persons in such relationships.

5.

必須の民間の役務及び公共の役務へのアクセスと享受並びに受益：(a) 公的な補助の受益または役務を求める自然人の適格性を評価するため，並びに，それらの受益及び役務を付与し，減額し，取消しまたは返還請求されるため，行政機関または行政機関の代わりの者によって利用されることを意図する AI システム；(b) 小規模な提供者によってその提供者自身の利用のために AI システムがサービスに供される場合を除き，自然人の信用度を評価するため，または，自然人の信用スコアを構築するために利用されることを意図する AI システム；(c) 消防及び医療の支援による場合を含め，緊急対応サービスの実行順序決定における順序決定または優先順位づけのために利用されることを意図する AI システム。
Access to and enjoyment of essential private services and public services and benefits:(a) AI systems intended to be used by public authorities or on behalf of public authorities toevaluate the eligibility of natural persons for public assistance benefits and services, as well as
to grant, reduce, revoke, or reclaim such benefits and services;(b) AI systems intended to be used to evaluate the creditworthiness of natural persons or establish
their credit score, with the exception of AI systems put into service by small scale providers fortheir own use;(c) AI systems intended to be used to dispatch, or to establish priority in the dispatching of
emergency first response services, including by firefighters and medical aid.

6.

法執行：
(a) 犯罪実行もしくは再犯実行に関する自然人のリスクを評価するために自然人の個別のリスクの評価を行うため，または，犯罪行為の潜在的な被害者に関するリスクを評価す
540

法と情報雑誌 6 巻 5 号（2021 年 11 月）

(b)
(c)
(d)
(e)

(f)

(g)

るために法執行機関によって利用されることを意図する AI システム；
ポリグラフ及び類似ツールとして，または，自然人の心理状態を検知するために法執行機関によって利用されることを意図する AI システム；
第 52 条第 3 項に示すディープフェイクを検知するために法執行機関によって利用されることを意図する AI システム；
犯罪行為の捜査または訴追の過程において証拠の信用性を評価するために法執行機
関によって利用されることを意図する AI システム；
指令(EU) 2016/680 の第 3 条第 4 号に示す自然人のプロファイリングを基礎として現実の犯罪行為もしくは潜在的な犯罪行為の発生もしくは再発生を予測するため，あるいは，自然人もしくはグループの人格特性及び性格または過去の犯罪行動を評価するた
めに法執行機関によって利用されることを意図する AI システム；
犯罪行為の検知，捜査または訴追の過程において指令(EU) 2016/680 の第 3 条第 4 号に示す自然人のプロファイリングのために法執行機関によって利用されることを意図す
る AI システム；
データの中にある未知のパターンの発見または隠れた関係の発見のため，関連性のある及び関連性のない，異なるデータ源の中でまたは異なるデータフォーマットで利用できる複雑で大きなデータセットを法執行機関が検索できるようにする，自然人と関係する犯罪分析のために使用されることを意図する AI システム。

Law enforcement:(a) AI systems intended to be used by law enforcement authorities for making individual risk
assessments of natural persons in order to assess the risk of a natural person for offending or
reoffending or the risk for potential victims of criminal offences;(b) AI systems intended to be used by law enforcement authorities as polygraphs and similar tools
or to detect the emotional state of a natural person;(c) AI systems intended to be used by law enforcement authorities to detect deep fakes as referred
to in article 52(3);(d) AI systems intended to be used by law enforcement authorities for evaluation of the reliabilityof evidence in the course of investigation or prosecution of criminal offences;(e) AI systems intended to be used by law enforcement authorities for predicting the occurrence
or reoccurrence of an actual or potential criminal offence based on profiling of natural persons
as referred to in Article 3(4) of Directive (EU) 2016/680 or assessing personality traits andcharacteristics or past criminal behaviour of natural persons or groups;(f) AI systems intended to be used by law enforcement authorities for profiling of natural persons
as referred to in Article 3(4) of Directive (EU) 2016/680 in the course of detection,
investigation or prosecution of criminal offences;(g) AI systems intended to be used for crime analytics regarding natural persons, allowing law
enforcement authorities to search complex related and unrelated large data sets available indifferent data sources or in different data formats in order to identify unknown patterns or541

法と情報雑誌 6 巻 5 号（2021 年 11 月）
discover hidden relationships in the data.
7.

移民，難民と国境管理：(a) ポリグラフ及び類似ツールとして，または，自然人の心理状態を検知するために職務権限のある行政機関によって利用されることを意図する AI システム；(b) 構成国の領土内に入ろうとしている自然人または既に入っている自然人の保安上のリ
スク，不正移民のリスク，または，健康上のリスクを含め，リスクを評価するために職務権限のある行政機関によって利用されることを意図する AI システム；(c) 自然人の旅行文書及び証明資料の真正性の検証のため，並びに，それらの文書のセキュリティ機能を点検することによる真正ではない文書の検知のために職務権限のある
行政機関によって利用されることを意図する AI システム；(d) 地位を求めて申立てている自然人の適格性と関連して，難民認定，査証発給，居住許可及び関連する不服の申立ての検討のために職務権限のある行政機関を補助することを意図する AI システム。
Migration, asylum and border control management:(a) AI systems intended to be used by competent public authorities as polygraphs and similar tools
or to detect the emotional state of a natural person;(b) AI systems intended to be used by competent public authorities to assess a risk, including asecurity risk, a risk of irregular immigration, or a health risk, posed by a natural person who
intends to enter or has entered into the territory of a Member State;(c) AI systems intended to be used by competent public authorities for the verification of theauthenticity of travel documents and supporting documentation of natural persons and detect
non-authentic documents by checking their security features;(d) AI systems intended to assist competent public authorities for the examination of applications
for asylum, visa and residence permits and associated complaints with regard to the eligibilityof the natural persons applying for a status.

8.

法務の運営及び民主的な過程：(a) 事実及び法律の検索及び解釈において，並びに，具体的な事実のセットに対する法律の適用において，法務機関を補助することを意図する AI システム。
Administration of justice and democratic processes:(a) AI systems intended to assist a judicial authority in researching and interpreting facts and thelaw and in applying the law to a concrete set of facts.

542

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 IV
第 11 条第 1 項に示す技術文書
TECHNICAL DOCUMENTATION referred to in Article 11(1)
第 11 条第 1 項に示す技術文書は，関連 AI システムに適用可能なときは，少なくとも以下の情報
を含める：
The technical documentation referred to in Article 11(1) shall contain at least the following information,
as applicable to the relevant AI system:
1.

その AI システムの，以下の情報を含む一般的な記述：(a) そのシステムの所期の目的，そのシステムの開発者，日付及びそのシステムのバージ
ョン；(b) それが適用されるときは，その AI システムが，その AI システムそれ自体の一部ではないハードウェア及びソフトウェアとの間でどのようにやりとりするのか，または，やりとりのためにどのように使用され得るのか；(c) 関連するソフトウェアまたはファームウェアのバージョン及びバージョンのアップデートと関連する要求事項；(d) その AI システムが市場に置かれまたはサービスに供される全ての形態の記述；(e) その AI システムがその上で実行を意図しているハードウェアの記述；(f) その AI システムが製品の構成要素である場合，外形的特徴を示す写真または図，マーク及びその製品の内部構造；(g) 利用者に対する利用上の指示，及び，それが適用可能なときはインストールの指示。
A general description of the AI system including:(a) its intended purpose, the person/s developing the system the date and the version of the system;(b) how the AI system interacts or can be used to interact with hardware or software that is not partof the AI system itself, where applicable;(c) the versions of relevant software or firmware and any requirement related to version update;(d) the description of all forms in which the AI system is placed on the market or put into service;(e) the description of hardware on which the AI system is intended to run;(f) where the AI system is a component of products, photographs or illustrations showing externalfeatures, marking and internal layout of those products;(g) instructions of use for the user and, where applicable installation instructions.

2.

その AI システムの要素及びその AI システムの開発過程の，以下の情報を含む詳細な記
述：(a) それが関連するときは，第三者から提供される訓練済みのシステムまたはツールの利用，及び，それらのシステムまたはツールがどのように使用されるのか，もしくは，提供
543

法と情報雑誌 6 巻 5 号（2021 年 11 月）

(b)

(c)

(d)

(e)

(f)

(g)

者によってどのように統合または修正されるのかを含め，その AI システムの開発のために実施される手法及び段階；
そのシステムの設計仕様，すなわち，その AI システム及びアルゴリズムの一般的な論
理；理論的根拠及び行われた仮定を含め，そのシステムが利用されることを意図している者またはグループとも関連させて，鍵となる設計上の選択；主要な分類の選択；異なるパラメータ及びそれとの関連性を最適化するためにそのシステムがどのように設計されているか；第 III 款第 2 章に定める要件の遵守するために採用された技術的解決策と関連して行われ得るトレードオフに関する判断；
処理全体の上で，ソフトウェア構成要素がどのように構築され，または，相互にフィードして統合されるのかを説明するシステムアーキテクチャの記述；その AI システムの開発，訓練，試験及び検証のために使用されるコンピュータ資源；
それが関連するときは，それらのデータセットの来歴，その適用範囲及び主たる特性に関する情報を含め，訓練の手法及び技法並びに使用される訓練データセットを示すデータシートの面におけるデータの要求仕様；データがどのようにして入手され，選択されたのか；（例えば，監督あり学習のための）ラベリングの手続，データのクリーニング
手法（例：外れ値検出）；
第 13 条第 3 項の(d)に従い，AI システムの出力の利用者による解釈を容易にするために必要となる技術的な措置の評価を含め，第 14 条に従って必要となる人間による監視の措置の評価；
それが適用可能なときは，第 III 款第 2 章に定める関連要件をその AI システムが継続的に遵守することを確保するために採用された技術的解決策と関連する全ての関連情報と共に，AI システム及びその性能への事前に定められた変更の詳細な記述；
検証及び使用される試験データ並びにそれらの主要な特性に関する情報を含め，使用される検証手続及び試験手続；正確性，堅牢性，サイバーセキュリティ及び第 III 款
第 2 章に定める他の関連要件の遵守並びにあり得る差別的な影響を測定するために使用されるメトリクス；(f)の下で示されている事前に定められた変更と関連するものを含
め，試験ログ並びに日付及び責任者の署名のある全ての試験報告書。

A detailed description of the elements of the AI system and of the process for its development,
including:(a) the methods and steps performed for the development of the AI system, including, where
relevant, recourse to pre-trained systems or tools provided by third parties and how these havebeen used, integrated or modified by the provider;(b) the design specifications of the system, namely the general logic of the AI system and of thealgorithms; the key design choices including the rationale and assumptions made, also withregard to persons or groups of persons on which the system is intended to be used; the mainclassification choices; what the system is designed to optimise for and the relevance of thedifferent parameters; the decisions about any possible trade-off made regarding the technicalsolutions adopted to comply with the requirements set out in Title III, Chapter 2;544

法と情報雑誌 6 巻 5 号（2021 年 11 月）(c) the description of the system architecture explaining how software components build on or
feed into each other and integrate into the overall processing; the computational resources used
to develop, train, test and validate the AI system;(d) where relevant, the data requirements in terms of datasheets describing the training
methodologies and techniques and the training data sets used, including information about theprovenance of those data sets, their scope and main characteristics; how the data was obtained
and selected; labelling procedures (e.g. for supervised learning), data cleaning methodologies(e.g. outliers detection);(e) assessment of the human oversight measures needed in accordance with Article 14, including
an assessment of the technical measures needed to facilitate the interpretation of the outputs ofAI systems by the users, in accordance with Articles 13(3)(d);(f) where applicable, a detailed description of pre-determined changes to the AI system and its
performance, together with all the relevant information related to the technical solutions
adopted to ensure continuous compliance of the AI system with the relevant requirements set
out in Title III, Chapter 2;(g) the validation and testing procedures used, including information about the validation andtesting data used and their main characteristics; metrics used to measure accuracy, robustness,cybersecurity and compliance with other relevant requirements set out in Title III, Chapter 2 aswell as potentially discriminatory impacts; test logs and all test reports dated and signed by the
responsible persons, including with regard to pre-determined changes as referred to under point(f).
3.

とりわけ，そのシステムが利用されることが意図されている特定の者またはグループに関する正確性の程度及びその AI システムの所期の目的との関係において期待される全体的な正確性のレベルを含め，その AI システムの能力及び性能上の限界；その AI システムの所期の目的に照らし，予見可能な意図しない出力，並びに，健康及び安全，基本的な権利及び非差別に対するリスクの発生源；AI システムの出力の利用者による解釈を容易にするために設けられる技術的な措置を含め，第 14 条に従って必要となる人間による監視の措置；
それが適切なときは，入力データの仕様と関連して，その AI システムの監視，稼働及び管理に関する詳細情報；
Detailed information about the monitoring, functioning and control of the AI system, in particularwith regard to: its capabilities and limitations in performance, including the degrees of accuracy forspecific persons or groups of persons on which the system is intended to be used and the overall
expected level of accuracy in relation to its intended purpose; the foreseeable unintended outcomesand sources of risks to health and safety, fundamental rights and discrimination in view of theintended purpose of the AI system; the human oversight measures needed in accordance with Article
14, including the technical measures put in place to facilitate the interpretation of the outputs of AI
systems by the users; specifications on input data, as appropriate;545

法と情報雑誌 6 巻 5 号（2021 年 11 月）
4.

第 9 条に従ったリスク管理システムの詳細な記述；
A detailed description of the risk management system in accordance with Article 9;5.

そのシステムのライフサイクルを通じてそのシステムに対して行われる変更の記述；
A description of any change made to the system through its lifecycle;

6.

EU 官報上で公示された参照の全部または一部が適用された整合化された技術標準のリス
ト；そのような整合化された技術標準が適用されなかった場合，適用された別の関連技術標
準及び技術仕様のリストを含め，第 III 款第 2 章に定める要件に適合するために採用された解決策の詳細な記述；
A list of the harmonised standards applied in full or in part the references of which have been
published in the Official Journal of the European Union; where no such harmonised standards havebeen applied, a detailed description of the solutions adopted to meet the requirements set out in Title
III, Chapter 2, including a list of other relevant standards and technical specifications applied;7.

EU 適合宣言書の複製物；
A copy of the EU declaration of conformity;

8.

第 61 条第 3 項に示す市場化後監視計画を含め，第 61 条に従って市場化後のフェーズにおいてその AI システムの性能を評価するために設けられるシステムの詳細な記述。
A detailed description of the system in place to evaluate the AI system performance in the postmarket phase in accordance with Article 61, including the post-market monitoring plan referred toin Article 61(3).

546

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 V
EU 適合宣言書
EU DECLARATION OF CONFORMITY
第 48 条に示す EU 適合宣言書は，以下の情報の全てを含める：
The EU declaration of conformity referred to in Article 48, shall contain all of the following information:
1.

AI システムの名称及びタイプ，並びに，その AI システムの識別及びトレーサビリティをできるようにする紛れのない付加的な参照；
AI system name and type and any additional unambiguous reference allowing identification andtraceability of the AI system;

2.

提供者の名称及び住所，または，それが適用可能なときは，その提供者の権限のある代理者の名称及び住所；
Name and address of the provider or, where applicable, their authorised representative;

3.

その EU 適合宣言書がその提供者のみの責任の下において発行されている旨の記述；
A statement that the EU declaration of conformity is issued under the sole responsibility of theprovider;4.

当の AI システムがこの規則に適合していること，及び，それが適用可能なときは，EU 適合
宣言書の発行を定めている欧州連合の関連立法に適合していることの記述；
A statement that the AI system in question is in conformity with this Regulation and, if applicable,with any other relevant Union legislation that provides for the issuing of an EU declaration ofconformity;

5.

充足が宣言されることと関係して使用された関連する整合化された技術標準またはそれ以外の共通仕様の参照；
References to any relevant harmonised standards used or any other common specification in relation
to which conformity is declared;6.

それが適用可能なときは，指定組織の名称及び識別番号，実施された適合性評価手続の記述及び発行された証明書の識別子；
547

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Where applicable, the name and identification number of the notified body, a description of theconformity assessment procedure performed and identification of the certificate issued;
7.

宣言書の発行の地及び日，宣言書に署名した者の姓名及び権限，並びに，署名であることの表示，及び，署名者の代わりに署名した者であることの表示。
Place and date of issue of the declaration, name and function of the person who signed it as well as
an indication for, and on behalf of whom, that person signed, signature.

548

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 VI
内部監督に基づく適合性評価手続
CONFORMITY ASSESSMENT PROCEDURE BASED ON INTERNAL CONTROL
1.

内部管理を基礎とする適合性評価手続は，第 2 号ないし第 4 号を基礎とする適合性評価手
続である。
The conformity assessment procedure based on internal control is the conformity assessment
procedure based on points 2 to 4.

2.

提供者は，設けられた品質管理システムが第 17 条の要件を遵守していることを検証する。
The provider verifies that the established quality management system is in compliance with therequirements of Article 17.

3.

提供者は，第 III 款第 2 章に定める必須の関連要件をその AI システムが遵守していることを評価するため，技術文書に含まれている情報を吟味する。
The provider examines the information contained in the technical documentation in order to assess
the compliance of the AI system with the relevant essential requirements set out in Title III, Chapter
2.

4.

提供者は，その AI システムの設計及び開発並びに第 61 条に示すその AI システムの市場化後監視が技術文書と一貫性があることも検証する。
The provider also verifies that the design and development process of the AI system and its postmarket monitoring as referred to in Article 61 is consistent with the technical documentation.

549

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 VII
品質管理システムの評価及び技術文書の評価を基礎とする適合性
CONFORMITY BASED ON ASSESSMENT OF QUALITY MANAGEMENT SYSTEM AND
ASSESSMENT OF TECHNICAL DOCUMENTATION
1.

イントロダクション
Introduction
品質管理システムの評価及び技術文書の評価を基礎とする適合性は，第 2 号ないし第 5 号を基礎とする適合性評価手続である。
Conformity based on assessment of quality management system and assessment of the technicaldocumentation is the conformity assessment procedure based on points 2 to 5.

2.

概要
Overview
第17 条による AI システムの設計，開発及び試験のための承認された品質管理システムは，
第 3 号に従って審査を受け，かつ，第 5 号に定める監視に服する。その AI システムの技術
文書は，第 4 号に従って審査を受ける。
The approved quality management system for the design, development and testing of AI systems
pursuant to Article 17 shall be examined in accordance with point 3 and shall be subject tosurveillance as specified in point 5. The technical documentation of the AI system shall be examinedin accordance with point 4.

3.

品質管理システム
Quality management system

3.1. 提供者の申請書は，以下のものを含める：(a) 提供者の名称及び住所，並びに，その申請が権限のある代理者によって申立てられる
ときは，その代理者の名称及び住所等；(b) 同一の品質管理システムの下で包摂される AI システムのリスト；(c) 同一の品質管理システムの下で包摂される個々の AI システム別の技術文書；(d) その品質管理システムに関する第 17 条に列挙する全ての側面を包摂する文書；(e) その品質管理システムが適切性及び実効性を維持することを確保するために設けられる手続の記述；(f) 同一の申請が別の指定組織に対して申立てられたことがない旨の書面による宣言。
550

法と情報雑誌 6 巻 5 号（2021 年 11 月）
The application of the provider shall include:(a) the name and address of the provider and, if the application is lodged by the authorised
representative, their name and address as well;(b) the list of AI systems covered under the same quality management system;(c) the technical documentation for each AI system covered under the same quality management
system;(d) the documentation concerning the quality management system which shall cover all the
aspects listed under Article 17;(e) a description of the procedures in place to ensure that the quality management system remains
adequate and effective;(f) a written declaration that the same application has not been lodged with any other notified body.
3.2. 品質管理システムは，第 17 条に示す要件をその品質管理システムが充足しているか否かを判断する指定組織によって評価される。
The quality management system shall be assessed by the notified body, which shall determine
whether it satisfies the requirements referred to in Article 17.
決定は，その提供者またはその提供者の権限のある代理者に対して通知される。
The decision shall be notified to the provider or its authorised representative.
その通知は，その品質管理システムの評価結果及び理由を付した評価決定を含める。
The notification shall contain the conclusions of the assessment of the quality management systemand the reasoned assessment decision.
3.3. 承認を受けた品質管理システムは，その品質管理システムが適切性及び効率性を維持する
ようにその提供者によって実装及び維持監視され続ける。
The quality management system as approved shall continue to be implemented and maintained by
the provider so that it remains adequate and efficient.
3.4. 承認された品質管理システム及びそれに包摂されている AI システムのリストの意図的な変更は，その提供者によって，指定組織の注意を向けられるようにされる。
Any intended change to the approved quality management system or the list of AI systems coveredby the latter shall be brought to the attention of the notified body by the provider.
551

法と情報雑誌 6 巻 5 号（2021 年 11 月）予定された変更は，指定組織による審査を受け，その指定組織は，変更される品質管理シス
テムが 3.2 に示す要件を充足し続けるか否か，または，再評価が必要か否かを決定する。
The proposed changes shall be examined by the notified body, which shall decide whether themodified quality management system continues to satisfy the requirements referred to in point 3.2
or whether a reassessment is necessary.
指定組織は，その提供者に対して，その決定を通知する。その通知は，変更の検討結果及
び理由を付した評価決定を含める。
The notified body shall notify the provider of its decision. The notification shall contain the
conclusions of the examination of the changes and the reasoned assessment decision.
4.

技術文書の監督
Control of the technical documentation

4.1. 第 3 号に示す申請に加え，提供者によって，その提供者が市場に置きまたはサービスに供することを意図し，かつ，第 3 号に示す品質管理システムに包摂されている AI システムと関連する技術文書の評価を求め，その提供者が選択する指定組織に対する申請が申立てられる。
In addition to the application referred to in point 3, an application with a notified body of their choice
shall be lodged by the provider for the assessment of the technical documentation relating to the AI
system which the provider intends to place on the market or put into service and which is coveredby the quality management system referred to under point 3.
4.2. その申請書は，以下の事項を含める：(a) 提供者の名称及び住所；(b) 同一の申請が別の指定組織に対して申立てられたことがない旨の書面による宣言；(c) 別紙 IV に示す技術文書。
The application shall include:(a) the name and address of the provider;(b) a written declaration that the same application has not been lodged with any other notified
body;(c) the technical documentation referred to in Annex IV.
4.3. 技術文書は，その指定組織による審査を受ける。その目的のために，指定組織は，アプリケ
ーションプログラミングインタフェイス（「API」）またはそれ以外の適切な手段及びリモートアク
552

法と情報雑誌 6 巻 5 号（2021 年 11 月）
セスを実現可能にするツールによる場合を含め，その提供者によって使用された訓練及び試験のデータセットへの全面的なアクセスを与えられる。
The technical documentation shall be examined by the notified body. To this purpose, the notified
body shall be granted full access to the training and testing datasets used by the provider, including
through application programming interfaces (API) or other appropriate means and tools enabling
remote access.
4.4. 技術文書の審査に際し，第 III 款第 2 章に定める要件をその AI システムが充足していることを適正に評価できるようにするため，その指定組織は，その提供者に対し，更に証拠を提供することまたは更に試験を実施することを要求できる。その提供者によって実施された試験にその指定組織が納得しない場合，その指定組織は，直接に，しかるべく適切な試験を実施する。
In examining the technical documentation, the notified body may require that the provider supplies
further evidence or carries out further tests so as to enable a proper assessment of conformity of the
AI system with the requirements set out in Title III, Chapter 2. Whenever the notified body is notsatisfied with the tests carried out by the provider, the notified body shall directly carry out adequate
tests, as appropriate.
4.5. 第 III 款第 2 章に定める要件を高リスク AI システムが充足していることの評価のために必要な場合，かつ，理由を付した要求により，その指定組織は，その AI システムのソースコード
へのアクセスも与えられる。
Where necessary to assess the conformity of the high-risk AI system with the requirements set out
in Title III, Chapter 2 and upon a reasoned request, the notified body shall also be granted access tothe source code of the AI system.
4.6. その決定は，提供者またはその提供者の権限のある代理者に対して通知される。その通知
は，その技術文書の評価結果及び理由を付した評価決定を含める。
The decision shall be notified to the provider or its authorised representative. The notification shallcontain the conclusions of the assessment of the technical documentation and the reasoned
assessment decision.
その AI システムが第 III 款第 2 章に定める要件を充足しているときは，その指定組織からEU 技術文書評価証明書が発行される。その証明書は，提供者の名称及び住所，審査結果，（もしあるときは）その検証のための条件及びその AI システムの識別のために必要となるデータを表示する。
553

法と情報雑誌 6 巻 5 号（2021 年 11 月）
Where the AI system is in conformity with the requirements set out in Title III, Chapter 2, an EU
technical documentation assessment certificate shall be issued by the notified body. The certificate
shall indicate the name and address of the provider, the conclusions of the examination, theconditions (if any) for its validity and the data necessary for the identification of the AI system.
その証明書及び附属文書は，その AI システムの充足が評価できるようにするための，及び，それが適用されるときは，利用の間にその AI システムの監督ができるようにするための全ての関連情報を含める。
The certificate and its annexes shall contain all relevant information to allow the conformity of the
AI system to be evaluated, and to allow for control of the AI system while in use, where applicable.
その AI システムが第 III 款第 2 章に定める要件を充足しないときは，その指定組織は，EU
技術文書評価証明書の発行を拒否し，かつ，その申請者に対し，その拒否の詳細な理由を与え，しかるべく連絡する。
Where the AI system is not in conformity with the requirements set out in Title III, Chapter 2, thenotified body shall refuse to issue an EU technical documentation assessment certificate and shallinform the applicant accordingly, giving detailed reasons for its refusal.
その AI システムが，その AI システムを訓練するために使用されるデータに関して要件に適合しないときは，新たな適合性評価を求める申請をする前に，その AI システムの再訓練が必要となる。この場合において，EU 技術文書評価証明書の発行を拒否する指定組織の理由を付した評価決定は，その AI システムを訓練するために使用される品質のデータに関す
る，特に，不遵守の理由に関する個別の検討結果を含める。
Where the AI system does not meet the requirement relating to the data used to train it, re-trainingof the AI system will be needed prior to the application for a new conformity assessment. In thiscase, the reasoned assessment decision of the notified body refusing to issue the EU technicaldocumentation assessment certificate shall contain specific considerations on the quality data used
to train the AI system, notably on the reasons for non-compliance.
4.7. その AI システムの要件の遵守またはその AI システムの所期の目的を害し得るその AI シス
テムの変更は，EU 技術文書評価証明書を発行した指定組織によって承認される。その提供者は，そのような指定組織に対し，上述の変更のいずれかを導入するその意図を連絡し，または，そのような変更をその指定組織が気づいているかどうかを連絡する。意図された変更
は，その指定組織により，評価を受け，その指定組織は，それらの変更が第 43 条第 4 項に従って新たな適合性評価を要するものであるか否か，または，EU 技術文書評価証明書に補遺するという手段によってそれらの変更が対処され得るものであるか否かを決定する。後者
554

法と情報雑誌 6 巻 5 号（2021 年 11 月）の場合，その指定組織は，その変更を評価し，その提供者に対してその指定組織の決定を通知し，かつ，その変更が承認される場合，その提供者に対し，EU 技術文書評価証明書の補遺を発行する。
Any change to the AI system that could affect the compliance of the AI system with the requirements
or its intended purpose shall be approved by the notified body which issued the EU technicaldocumentation assessment certificate. The provider shall inform such notified body of its intention
to introduce any of the above-mentioned changes or if it becomes otherwise aware of the occurrenceof such changes. The intended changes shall be assessed by the notified body which shall decide
whether those changes require a new conformity assessment in accordance with Article 43(4) orwhether they could be addressed by means of a supplement to the EU technical documentationassessment certificate. In the latter case, the notified body shall assess the changes, notify the providerof its decision and, where the changes are approved, issue to the provider a supplement to the EU
technical documentation assessment certificate.
5.

承認された品質管理システムの監視
Surveillance of the approved quality management system

5.1. 第 3 号により指定組織によって遂行される監視の目的は，承認された品質管理システムの条件をその提供者が適正に満たすことを確保することにある。
The purpose of the surveillance carried out by the notified body referred to in Point 3 is to make surethat the provider duly fulfils the terms and conditions of the approved quality management system.
5.2. 評価の目的のために，提供者は，指定組織に対し，その AI システムの設計，開発，試験が行われている施設へのアクセスを許容する。その提供者は，その指定組織との間で，全ての必要な情報を更に共有する。
For assessment purposes, the provider shall allow the notified body to access the premises where thedesign, development, testing of the AI systems is taking place. The provider shall further share with
the notified body all necessary information.
5.3. 指定組織は，その提供者が品質管理システムを維持管理及び適用することを確保するため，定期的な監査を実施し，かつ，その提供者に対し，監査報告書を提供する。それらの監査の過程において，その指定組織は，EU 技術文書評価証明書が発行された AI システムの追加的な試験を実施できる。
The notified body shall carry out periodic audits to make sure that the provider maintains and applies
the quality management system and shall provide the provider with an audit report. In the context of555

法と情報雑誌 6 巻 5 号（2021 年 11 月）
those audits, the notified body may carry out additional tests of the AI systems for which an EU
technical documentation assessment certificate was issued.

556

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 VIII第 51 条に従って高リスク AI システムの登録の際に提出されるべき情報
INFORMATION TO BE SUBMITTED UPON THE REGISTRATION OF
HIGH-RISK AI SYSTEMS IN ACCORDANCE WITH ARTICLE 51
第 51 条に従って登録される高リスク AI システムに関し，以下の情報が提供され，かつ，最新の状態に保たれる。
The following information shall be provided and thereafter kept up to date with regard to high-risk AI
systems to be registered in accordance with Article 51.
1.

提供者の名称，住所及び連絡先；
Name, address and contact details of the provider;2.

提供者の代わりの別の者によって情報の提出が遂行される場合，当該の者の名称，住所及び連絡先；
Where submission of information is carried out by another person on behalf of the provider, thename, address and contact details of that person;3.

それが適用可能なときは，権限のある代理者の名称，住所及び連絡先；
Name, address and contact details of the authorised representative, where applicable;

4.

AI システムの取引上の名称，並びに，その AI システムの識別及びトレーサビリティができるようにする付加的な紛れのない参照；
AI system trade name and any additional unambiguous reference allowing identification andtraceability of the AI system;

5.

その AI システムの所期の目的の記述；
Description of the intended purpose of the AI system;

6.

その AI システムの状態（市場にある，サービス提供中；市場に置かれていない／サービスに供されていない，リコールされた）；
Status of the AI system (on the market, or in service; no longer placed on the market/in service,557

法と情報雑誌 6 巻 5 号（2021 年 11 月）
recalled);
7.

指定組織から発行された証明書のタイプ，番号及び有効期限，並びに，その指定組織の名
称，または，それが適用可能なときは識別番号；
Type, number and expiry date of the certificate issued by the notified body and the name oridentification number of that notified body, when applicable;8.

それが適用可能なときは，第 7 号に示す証明書の複写物；
A scanned copy of the certificate referred to in point 7, when applicable;

9.

その AI システムが市場に置かれ，サービスに供されている，もしくは，欧州連合内で利用可
能にされている構成国，または，そのようにされた構成国；
Member States in which the AI system is or has been placed on the market, put into service or madeavailable in the Union;

10. 第 48 条に示す EU 適合宣言書の複製物；
A copy of the EU declaration of conformity referred to in Article 48;
11. 電子的な利用上の指示；この情報は，別紙 III の第 1 号，第 6 号及び第 7 号に示す法執行の分野，移民，難民及び国境管理の分野における高リスク AI システムに関しては，提供されてはならない。
Electronic instructions for use; this information shall not be provided for high-risk AI systems in theareas of law enforcement and migration, asylum and border control management referred to in
Annex III, points 1, 6 and 7.
12. 追加的な情報提供のための URL（選択的）。
URL for additional information (optional).

558

法と情報雑誌 6 巻 5 号（2021 年 11 月）
別紙 IX
自由，保安及び法務の領域における大規模 IT システムに関する欧州連合の立法
Union legislation ON large-scale IT systems in the area of Freedom, Security and Justice1.

シェンゲン情報システム(a) 違法滞在する第三国国民の帰国のためのシェンゲン情報システムの利用に関する欧州議会及び理事会の 2018 年 11 月 28 日の規則(EU) 2018/1860 (OJ L 312, 7.12.2018, p.
1)。
(b) 国境検問の分野におけるシェンゲン情報システム（SIS）の設置，運用及び利用に関する，並びに，シェンゲン協定実装条約を改正し，規則(EC) No 1987/2006 を改正及び廃止する欧州議会及び理事会の 2018 年 11 月 28 日の規則(EU) 2018/1861 (OJ L 312,7.12.2018, p. 14)。
(c) 刑事における警察協力及び法務上の協力の分野におけるシェンゲン情報システム（SIS）の設置，運用及び利用に関する，並びに，理事会決定2007/533/JHA を改正及び廃止し，欧州議会及び理事会の規則(EC) No 1986/2006 及び委員会決定 2010/261/EU
を廃止する欧州議会及び理事会の 2018 年11 月28 日の規則(EU) 2018/1862 (OJ L 312,7.12.2018, p. 56)。
Schengen Information System(a) Regulation (EU) 2018/1860 of the European Parliament and of the Council of 28 November
2018 on the use of the Schengen Information System for the return of illegally staying thirdcountry nationals (OJ L 312, 7.12.2018, p. 1).
(b) Regulation (EU) 2018/1861 of the European Parliament and of the Council of 28 November
2018 on the establishment, operation and use of the Schengen Information System (SIS) in thefield of border checks, and amending the Convention implementing the Schengen Agreement,
and amending and repealing Regulation (EC) No 1987/2006 (OJ L 312, 7.12.2018, p. 14).
(c) Regulation (EU) 2018/1862 of the European Parliament and of the Council of 28 November
2018 on the establishment, operation and use of the Schengen Information System (SIS) in thefield of police cooperation and judicial cooperation in criminal matters, amending andrepealing Council Decision 2007/533/JHA, and repealing Regulation (EC) No 1986/2006 of
the European Parliament and of the Council and Commission Decision 2010/261/EU (OJ L
312, 7.12.2018, p. 56).

2.

Visa 情報システム(a) 規則(EC) No 767/2008，規則(EC) No 810/2009，規則(EU) 2017/2226，規則(EU) 206/399，
規則 XX/2018[相互運用性規則]及び決定 2004/512/EC を改正し，理事会決定
2008/633/JHA を廃止する欧州議会及び理事会の規則の提案－COM(2018) 302 final。
アップデートされた後，この規則は，共同立法者によって（2021 年 4 月／5 月に）採択される。
559

法と情報雑誌 6 巻 5 号（2021 年 11 月）

Visa Information System(a) Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE
COUNCIL amending Regulation (EC) No 767/2008, Regulation (EC) No 810/2009,
Regulation (EU) 2017/2226, Regulation (EU) 2016/399, Regulation XX/2018[Interoperability Regulation], and Decision 2004/512/EC and repealing Council Decision
2008/633/JHA - COM(2018) 302 final. To be updated once the Regulation is adopted(April/May 2021) by the co-legislators.
3.

Eurodac(a) 規則(EU) XXX/XXX[難民及び移民の管理に関する規則]及び規則(EU) XXX/
XXX[第三国定住規則]の実効的な適用のため，違法滞在する第三国国民及び無国籍者の識別のための生体要素データの対照のための「Eurodac」の設置に関する，並びに，法執行の目的のための構成国の法執行機関及び Europol による Eurodac データの対照を求める要請に関する，並びに，規則(EU) 2018/1240 及び規則(EU) 2019/818 を改正する欧州議会及び理事会の規則の修正提案－COM(2020) 614 final。
Eurodac(a) Amended proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF
THE COUNCIL on the establishment of 'Eurodac' for the comparison of biometric data forthe effective application of Regulation (EU) XXX/XXX [Regulation on Asylum andMigration Management] and of Regulation (EU) XXX/XXX [Resettlement Regulation], for
identifying an illegally staying third-country national or stateless person and on requests for thecomparison with Eurodac data by Member States' law enforcement authorities and Europol
for law enforcement purposes and amending Regulations (EU) 2018/1240 and (EU) 2019/818– COM(2020) 614 final.

4.

入国／出国システム(a) 構成国の対外国境を通過する第三国国民の入国と出国のデータ及び入国拒否のデー
タを登録するための入国／出国システム（EES）を設け，法執行の目的のためのEESへのアクセスの条件を定め，並びに，シェンゲン協定を実装する条約，規則(EC) No
767/2008 及び規則(EU) No 1077/2011 を改正する欧州議会及び理事会の 2017 年 11 月
30 日の規則(EU) 2017/2226 (OJ L 327, 9.12.2017, p. 20)。
Entry/Exit System(a) Regulation (EU) 2017/2226 of the European Parliament and of the Council of 30 November
2017 establishing an Entry/Exit System (EES) to register entry and exit data and refusal ofentry data of third-country nationals crossing the external borders of the Member States anddetermining the conditions for access to the EES for law enforcement purposes, and amending560

法と情報雑誌 6 巻 5 号（2021 年 11 月）
the Convention implementing the Schengen Agreement and Regulations (EC) No 767/2008
and (EU) No 1077/2011 (OJ L 327, 9.12.2017, p. 20).
5.

欧州旅行情報及び許可システム(a) 欧州旅行情報及び許可システム（ETIAS）を設ける，並びに，規則(EU) No 1077/2011，
規則(EU) No 515/2014，規則(EU) 2016/399，規則(EU) 2016/1624 及び規則(EU) 2017/2226 を改正する欧州議会及び理事会の 2018 年 9 月 12 日の規則(EU) 2018/1240 (OJL 236, 19.9.2018, p. 1)。
(b) 欧州旅行情報及び許可システム（ETIAS）を設ける目的のために規則(EU) 2016/794 を改正する欧州議会及び理事会の 2018 年 9 月 12 日の規則(EU) 2018/1241(OJ L 236,
19.9.2018, p. 72)。
European Travel Information and Authorisation System(a) Regulation (EU) 2018/1240 of the European Parliament and of the Council of 12 September
2018 establishing a European Travel Information and Authorisation System (ETIAS) andamending Regulations (EU) No 1077/2011, (EU) No 515/2014, (EU) 2016/399, (EU)2016/1624 and (EU) 2017/2226 (OJ L 236, 19.9.2018, p. 1).
(b) Regulation (EU) 2018/1241 of the European Parliament and of the Council of 12 September
2018 amending Regulation (EU) 2016/794 for the purpose of establishing a European Travel
Information and Authorisation System (ETIAS) (OJ L 236, 19.9.2018, p. 72).

6.

第三国国民及び無国籍者に関する欧州刑事記録情報システム(a) 欧州刑事記録情報システムを補遺するための第三国国民及び無国籍者に関する有罪判決情報を保有する構成国の識別特定のための集中システム（ECRIS-TCN）を設け，規則(EU) 2018/1726 を改正する欧州議会及び理事会の 2019 年 4 月 17 日の規則(EU)2019/816 (OJ L 135, 22.5.2019, p. 1)。
European Criminal Records Information System on third-country nationals and stateless persons(a) Regulation (EU) 2019/816 of the European Parliament and of the Council of 17 April 2019
establishing a centralised system for the identification of Member States holding conviction
information on third-country nationals and stateless persons (ECRIS-TCN) to supplement theEuropean Criminal Records Information System and amending Regulation (EU) 2018/1726(OJ L 135, 22.5.2019, p. 1).

7.

相互運用性
(a) 国境及び査証の分野における EU の情報システム間の相互運用性のための枠組みを設ける欧州議会及び理事会の 2019 年 5 月 20 日の規則(EU) 2019/817 (OJ L 138, 22.5.
2019, p. 27)。
(b) 警察及び法務上の協力，難民及び移民の分野における EU の情報システム間の相互561

法と情報雑誌 6 巻 5 号（2021 年 11 月）
運用性のための枠組みを設ける欧州議会及び理事会の 2019 年 5 月 20 日の規則(EU)2019/818 (OJ L 135, 22.5.2019, p. 85)。
Interoperability(a) Regulation (EU) 2019/817 of the European Parliament and of the Council of 20 May 2019 on
establishing a framework for interoperability between EU information systems in the field of
borders and visa (OJ L 135, 22.5.2019, p. 27).
(b) Regulation (EU) 2019/818 of the European Parliament and of the Council of 20 May 2019 on
establishing a framework for interoperability between EU information systems in the field ofpolice and judicial cooperation, asylum and migration (OJ L 135, 22.5.2019, p. 85).

562

2021 Printed in Japan
ISSN 2432-6089

法と情報雑誌 第 6 巻第 5 号（通巻第 45 号）（第 2 分冊）
The Law and Information Magazine vol.6 no.5 (consecutive no.45) part 22021 年 11 月 6 日発行
発行者 夏井高人
発行所 法と情報研究会（代表 夏井高人）
東京都千代田区神田駿河台 1－1
学校法人明治大学研究棟（非売品）