Japan Electronics and Information Technology Industries Association

2021.8.5
European Commission の「LAYING DOWN HARMONISED RULES ON ARTIFICIALINTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNIONLEGISTLATIVE ACT）」に対する JEITA ポジションペーパー
一般社団法人電子情報技術産業協会（JEITA） は、国内外の約 400 社で構成された日本最大級の ICT・エレクトロニクスの業界団体で、ブリュッセルにも欧州事務所を持っております。JEITA は電子部品や電子デバイス、電子機器や IT ソリューション・サービスなどを中核とし、あらゆる産業を繋げ、ステークホルダーを結節するプラットフォームを実現
す る 役 割 を 担 っ て お り ま す 。JEITA は 、European Commission の 「LAYING DOWNHARMONISED RULES ON ARTIFICIALINTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNIONLEGISTLATIVE ACT）」に意見する機会を頂戴し、感謝致します。
JEITA は、AI の利活用への基本的考え方に関する提言（ “SDGs・Society5.0 実現のための人工知能社会実装に向けて”）を 2018 年 5 月に発表しています（別添資料参照、URL：
https://home.jeita.or.jp/press_file/20181002154214_5ArIOKGNLH.pdf)。
本提言では、①「AI は社会のためにあり、積極的に利活用すべきである」"AI exists for the sake of society so therefore it should be actively used”②「AI に関する適切な理解を一般に広めることが重要である」“Importance of wide and accurate understanding of AI by the general public”③「AI の実装のための社会制度が必要である」“Necessity to create social systems for practical use of AI”④「AI は、国際協調しながら社会実装を推進すべきである」“International cooperation to promote the societal implementation of AI”⑤「AI 時代の人材育成は広範囲に取り組むべきである」“Need for a broad perspective in HR development in the era of AI"の 5 点を主張しています。この考え方は、今回の欧州 AI 規則案の説明覚書に記載された考え方とも共通する点が多いと考えます。
JEITA は、この提言の考え方に基づき、欧州委員会の AI 規則案に対して、以下、意見を述べさせていただきます。1-3 節において、AI 規則案全体に対する意見を記載し、4 節において個別条文へのコメントを詳述させていただきます。
1.リスクベースアプローチでの AI 導入のリスク評価に関して
JEITA は、欧州委員会の AI 政策パッケージ導入の目的を、・AI システムの安全な利用と基本的人権や欧州の価値観尊重の確保、・AI 産業の育成とイノベーション促進するための法制度整備、・AI システムへの基本的人権や安全要求に関する既存法のガバナンスと実効性の適用、・欧州単一市場の発展促進のための AI システムの安全・安心な利用を担保する規制の導入、による、信頼ある AI システムの開発・利活用促進による新たなデータの利活用や分野間データを活用した社会課題解決、国家安全保障の確保にあるものと理解し、これを尊重し、賛同します。また、AI システム利用におけるリスクの高低に基づき、AI システムの市場導1

Japan Electronics and Information Technology Industries Association入を妨げないように、欧州委員会が、既存法令との調和を考慮しつつ、必要最小限の規制のみを新たに導入するアプローチを採用したことを支持します。
一方で、JEITA は、リスクベースアプローチでのリスク評価では、AI を導入する前と導入した後との間でリスクを適切に比較評価する必要があると考えます。自動運転システムや医療システムなどにおいては、人間による判断よりも AI による判断の方が優る場合も多くなりつつあり、AI システムへの新たな法規制導入は、技術導入前後のリスクの比較評価結果も踏まえて設計し、必要最小限にするべきと考えます。
2. イノベーションと規制のバランスについて
技術進化が速い分野での健全な市場形成・成長においては、欧州域内でのイノベーション創出や企業進出、新興企業の育成・成長や投資加速を促す魅力的な環境整備と、技術の安全・安心な利用を担保し、欧州の価値観を尊重するガバナンス確保のための法規制とのバランスが重要です。
2.1 技術進化速度を踏まえた迅速なガバナンス・法規制の設計・導入
AI システムにおいては、目的・解くべき課題・利活用によるアウトカムを人間が設定し、判断基準を適宜更新しながら、多様なデータを国境を越えて利活用し、迅速に「実験」と「学習」を繰り返す仕組みの構築が EU が世界の AI 開発ハブになる上でも非常に重要です。AI システムには、更新や最新技術の適用等スピード感が求められ、第三者機関認証(Article 43)や CE マーキング(Article 49)といった従来型規制手法の過度な適用は、普及や市場投入時期の遅れにつながりかねず、技術進化速度を踏まえた迅速なガバナンス・法規制の設計・導入が必要と考えます。
2.2 産業競争力確保のためのコンプライアンス効果と負担コストのバランスの適正化
ハイリスク AI に対する市販前・市販後の要求条件が多岐にわたり、新技術導入や更新毎に多大なコンプライアンス対応コスト（労力、時間）の負担が求められます。
AI システム提供事業者、特にメガプラットフォーマーに比べて対応能力が限られる中小事業者、ベンチャによるイノベーション創出の大きな障害となり、欧州への投資意欲や AI 企業の育成・成長を妨げかねません。欧州域内の産業競争力確保のために、ハイリスク AI 要求条件の適正化、最小限化が必要と考えます。
また、規制は、事前規制を最小限に留め、AI システムを利用した製品・サービスの提供者による市販後モニタリングの計画作成・実施・公表と、問題が発生した場合の対応を基本とすべきと考えます。
3. ユースケース（分野）に基づく Prohibited AI、High-risk AI の定義、要求条件の規定
Prohibited AI や High-risk AI の対象の一部では、特定の AI 技術に対して規制の対象を定めていますが、同じ AI 技術であっても、その利用方法、ユースケース（分野）によってリスクは異なります。また、AI システムは、単独で使われるとは限らず、ユーザーである製品・サービスの提供者が複数の異なる AI システムを組み合わせて利用する場合も少なくありません。包括的法案で High-risk AI を一律に規定し、要求条件を規定することは適切でなく、現実的でもありません（特に、リスクマネジメントシステム（Article 9）、データとガバナンス（Article 10）、記録保持（Article 12）、人間の監視（Article 14））。ユースケース毎のリスクに基づき、AI システムの規制対象と要求条件の適用が決められるべきであり、関連業界と連携の下、ユースケース毎の実効的な AI システムガイドライン作成が必須と考え2

Japan Electronics and Information Technology Industries Associationます。
例えば、軍事利用目的で扱う AI は規制対象外となっていますが、民間システムも攻撃対象になりうる現実があります。この場合、民間システム側でも正当防衛等の機能を実装し運用する必要がありますが、このような AI をハイリスク AI として規制することは公平感に欠け、民間システムリスクの増大を招きかねません。このような場合には、軍事目的の場合と同様の扱いとすることも予め考慮しておくべきと考えます。
4. 重要な個別条文への意見
以下、各条における意見及び提案を致します。
TITLE I : GENERAL PROVISIONS・Article2: Scope1.(c) AI システムによって生成されたアウトプットのみが EU で使用される、第三国に位置する AI システムの Provider、User に該当する場合の義務
1.(c)の場合の義務が、1.(a)の Provider、1.(b)の User と全く同一なのか、異なるのかが分かりにくく、1.(c)の場合の義務の対象を明確にする必要があります。例えば、Article52 3 項において、EU 域外の企業が AI システムを使ってビデオコンテンツ（アウトプット）を作成、それが EU 域内で上映を行う者に渡され、その者が上映する場合、人為的に生成または操作されたことを開示することは、EU 域外の AI システムユーザでは対応できない場合もあり、EU 域内の上映者に開示対応義務が課せられるべきと考えます。
・Article3: Definition(36) ハイリスク AI システムに分類されているリモート生体識別システムの定義
 リモート生体識別システムの定義において、「User」とはどの様な主体をさすか、「離れた場所とのはどの程度か・実質的な合意の有無によるのか」といった基準につき、明確なガイダンスを用意すべきである。離れた(at a distance)が、「非対象者と生体情報を取得する機器との間の物理的な距離のみをさす」場合は、それが明確にわかる様にするべきである。利用者の観点から見て、比較的リスクが低いと考えられるアプリケーションや技術も、現在の規制の記述では包含されると解釈される可能性があるため、イノベーションを阻害しないよう具体的なアプリケーションを想定しながら、ハイリスク AI に該当するか否かの曖昧性の排除について検討されるべきです。
 リモートで行われているか否かという距離的な観点だけではなく、本人が生体識別の実施を認識しているか否かという本人認識性の観点も含まれるのであれば、その点を明記すべきです。
 「prior knowledge of the user」に該当する使用方法にはどのような場合を含むのか、ユースケース含め明確にする必要があります。
TITLE II : PROHIBITED ARTIFICIAL INTELLIGENCE PRACTICESArticle 5「Prohibited AI」の対象範囲は、法の安定性、予見可能性の観点から、規制対象を真に必要な範囲に明確に限定化するとともに、対象とする根拠、リスクの測定・評価方法をより明確にする必要があります。例えば、以下の修正や考慮が必要と考えます。
 例えば、サブリミナルに利用される AI を「Prohibited AI」と定義していますが、何3Japan Electronics and Information Technology Industries Association

をサブリミナル効果とするかの判断は難しい面があります。今回の規制では意図的にサブリミナル技術を使用したものに限定すべきであり、オーディオビジュアルコンテンツやゲーミング、マーケティングの CM 等々で意図せずサブリミナル効果が生じる得る可能性のある AI システムを対象とすべきではありません。
法執行目的による「‘real-time’ remote biometric identification system」が「Prohibited AI」とされていますが、例えば法執行機関が自らの施設を警備する際にもこれが適用されるのか、また法執行機関と民間の連携において、例えば民間の AI シ
ステムが不審な兆候を検出した際に法執行機関に通報するようなケースも「Prohibited AI」となるのかといった点など、本法案で対象範囲が不明確である「Publicly accessible spaces」の具体的な事例含め、ユースケースごとの危険性を考慮した上で、対象となるものを明確にする必要があります。
法執行の目的での「リアルタイム」リモート生体識別システムは、警察・刑事司法指令（指令(EU)2016/680）の第 10 条で既に規制されており、厳密な必要性や、データ主体の権利と自由のための適切な保護措置、EU 法や国内法の規定などの要件があり、本規則で規制するのではなく、警察・刑事司法指令のガイドラインの明確化によって対応するべきと考えます。

TITLE III: HIGH-RISK AI SYSTEMSCHAPER 1 : CLASSIFICATIO OF AI SYSTEMS AS HIGH-RISK
Articles 6-7 及び Annex IIA/B, III「High-risk AI」の対象範囲を過度に広くとることは、EU 域内におけるイノベーションを阻害しかねません。法の安定性、予見可能性の観点から、規制対象を真に必要な範囲に明確に限定化するとともに、対象とする根拠、リスクの測定・評価方法をより明確にする必要があります。例えば、以下の修正や考慮が必要と考えます。
・ハイリスク AI に該当するリモート生体識別システムの定義明確化
本人が認識しているスマホ等の顔認証、顔認証による決済、入国審査時の本人識別、一時的に顔や体の特徴を抽出して分類するシステム（例えば民間企業がマーケティングに活用するために、店舗内の顧客の動線を把握するための AI システム）などが、ハイリ
スク AI の「リモート生体識別システム」に該当するかどうか、AI システムの危険性を考慮した上で明確にするべきです。
・人権侵害リスクが十分に低い場合のハイリスク AI 適用の除外
例えば標準化が進みつつある最先端の技術として、生体情報を秘匿したままで登録、照合ができるテンプレート保護技術がある。この技術を入力データに適用した AI による生体認証では、特定の用途の結果しか得られず、属性(性別、人種、年齢等)は一切推定できない。自然人の生体識別およびカテゴライゼーションのうち、属性に起因する差別に繋がらないことが、当初の技術レベルで十分に適正なデータでの学習で確認された場
合は、ハイリスク AI から除外すべきです。産業データにおける個人データ(操作履歴等)の扱いに関しては、AI 規制サンドボックスで人権侵害へのリスクが十分に低いことが確認されれば、AI 技術でデータを利活用して社会課題を解決する目的のために、必要な要件の全部もしくは一部を緩和する必要があると考えます。
・重要インフラや医療機器など、当該分野の既存法令で十分な安全性や公平性が確保されている場合のハイリスク AI システム適用の除外、緩和、関連セクタ法令との矛盾なき運用
 重要なインフラの管理と運用に関する安全性に係る部分に AI が利用されている場合
4

Japan Electronics and Information Technology Industries Association

でも、大多数の管理・運用システムは AI 以外の手段で安全にも配慮し設計されています。フェールセーフやフォールトトレラントなどのリスク排除のシステム設計がなされている場合や、AI 規制サンドボックスなどでリスクが十分に低いことが確認された場合には、AI 適用により生じる具体的なリスクが無いと考えます。
 また、インフラであっても安全装置と運用管理システムでは AI 適用のリスクが異なるはずで、ハイリスクな AI の対象を機器やシステムの観点からも限定すべきと考えます。「safety component」について各技術領域等における具体例や明確化が必要です。例えば、家庭内の AI カメラ監視システム等においても、出火を監視するようなものから赤ん坊の見守り、防犯システムまで、どこまでが 「safety component」に該当するのか本法案では不明確なため、ガイドライン等による明確化が必要と考えます。
 医療機器には、医療セクタにおける法令 EU-MDR(EU 2017/745 が既に適用されており、同法令の要求事項にギャップがなく、相互補完的な要求事項が本 AI 規則案で規定されるべきと考えます。
・法令順守インセンティブ賦与による企業側コスト負担軽減と法的実効性向上の同時実現
欧州委員会または加盟国が実施する公共調達において、適切に行動規範を策定し、AI規則を継続的に順守している企業を評価し、評価結果に応じて AI に対する義務要件履行の負担を軽減するなど、インセンティブを同時に設計し、規則施行とともに適用するべきと考えます。企業側のコンプライアンスコスト負担軽減と法的実効性の向上を同時に追求することが可能となります。また、安全部品の保守・保全を支援する診断 AI
は、AI のアウトプットの情報をもとに人が最終判断を行うため、AI によるリスクを緩和でき、必要な要件の全部もしくは一部を緩和、除外する措置が可能と考えます。
CHAPTER 2: REQUIREMENTS FOR HIGH-RISK AI SYSTEMS (Articles. 8-15)
Article 9 Risk management system
・2 項(a),(b)において、”known and foreseeable risk”、”reasonably foreseeablemisuse”の推定や評価、対処が要求されていますが、本要求に限らず誤使用や悪意ある使用に対する対処と責任は、Provider に対して求められるべきではなく、誤使用や悪意ある使用を行った User に課されるべきと考えます。例えば、包丁や車両は、誤使用や悪意ある使用があった場合には、その対処と責任は、その行為を行った User に課されるのと同様の考え方です。
・4 項(a)「適切な設計と開発を通じて、可能な限りリスクを消去または削減すること」について、要求事項の明確化が必要です。また、リスクも多岐にわたり、トレードオフを有することも想定されるため、ガイドラインなどを示すことが必要です。
Article 10: Data and data governance・3 項記載の、使用するデータセットに対する要求事項（例えば、free of errors,complete）の実現は、データサイエンスの観点から現実的ではありません。この事項を要求するのであれば、実現可能であり、適合していることを証明可能な方法を提示する必要があります。
・完全なデータを利用するという条文は不明瞭であり、信頼のおけるデータの利活用を促進することが現実的と考えます。例えば、トレーニング、検証、テストのデータとして、「データ取引所や情報銀行などの信頼された機関から入手したデータを使う」ことを推奨するなどが考えられます。データが信頼できることを示すデータ来歴、同意管理技術
5

Japan Electronics and Information Technology Industries Association(根拠データ管理技術)などを適用すれば、データ処理から機械学習、そして学習結果の活用に至るまでのプロセスをより適正に管理することに寄与でき、データの出所の透明性が確保されます。データの出所に関しても検索できるようにすることも一手段です。
・4 項では地理的特性を考慮することを求める記載がありますが、グローバルに統一したデータで学習することを事実上困難とするものであり、学習させるコストが膨大になることが予想されます。また、固有の特性・要素を評価する行為自体がバイアスを生じさせる危険があります。
・5 項に「特別なカテゴリーの個人データを処理する場合、再利用の技術的制限や、追求する目的に匿名化が重大な影響を与える可能性のある場合は仮名化や暗号化などの最先端のセキュリティおよびプライバシー保護手段の使用を含め、個人の基本的権利および自由に対する適切な保護措置に服するものとする」とあります。しかし、GDPR の第 25 条に記載された Data protection by design and by default 条項や第 32 条 Security ofprocessing 条項に規定された仮名化・暗号化要件との整合性が不透明です。したがって、特に遠隔生体認証や GDPR の仮名化・暗号化要件が適用されうるハイリスク AI の利用においては、GDPR との整合性が適切に示された明確なガイダンスを作成し、早期に提供される必要があると考えます。
Article 11: Technical documentation
・1 項記載の「当該 AI システムがそれらの要件を遵守していることを評価するために必要なすべての情報を所轄機関および認証機関に提供するものとする」について、機密保持の観点から危惧があります。Article70 などに所轄機関、通知機関が機密保持義務を負う旨が記載されていますが、提供情報の在り方については、産業界、AI に関わる専門家を含むマルチステークホルダーによる議論の上、決める必要があると考えます。
Article 12：Record-keeping
・Provider に対して、ログデータの保管と、データに基づく市販後モニタリングの実施を求めていますが、これらの実施は User から Provider への情報提供を法律上義務付けなければ困難です。本来、ログデータであっても個人情報保護や営業秘密保護の観点から必要以上の情報を Provider が受領することは避けるべきと考えます。
Article 13: Transparency and provision of information to users
・「High-risk AI」への要求事項として、透明性の確保とユーザへの情報提供を求めていますが、何をどの程度まで記載する必要があるのかが不明確であり、実現可能で具体的な使用説明事例をガイドライン等で示すことが必要です。
Article 14: Human oversight
・本要件の必要性は理解しますが、人の監視と AI による監視それぞれの長短を踏まえ、要求する人間の関与レベルを慎重に検討する等、企業にとってプラクティカルな監視要件とすることが望ましいと考えます。”AI による制御の環”から人間が外れている(closed-loop)場合、そもそも本項目を満たすことは不可能です。この場合、設計段階において独立した冗長の安全系統等のリスク排除の設計が織り込まれていれば、本要件を除外または緩和すべきです。
例えば、10ms 程度以内の高速処理が必要な機能の場合、人が関与しえない機械的処理のみで実現せざるを得ないため、システム全体としてリスクが十分に低いことが確認され6

Japan Electronics and Information Technology Industries Association

れば、分野によらず規制対象から除外すべきです。また、分野によっては AI の判断が人間の能力を上回る事例もあり、人間による動作確認よりバイアスがない、または精度が高いことが証明される場合は本要件を除外また緩和すべきです。
Article 15: Accuracy, robustness and cybersecurity
・最新の AI システムの状態が分かるのは User である一方、緩和する手段を取ることができるのは AI システムを開発した Provider です。そのため、学習を続ける AI システムに対して、3 項記載の「mitigation measures」を上市後に適切に実施するためには、サプライチェーンの幅広い企業が契約当事者となる契約を締結しないと対応できません。そのための膨大なコスト負担が、Provider・User の市場への参入障壁となることを危惧します。
CHAPTER 3: OBLIGATIONS OF PROVIDERS AND USERS OF HIGH-RISK AI SYSTEMS AND OTHERPARTIES (Articles 16-29)
Article 16-29: AI システムの提供者と利用者との適切な責務分担
・AI システムの提供者と利用者との責務分担に関しては、GDPR 等の既存の法令での責務分担の考え方との整合性も考慮しつつ、提供者等での責務実施を担保するために、データの出所などについても管理できるようにするなど、利用者側での適切な利用と利用者の協力を義務として求めることを明記する修正が必要と考えます。
「AI プロバイダ」と「AI ユーザ」を区別し、前者を厳しく規制することが、かえってトラストなエコシステムの形成を阻害する要因になる懸念があります。AI の適正な利用を確保するためには、プロバイダだけに努力を課すのではなく、エコシステム全体での取り組みが必要であることを明示し、ユーザにおける取組みも促すことが法律の実効性を高めると考えます。
Article 16: Obligations of providers of high-risk AI systems
・一定のリスク精査を果たすことを条件に Provider が、一定の免責を得られるような構造にするべきである。例えば、Provider が納入した製品・サービスに対して、User によって Prohibited AI の例外事由に該当しない使用方法への変更が Provider の関与なしに行われていた際に、Provider に責任を求めるのは不条理です。第 16 条に定められたプロバイダの以下の義務については「ユーザの協力の下に実施する」旨を明確化すべきです。
また、ユーザが使用説明書に違反して使用した場合はプロバイダの責任とならないことを明確化するべきと考えます。
Article 20: 自動生成されたログの保管
・1 項の管理できる範囲で保管する、という記述は不確実性があり、大企業など管理能力の高いプロバイダには、すべてのログの管理を要求する可能性がある。自動生成されたログのうち、保持種別（エラーと警告のみ保持、情報は保持不要、など）や保持期間（エラーはイベント発生から 5 年、警告は 1 年、など）など、保管すべきログの仕様を整合規格などで具体的に規定すべき。
Article 25：
・域外企業参入の公平性確保：適合性評価が域外企業にとって参入障壁とならないよう、認証の仕組みをできるだけ早期に開示し、第 25 条に規定される権限のある代理人制度
7

Japan Electronics and Information Technology Industries Associationのほか、例えば、オンラインで EU 域外より認証を受けられる等、EU 域内企業に比べ、EU 域外企業が AI Act 及び関連法令に係る当局との事前の相談及び公的認証が受けられる仕組みが構築されることが望ましい。
・テンプレートに基づく市販後モニタリングについても、AI プロバイダが利用者からログデータを入手しやすいように規制を追加すべきである。
CHAPTER 4 : NOTIFYING AUTHORITIES AND NOTIFED BODIESCHAPTER 5: STANDARDS, CONFORMITY ASSESSMENT, CERIFICATES,REGISTRATION
Article 43 Conformity assessment・4 項（重大な変更に伴う適合性評価の再実施）AI システムは、ソフトウェアの更新や学習を通し、アジャイルに改善されていくものであり、そのたびに適合性評価を行うことは実施者の過度な負担となり、現実的ではない。第 3 条(23)に定義された「Substantially modified」について基準を明確とし、Provider にとって過度な負担とならないようにする必要がある。
Article 49 CE marking of conformity（2.1 節において、関連コメントを記載済み）
TITLE IV : TRANPARENCY OBLIGATIONS FOR CERTAIN AI SYSTEMS (Article 52)
Article 52: Transparency obligations for certain AI systems
・自然人と相互作用する AI システムの対象、要求事項が不明確であることから、条文の記載を明確にすることが必要と考えます。
・本条文では、画像・音声や映像コンテンツを生成・操作する AI システムに対して、生成・操作されたものであることを示すことを求めています。Deep Fake のように人をだます目的ではない、映画、Music Video、動画コンテンツ（ゲーム・マーケティング素材を含む）において従来より活用されていた CGI（Computer Generated Imagery）も適用対象に含まれるのか、対象に含まれるのであれば、その開示方法を明確に示す必要があります。
TITLE V : MESURES IN SUPPORT OF INNOVATION (Articles. 53-55）
TITLE VI : GOVERNANCE (Articles. 56-59)
Articles 56-58：マルチステークホルダー及び国際協調による AI ガバナンスの確立
・EAIB (the European Artificial Intelligence Board)等での本法案の施行に関する要求事項の詳細検討においては、法的安定性、予見可能性を高め、実効性のある現実的な内容とするべく、産業界、AI に関する専門家を含むマルチステークホルダーの参画が必須です。また、委員会の構成や人員はテクノロジーの発展・進展に応じ継続的に見直すべきと考えます。さらに、日本を含む国際的な協調、連携により、グローバルに共通性の高いガバナンスの枠組みを確立、維持することが重要です。さらに、適合性評価が欧州域外企業への参入障壁とならないよう、公平性を確保すべきと考えます。
・EAIB 等で審議の結果、本規則で定められた要件を満たすような技術、もしくは、技術の適用により要件を考慮する必要がなくなると認められた場合、および、実装時に EU 各
8

Japan Electronics and Information Technology Industries Association

国での導入ルールが統一できるような技術があれば、ガイドラインに推奨技術例として記載することや、製品に CE マーク相当する適合マークを表示すべきと考えます。
・本規制案は、本拠地の所在に関わらず、国家安全保障上またグローバルに事業展開する組織に大きな影響をもたらすことから、導入後も国際的な枠組みによる議論が必要である。欧州 AI 委員会（EAIB)及び AI 専門家グループでの議論や関連の議論においては、透明性のあるマルチステークホルダーアプローチを行うとともに、特に事業者及び民間企業の参画を促すべきである。
TITLE VII : EU DATABASE FOR STAND-ALONE HIGH-RISK AI SYSTEMS (Article 60)
Article 60：EU database for stand-alone high-risk AI systems
・3 項に「EU データベースに含まれる情報は、一般に公開されるものとする」とあります
が、ハイリスク AI の対象の定義を明確化し、ハイリスク AI の 該当例だけでなく、非該当例も含むデータベースや事例集を作成し開示することにより、提供者等によるハイリ
スク AI の該非判断を支援するとともに、該否判断の透明性の更なる向上を確保すべきと考えます。また、プロバイダ等からの該否問合せに対して判断を行う仕組みを設置し、その判断結果を上記の該当例・非該当例のデータベースに随時追加すると本規則の実効性が高まります。
TITLE VIII: POST-MARKET MONITORING, INFORMATION SHARING, MARKETSURVEIILLANCE (Articles. 61-68)
Article 61: POST-MARKET MONITORING
市販後のモニタリングシステムは、対象 AI システムの規模と数を考慮した規制を設計すべきと考えます。
Aritcle64: Access to data and documentation
・市場監視機関によるソースコードへのアクセス要求に関しては、ソースコードが企業にとって競争力の源泉となる重要な資産であるため、当局によるソースコードへのアクセスは行われるべきではありません。調査が必要となる疑義が生じた際には、域内、域外企業に対して公正な基準でまずは企業に対して説明責任を求めるなど、ソースコードの開示に依らない適切な対処法を検討することが必要です。
・一律のソースコード開示義務は、知財流出の懸念からイノベーションのモチベーションを阻害しかねません。第 70 条において意識されている様に、欧州委員会や各 EU 加盟国の当局、指定認証機関のうち真に必要な主体に限る等、市場監視という目的を鑑み、重大な法令違反があるなど、厳に必要な範囲においてのみ、権力の濫用を防止する上でも極めて抑制的に実施するべきです。
・日 EU 間の EPA の第八章 73 条では、日 EU 間におけるソースコードのアクセス要求が明確に禁止されています。その条項が優先されるとの認識ですが、本項との整合性を求めます。
TLTLE IX : CODS OF CONDUCT （Article 69）
TITLE X: CONFIDENTIALITY AND PENALTIES (Articles 70-72)
Article 71：罰則内容の適正化
・罰則の対象が広範、かつ法案に定められた義務のほぼ全てに及び、また罰金額が非常に9

Japan Electronics and Information Technology Industries Association

高額であることが、欧州市場における EU 域内、域外企業、特に新興企業の活動リスクを無用に高める懸念があります。条文では、AI の用途に応じて、罰金の額を決定する際に違反やその結果の性質・重大性・持続期間を考慮すると記載されており、例えば実際に人権を侵害した場合と、人権を侵害しかねない場合、あるいは形式的な違反にとどまり人権侵害の可能性がない場合などで罰金額が異なるものと推測します。EU 域内、域外企
業の適合率をベースに罰金の基準や幅についてより詳細な情報を提示し、事業者の適切なリスクマネジメント判断に資するべきと考えます。
・意図的ではない違反や事故には、71 条に規定されているような過度な罰則を直ちに適用せず、欧州委員会が主導して調査委員会を設置し、原因究明と調査結果公表による再発防止に努め、信頼できる AI のイノベーションを官民で促進すべきと考えます。
・エビデンスとなる公式資料の保管期間は、訴訟期間が長引くことを考慮し、事業者の適切なリスクマネジメント判断に資するべく、ログなどの保管期間よりも十分長期とするべきと考えます。
TITLE XI : DELEGATION POF POWER AND PROCEDURE （Articles. 73-74）
Article 73
・欧州委員会が AnnexIII のリストを更新するための委任法令を検討するにあたり、第 7条 2 項(h)に既存の EU 法令が規定する範囲を考慮する旨の記載がありますが、法的安定性、予見可能性を高め、実効性のある現実的な内容とするべく、追加される分野や AIシステムに関連する産業界を含むマルチステークホルダーの参画が必須です。また、日本を含む国際的な協調、連携により、グローバルに共通性の高いガバナンスの枠組みを確立、維持することが重要です。
TITLE XII : FINAL PROVISIONS （Articles. 75-85）
Article 84
・規則適用後の評価・見直しにおいては、法的安定性、予見可能性を高め、実効性のある現実的な内容とするべく、産業界、AI に関する専門家を含むマルチステークホルダーの参画が必須です。また、日本を含む国際的な協調、連携により、グローバルに共通性の高いガバナンスの枠組みを確立、維持することが重要です。
以上

10