新たなAI規制の制度設計-

日本版AIシステム適合性評価制度の創設に向けた提案

慶應義塾⼤学 総合政策学部 教授
新保 史⽣

-

新AI規制試案の構成①AIシステムの研究開発から利用、販売及びサービスの提供にあたって必要な「ルール（規制）」を定めること②その遵守について自主的な取り組みを尊重③販売やサービス提供において「事実上の強制規格」として機能する「ルール（整合規格・技術標準・要求事項）」を導入④それを計画、実施、評価及び改善するためのマネジメントシステム規格を制定⑤これらの仕組みを規律するための根拠を法定⑥「AI規正委員会（仮称）」を設置⑦「日本版AIシステム適合性評価制度」を中核とするAI規制構想
2

AI規制構想の目的
専ら自主的な規律に期待するソフトローの検討を試行錯誤し続ける施策からの転換
反対意見が根強い規制（実質的な禁止事項の法定等）の導入に伴うハードローへの抵抗感の払拭
これまで検討がなされてきた原則・指針やガイドライン等をめぐる議論からは発想を転換した取り組みを模索することが目的
当該目的を達成するため規範の遵守を自主性に委ねハードローによる規制を行わない
法規制回避論からの脱却
国際的な動向を踏まえたAI規制の「最適化(optimisation)」
AIの研究開発・利用における将来的なAI規制政策に資する方策
新たなAI規制の制度設計試案
3

1.

 1.1.

AI規制構想の提案意図

新たなAI規制の必要性

 AI時代に向けて必要なAIの安全・安心な利用のための管理及び規制の方策
今後、世の中で広く用いられ日常生活におけるシステムやサービスを制覇することになるAI

その管理やガバナンス等の規制の主導権を握ること

今後のAI時代におけるAI政策の覇権を獲得

4

EUのAI法案（AI整合規則提案）にみる安全規制と日本の安全規制の比較

日常的に利用されるAIに求められるのは安全と信頼性が確保され安心して使うことができること
EU
EUは域内のAI規制の整合化を図るための整合規則をAI法案を提案

同法に基づいて定められる整合規格に準拠した高リスクAIに製品安全規制同様のCEマークを付す制度の構築を目指している（CEマーキング）

日本
日本にも電気や電子製品の様々な整合規格やJIS規格・ISO規格・IEC規格との整合標
準が存在
企業の法令遵守における取り組みと整合規格の位置づけ

マネジメントシステム規格の導入実績も豊富

輸入から販売に至るまでのEU市場への上市規制を設ける制度の整備を進めている• 品質、環境、労働安全衛生などのISO規格• JIS Q 15001を用いたプライバシーマーク• JIS Q 27001（ISO/IEC 27001）を用いたISMS（情報セキュリティマネジメントシステム）等
5EUがAI法の制定によりAI統治(governance)のための制度として構築を目指している安全規制の枠組み

事実上の強制規格（法律に基づく義務）
Common Mandatory Requirements

日本版のAI整合規格の策定と整合性確認基準及び手続に基づく適合性評価制度当該制度を整備し展開することが可能か検討を試みる
6

1.2.

日本版のAIシステム適合性評価制度の構築を目指す提案（新保ビジョン）

新保ビジョンを実際に達成する上での選択肢(a) EUが目指している整合規格の整備に係る整合標準策定に向けた取り組みに歩調を合わせること• EUの制度との相互運用性を確保する国内規格をわが国おいても導入する方法（ISO規格とJIS規格の関係と考えるとよい）(b)我が国独自の技術基準として日本版のAI整合規格を策定すること• AIシステムの製造・開発、輸入、販売又はサービス提供を行う事業者に当該規格に基づく技術基準適合義務を課すこと• 適合証明の表示を義務づけ（PSEマークを想定）• 適合証明の取得に必要なマネジメントシステム規格を新たに設けること

後者の(b)の選択肢で進めたい• いわゆる「ブリュッセル効果」への闘いを挑むもの• 我が国の政策立案の中心地である霞ヶ関から「カスミガセキ効果（仮称）」を今後AI関連政策分野で発揮できるかどうかは不明• 既に整合規格の根拠となるISO規格の検討も進んでいることから現実は厳しい
7

新保ビジョンの方針
新保ビジョンにより示す提案は我が国におけるAI規制をめぐる議論や検討過程においてこれまで俎上に載ったことがないもの
最初から諦めて(a) EUへの追従を図るのではなく、(b)AI整合規格をわが国独自の基準として制定する施策を目指す①産業標準化法に基づく新たな「AIマネジメントシステム規格（仮称）」を制定②電気用品安全法の改正によりPSEマークをAIシステム適合証明に活用する方法又は日本版AI法の制定によるAI整合規格の根拠となる法整備を実施「日本版のAIシステム適合性評価制度」の構築に向けた提案
8

1.3. 着想の背景
EUがAI法案（AI整合規則提案）においてAI管理のための制度として構築を目指している製品安全規制に基づく法的枠組みである適合性評価制度わが国においても導入が可能ではないかという問題意識に基づくもの
適合性評価制度を新興技術規制において用いる着想は、ムーンショット研究開発プロジェクト目標1研
究開発プロジェクト「アバターを安全かつ信頼して利用できる社会の実現」の提案に依拠するもの

サイバネティック・アバター（CA）を安全かつ信頼して利用できるCA基盤の構築

CA操作者の認証技術

CA公証
CA認証技術遠隔操作者が法律に基づいてCAを公的に使用できることを証明・認証
9新保ビジョンの検討の系譜

自律型ロボットを将来的に社会で受け入れるために共通の認識として必要な原則の策定が必要との着想• 2015年10月11日に開催した「ロボット法学会設立準備研究会」において「ロボット法 新８原則（新保試案）」を公表• あくまで将来的なロボット共生社会に向けて求められる基本となる原則を考案したにすぎない

AIブームとともに原則や指針策定の機運が社会的に高まる• AI原則を単なる非拘束的な原則として活用を求める段階から、基本法の整備による法令事項としての組み込みや法定公表事項としての位置づけに移行することを検討してよいのではないかとの考えを公表• 非拘束的な原則の有効性に疑問を呈しつつも、具体的な規制の在り方について方向性を見出すことができない状況が続いていた• 規制の方向性を明確に表明することができる段階に至ったと考えている
10

2. 日本のAI関係政策の系譜
2.1. AI・ロボット政策の端緒

ロボットの利用をめぐる基本政策• 「ロボット新戦略（Japan‘s Robot Strategy―ビジョン・戦略・アクションプラン）」
2015年2月10日（日本経済再生本部決定）• 本戦略はAIブーム前の戦略であるためAIに関する言及はない• 従来の産業用ロボットにとどまらず、ロボットの概念を広く柔軟に捉えるもの• ロボット革命の実現に向けた戦略の三本柱を提示①世界のロボットイノベーション拠点－ロボット創出力の抜本的強化②世界一のロボット利活用社会③世界をリードするロボット新時代への戦略
11

2. 日本のAI関係政策の系譜

重点的に取り組むべき技術課題としてのAI• 総合科学技術・イノベーション会議「第５期科学技術基本計画」
2016年1月22日閣議決定

基本計画の内容• Society5.0実現には人工知能技術が重要な役割を担うこと• 科学技術イノベーションと社会との関係深化の重要性• そのために倫理的・法制度的・社会的取組を行うべき• 「超スマート社会」の実現に向けた共通基盤技術や人材の強化• AI等の重点的に取り組むべき技術課題等を明確にし、関係府省の連携をはかり戦略的に研究開発を推進することを明示

その後、AI・ロボット関係の様々な施策が立案されることとなった
12

2.2. 日本政府のAI戦略の検討体制

AIに関する政策立案を検討する主な会議(1)イノベーション政策強化推進のための有識者会議「ＡＩ戦略」（ＡＩ戦略実行会議）(2)ＡＩステアリングコミティー(3)新AI戦略検討会議(4)AI戦略会議（イノベーション政策強化推進のための有識者会議）2023年5月11日に発足(5)AI戦略チーム（関係省庁連携）
13

2.3. 法規制回避論の功罪

今後のAI規制のあり方を考えるにあたっては、我が国のAI政策における法規制回避論の功罪を省察すべきである。

法規制回避論の効用• EUや米国をはじめとする諸外国におけるAI規制の取り組みに対し、我が国同様に自主的な取り組みを尊重する米国の取り組みと同調することによるメリット

法規制回避論の弊害• ブリュッセル効果を発揮しつつあるEUの取り組みを傍観することにより、AI規制への乗り遅れが顕著（日本国内において制度の内容は詳細に調査し精査している）• 米国における自主的な取り組みは大統領令や法規制に基づく強制的な取り組みへ移行（米国が規制に舵を切っていることについて日本国内における認識の遅れ）→ 日本だけが法規制によらない自主規制に依拠し続けることの妥当性に疑問を持つべき段階に来ている

日本の法規制回避論の問題は、原則やガイドラインの策定及び公表段階において意識はされてきたものの、政府における取り組みとしては法的拘束力を前面に打ち出すことが難しいがゆえに、結果的にその妥協案としての折衷論によるしかなかったことはやむを得なかったといえよう14

2.4 日本国内におけるAI規制論「肯定論」又は「否定論」の両極と「折衷論」• 規制の必要性を認識• 法規制としてのいわゆるハードローによる規制ではない• 事業者や民間団体等による純粋な自主的な規律でもない• 政府の検討会が定めたガイドライン等による取り組みを推進
する「折衷論」

OECDで「AIに関する理事会勧告」(2019年5月22日）が採択された後は、我が国からの提案も踏まえて国際機関において原則策定にまで至った達成感とAIブームの終息が重なり、次のステップに必要な本来の「規制論」に向けた検討が停滞

15

2.5.

AI規制に向けた研究や検討で後塵を拝しつつある要因

我が国におけるAI規制に関する議論の遅れを指摘する意見が見受けられるようになりつつあるものの、国内における検討や議論は諸外国に先駆けて精緻な取り組みがなされてきたことを再認識すべき

将来的なAIやロボットの研究開発及び利用における規制に向けて、統一的かつイノベーションの促進に資するために必要な共通認識として、「原則」策定の必要性を提唱し、国際的な議論を先行してきたことは明らかにもかかわらず、AIの研究開発だけでなく、AI「規制」に向けた研究や検討においても周回遅れになりつつあるのはなぜか

国内外のガイドラインの紹介、各国の法制度の詳細な調査や国際動向の把握、AIに関する法的諸課題の検討などに関する論考は数多く公表されているにもかかわらず、日本のAI規制の方向性やそのための戦略を具体的に示している論考が見当たらない
16

3. EUのAI規制法体系（将来的な）AI法案（整合規則提案）

AI法的責任指令案

機械規則提案

データ法案

17

4.

EUにおける整合規格策定に向けた取り組み

AI法案の欧州議会採択案第40条（新設規定）• 「欧州標準化規則」10条に基づく標準化要請に関する規定が追加されている• 欧州委員会はAI法案が定める適合性評価制度の実施に必要な整合規格の策定に向けて必要な要求事項の標準化に向けた取り組みに着手している。
• 本要請案はAI法案の制定後に発効するため、標準化要請が具体化するのはAI法制定後

18

4.1.

AI整合規格の標準化要請案（草案）の名称、根拠及び目的

安全で信頼できるAIを支援するための欧州標準化機関への標準化要請案（草案）
根拠：AI整合規則提案（AI法案）• 高リスクAIの適合性評価制度を構築するため、欧州標準化規則第12条に基づいて10分野の整合規格を策定するために必要な標準化要求を決定することが目的• 安全で信頼できる人工知能システムを支援するために、欧州規格又は欧州標準化規格類の策定を要請する意図• 「欧州標準化のための2022年次統合作業計画」に関する欧州委員会通知C(2022) 546の附属文書内の「標準化戦略に関して欧州委員会が設定した標準化緊急課題」と題する表63番
目の項目記載事項に基づくもの

整合規格を策定する実施機関• 欧州標準化委員会（CEN）及び欧州電気標準化委員会（CENELEC）• 欧州の標準化機関の一つである欧州電気通信標準化機構（ETSI）については、セキュリティなど特定の事項に関して既に本文書通知前の段階において作業に着手しているとともに、特定の専門知識を有していることから、作業計画の作成中にCENおよびCENELECがETSIと協議し、これらの事項に関してETSIの貢献を認めるための方法を確認することが適切であるとしている
19

以下の項目は、２０２３年１１月２５日開催の「法とコンピュータ学会」において報告

 4.2.

国際標準化の効果
 4.3. 標準化要請
 4.4. 作業計画
 4.5. 標準化の実施期限
 5.

AI整合規格の要求事項

20

AI整合規格の標準化要請における10項目の要求事項① AIシステムのリスク管理システム (Risk management system for AI systems)② データとデータガバナンス (Data and data governance)③ ログ機能による記録管理 (Record keeping through logging capabilities)④ ユーザへの透明性と情報提供 (Transparency and information to the users)⑤ 人間による監督 (Human oversight)⑥ AIシステムの精度仕様 (Accuracy specifications for AI systems)⑦ AIシステムの堅牢性に関する仕様 (Robustness specifications for AI systems)⑧ AIシステムのサイバーセキュリティ仕様 (Cybersecurity specifications for AIsystems)⑨ 市販後モニタリング・プロセスを含む、AIシステム・プロバイダーのための品質マネジメントシステム (Quality management system for providers ofAI systems, including post-market monitoring process)⑩ AIシステムの適合性評価 (Conformity assessment for AI systems)

21

6. 日本版AIシステム適合性評価制度構築に向けて必要な検討事項
6.1. DFFT（信頼性のある自由なデータ流通）との制度的な整合性の確保• AIシステム適合性評価制度を構築した場合、AIシステムの輸入、販売又はサービス提供を行う事業者に対する直接的な規制となる• 非関税障壁にあたるとの指摘を受ける可能性についても考慮が必要• DFFT（信頼性のある自由なデータ流通）との制度的な整合性の確保が重要

22

6.2.

DFFT及びデータガバナンスとAI規制の両立

G7広島サミット「閣僚宣言：G7 デジタル・技術大臣会合（2023年4月30日）」• DFFT及びデータガバナンス• 「越境データ流通及び信頼性のあるデータの自由な流通の促進」• AI原則や信頼できるAIに関する施策• 「責任あるAIとAI ガバナンスの推進」
両者の項目は分かれている
DFFTの枠組みは、AIシステム適合性評価制度にも適用できる
DFFTを実現するための国際的なトラスト基盤の構築は、「標準化」と「認定・認証」により達成されるもの
適合性評価制度と目標も構成も一致
適合性評価制度におけるデータ・ガバナンスについてはDFFTの枠組みに基づく管理方策を提案することが可能と考えられる

DFFTとAIガバナンスに向けた取り組みは統合されておらず別個の施策として並行している
この併存を解消し一体化させることで、日本の強みであるDFFTの一層の促進を図りつつ、AIガバ
ナンスに向けた取り組みについてDFFTを礎として展開することができる
23

以下の項目は、２０２３年１１月２５日開催の「法とコンピュータ学会」において報告

7. 適合性評価制度の構成要素

7.1. EUのAI法案が定める適合性評価制度の構成要素

7.2. 日本版AIシステム適合性評価制度構築にあたって必要な構成要素• ①適合性評価の実施機関及び②評価手続• ②のマネジメントシステム規格に基づく実施内容の審査、評価及び認証を行う手続• ③「AIの適合性評価制度に特化したマネジメントシステム認証」又は産業標準化法に基づく新たな「AIマネジメントシステム規格（仮称）」の制定を検討する案• ④AIシステム適合性評価制度に基づく認定を受けたことを示すマーク制度又はシールプログラム

8. AI規正委員会（仮称）の設置• 日本版AIシステム適合性評価制度を機能させ、民間部門とともに公的部門によるAI利用についても監督を行うための組織24

本研究はJSTムーンショット型研究開発事業
JPMJMS2215の支援を受けたものです。

25