AI の透明性に関する国際的なルール比較

2024 年 7 月
AI 法研究会 国際交流部会

目次

1. はじめに ..................................................................................................... 1
2. EU .......................................................................................................... 2
2.1 EU における AI 関連施策の概要 ........................................................................... 2
2.1.1 EU 規則・EU 指令（ドラフト段階を含む） ...................................................... 2
2.1.2 条約 ........................................................................................................ 2
2.1.3 通達 ........................................................................................................ 3
2.1.4 報告書・白書 ............................................................................................. 3
2.1.5 ガイドラインその他 .................................................................................... 3
2.1.6 透明性原則に言及している AI 関連施策 ...................................................... 4
2.2 Ethics guidelines for trustworthy AI（信頼できる AI に関する倫理ガイドライン）
における透明性原則の位置づけ............................................................................. 4
2.2.1 信頼できる AI に関する倫理ガイドラインの概要 ............................................ 4
2.2.2 信頼できる AI に関する倫理ガイドラインにおける透明性 ............................... 5
2.3 EU AI 規則における透明性原則への言及............................................................... 8
2.3.1 EU AI 規則の概要 .................................................................................... 8
2.3.2 EU AI 規則における透明性 ....................................................................... 9
2.4 Guidelines on generative Artificial Intelligence and personal data for
EU institutions, bodies, offices and agencies (EUIs)........................... 20
2.4.1 Guidelines on generative Artificial Intelligence and personal
data for EU institutions, bodies, offices and agencies (EUIs)の概
要 .......................................................................................................... 20
2.4.2 Guidelines on generative Artificial Intelligence and personal
data for EU institutions, bodies, offices and agencies (EUIs)における透明性 ............................................................................................. 21

3. 英国 ....................................................................................................... 23
3.1 英国における AI 関連施策の概要 ........................................................................ 23
3.1.1 白書・報告書 ........................................................................................... 23
3.1.2 ガイダンス .............................................................................................. 23
3.1.3 基準 ...................................................................................................... 24
3.1.4 ツール・リソース ...................................................................................... 24
3.2 白書及び報告書における透明性原則の位置づけ .................................................... 24
3.2.1 AI ホワイトペーパー................................................................................. 24
3.2.2 Initial guidance for regulators ....................................................... 25
3.2.3 Emerging processes for frontier AI safety .................................. 26ii

3.3 ガイダンスにおける透明性原則への言及 ............................................................... 27
3.3.1 Introduction to AI assurance ......................................................... 27
3.3.2 Explaining decisions made with AI ................................................ 29
3.4 透明性原則に関する基準 .................................................................................... 30
3.4.1 Algorithmic Transparency Recording Standard .......................... 30
3.5 透明性原則を実践するためのツール・リソース ....................................................... 30
3.5.1 Portfolio of AI Assurance Techniques .......................................... 30
3.5.2 Inspect ............................................................................................... 31
3.6 英国における透明性原則に関する施策の特徴 ....................................................... 31

4. 米国 ....................................................................................................... 33
4.1 米国における AI 関連施策の概要 ........................................................................ 33
4.1.1 ハードロー・大統領令 ............................................................................... 33
4.1.2 ソフトロー............................................................................................... 33
4.1.3 評価プログラム・テストベッド .................................................................... 34
4.2 社会技術的アプローチ ........................................................................................ 34
4.2.1 トラストワージな AI システム .................................................................... 35
4.2.2 AI リスクマネジメントを支える技術ガイドライン .......................................... 35
4.2.3 技術的措置 ............................................................................................. 36
4.2.4 評価プロジェクト ..................................................................................... 37
4.3 米国における透明性に関し、他国との比較で考えられる差異の背景や理由 ................ 38

5. 中国 ....................................................................................................... 39
5.1 主な立法動向 .................................................................................................... 39
5.2 各法の位置づけ ................................................................................................. 39
5.2.1 新一代人工智能伦理规范 ......................................................................... 39
5.2.2 生成式人工智能服务管理暂行办法 ............................................................ 39
5.3 各法の規定内容 ................................................................................................. 40
5.3.1 新一代人工智能伦理规范 ......................................................................... 40
5.3.2 生成式人工智能服务管理暂行办法 ............................................................ 42
5.3.3 生成式人工智能服务安全基本要求 ............................................................ 43
5.4 网络安全技术 生成式人工智能服务安全基本要求(征求意见稿)(2024) ................. 47
5.4.1 「编制说明」による補足事項 ...................................................................... 47
5.4.2 2 月 29 日公布「基本要件」との差分 ......................................................... 48
5.5 まとめと展望..................................................................................................... 48
5.6 参考資料 .......................................................................................................... 48

6. シンガポール ............................................................................................ 54iii

6.1 シンガポールにおける AI 関連施策の概要 ............................................................ 54
6.1.1 ハードロー .............................................................................................. 54
6.1.2 準ハードロー........................................................................................... 54
6.1.3 ソフトロー............................................................................................... 54
6.2 モ デ ル AI ガ バ ナ ン ス フ レ ー ム ワ ー ク (The Model Artificial Intelligence
Governance Framework) ............................................................................ 55
6.2.1 Annex A .............................................................................................. 55
6.2.2 定義づけ ................................................................................................ 55
6.2.3 説明可能性との関連付け.......................................................................... 56
6.2.4 情報開示や説明の必要性 ......................................................................... 56
6.3 組織のための実装及び自己評価ガイド（ISAGO） ................................................... 57
6.4 Principles

toPromoteFairness,

Ethics,Accountability

andTransparency (FEAT) in the Use of Artificial Intelligence and Data
Analytics in Singapore’s Financial Sector .............................................. 57
6.5 Model AI Governance Framework for Generative AI ............................ 59
6.5.1 概要 ...................................................................................................... 59
6.5.2 透明性への言及 ...................................................................................... 60
6.6 Advisory Guidelines on use of Personal Data in AI Recommendation
and Decision Systems ................................................................................ 61
6.6.1 目的 ...................................................................................................... 62
6.6.2 個人データ使用に関するガイドラインの適用範囲 ......................................... 62
6.6.3 AI システムの開発・利用時における透明性確保........................................... 63

7. まとめ ..................................................................................................... 64iv

1. はじめにAI 法研究会国際交流部会では、AI のリスクに関する様々な国のルールを比較し、各国のルールの特徴やその背景にある各国の社会的・経済的・文化的状況等の分析を行っている。本レポートはその結果のうち、特に透明性の点に関してのみ取り扱うものである。
なお、本レポートにおいては透明性とは、情報の提供度合いを意味するものとし、①誰に対する情報提供か、②どのような情報の提供か、及び③どのような必要性に基づく情報提供かは問わない。ただし、各国のガイドラインの紹介の場面では、当該ガイドラインの透明性の定義に従うことがある。
まず、各国の主要なガイドライン等から透明性に関する部分を解説し、その意味等を検討する。最後に、AI の透明を求めるにあたり考慮すべき事項や今後のルールメイキングにおける透明性の在り方を考えていく。
近年、多くの国において AI に関するルールが定められている。EU のように強制力のあるハードロー
によるルールのこともあれば、強制力のないソフトローによる場合もある。ここではどちらもルールとして扱う。
各国のルールは、各国の文化、社会規範、AI の利活用に関する状況、産業の状況等の様々な要因により、内容がそれぞれ異なっている。透明性やバイアスに対処する必要があるというような価値ベースでは各国で大差はみられないが、具体的に透明性としてどのような情報を開示する必要があるのかといった、より詳細を検討すると差異が存在するのである。
我々は、このような差異の存在とその差異が生じている理由・背景の検討を行っている。その検討は対象とする国、対象とする AI 原則の点において不十分であるが、一定の価値があり、動きの速い世界であることもあり、中間レポートという形で公表する。

1

2. EU
2.1 EU における AI 関連施策の概要
EU（欧州連合）は、早期から AI ガバナンスの必要性を主張しており、まず、2018 年・2019 年に、EU Commission（「欧州委員会」という）から EU Parliament（「欧州議会」という）・EU Council（「EU 理事会」という）等に、ガイドライン導入の必要性を通達していた。これを踏まえて、欧州委員会内の組織である High-Level Expert Group on AI は、2019 年に Ethics guidelines fortrustworthy AI（信頼できる AI に関する倫理ガイドライン）を公表した。ここでは透明性原則について
詳細な記述がなされている。その後、2020 年に報告書・白書が公表されるのと併行して、EU AI 規則のファーストドラフトの準備作業が進められてきた。
透明性に関する法規制を正面から定めた EU AI 規則のファーストドラフトが公表されたのは 2021
年４月のことである。同規則は幾度に渡る改定の後、2024 年３月の欧州議会による採択、2024 年 5
月の EU 理事会による採択を経て、2024 年７月(見込み)の官報掲載をもって、公布される予定である。
EU AI 規則の立法と併行して、Product Liability Directive（PLD）（製造物責任指令）の改正、
Artificial Intelligence Liability Directive（AILD）（AI 責任指令）の立法が進められてきた。
2024 年には、Living guidelines on the responsible use of generative AI in research
や Guidelines on generative Artificial Intelligence and personal data for EU
institutions, bodies, offices and agencies (EUIs)が公表された。これらのガイドラインも、透明性に言及している。

2.1.1 EU 規則・EU 指令（ドラフト段階を含む）•

EU Artificial Intelligence Act（EU AI 規則） [European Parliament（欧州議会）、EU
Council（Council of European Union（EU 理事会）、2024 採択]1•

Product Liability Directive（PLD）（製造物責任指令）改正案 [European Parliament（欧州議会）、2024 採択]2•

Proposal for an Artificial Intelligence Liability Directive（AILD）（AI 責任指令案）（COM(2022) 496）（AI 責任指令案） [EU Commission（欧州委員会）、2022]3•（参考）General Data Protection Regulation（GDPR）（一般データ保護規則）

2.1.2 条約

1

https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-aiact-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/
2

https://www.europarl.europa.eu/news/en/press-room/20240308IPR18990/defective-productsrevamped-rules-to-better-protect-consumers-from-damages
3

https://commission.europa.eu/business-economy-euro/doing-business-eu/contract-rules/digitalcontracts/liability-rules-artificial-intelligence_en2•Framework Convention on Artificial Intelligence and Human Rights AI（欧州AI 人権枠組み条約） [Council of Europe（欧州評議会）、2024 採択]4

2.1.3 通達•

Communication from the Commission to the European Parliament, the Council,
the European Economic and Social Committee and the Committee of theRegions - Artificial Intelligence for Europe（COM(2018) 237）[EU Commission（欧州委員会）、2018]5•

Communication from the Commission to the European Parliament, the Council,
the European Economic and Social Committee and the Committee of theRegions - Building Trust in Human-Centric Artificial Intelligence（COM(2019)168）[EU Commission（欧州委員会）、2019]6

2.1.4 報告書・白書•White Paper on Artificial Intelligence: a European approach to excellence
and trust（COM(2020) 65） [EU Commission（欧州委員会）、2020]7•

Report from the Commission to the European Parliament, the Council andthe European Economic and Social Committee on the safety and liability
implications of Artificial Intelligence, the Internet of Things and robotics[EU Commission（欧州委員会）、2020]8

2.1.5 ガイドラインその他•

Ethics guidelines for trustworthy AI（信頼できる AI に関する倫理ガイドライン）[High-Level Expert Group on AI、2019]9•

Framework of ethical aspects of artificial intelligence, robotics and related
technologies [EU Parliament（欧州議会）、2020]10•

Living guidelines on the responsible use of generative AI in research [EU4https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificialintelligence5

https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN

6

https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centricartificial-intelligence
7

https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approachexcellence-and-trust_en8

https://commission.europa.eu/publications/commission-report-safety-and-liability-implications-aiinternet-things-and-robotics-0_en9

https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

10https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2020)654179
3

Commission（欧州委員会）及び European Research Area Forum（欧州研究領域
フォーラム）、2024]11•

Guidelines on generative Artificial Intelligence and personal data for EU
institutions, bodies, offices and agencies (EUIs) [European Data Protection
Supervisor（EDPS）（欧州データ保護監察機関）、2024]122.1.6 透明性原則に言及している AI 関連施策
上記のうち、本稿では、透明性原則に詳しく言及している以下の３点をピックアップし、以下の順番で、それぞれの概要とどのように透明性原則に言及しているのかを紹介する。また、AI ではなくパーソナル
データの保護に焦点をあてる規制であるが、透明性を重視している法規制の一つである一般データ保
護規則（GDPR）との比較を行う。
•

Ethics guidelines for trustworthy AI（信頼できる AI に関する倫理ガイドライン）•

EU Artificial Intelligence Act（EU AI 規則）•

Guidelines on generative Artificial Intelligence and personal data for EU
institutions, bodies, offices and agencies (EUIs)

2.2 Ethics guidelines for trustworthy AI（信頼できる AI に関する倫理ガイドライン）における透明性原則の位置づけ
2.2.1 信頼できる AI に関する倫理ガイドラインの概要
2019 年４月に、欧州委員会内につくられた AI ハイレベル専門家グループ（HLEG）は「信頼できるAI のための倫理ガイドライン」（「倫理ガイドライン」という）を公表し、2020 年７月にはテストのフィードバックに基づき当該ガイドラインのアセスメントリストの改訂版を公表した。これと同時に、EU は2020 年 ２ 月 に White Paper on Artificial Intelligence a European approach toexcellence and trust（COM(2020) 65）（AI 白書：卓越性と信頼に向けた欧州アプローチ）と「欧州データ戦略」を公表し、欧州が「安全に利用できる AI の世界的リーダーを目指す」という目標を明確に掲げるに至った。
倫理ガイドラインは、まず、「信頼できる AI」には、次の３つの要素があり、システムのライフサイクル
全体を通じて満たされなければならない、とする。
①

適用されるすべての法律と規制を遵守し、合法的であること（Lawful AI）。

②

倫理的原則と価値観の遵守を保証し、倫理的であること（Ethical AI）。

③

たとえ善意であっても、AI システムが意図しない危害をもたらす可能性があるため、技術的・社

11https://research-and-innovation.ec.europa.eu/news/all-research-and-innovation-news/guidelinesresponsible-use-generative-ai-research-developed-european-research-area-forum-2024-03-20_en
12

https://www.edps.europa.eu/press-publications/press-news/press-releases/2024/edpsguidelines-generative-ai-embracing-opportunities-protecting-people_en4

会的観点から堅牢であること（Robust AI）。
倫理ガイドラインは、このうち、②と③の要素の育成と確保に関する指針を提供することを目的としている。
「信頼できる AI」を実現するために、①基本的人権、②倫理原則、③信頼できる AI の要件、④信頼できる AI を実現するための技術的・非技術的手段、⑤信頼できる AI のアセスメントリスト、の５つからなるフレームワークを提示している。13
このうち、②倫理原則について、倫理ガイドラインは、「人間の自主性の尊重（ Respect forhuman autonomy）」「危害の防止（Prevention of harm）」「公平性（Fairness）」「説明可能性（Explicability）」の４つの原則から構成されると説明する。
ここでいう説明可能性について、倫理ガイドラインは、「AI システムに対するユーザーの信頼を築き、維持するために極めて重要である。つまり、プロセスを透明化し、AI システムの能力と目的をオープンに伝え、可能な限り、直接的・間接的に影響を受ける人々に説明可能な意思決定を行う必要がある。
そのような情報がなければ、決定に正当に異議を唱えることはできない。」として、その重要性を強調する。
このような考え方は、一般データ保護規則（GDPR）が第 12 条・第 13 条・第 14 条を中心に、第３章において、パーソナルデータのデータ主体（本人）への情報提供義務を厳格に定め、データ主体（本人）による意思決定が十分かつ正確な情報に基づいて行われること、また、自身の情報にアクセスし、異議を唱え、訂正・削除を求める等の権利行使の機会を確保するための前提条件を整えようとしている考え方と同種の哲学に基づくものであるように思われる。GDPR では透明性の定義そのものはない
ものの、EU 加盟国各国のデータ保護当局の協力を促進し、 GDPR の一貫した運用を目指す
European Data Protection Board（EDPB、欧州データ保護会議）が公表する「透明性に関するガイドライン」では、その意義を詳細に説明している。
AI の特徴として指摘されることの多いアルゴリズムのブラックボックス的な性質、すなわち、AI モデ
ルがなぜ特定の出力や決定を生成したのか（どのような入力要因の組み合わせがそれに寄与したのか）について、AI 開発者でも明確に把握できておらず、常に説明できるわけではない、という特徴は、この説明可能性を大きく損ないかねない。そのような状況で、AI の説明可能性を一定程度確保しようとす
れば、トレーサビリティ、監査可能性、システム能力に関する透明性のあるコミュニケーションを導入する等、別方向からの対応が必要となる。これらの対応がどこまで求められるかは、AI の出力が誤りであったり不正確であったりした場合の結果の重大性や個別の状況に大きく依存する。

2.2.2 信頼できる AI に関する倫理ガイドラインにおける透明性
倫理ガイドラインは、信頼できる AI であるためには、７大要件（Key Requirements）を充足する必要がある、として、以下の要件をサブカテゴリとともに列挙する。14

13

小泉雄介「AI の倫理ガイドラインと透明性の原則 上」（日刊工業新聞２０１９年６月２１日付）

14

小泉雄介「AI の倫理ガイドラインと透明性の原則 上」（日刊工業新聞２０１９年６月２１日付）
5

要件

サブカテゴリ

１．人間の主体性と監督①基本的人権、②人間の主体性、③人間による監督

２．技術的な堅牢性と安全性①攻撃からの回復力とセキュリティ、②予備プランと全般的安全性、③
正確性、④確実性と再現性

３．プライバシーとデータガバナ①プライバシーとデータ保護、②データの品質と安全性、③データへの

ンス

アクセス

４．透明性

①トレーサビリティ、②説明可能性、③データへのアクセス

５．多様性、非差別、公平性①不公平なバイアスの回避、②アクセシビリティとユニバーサルデザイ
ン、③ステークホルダーの参加

６．社会及び環境の福祉①持続可能で環境に優しい AI、②社会的影響、③社会と民主主義

７．説明責任（アカウンタビリ①監査可能性、②ネガティブな影響の最小化と報告、③トレードオフ、

ティ）

④救済手段

このうち、トレーサビリティについて、倫理ガイドラインは、「データ収集やデータラベリング、使用されたアルゴリズムなど、AI システムの決定をもたらすデータセットとプロセスは、トレーサビリティと透明性の向上を可能にするため、可能な限り最高の基準で文書化されるべきである」として、文書化することを求め、「これは AI システムによる決定にも適用される」とする。このような対策を講じることによって、AI の判断が誤っていたことが事後判明した場合に、当該判断を導いた可能性があるデータセットとプロセスを調査することによって、その理由を特定することができ、ひいては将来のミスを防ぐことができるようになる。
倫理ガイドラインは、トレーサビリティを確保するための文書化すべき情報として、以下を列挙する。
✓ トレーサビリティを確保できる手段を確立しているか？これには、以下の方法を文書化することが含まれる。
⮚ アルゴリズムシステムの設計と開発に使用される方法
・ ルールベースの AI システム：プログラミングの方法やモデルの構築方法
・ 学習ベースの AI システム：どのような入力データを収集・選択し、どのように学習させたかを含む、アルゴリズムの学習方法⮚ アルゴリズムシステムのテストと検証に使用される方法
・ ルールベースの AI システム：テストと検証のために使用されるシナリオやケース
・ 学習ベースの AI システム：テストと検証に使用したデータに関する情報⮚ アルゴリズムシステムの成果
・ アルゴリズムによって下された決定の結果や、異なるケース（例えば、他のサブグループのユーザー）によりもたらされる可能性のある他の決定
また、説明可能性については、倫理ガイドラインは「AI システムの技術的プロセスと、それに関連する人間の意思決定（システムの応用分野等）の両方を説明できる能力のことである」と改めて説明する。
6

技術的な説明可能性があると言えるためには、AI システムによる意思決定を人間が理解し、追跡できることが必要となる。
問題なのは、往々にして、AI の世界では、システムの説明可能性を向上させようとすると、AI による決定の精度を低下させる可能性がある、あるいは、AI による決定の精度を向上させるために、説明可能性を低下させる可能性がある、というように、説明可能性と AI 決定の精度の間でトレードオフの傾向が見られるという点である。
倫理ガイドラインは、「AI システムが人々の生活に重大な影響を与える場合は常に、AI システムの意思決定プロセスについて適切な説明を求めることが可能でなければならないこと」、「そのような説
明は、タイムリーかつ、関係する利害関係者（一般人、規制当局、研究者等）の専門性に適合したもの
でなければならないこと」、加えて、「AI システムが組織の意思決定プロセスにどの程度影響を及ぼし、形成しているか、システムの設計上の選択、及びそれを展開する根拠についての説明が利用可能であ
るべきであること」を指摘する。これらにより、ビジネスモデルの透明性が確保されることになる。
倫理ガイドラインは、説明可能性を確保するためのチェックポイントとして、以下を列挙する。
✓ 評価したのか？
▪ AI システムが下した決断、ひいてはその結果はどこまで理解できるのか？
▪ システムの決定が、組織の意思決定プロセスにどの程度影響を与えるか？
▪ なぜこの特定のシステムがこの特定の地域に配備されたのか？
▪ そのシステムのビジネスモデルは何か（例えば、どのようにして組織に価値を生み出すのか）？
✓ なぜシステムが特定の選択をした結果、特定の結果に帰結したか、全ユーザーが理解できるよう説明を確保したか？
✓当初から解釈可能性を念頭に置いて AI システムを設計したか？
▪ 問題のアプリケーションに対して可能な限りシンプルで解釈しやすいモデルを研究し、使おうとしたか？
▪ 学習データ及びテストデータを分析できるかどうかを評価したか？時間の経過とともにデータを変更、更新することは可能か？
▪ モデルの学習や開発の後に解釈可能性（interpretability）を検証できるか否か、あるいはモデルの内部ワークフローにアクセスできるか否かを評価したか？

透明性を支えるもう一つの要素として倫理ガイドラインが強調するのがコミュニケーションである。
AI システムと利用者である人間との間のコミュニケーションのあり方について、倫理ガイドラインは、「AI システムは、ユーザーに対して自らを人間であると偽るべきではない。このことは、AI システムがそのようなものであることを識別できなければならないことを意味する。さらに、基本的権利の遵守を確保するために必要な場合には、人間との対話を優先し、この対話を拒否する選択肢を提供すべきである。その上で、AI システムの能力と限界は、AI 実務者やエンドユーザーに対して、そのユースケー
スに適した形で伝達されなければならない。これには、AI システムの正確さのレベルやその限界についてのコミュニケーションが含まれる。」とする。この考え方は、後述する EU AI 規則第 50 条第１項
7

（対話型 AI チャットシステムに関して、ユーザーに対して、AI システムと対話することを明らかにする
よう、設計・開発する義務）他の条項に如実にあらわれている。

倫理ガイドラインは、コミュニケーションが適切になされているかを確認するためのチェックポイント
として以下を列挙する。
✓（エンド）ユーザに対して、免責事項やその他の手段を通じて、他の人間ではなく AI システムとやりとりしていることを伝えたか？AI システムにそのようなラベリングを行っていたか？
✓AI システムの結果の理由や基準を（エンド）ユーザに知らせる仕組みを確立したか？
▪ このことを、意図する聴衆に明確かつ分かりやすく伝えたか？
▪ ユーザーからのフィードバックを考慮し、システムを適応させるためのプロセスを確立したか？
▪ バイアスのような潜在的、あるいは認識されているリスクについてコミュニケーションを図ったか？
▪ ユースケースによって、他のオーディエンス、第三者、又は一般大衆に対するコミュニケーションと透明性を考慮したか？
✓AI システムの目的と、その製品・サービスによって誰が、あるいは何が恩恵を受けるかを明確にしたか？
▪ 製品の使用シナリオを特定し、それを明確に伝えることで、想定される受け取り手にとって理解しやすく適切であることを確認したか？
▪ ユースケースにもよるが、混乱や確証バイアス、認知疲労のリスク等、人間心理や潜在的な限界について考えたか？
✓AI システムの特徴、限界、潜在的な欠点を明確に伝えたか？
▪ システム開発の場合：それを製品やサービスに導入するのは誰か？
▪ システム導入の場合：誰に対するシステム導入か？（エンド）ユーザか消費者か？
これらのチェックポイントの一部は、次に述べる EU AI 規則に反映されている。

2.3 EU AI 規則における透明性原則への言及
2.3.1 EU AI 規則の概要
倫理ガイドライン及び「AI 白書：卓越性と信頼に向けた欧州アプローチ」を踏まえて、EU AI 規則のファーストドラフトが公表されたのは、2021 年４月のことであった。AI を対象として包括的な規制を行
おうとする「AI 規則」は画期的で、世界的に注目を集めた。AI 規則案の公表後、パブリックコンサルテー
ションの手続が実施され、300 を超える意見が EU のみならず世界中の事業者・団体から寄せられた。
寄せられた意見を踏まえ、2021 年 11 月 29 日付で修正案が公開された。同修正案では、当初案の理念は維持しつつも、国家安全保障、研究開発における汎用 AI システムを免除の対象とすること、保険における AI の使用は高リスクにあたることの説明、私的領域におけるソーシャルスコアリングの禁止の拡
8

張等の重要な変更が加えられた。
その後、EU 理事会（Council of the European Union）は、2022 年６月に AI 規則案の進捗報
告書を、2022 年 12 月に AI 法案に関する基本方針（General Approach）を採択した。2023 年５月、欧州議会（EU Parliament）内の域内市場・消費者保護委員会（IMCO）と市民的自由・司法・内務委員会（LIBE）の合同名義で全体的な修正案が提示され、採択された。このバージョンでは定義の明確化、GDPR 等既存法令との調和等が求められた。
翌月 2023 年６月に、さらなる修正が加えられ、欧州議会本会議において、賛成多数で採択され、その 後、 欧 州委 員 会（ European Commission ） ・欧 州 議 会・ EU 理 事 会の三 者 によ る 三 者 協議
（trilogue）が行われ、2023 年 12 月、政治的合意に達し、さらに、数週間にわたり、EU 加盟国間での協議が継続した。2024 年２月２日、交渉の末、加盟国各国の代表は合意に至った。2024 年３月の欧州会議による採択、2024 年５月の EU 理事会による採択を経て、2024 年７月（見込み）の官報掲載をもって、公布される予定である。官報掲載の 24 か月後、ほぼすべての条項が適用（施行）される予定である。このように AI 規則の施行までに時間がかかることを踏まえ、欧州委員会は、これに先行して AI
Pact（AI 開発者に対し、AI 規則の適用開始前に AI 規則の主要な義務を自主的に履行することを約束させる協定）を立ち上げようとしている。

2.3.2 EU AI 規則における透明性
EU AI 規則において、透明性に関連する条文は、第 11 条、第 13 条、第 50 条、第 53 条が指摘されることが多い。上記の GDPR における透明性と EU AI 規則における透明性を比較したのが以下の図表である。15

15

FieldFisher “Comparison of transparency requirements under the EU AI Act and GDPR”をベースに作成。
(https://res.cloudinary.com/fieldfisher/image/upload/v1712848074/PDFs/Comparison_of_transparen
cy_requirements_under_the_EU_AI_Act_and_GDPR_119400306.1_cqoilg.pdf)
9

プ ラ イ バ シ ー 説 明 可 能 性 の 高リスク AI 高リスク AI 特定の AI システム及び一 一般目的 AI モデル – 技術情報そ通知（GDPR） 声明（GDPR）

シ ス テ ム - シ ス テ ム – 般目的 AI モデルに関する の他の情報
使用の説明

必要性

技術情報

通知

個人データがなぜ AI システ シ ス テ ム の シ ス テ ム が AI システムと相互作用し モデルの技術文書。最低限、リストさどのように使ムを導入したの 特 徴 、 機 能 適 用 さ れ る ていること、音声、画像映 れた特定の要素を含まなければなら用されるか、ま か 、 ど の よ う に 及 び 操 作 、 要件に準拠 像、テキスト出力が AI*に ない（AI 事務局及び/又はた設計/訓練され 目 的 、 性 能 していること よって人為的に生成され 各国所轄官庁の要請に応じて提供

個人の権利を た のか 、 バイ ア な ら び に 制 を 説 明 す る たこと、「ディープフェイク」 される）。
説明する。

ス コ ン ト ロ ー ル 限 に 関 す る 文書。

画像、音声、映像が AI*を GPAI モデルを自社の AI システのための措置や 情 報 を 含 む使って人為的に生成又は ムに統合しようとする AI システム

監視体制を説 使 用 説 明

操作されたこと、あるいは のプロバイダーが明する文書。

テキストが公共の利益*に 利用できるようにするための情報と書。

関する情報を公衆に提供 文書。モデルの能力と限界を十分にする目的で人為的に生成 理解でき又は操作されたこと。

るようにし、一定の列挙された要素を含むこと。

実行責任を負 管
う主体

理

者 管

理

者 提供事業者

提供事業者 提供事業者

提供事業者

本人及びステー デプロイヤ

各国所轄官 本人

AI Office／各国所轄官庁

クホルダー

庁

/AI システムの提供事業者（ Controller （Controller））

情報の提供先 本人

Legal

or GDPR

GDPR 第 22 EU AI 規則 EU AI 規

self

第 12 条（透明 条（プロファイリ 第 13 条則

regulatory

性 及 び 手 順 ） ングを含む個人

第 11 条EU AI 規則EU AI 規則第 50 条

第 53 条requiremen 第 13 条～第 に対する自動化t

15 条（情報及 さ れ た 意 思 決
び 個 人 デー タ 定）、 その他のへ の ア ク セ AI 自主規制文ス ）、第 22 条 書（同右）公開・非公開公開

公開

公開

非 公 開 。 た 公開

非公開。ただし、当局と共有されるだし、通知さ可能性がある。

れた機関と
共有される
可能性があ
る。

以下、第 11 条、第 13 条、第 5０条、第 53 条について概要を紹介する。
10

第 11 条・第 13 条
EU AI 規則は、高リスク AI システムの順守すべき要件を第９条から第 15 条に定め、これらを順守することを義務付けている（第８条）。このうち、第 11 条は技術文書に関する条項で、市場への投入・サービス提供に先立ち、技術文書を作成する必要があること、当該技術文書は、当該 AI が EU AI 規
則第３編第２章に定める要件を充足していることを示す、附属書 IV に記載される事項を含まなければならないこと、さらに当該技術文書は適宜アップデートされる必要があることを定めている。そして、当該技術文書は，高リスク AI システムが本章に定める要件に適合していることを実証し，AI システムの要件への適合性を評価するために必要な情報を，明確かつ包括的な形で所轄官庁及び届出機関に提供するような形で作成しなければならないと定めることで、監督当局が、高リスク AI システムのリスクを容易に把握できる環境を確保しようとしている。
次に、第１３条では、高リスク AI システムは、その運用が十分に透明であることを確保するような方法で設計・開発されなければならないと定め、設計・開発段階から透明性の確保を求める。他方、現実問
題として、AI を開発する側と利用する側では、AI についての理解度や知識量、最新情報やリスク情報の把握の程度に一定の格差があるのは否定しがたい事実である。このため、EU AI 規則は、利用者側であるデプロイヤが AI システムの出力を解釈し、適切に利用できるように、当該 AI システムに関するマニュアル（使用説明書）の作成を義務化している。このマニュアルには、利用者にとって適切かつ、アクセス可能で、理解可能な、簡潔、完全、正確かつ明確な情報を含み、所定の項目（提供事業者の身元・連絡先、高リスク AI システムの特性、能力及び性能の限界等）を含む必要があると定められている。
事業者にとっては、AI システムの特性、能力及び性能の限界等項目の詳細についてどこまでつまびらかに公開する必要があるのかは、重要なポイントになるが、以下の条項の抜粋（第 13 条第３項）に詳しい。
第 50 条第 50 条は、特定の AI システムの提供事業者とデプロイヤに対する透明性義務を定める条項である。ここでいう特定の AI システムとは、高リスク AI システムに該当しない、一定のカテゴリの AI システ
ムを指しており、自然人と直接対話することを意図した AI システム、合成音声・画像・映像・テキスト等を生成すＡＩシステム、感情認識システム等を指している。これらの AI システムには一定の透明性義務が課されることになる反面、一定の適用除外事由（刑事犯罪の検出、防止、捜査、訴追のために法律で使用が許可されている場合）や、開示方法の限定（コンテンツが明らかに芸術的な作品の一部を形成している場合、作品の展示や享受を妨げない方法とする）を設けることで、透明性の確保と犯罪捜査上のＡＩ利用の必要性とのバランスを取ろうとしている。
第 53 条
第 53 条は、一般目的 AI モデルの提供事業者の義務として、要請に応じて AI Office 及び各国所轄官庁に提供する目的で、最低限、附属文書Ⅺに定める情報を含む技術文書を用意すること、川下の提供事業者に向けて、付属文書Ⅻに定める情報を含む技術文書を用意することが定められている。付属文書Ⅺ、Ⅻでは、一般目的ＡＩモデルの基本的な説明に加えて、当該ＡＩモデルの要素と、その開発プ
ロセスについての説明を、技術文書に含めるよう、詳細を定めている。ここでいう一般目的ＡＩモデルとは、Ｇｅｎｅｒａｌ Ｐｕｒｐｏｓｅ ＡＩ Ｍｏｄｅｌの訳語であり、大規模に大量の自己教師あり学習データを使用して訓練された場合を含め、モデルが市場に投入される方法に関係なく、重要な汎用性を示し、さまざま
11な下流のシステムやアプリケーションに統合することができる、広範で明確なタスクを適切に実行できる
AI モデルをいう。これには、研究、開発、プロトタイプ活動のために市場にリリースされる前に使用される AI モデルは含まれないとすることで、過度な規制に陥って、研究・開発等の阻害になることを避けようとする趣旨が見てとれる。

以下は、EU AI 規則の前文及び本文において、透明性に言及する箇所の抜粋を抽出したものである。
第 11 条（技術文書）
本文第 11 条第１項「高リスク AI システムの技術文書は、そのシステムが市場に出回る前、あるいは使用開始される前に作成され、常に最新の状態に保たれなければならない。技術文書は，高リスク AI シ
ステムが本項に規定する要件に適合していることを実証し，AI シ ステムがこれらの要件に適合していることを評価するために必要な情報を明確かつ包括的な形 で各国の所轄官庁および届出機関に提供するような方法で作成しなければならない。」
本文第 11 条第２項「附属文書Ⅰのセクション A に列挙された Union harmonisation legislationが適用される製品に関連する高リスク AI システムが市場投入（place on the market）または実用化（put in service）される場合，これらの法令に基づき要求される情報だけでなく，前項に規定されるすべての情報を含む一式の技術文書を作成しなければならない。」

第 13 条（透明性およびデプロイヤへの情報提供）
本文第 13 条第１項「高リスク AI システムは、デプロイヤがシステムの出力を解釈し、適切に利用できるよう、その運用が十分に透明であることを確保するような方法で設計・開発されなければならない。透明性の適切な種類と程度は、第３条に定める提供事業者とデプロイヤの関連する義務の遵守を達成する観点から確保されなければならない。」
本文第 13 条第２項「高リスクの AI システムには、適切なデジタル形式またはその他の方法で、デプロイヤに関連し、アクセス可能で理解可能な、簡潔、完全、正確かつ明確な情報を含む使用説明書を添付しなければならない。」
本文第 13 条第３項「使用説明書には、少なくとも以下の情報が含まれていなければならない。
(a) 提供事業者の身元と連絡先、および該当する場合はその正式な代理人の連絡先(b) ハイリスク AI システムの特徴、能力、性能の限界：(i) 意図された目的(ii) 高リスク AI システムがテストされ、検証され、予想される、第 15 条で言及される測定基準、堅牢性、サイバーセキュリティを含む精度のレベル、および予想される精度、堅牢性、サイバーセキュリティのレベルに影響を及ぼす可能性のある、既知かつ予見可能な状況(iii) ハイリスク AI システムの意図された目的に沿った使用、または合理的に予見可能な誤用の状
況下での使用に関連する、既知または予見可能な状況であって、第９条第２項に言及される健康および安全、または基本的権利に対するリスクにつながる可能性のあるもの(iv) 該当する場合、その出力を説明するのに関連する情報を提供する高リスク AI システムの技術12

的能力と特性(v) 適切な場合には、システムの使用が意図されている特定の個人またはグループに関する性能(vi) 必要に応じて、入力データの仕様、または高リスク AI システムの意図された目的を考慮に入れて、使用される訓練、検証、テストデータセットに関するその他の関連情報(vii) 該当する場合、配備者が高リスク AI システムの出力を解釈し、適切に使用できるようにする
ための情報」「(c) 初回適合性評価の時点で提供者が事前に決定していた高リスク AI システムおよびその性能に対する変更がある場合(d) 配備者による高リスク AI システムの出力の解釈を容易にするために導入された技術的措置を含む、第 14 条で言及された人的監視措置(e) 必要とされる計算資源とハードウェア資源、高リスク AI システムの予想耐用年数、AI システムの適切な機能を確保するために必要なメンテナンスとケアの手段（その頻度を含む）(f) 関連する場合、配備者が第 12 条に従ってログを適切に収集、保管、解釈できるよう、高リスク
AI システムに含まれる仕組みの説明。」

第 50 条（特定の AI システムの提供事業者とデプロイヤに対する透明性義務）
第１項「提供事業者は、自然人と直接対話することを意図した AI システムが、状況および使用の文脈を考慮し、合理的に十分な知識を持ち、観察力があり、思慮深い自然人から見て明らかな場合を除き、当該自然人が AI システムと対話することを知らされるような方法で設計および開発されることを確保しなければならない。この義務は、第三者の権利および自由に対する適切な保護措置の下に、犯罪を検知、防止、捜査または起訴することを法律で認められた AI システムには適用されない。」
第２項「合成音声、画像、映像もしくはテキスト・コンテンツを生成する一般目的 AI システムを含む AI
システムの提供事業者は、AI システムの出力が機械可読形式で表示され、人為的に生成もしくは操作されたものであることが検知可能であることを保証しなければならない。提供事業者は、様々な種類のコンテンツの特殊性および制限、実装のコスト、ならびに関連する技術標準に反映されうる一般的に認められた技術状況を考慮し、技術的に実行可能である限りにおいて、その技術的解決策が効果的であり、相互運用可能であり、堅牢であり、信頼できるものであることを確保しなければならない。この義務
は、AI システムが標準的な編集のための補助機能を実行する場合、またはデプロイヤによって提供された入力データもしくはそのセマンティクスを実質的に変更しない場合、または犯罪の検知、防止、捜査もしくは訴追のために法律により権限を付与されている場合には、適用されないものとする。」
第３項「感情認識システムまたはバイオメトリクス分類システムのデプロイヤは、それに晒される自然
人にシステムの運用を通知し、適用される場合、規則（EU）2016/679 および（EU）2018/1725 ならびに指令（EU）2016/680 に従って個人データを処理しなければならない。この義務は、第三者の権利
および自由に対する適切な保護措置のもとで、かつ、EU 法に従い、犯罪の検知、防止または捜査のために法律により許可される、バイオメトリクス分類および感情認識のために使用される AI システムには適用されないものとする。」
第４項「ディープフェイクを構成する画像、音声もしくは映像コンテンツを生成または操作する AI シス
13

テムのデプロイヤは、当該コンテンツが人為的に生成または操作されたものであることを開示しなければならない。この義務は、犯罪の検出、防止、捜査または訴追のために法律で使用が許可されている場合には適用されない。コンテンツが、明らかに芸術的、創作的、風刺的、フィクション的または類似の作品または番組の一部を構成する場合、本項に定める透明性の義務は、当該作品の表示または享受を妨げな
い適切な方法で、当該生成または操作されたコンテンツの存在を開示することに限定される。
公共の関心事について公衆に知らせる目的で公表されるテキストを生成または操作する AI システムの導入者は、そのテキストが人為的に生成または操作されたものであることを公表しなければならない。
この義務は、犯罪の検出、防止、捜査もしくは訴追のために法律で使用が許可されている場合、またはAI が生成したコンテンツが人によるレビューまたは編集管理のプロセスを経ており、自然人または法人がコンテンツの公表について編集責任を有する場合には適用されない。」
第５項「第 1 項から第 4 項で言及される情報は、遅くとも最初の相互作用または曝露の時点で、明確かつ区別可能な方法で、関係する自然人に提供されなければならない。情報は、適用されるアクセシビ
リティ要件に適合しなければならない。」
第６項「第 1 項から第 4 項は、Chapter III に定める要件および義務に影響を及ぼすものではなく、
また、AI システムのデプロイヤについて連邦法または国内法に定めるその他の透明性確保義務を損なうものではない。」
第７項「AI Office は、人為的に生成または操作されたコンテンツの検出および表示に関する義務の効果的な履行を促進するため、EU レベルでの実施規範の作成を奨励および促進する。（略）」第 53 条（一般目的 AI モデル提供事業者の義務）
第１項「一般目的 AI モデルの提供事業者は、以下のことを行わなければならない(a) この技術文書には，要請に応じて AI Office および各国所轄官庁に提供する目的で、最低限、附属文書 XI に定める情報を含まなければならない。
(b) 一般目的 AI モデルをその AI システムに組み込むことを意図する AI システムの提供事業者に対して、情報および文書を作成し、最新の状態に保ち、利用可能にすること。EU 法および国内法に従い、知的財産権および業務上の機密情報または企業秘密を遵守し保護する必要性を損なうことなく、情報および文書は以下を充足するものでなければならない。
(i) AI システムの提供事業者が、一般目的 AI モデルの能力と限界を十分に理解し、本規則に基づく義務を遵守できるようにする。
(ii) 最低限、附属文書 XII に定められている要素を含んでいる。
(c) 著作権および関連する権利に関する連邦法を遵守するための方針を定め、特に、 EU 指令
2019/790 の第４条第３項に従って表明された権利の留保を特定し、最先端技術を含めて遵守するための方針を定める。
(d) AI Office が提供するテンプレートに従って、一般目的 AI モデルの学習に使用したコンテンツに関する十分に詳細な要約を作成し、一般に公開すること。」

14

附属文書Ⅺ 第 53 条第１項(a)の技術文書-一般目的 AI モデルの提供事業者のための技術文書
Section１ 一般目的 AI モデルのすべての提供事業者が提供すべき情報
第 53 条第１項(a)のテクニカル・ドキュメンテーションには、モデルの規模およびリスク・ファイルに応じて、少なくとも以下の情報を含まなければならない。
１. 一般目的 AI モデルの一般的な説明(a) そのモデルが実行することを意図しているタスクと、そのモデルを統合できる AI システムの種類と性質(b) 適用される、許容される使用ポリシー(c) 発売日と配布方法(d) アーキテクチャとパラメータの数(e) 入力と出力のモダリティ（テキスト、画像等）とフォーマット
(f) ライセンス
２. １.で言及したモデルの要素の詳細な説明と、以下の要素を含む開発プロセスの関連情報：(a) 一般目的 AI モデルを AI システムに統合するために必要な技術的手段（使用方法、インフラ、
ツール等）(b) 学習の方法論と技術、その根拠と仮定を含む主要な設計の選択、モデルが最適化されるように設計されているもの、および該当する場合は異なるパラメータの関連性を含む、モデルと学習プロセスの設計仕様(c) 学習、テスト、検証に使用したデータに関する情報（該当する場合）。これには、データの種類と出所、キュレーション方法（クリーニング、フィルタリング等）、データポイントの数、範囲、主な特徴、データの入手方法と選択方法、データソースの不適性を検出するためのその他のすべての手段、および特定可能なバイアスを検出するための方法（該当する場合）が含まれる。
(d) モデルの学習に使用される計算リソース（浮動小数点演算数等）、学習時間、学習に関連するその他の詳細(e) モデルの既知または推定エネルギー消費量。

（e）に関しては、モデルのエネルギー消費量が未知である場合は、エネルギー消費量は、使用される計算資源に関する情報に基づいてもよい。

Section２ 提供される追加情報
システミック・リスクを持つ一般目的 AI モデルの提供事業者によって提供されるべき追加情報。
１. 利用可能な公的評価プロトコルおよびツール、またはその他の評価方法論に基づく、評価結果を含む評価戦略の詳細な記述。評価戦略には、評価基準、評価指標、限界の特定に関する手法を含めること。
２. 該当する場合、内部および/または外部の敵対的テスト（レッドチーミング等）、アライメントやファイ
15ンチューニングを含むモデルの適合を実施する目的で導入された措置の詳細な説明。
３. 該当する場合、システム・アーキテクチャの詳細な説明。ソフトウェア・コンポーネントが、どのように互いに連携し、全体的な処理に統合されるかを説明する。

附属文書Ⅻ
第 53 条第１項(b)の透明性情報 – 一般目的 AI モデルを提供する提供事業者が、そのモデルを AI
システムに統合する川下の提供事業者に提供するための技術文書
第 53 条第１項(b)の情報には、少なくとも以下の事項を含まなければならない。
１. 一般目的 AI モデルの一般的な説明(a) そのモデルが実行することを意図しているタスクと、そのモデルを統合できる AI システムの種類と性質(b) 適用される、許容される使用ポリシー(c) 発売日と配布方法(d) 該当する場合、モデルがモデル自身の一部ではないハードウェアまたはソフトウェアとどのように相互作用するか、または相互作用するためにどのように使用できるか(e) 該当する場合、一般目的 AI モデルの使用に関連する関連ソフトウェアのバージョン(f) アーキテクチャとパラメータの数(g) 入力と出力のモダリティ（テキスト、画像等）とフォーマット(h) そのモデルのライセンス
２. モデルの要素と、その開発プロセスについての説明(a) 一般目的 AI モデルを AI システムに統合するために必要な技術的手段（使用説明書、インフラ、
ツール等）(b) 入力と出力のモダリティ（テキスト、画像等）とフォーマット、およびそれらの最大サイズ（コンテキストウィンドウの長さ等）(c) 学習、テスト、検証に使用されたデータに関する情報（該当する場合、データの種類、出所、キュレーション方法等）

前文第 26 項「AI システムに対して比例的かつ効果的な拘束力のあるルールを導入するためには、明確に定義されたリスクベースのアプローチに従うべきである。そのアプローチは、AI システムが生み出しうるリスクの強度と範囲に合わせて、ルールの種類と内容を調整するものでなければならない。したがって、特定の容認できない AI 慣行を禁止し、高リスクの AI システムに対する要件と関連事業者の義務を定め、特定の AI システムに対する透明性義務を定めることが必要である。」
前文第 27 項「（略）透明性とは、AI システムが、適切な追跡可能性と説明可能性を可能にする方法
で開発・使用されることを意味し、同時に、AI システムと通信または相互作用することを人間に認識させるとともに、AI システムの能力と限界について導入者に、また、影響を受ける人々に、その権利について
16適切に通知することを意味する。（略）」前文第 53 項「（略）トレーサビリティと透明性を確保するため、上記の条件に基づいて AI システムが高リスクではないと考えるプロバイダーは、当該システムが市場に出回る前または使用開始される前に、評価の文書を作成すべきであり、要請に応じて当該文書を各国の所轄官庁に提供すべきである。このような提供者は、本規則に基づいて設立された EU のデータベースに AI システムを登録する義務を負うべきである。欧州委員会は、本規則の附属書に記載された AI システムが例外的に高リスクでないとされる条件の実際の実施に関するさらなる指針を提供するため、理事会に諮った上で、高リスクとされる AI システムの使用例とそうでない使用例の包括的なリストとともに、その実際の実施に関する指針を提供すべきである。」
前文第 66 項「高リスク AI システムには、リスク管理、使用するデータセットの質と妥当性、技術文書と記録管理、透明性と導入者への情報提供、人的監視、堅牢性、正確性、サイバーセキュリティに関する要件が適用されるべきである。これらの要件は、健康、安全、基本的権利に対するリスクを効果的に軽減するために必要である。よりトレード制限の少ない他の手段が合理的に利用できない以上、これらの要件はトレードに対する不当な制限ではない。」
前文第 67 項「（略）規則（EU）2016/679 のような EU データ保護法への準拠を促進するために、
データガバナンスと管理慣行は、個人データの場合、データ収集の本来の目的に関する透明性を含むべきである。（略）」前文第 72 項「特定の AI システムの不透明性と複雑性に関連する懸念に対処し、導入者が本規則に基づく義務を果たすのを支援するため、リスクの高い AI システムについては、市場投入前またはサービ
ス開始前に透明性を確保することが求められるべきである。リスクの高い AI システムは、導入者が AIシステムの仕組みを理解し、その機能を評価し、長所と限界を理解できるように設計されるべきである。
リスクの高い AI システムには、使用説明書の形で適切な情報を添付すべきである。そのような情報には、AI システムの特性、能力、性能の限界が含まれるべきである。これらの情報には、システムの挙動や性能に影響を及ぼす可能性のある配備者の行動を含む、高リスク AI システムの使用に関連する既知の予見可能な状況、AI システムが健康、安全、基本的権利に対するリスクにつながる可能性のある状
況、配備者によって事前に決定され適合性が評価された変更、配備者による AI システムの出力の解釈を容易にする措置を含む、関連する人的監視措置に関する情報が含まれる。
付属の使用説明書を含む透明性は、システムの使用においてデプロイヤを支援し、デプロイヤによる情報に基づく意思決定を支援すべきである。特に、デプロイヤは、自らに適用される義務に照らして、使用しようとするシステムを正しく選択し、意図される使用方法と除外される使用方法について教育を受け、AI システムを正しく適切に使用することができる、より良い立場に立つべきである。使用説明書に含まれる情報の見やすさおよびアクセシビリティを高めるため，適切な場合には，例えば，AI システムの制
限および意図され，排除される使用に関する例示を含めるべきである。提供者は、使用説明書を含むす
べての文書に、対象となるデプロイヤのニーズと予測可能な知識を考慮した、有意義で包括的、アクセス可能かつ理解可能な情報が含まれていることを保証すべきである。使用説明書は、当該加盟国が定めるとおり、対象となるデプロイヤが容易に理解できる言語で作成されるべきである。」
前文第 72 項「特定の AI システムの不透明性と複雑性に関連する懸念に対処し、導入者が本規則に基づく義務を果たすのを支援するため、リスクの高い AI システムについては、市場投入前またはサービ
17

ス開始前に透明性を確保することが求められるべきである。リスクの高い AI システムは、導入者が AIシステムの仕組みを理解し、その機能を評価し、長所と限界を理解できるように設計されるべきである。
リスクの高い AI システムには、使用説明書の形で適切な情報を添付すべきである。そのような情報には、AI システムの特性、能力、性能の限界が含まれるべきである。これらの情報には、システムの挙動や性能に影響を及ぼす可能性のある配備者の行動を含む、高リスク AI システムの使用に関連する既知の予見可能な状況、AI システムが健康、安全、基本的権利に対するリスクにつながる可能性のある状
況、配備者によって事前に決定され適合性が評価された変更、配備者による AI システムの出力の解釈を容易にする措置を含む、関連する人的監視措置に関する情報が含まれる。
付属の使用説明書を含む透明性は、システムの使用においてデプロイヤを支援し、デプロイヤによる情報に基づく意思決定を支援すべきである。特に、デプロイヤは、自らに適用される義務に照らして、使用しようとするシステムを正しく選択し、意図される使用方法と除外される使用方法について教育を受け、AI システムを正しく適切に使用することができる、より良い立場に立つべきである。使用説明書に含まれる情報の見やすさおよびアクセシビリティを高めるため，適切な場合には，例えば，AI システムの制
限および意図され，排除される使用に関する例示を含めるべきである。提供者は、使用説明書を含むす
べての文書に、対象となるデプロイヤのニーズと予測可能な知識を考慮した、有意義で包括的、アクセス可能かつ理解可能な情報が含まれていることを保証すべきである。使用説明書は、当該加盟国が定めるとおり、対象となるデプロイヤが容易に理解できる言語で作成されるべきである。」
前文第 102 項 「モデルを含むソフトウェアやデータは、オープンに共有できるフリーでオープンソースなライセンスのもとでリリースされ、ユーザーが自由にアクセス、使用、修正、再配布することができる。フリー・オープンソースライセンスの下でリリースされる一般目的 AI モデルは、重み付けを含むパラメー
タ、モデル・アーキテクチャに関する情報、モデルの使用状況に関する情報が一般に公開されている場
合、高い透明性と公開性が確保されているとみなされるべきである。ライセンスは、モデルのオリジナル
提供者のクレジットが記載され、同一または同等の配布条件が尊重されるという条件の下で、ユーザがモデルを含むソフトウェアやデータを実行、コピー、配布、研究、変更、改良することを許可している場合にも、フリーでオープンソースであるとみなされるべきである。」
前文第 104 項 「無償のオープンソースライセンスの下でリリースされ、重み、モデル構造に関する情報、モデルの使用状況に関する情報を含むパラメータが一般公開されている一般目的 AI モデルのプロバイダーは、以下に課される透明性に関する要件に関して例外の対象とすべきである。ただし、そのモデルがシステミック・リスクをもたらすと考えられる場合は別である。
オープンソースライセンスは、本規則に基づく義務の遵守を排除する十分な理由とみなされるべきではない。いずれにせよ、一般目的 AI モデルを無償かつオープンソースのライセンスで公開しても、モデルの学習や微調整に使用されたデータセットや、それによって著作権法の遵守がどのように確保されたかに関する実質的な情報が明らかになるとは限らない、透明性に関する要件の遵守から一般目的 AI モデルに提供される例外は、モデルの訓練に使用されたコンテンツに関する要約を作成する義務や、欧州連合著作権法、特に欧州議会および理事会指令（EU）2019/790 の第４条（３）に基づく権利留保を特定し遵守するための方針を策定する義務に関わるものであってはならない。」
前文第 107 項 「著作権法で保護されるテキストやデータを含め、一般目的 AI モデルの事前学習および学習に使用されるデータの透明性を高めるため、当該モデルの提供者は、一般目的 AI モデルの学習
18

に使用されるコンテンツの十分に詳細な要約を作成し、一般に公開することが適切である。企業秘密やビジネス上の機密情報を保護する必要性を十分に考慮しつつ、この要約は、著作権者を含む正当な利益を有する当事者が、EU 法の下でその権利を行使し、行使することを容易にするために、技術的に詳細ではなく、その範囲において一般的に包括的であるべきである。例えば、大規模な私的または公的
データベースやデータアーカイブ等、モデルの学習に使用された主なデータコレクションまたはセットを列挙し、使用されたその他のデータソースについて説明的な説明を提供する。AI 事務局が要約のテン
プレートを提供することは適切であり、シンプルかつ効果的で、提供者が必要な要約を物語形式（narrative form）で提供できるようにすべきである。前文第 131 項 「AI 分野における欧州委員会
および加盟国の作業を容易にし、国民に対する透明性を高めるため、関連する既存の EU 調和法の適用範囲に含まれる製品に関連するもの以外の高リスクの AI システムの提供事業者、および、本規則の付属文書の高リスクのユースケースに記載されている AI システムが、適用除外に基づき高リスクではないと考える提供事業者は、欧州委員会が設置・管理する EU のデータベースに、自らとその AI システ
ムに関する情報を登録することを義務付けられるべきである。本規則の附属文書にある高リスクのユー
スケースに記載されている AI システムを使用する前に、公的機関である高リスクの AI システムのデプ
ロイヤは、当該データベースに登録し、使用するシステムを選択すべきである。その他のデプロイヤにも、自主的にそうする権利が与えられるべきである。EU データベースのこのセクションは、無料で一般に公開されるべきであり、情報は容易に閲覧可能で、理解しやすく、機械可読であるべきである。（略）」前文第 132 項 「自然人との対話またはコンテンツの生成を意図した特定の AI システムは、それが高リスクに該当するか否かにかかわらず、なりすましや欺瞞の特定のリスクをもたらす可能性がある。したがって、特定の状況においては、これらのシステムの使用は、高リスクの AI システムに対する要件および義務を損なうことなく、特定の透明性確保義務の対象とすべきであり、また、法執行機関の特別な必要性を考慮した的を絞った例外の対象とすべきである。特に、自然人は、状況や使用の文脈を考慮し、合理的に十分な知識を持ち、観察し、慎重である自然人から見て明らかな場合を除き、AI システムと相互作用していることを通知されるべきである。その義務を履行する際には、AI システムがそれらのグループとの相互作用を意図している限りにおいて、年齢や障害のために脆弱なグループに属する自然
人の特性も考慮されるべきである。さらに、自然人は、そのバイオメトリクス・データを処理することによって、その人の感情や意図を特定したり、推測したり、特定のカテゴリーに割り当てたりすることができる AI システムにさらされる場合には、通知されるべきである。そのような特定のカテゴリーは、性別、年
齢、髪の色、目の色、タトゥー、個人的特徴、民族的出身、個人的嗜好、興味等の側面に関連する可能性がある。このような情報や通知は、障害者にとって利用しやすい形式で提供されるべきである。」
前文第 134 項 「AI システムの提供者が採用する技術的解決策に加え、AI システムを使用して、実在する人物、物体、場所、実体もしくは出来事に著しく類似し、真正もしくは真実であるかのように人に見せかける画像、音声もしくは映像コンテンツ（ディープフェイク）を生成または操作するデプロイヤは、AI
出力にその旨を表示し、その人工的な起源を開示することによって、コンテンツが人工的に作成または操作されたものであることを明確かつ区別可能に開示しなければならない。この透明性確保義務を遵守することは、特に、第三者の権利と自由のための適切な保護措置に従うことを条件として、コンテンツが明らかに創作的、風刺的、芸術的、フィクション的もしくは類似の作品またはプログラムの一部である
場合、AI システムまたはその出力の使用が、憲章で保障された表現の自由および芸術と科学の自由の19

権利を阻害することを示すと解釈されるべきではない。このような場合、本規則に定めるディープフェイ
クについての透明性確保義務は、作品の有用性と質を維持しつつ、通常の利用や使用を含め、作品の展示や享受を妨げない適切な方法で、そのような生成もしくは操作されたコンテンツの存在を開示することに限定される。加えて、AI が生成したコンテンツが人為的な審査または編集管理の過程を経ており、自然人または法人がコンテンツの公表について編集責任を有している場合を除き、AI が生成もしくは操作したテキストに関しても、公共の利害に関する事項を公衆に知らせる目的で公表される限りにおいて、同様の開示義務を想定することが適切である。」
前文第 137 項 「本規則が対象とする AI システムに関する透明性確保義務を遵守することは、AI シ
ステムまたはその出力の使用が本規則もしくは他の EU 法および加盟国法の下で合法であることを示すものと解釈されるべきではなく、また、EU 法もしくは国内法に定められた AI システムの配備者に対する他の透明性確保義務を損なうものであってはならない。」

2.4 Guidelines on generative Artificial Intelligence and personal data
for EU institutions, bodies, offices and agencies (EUIs)
2.4.1 Guidelines on generative Artificial Intelligence and personal data
for EU institutions, bodies, offices and agencies (EUIs)の概要
2024 年６月３日、欧州データ保護監察機関（ European Data Protection Supervisor（EDPS））より公表された、EU の機関・団体・事務所・代行機関（institutions, bodies, offices
and agencies）（「EUI」という）のための生成人工知能（生成 AI）とパーソナルデータに関するガイドライン（Guidelines on generative Artificial Intelligence and personal data for EU
institutions, bodies, offices and agencies (EUIs)）（「本ガイドライン」という）は、EUI が生
成 AI を利活用する際に、規則(EU)2018/1725 に定められたデータ保護義務を遵守することを支援すべく、実践的な助言と指示を提供することを目的としている。
規則(EU) 2018/1725 は、規則(EC) No 45/2001 を一般データ保護規則(EU) 2016/679（GDPR）と均等なものとするための改正法としての位置づけをもっており、その内容は GDPR の内容と類似するものである。
本ガイドラインは冒頭で、EDPS は、データ保護当局としての役割において本ガイドラインを公表するものであり、AI 規則に基づく AI 監督当局としての新たな役割において発行するものではないこと、
AI 規則に抵触するものではないことを強調した上で、本ガイドラインの位置づけを以下のように説明する。
本ガイドラインは、データ保護当局による分析の対象となる生成 AI の利活用における個人データの処理に関連するすべての問題を完全に詳細に網羅することを目的とするものではない。あくまで初期的なオリエンテーションであって、より包括的なガイダンスの策定に向けた予備的なステップにとどまる。
本ガイドラインの公表後 12 か月以内に、拡充された更新版が公表されることとされている。
本ガイドラインは Q&A スタイルで構成されており、次の 14 の Q から構成されている。
20

１．生成 AI とは何か？
２．EUI は生成 AI を使えるのか？
３．生成 AI システムの使用がパーソナルデータの処理（プロセス）にかかわるものかどうかを知るには？
４．生成 AI システムの開発・導入プロセスにおける DPO の役割とは？
５．EUI が生成 AI システムを開発・導入しようとしている。DPIA（データ保護影響評価）はいつ実施すべきか？
６．生成 AI システムの設計、開発、検証におけるパーソナルデータの処理（プロセス）は、どのような場合に合法となるのか？
７．生成 AI システムを使用する際、データ最小化の原則はどのように遵守すべきか？
８．生成 AI システムはデータの正確性原則を尊重しているか？
９．EUI が生成 AI システムを使用する場合、パーソナルデータの処理（プロセス）についてどのように個人に知らせるか？
10．GDPR24 条にいう自動化された決定に関する規制について、生成 AI ではどのような対応が求められるか？
11．生成 AI システムを使用する際、どのようにして公平な処理を保証し、偏りを避けることができるのか？
12．個人の権利の行使についてはどうか？
13．データ・セキュリティについてはどうか？
14．主要な情報リソース

このうち、透明性に関連するのは Q９である。

2.4.2 Guidelines on generative Artificial Intelligence and personal data
for EU institutions, bodies, offices and agencies (EUIs)における透明性
Q９の「EUI が生成 AI システムを使用する場合、個人データの処理についてどのように個人に知らせるか？」について、本ガイドラインは「適切な情報と透明性の方針は、特に、EUI が生成 AI システム
において個人データをいつ、どのように、なぜ処理するのかについての詳細な情報を提供することによって、個人に対するリスクを軽減し、規則の要求事項の遵守を確保するのに役立つ。これは、データセットの出所、キュレーション/タグ付けの手順、関連する処理等、開発のさまざまな段階で行われる処理活動に関する包括的な情報（場合によっては開発者又はサプライヤーによって提供されなければならない）を持つことを意味する。特に、EUI は、プロバイダーやサプライヤーが使用するデータセットについて、適切かつ関連性のある情報を入手し、そのような情報が信頼できるもので、定期的に更新されるようにしなければならない。特定のシステム（チャットボット等）は、人間の介入なしに AI システムとやりとりしていることを個人に知らせる等、特定の透明性要件が必要になる場合がある。情報への権利には、プロファイリングや自動化された意思決定が行われた場合、個人に対して、その意思決定の論
理、意味、個人に起こりうる影響について、意味のある情報を提供するという義務も含まれるため、
21

EUI は、使用されるアルゴリズムの機能についてだけでなく、処理データセットについても、常に最新情報を維持することが重要である。この義務は、意思決定手続きが完全に自動化されていない場合でも、自動化された処理に基づく準備行為が含まれる場合には、一般的に適用されるべきである。EUI
は、個人データを処理する生成 AI システムを使用する際に、規則で義務付けられているすべての情報をデータ主体に提供しなければならない。データ主体に提供される情報は、データ主体に適切な情報を提供し、個人データを適切に管理できるようにするために、必要に応じて更新されなければならない。」とする。

22

3. 英国3.1 英国における AI 関連施策の概要
英国政府は、2023 年３月 29 日に公表した A pro-innovation approach to AI regulation（いわゆる「AI ホワイトペーパー」）等において、現時点では AI 技術を対象とする一般的ないし包括的な法規制によって AI を規律するのではなく、AI を利活用する状況に応じたガイドラインや標準規格を活用することによって AI を規律するアプローチを採用することを明らかにしている。これまでに以下を含む各種の文書が公表され、AI の安全性評価のためのツールやリソースも公開されている。

3.1.1 白書・報告書•

A pro-innovation approach to AI regulation (DSIT. 2023 年３月)16•

A

pro-innovation

approachtoAI

regulation_

government

response（Department for Science, Innovation and Technology (DSIT), 2024 年２月）17•

Frontier AI: capabilities and risks – discussion paper （DSIT, 2023 年 10 月）18•

Emerging processes for frontier AI safety （DSIT, 2023 年 10 月）19•

Implementing the UK ’ s AI regulatory principles: initial guidance forregulators (DSIT, 2024 年２月)20

3.1.2 ガイダンス•

Explaining decisions made with AI （Information Commissioner’s office (ICO
及び The Alan Turing Institute, 2022）21•

Guidance on AI and data protection Responsible AI Guidelines （ICO, 2023 年
３月）22

16

https://assets.publishing.service.gov.uk/media/64cb71a547915a00142a91c4/a-pro-innovationapproach-to-ai-regulation-amended-web-ready.pdf
17
https://www.gov.uk/government/consultations/ai-regulation-a-pro-innovation-approach-policyproposals/outcome/a-pro-innovation-approach-to-ai-regulation-government-response18
https://assets.publishing.service.gov.uk/media/65395abae6c968000daa9b25/frontier-aicapabilities-risks-report.pdf
19”Emerging processes for frontier AI safety” （DSIT, 2023 年 10 月）(https://www.gov.uk/government/publications/emerging-processes-for-frontier-ai-safety/emergingprocesses-for-frontier-ai-safety)
20
https://assets.publishing.service.gov.uk/media/65c0b6bd63a23d0013c821a0/implementing_the_uk_
ai_regulatory_principles_guidance_for_regulators.pdf
21
https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificialintelligence/explaining-decisions-made-with-artificial-intelligence/22
https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificialintelligence/guidance-on-ai-and-data-protection/
23

•

Introduction to AI assurance （DSIT, 2024 年２月）23•

Software and artificial intelligence (AI) as a medical device (Medicine &Healthcare products Regulatory Agency, 2024 年６月)24

3.1.3 基準•

Algorithmic Transparency Recording Standard (Central Digital & Data Office,2021 年 11 月)25

3.1.4 ツール・リソース•

Portfolio of AI assurance techniques (Centre for Data Ethics and Innovation,
2023 年６月)26•

Inspect (UK AI Safety Institute, 2024 年５月）27

3.2 白書及び報告書における透明性原則の位置づけ
3.2.1 AI ホワイトペーパー
英国政府は、AI の規制に関する政府の全体的な方針を示すため、2023 年３月 29 日に AI ホワイトペーパーを公表した。その後、公開協議の結果を踏まえ、2024 年２月６日に A pro-innovation
approach to AI regulation; government response（「AI ホワイトペーパー政府回答」）を発表
し、方針や計画を更新・詳細化した。当該政府回答では、既存の規制当局に対して各分野のニーズに合わせて AI リスクに対処する権限を与える意向を示した。また、政府が主要分野の規制当局に対し AI への戦略的アプローチを策定するよう求めたことを受けて、各規制当局は AI ホワイトペーパーを踏まえた対応方針を公表している28。AI ホワイトペーパーは、AI について、適応性及び自律性の 2 つの主要な特性によって特徴づけられるとしている。適応性とは、システムが学習を通じて人間には容易に識別できないパターンを推論し、新しい推論能力を開発する性質を指し、自律性とは、人間の直接的な制御なしに決定を下す能力を指す。これらの特性を持つ AI システム及び AI 技術は、様々な形で製品及びサービスとして具現化される。AI ホワイトペーパーは、このように定義される AI の規制枠組みにおける23

https://assets.publishing.service.gov.uk/media/65ccf508c96cf3000c6a37a1/Introduction_to_AI_Assurance.pdf
24
https://www.gov.uk/government/publications/software-and-artificial-intelligence-ai-as-amedical-device/software-and-artificial-intelligence-ai-as-a-medical-device
25
https://www.gov.uk/government/publications/guidance-for-organisations-using-the-algorithmictransparency-recording-standard/algorithmic-transparency-recording-standard-guidance-for-publicsector-bodies
26
https://www.gov.uk/guidance/portfolio-of-ai-assurance-techniques
27
https://ukgovernmentbeis.github.io/inspect_ai/
282024 年５月１日付「Regulators’ strategic approaches to AI」(https://www.gov.uk/government/publications/regulators-strategic-approaches-to-ai/regulatorsstrategic-approaches-to-ai)
24分野横断的な原則として、以下の５原則を提示している。
(1) 安全性、セキュリティ、堅牢性（Safety, security and robustness）(2) 適切な透明性と説明可能性（Appropriate transparency and explainability）(3) 公平性（Fairness）(4) 説明責任とガバナンス（Accountability and governance）(5) 異議申し立てと救済（Contestability and redress）
とりわけ、(2)の適切な透明性と説明可能性は、AI システムの決定プロセスや影響を理解可能にし、AI の信頼性を高めるものであり、他の４つの原則を適切に実施するために必要な原則であると位置づけられている。
AI ホワイトペーパーによれば、上記の透明性は、「AI システムの利用目的、時期、態様に関する情報
等、AI システムに関する適切な情報の関係者への伝達」29を意味し、説明可能性は、「関係者が AI シ
ステムの意思決定プロセスにアクセスし、解釈し、理解することができる程度や範囲」 30]を意味する。こ

れらは、IEEE 7001（自律システムの透明性に関する標準）における意義を参照したものである。

AI ホワイトペーパーは、透明性と説明可能性の要件を柔軟かつ状況に応じて適用することを提案している。「適切な」透明性と説明可能性の提供が求められるという表現は、これらの要件が絶対的なものではなく、AI システムの特性やリスクに応じて調整されるべきであることを示唆しており、規制当局に対して、その権限の範囲内で AI がもたらすリスクに比例して基本原則を適用することが期待されている。

3.2.2 Initial guidance for regulators
AI ホワイトペーパーで示された上記の規制５原則を実行するため、英国政府は、規制当局向けの初期 的 な ガ イ ダ ン ス で あ る 「 Implementing the UK’s AI regulatory principles: initial
guidance for regulators」を策定した。この初期的ガイダンスでは、適切な透明性と説明可能性の原則に関して、各規制当局に対する具体的な推奨事項が示されている。
まず、規制当局が、AI 開発者や導入者に対して、AI システムの説明可能性に関する適切な措置の実施を奨励することが提案されている。これには、AI 開発者や AI の導入者に対して、エンドユーザーがAI システムとやり取りしている際に通知を行うこと、AI システムの目的や意思決定方法、出力の使用方法をできるだけ簡単に説明すること等が含まれる。
また、AI のライフサイクルに関わる各関係者に対して、各関係者が共有すべき情報を規制当局が明確にすることが推奨されている。さらに、規制当局のガイダンスを明確にするために、AI の透明性と説
明可能性に対処する利用可能な技術標準の役割を検討することが推奨されている。具体的には、IEEE
7001（自律システムの透明性に関する標準）、ISO/IEC TS 6254（情報技術－人工知能－機械学習
モデル及び AI システムの説明可能性と解釈可能性に関する目的とアプローチ） 31 、ISO/IEC CD
12792（AI システムの透明性に関する分類法）等の標準を考慮することが推奨されている。

29[T]he communication of appropriate information about an AI system to relevant people (forexample, information on how, when, and for which purposes an AI system is being used).
30[T]he extent to which it is possible for relevant parties to access, interpret and understand thedecision-making processes of an AI system.
312024 年 7 月現在において策定中のステータスとなっている。
25

3.2.3 Emerging processes for frontier AI safety2023 年 11 月に開催された AI Safety Summit に先立ち英国政府が公表した「Emerging
processes for frontier AI safety」は、「AI 企業が AI 技術、特に、幅広い任務を遂行でき今日の最先端モデルに備わる能力に匹敵又は凌駕する高度な汎用 AI モデル」として定義される「フロンティア
AI」の安全性を確保・維持するための以下の９つの主要なプロセスを概説している。
(1) 責任あるケイパビリティスケーリング： AI システムの能力を拡張する際のリスク管理フレームワー
ク(2) モデル評価とレッドチーミング： AI システムのリスク評価方法(3) モデル報告と情報共有： 政府の AI 開発及び実装の可視性を高め、ユーザーの十分な選択に基づく選択を可能にする方策(4) セキュリティコントロール： サイバーセキュリティ等の AI システムセキュリティ対策(5) 脆弱性の報告構造： 外部者が AI システムの安全性・セキュリティ問題を特定できるプロセス(6) AI 生成コンテンツの識別子： AI による欺瞞的コンテンツの作成・配布を緩和するツール(7) AI がもたらすリスクに関する研究の優先： 新たなリスクを特定・対処するための研究プロセス(8) モデルの悪用の防止とモニタリング： AI システムの意図的な悪用を特定し防止する方策(9) データ入力コントロール及び監査： 危険な能力やリスクを増大させる可能性のあるトレーニング
データを管理する措置
上記のうち、モデル評価とレッドチーミング、モデル報告と情報共有、脆弱性の報告構造、AI 生成コン
テンツの識別子、及びデータ入力コントロールと監査が、透明性の原則に関連していると思われる。

（1） モデル評価とレッドチーミング
フロンティア AI が誤用、制御の喪失、その他の社会的リスクに関連する危害のリスクを増大させる可能性を指摘し、これらのリスクを評価するための方法を紹介している。モデル評価は、AI システムの能力や特性を定量的かつ再現可能な方法で測定し、レッドチーミングは敵対者の視点からシステムの脆弱性を探る手法として説明されている。本文書では、これらの評価手法に関する４つの実践カテゴリーとして、①複数のリスク源に対するモデル評価の実施、②モデルのライフサイクル全体を通じた評価の実行、③独立した外部評価者による評価の許可、及び④モデル評価の科学的進歩の支援が提示されている。

（2） モデル報告と情報共有
フロンティア AI に関する透明性は、AI の利益実現とリスク軽減のために重要であり、組織間のベス
トプラクティス共有、ユーザーの情報に基づく選択、公衆の信頼向上による AI 利活用の促進に寄与する旨が言及されている。本文書では、モデル報告と情報共有に関する３つの実践カテゴリーとして、①モデルに依存しない一般的なリスク評価、緩和、管理プロセスに関する情報の共有、②特定のフロンティア
AI モデルに関するモデル固有の情報の共有、及び③異なる関係者に適切な情報を共有することが提示されている。

（3） 脆弱性の報告構造26

フロンティア AI システム実装後も未特定の安全性やセキュリティの問題（脆弱性）が存在する可能性が指摘されている。これらの脆弱性を特定し対処するため、外部からの報告を可能にする脆弱性管理プ
ロセスの重要性が強調されている。本文書では、脆弱性の報告構造に関する 3 つの実践カテゴリーとして、①脆弱性管理プロセスの確立、②明確で使いやすい公開された報告プロセスの確立、③協調的な脆弱性開示と情報共有のメカニズム開発が提示されている。

（4） AI 生成コンテンツの識別子
AI によって生成されたコンテンツと人間が生成したコンテンツとを区別することが困難な場合があり、公共の安全にリスクをもたらす可能性を指摘している。AI 識別子は AI 生成コンテンツの識別を支援できるが、実践的な実装には技術的な課題があり、現状では十分に信頼できるものではないと説明されている。本文書では、AI が生成した素材の識別子に関する３つの実践カテゴリーとして、①AI 生成コンテンツを識別できる技術の研究、②様々な変動に対して堅牢な AI 生成コンテンツのウォーターマーク技術の探求、及び③AI 出力データベースの活用が提示されている。

（5） モデルの誤用の防止と監視
AI システムの意図的な誤用や悪用が、個人、組織、社会全体に対して深刻なリスクをもたらす可能性を指摘している。特にフロンティア AI の高度な能力が、詐欺、サイバー攻撃、偽情報の拡散等の悪意ある目的に利用される危険性を強調している。本文書では、モデルの誤用の防止と監視に関する４つの実
践カテゴリーとして、①AI システムの潜在的な誤用や悪用のシナリオを特定し、それらに対する防御策を開発すること、②AI システムの使用を監視し、異常や疑わしい活動を検出するシステムを実装すること、③AI システムの適切な使用に関するガイドラインを策定し、ユーザーに提供すること、及び④誤用や悪用が検出された場合の迅速な対応メカニズムを確立することが提示されている。

（6） データ入力制御と監査
AI システムのトレーニングに使用されるデータがシステムの挙動に影響を与え、フロンティア AI が低品質又は望ましくないデータでトレーニングされた場合、リスクが増大し潜在的な危険な能力が強化される可能性を指摘している。データの制御と監査により、システムの能力をより正確に予測し、危険な能力を生む可能性のある入力データを除去することでリスクを軽減できると説明されている。文書では、
データ入力制御と監査に関する４つの実践カテゴリーとして、①トレーニングデータ収集前に責任あるデータ収集実践を実施すること、②AI システムのトレーニングに使用する前に入力データを監査し、危険な能力を生む可能性のあるデータを特定すること、③データ監査結果に応じて適切なリスク軽減措置を講じること、及び④外部関係者による入力データの評価を促進し、データ監査情報を共有することが提示されている。

3.3 ガイダンスにおける透明性原則への言及
3.3.1 Introduction to AI assurance
27

英国政府は、AI の信頼性確保を促進し、企業や組織が安全で信頼できる AI システムを構築すること を支 援す る こと を 目 的と し、 AI の 信 頼 性 確保の 概 念 に初 めて触 れる人 々 を主 な対 象 とする「Introduction to AI assurance」と題するガイダンスを公表している。このガイダンスでは、透明性原則の実践に関して以下に言及している。

（1） AI の信頼性確保メカニズム
ガイダンスでは、リスク評価、影響評価、バイアス監査、コンプライアンス監査、適合性評価及び形式検証等の多様な信頼性確保に関する方策が紹介されている。各方策は、AI システムの異なる側面における透明性の確保を目的としており、例えば、バイアス監査はアルゴリズムの公平性を、コンプライアンス
監査は規制遵守の透明性を担保する役割を果たす。
また、これらのメカニズムを AI のライフサイクル全体で組み合わせて使用することで、包括的な透明性を実現することが推奨されている。
さらに、ISO/IEC 42001（情報技術－人工知能－マネジメントシステム）、ISO/IEC TR 24027（AI システムにおけるバイアス、AI による意思決定支援）、ISO/IEC TS 12791（機械学習における分類回帰タスクにおける望ましくないバイアスの取り扱い)32等の国際的規格に沿った AI の信頼性確保を達成することが推奨されている。

（2） AI の信頼性確保の対象範囲
AI の信頼性確保の対象範囲は訓練データ、AI モデル、AI システム及びより広い運用コンテキストにまで及び、データの収集から最終的なシステムの展開まで、AI の開発と使用の全段階で信頼性の確保が必要であることが言及されている。

（3） データ、モデル、システム、ガバナンスの保証
データ、モデル、システム、ガバナンスの各要素における信頼性の確保方法が詳細に説明されている。
データに関しては、透明で標準化されたデータ収集、処理、共有プロセスの確立が推奨され、これには明
確なデータ戦略とデータ管理の責任分担が含まれる。モデルとシステムについては、その機能や結果の透明性を確保するため、影響評価やパフォーマンステスト等の評価技術の使用が提案されている。ガバ
ナンスに関しては、透明性を核とした組織全体の AI ガバナンスフレームワークの統合が推奨され、これにはリスクの特定、管理、軽減のための明確なプロセスの確立が含まれる。

（4） ガバナンスプロセス
透明性を中心としたガバナンスプロセスの確立が強く推奨されている。これには、標準化された内部
透明性と報告プロセスの確立が含まれ、責任の明確な線引きと、データ管理責任者の指名が重要視されている。また、外部への透明性と報告プロセスも核となるガバナンスプロセスとして挙げられ、ステー
クホルダーへの適切な情報開示が推奨されている。さらに、プロジェクト設計におけるマイルストーン設
定や、懸念事項をエスカレーションするための明確な経路の確立等、具体的な実践方法が提示されて
32

2024 年 7 月現在において策定中のステータスとなっている。
28

いる。

3.3.2 Explaining decisions made with AI
イギリスのデータ保護当局である Information Commissioner’s Office（ICO）は、AI によって提供又は支援されるプロセス、サービス、及び決定を個人に説明するための実用的なアドバイスを組織に提供することを目指し、The Alan Turing Institute と共同で「Explaining decisions madewith AI」を公表している。この文書は、ICO が 2023 年３月 15 日に更新した「Guidance on AI
and Data Protection Responsible AI Guidelines」においても透明性の原則を実践するための重要な文書として参照されている。「Explaining decisions made with AI」では、以下の具体的な推奨事項が記載されている。

（1） 優先すべき説明タイプの選択
組織の領域、特定のユースケース、及び個人への影響を考慮して優先すべき説明タイプを選択することを推奨している。多くの場合、「根拠」と「責任」の説明が優先され、状況に応じて他の説明タイプが重要になることもある。選択した説明タイプとその理由を文書化し、必要に応じて同僚や顧客の意見を求めることが効果的であるとされる。

（2） データの説明可能性を意識した収集と前処理
データの収集と前処理の段階からデータ処理の説明可能性を意識することが強調されている。デー
タの出所、収集方法、前処理の手順等を適切に記録することが求められている。

（3） 解釈可能な AI システムの構築
AI システムを構築する際には、内部動作を理解しやすいモデルを選択し、ユースケースと個人への影
響に適した解釈可能性レベルを確保することが推奨される。また、必要に応じて「ブラックボックス」モデ
ルに補足的な説明技術を活用し、多様な説明タイプに対応できる柔軟なシステムの実現を目指すことが求められる。

（4） AI モデルの統計的結果の理解しやすい記述
AI モデルの統計的結果を、ユーザーや意思決定者にとって理解しやすい形で提示する方法が説明されている。数学的根拠を日常的な言葉で記述し、非技術的な利害関係者でも理解できるようにすることが重要とされる。

（5） AI 技術の使用者への適切なトレーニングの提供
機械学習の基本、AI の限界、自動化された意思決定支援技術についての理解を深めるため、AI を活用する人間の意思決定者に、適切なトレーニングを提供することが強調されている。

29

（6） 説明の構築と適切な提示方法の選択
説明の構築と提示方法を慎重に検討し、ウェブサイト、アプリ、書面、対面等、状況に応じた適切な方法を選択することが推奨されている。文脈的要因を考慮して情報提供の方法やレベルをカスタマイズし、階層的アプローチを用いて最も関連性の高い情報を優先的に提示し、詳細な説明が必要な場合は容易にアクセスできるようにすることが推奨されている。

3.4 透明性原則に関する基準
3.4.1 Algorithmic Transparency Recording Standard
Algorithmic Transparency Recording Standard （ATRS）は、公共部門の組織が使用しているアルゴリズムツールに関する情報や、それらがどのように意思決定を支援しているのかを公開するための基準を設定している。アルゴリズムツールとは、複雑なアルゴリズムを使用して特定の問題をサ
ポート又は解決する製品、アプリケーション、又はデバイスを指し、人工知能（AI）だけでなく統計モデリ
ングや複雑なアルゴリズム一般を意味している。
公共部門のアルゴリズムツールの使用が直接的又は間接的に公的効果を持つ意思決定プロセスに大きな影響を与える場合や、市民と直接的に対話する場合に ATRS を使用することが推奨される。ツー
ルが公的効果を持つかどうかを判断する際には、個人、組織、又はグループに実質的な影響を与えるか、
法的、経済的、又は類似の影響を与えるか、手続き的又は実質的な権利に影響を与えるか、プログラム
への適格性、受給、又は拒否に影響を与えるかを検討する。
公共部門が ATRS を使用する場合、以下の概要説明及び詳細説明を含むアルゴリズム透明性レ
ポートを完成させる必要があり、レポートは GOV.UK リポジトリにアップロードされる。
概要説明では、アルゴリズムツールについての短い非技術的説明を提供し、ツールがどのように機能するか、ツールを決定プロセスにどのように取り入れているのか、ツールを使って解決しようとしている問題とその解決策、ツールを使用することを正当化する理由等の概要を記載すべきである。
詳細説明では、ツールのオーナーと責任者、ツールの詳細な機能とその使用理由、意思決定プロセスにツールがどのように統合されているか及びツールが意思決定プロセスにどのような影響を与えるかの説明、技術仕様とデータ、ツールを利用することの影響評価等を記載すべきである。
AI ホワイトペーパー政府回答によれば、ATRS の使用はすべての中央政府部門で必須とされ、将来的にはより広範な公共部門への拡大が計画されている。

3.5 透明性原則を実践するためのツール・リソース
3.5.1 Portfolio of AI Assurance Techniques
Portfolio of AI Assurance Techniques は、AI システムの設計、開発、実装又は調達に関わる事業者や個人に向けたリソースとして、AI システムの信頼性を評価・検証する技術の活用事例を紹介するガイダンス及びリソースである。
各活用事例では、活用事例の概要、AI ホワイトペーパーで示された５つの原則のうちどの原則に関連30するものであるか、評価・検証のアプローチや手法、活用による利点、技術的制約等の情報が整理されて紹介されている。また、各活用事例は、技術分野、セクター、AI ホワイトペーパーで示された原則等のカテゴリーごとに検索可能である。

3.5.2 Inspect
英国 AI Safety Institute が開発し 2024 年５月 10 日に公開した「Inspect」は、AI モデルの安全性を評価するオープンソースのプラットフォームである。Inspect を利用することにより、AI モデルの基本的な知識、推論能力、自律的な機能等の様々な特性を標準化された方法で評価し、評価結果に基づいてスコアを算出し、モデルの安全性と評価の有効性を明らかにすることが可能である。Inspect は、OpenAI 、 Anthropic 、 Google 、 Mistral 、 Hugging Face 、 Ollama 、 TogetherAI 、 AWS
Bedrock、Azure AI、Cloudflare 等の大規模言語モデル（LLM）や生成 AI を提供する様々な AI
プロバイダに対応しており、異なるプロバイダ間でのモデルの比較が容易である。
Inspect の主要な機能としてスコアリング機能があり、①評価用のサンプルテストシナリオのデータセット、②プロンプトを使用してテストシナリオを実行するソルバー、及び③ソルバーの出力を分析してスコアを生成するスコアラーという３つの主要コンポーネントを使用して AI モデルの安全性を評価する。

（1） データセット
データセットは、評価の基礎となるもので、CSV 等の一般的なフォーマットに対応している。また、
Hugging Face 上のデータセットや、Amazon S３に保存されたデータセットも利用可能である。デー
タセットには、モデルへの入力、期待される出力、及び評価に必要なメタデータが含まれる。

（2） ソルバー
ソルバーは、データセットの各サンプルに対して AI モデルを実行する役割を担う。これには、システム
メッセージの設定、プロンプトの生成、モデルの実行、及び出力の取得が含まれ、単純な生成から複雑な推論チェーンまで対応している。

（3） スコアラー
スコアラーは、モデルの出力が目標とする回答にどれだけ近いかを判断する。テキストマッチングや正規表現を用いた単純な評価から、別の AI モデルを使用して回答の質を判断する高度な評価まで、様々な方法が用意されている。「モデル採点」機能は、オープンクエスチョンに対する回答や、長文中に埋め込まれた事実の評価が可能になる。さらに、Inspect は複数のモデルを使用して採点を行うことができ、多数決によって最終的な評価を決定することも可能である。
Inspect はオープンソースであり、開発者は既存のスコアリング機能をカスタマイズしたり、全く新しい評価方法を追加したりすることが可能である。

3.6 英国における透明性原則に関する施策の特徴

31

AI ホワイトペーパーにより明示されている通り、英国政府は、AI の規制に対して段階的かつ慎重なアプローチを採用している。法的拘束力のある法規制を直ちに導入することはせず、まずは法的拘束力のない原則を実施し、その効果を評価した後に個別の領域ごとに法制化を検討するという方針を打ち出している。この戦略は、イノベーションを阻害することなく、効果的なリスク管理を実現することを目指すものである。
特に、「highly capable general-purpose AI」（幅広い種類のタスクを実行でき、現在の最先端モデルの能力に匹敵又は凌駕するモデル）について、将来的には拘束力のある措置が必要になると認識しつつも、性急な規制導入を控えるという慎重な立場を維持している点が特徴的である。
また、AI ホワイトペーパーをはじめとする政策文書を積極的に策定し、５つの規制原則を中心とする
包括的な規制アプローチを規制当局向けに提示し、各規制当局がこれを踏まえた個別の規制枠組みを提示することで、規制の一貫性と調和が図られている。このような統一的なアプローチにより、AI に関わる事業者や個人が英国の AI 政策を統合的に理解し、適切に対応することを可能にしている。
さらに、英国政府は国際規格や技術標準を積極的に活用し、これらへの準拠を奨励している。この方
針は、国際的なベストプラクティスとの整合性や一貫性を重視することで、グローバルに事業を展開する企業が AI ガバナンスを効率的かつ効果的に構築できるよう支援することを意図している。
加えて、英国政府は具体的かつ実践的なガイダンス、ツール及びリソースを開発し公開することに注力している。これらの取り組みは、国内外の関係者が AI の透明性原則を実践することを実務レベルで支援するものである。
これらのアプローチにより、柔軟かつ実効性のある AI 規制の枠組みを構築していることが英国の AI
政策の特徴であると考えられる。

32

4. 米国
ここでは、米国における AI に関するハードロー、ソフトローの状況を紹介、分析するものである。特に、人と技術を組織のビジネスや機能のコンテキストに位置付ける社会技術的な観点から、AI のトラスト
ワージネスについての具体的な取り組みについて整理する。

4.1 米国における AI 関連施策の概要
米国における AI 関連施策には、ハードロー、ソフトロー、さらに大統領令がある。ソフトローと連動する形で、社会技術的な観点から生成 AI をはじめとする AI 技術の評価・測定を行うプログラムやテスト
ベッドへの取り組みが始まっている。

4.1.1 ハードロー・大統領令
米国においてハードローに分類されるものとしては、2020 年にホワイトハウスから出されている
National Artificial Intelligence Initiative Act of 2020 33 と Artificial Intelligence In
Government Act of 202034がある。またハードローではないが、2023 年には、人工知能(AI)の安
心、安全で信頼できる開発と利用に関する大統領令(Executive Order)35が発行されている。

4.1.2 ソフトロー
政府における AI 関連ガイドライン等のソフトローの策定に関しては、2022 年発行の Blueprint for
an AI Bill of Rights(White House)36、Responsible AI Guideline(DoD)37がある。
NIST は 2023 年に AI RISK MANAGEMENT FRAMEWORK(AI RMF)38を発行したが、その後も Executive Order に従う形で、Companion resources(手引書)の公開やイニシアティブの発足がなされている。生成 AI に対する Companion resource として、生成 AI に関するプロファイル（NIST33

White House 「National Artificial Intelligence Initiative Act of 2020」（2020 年 3 月）（https://www.congress.gov/bill/116th-congress/house-bill/6216）
34White House 「Artificial Intelligence In Government Act of 2020」 （2020 年９月）
（https://www.congress.gov/bill/116th-congress/house-bill/2575）
35

White House 「Executive Order on the Safe, Secure, and Trustworthy Development and Use of
Artificial Intelligence」（2023 年 10 月）（https://www.whitehouse.gov/briefing-room/presidentialactions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-ofartificial-intelligence/）
36

White House 「Blueprint for an AI Bill of Rights 」（2022 年 10 月）（https://www.whitehouse.gov/ostp/news-updates/2022/10/04/blueprint-for-an-ai-bill-of-rightsavision-for-protecting-our-civil-rights-in-the-algorithmic-age/）37

Responsible AI Guidelines [DoD,2022] DoD 「Responsible AI Guidelines」（2023 年５月）
（https://www.diu.mil/responsible-ai-guidelines#overview)
38

NIST「Artificial Intelligence Risk Management Framework (AI RMF 1.0)」（2023 年１月）
（https://tsapps.nist.gov/publication/get_pdf.cfm?pub_id=936225）
33

AI 600-1）39、Secure Software Development Framework の Companion resource として
生成 AI およびデュアルユース基盤モデルのための安全なソフトウェア開発手順（NIST SP 800-218A）
40、Reducing the Risks Posed by Synthetic Content に対するものとして合成コンテンツが及ぼすリスクの軽減(NIST AI 100-4)41、このほか、敵対的機械学習 (NIST AI 100-2e2023)42、AI 標
準に関するグローバルな関与のための計画(NIST AI 100-5)43が発行されている。

4.1.3 評価プログラム・テストベッド
評価のためのプログラムやテストベッドも立ち上がっており、NIST Dioptra 44 、NIST GenAI 45 、
NIST ARIA(Assessing Risks and Impacts of AI)46が進められている。

4.2 社会技術的アプローチ
社会技術(Socio-technical)は AI RMF に出てくるキーワードである。NIST SP 127047によれば、「より広い社会的文脈の中で、人間がテクノロジーとどのように相互作用するかを説明するために使用される用語」、「透明性、データセット、テスト、評価、検証、妥当性確認（TEVV）の重要性はいくら強調してもしすぎることはない。参加型設計技術やマルチステークホルダー・アプローチ、そして人間がループに参加することも、AI のバイアスに関連するリスクを軽減するために重要である。しかし…それぞれに落とし穴が39

生成 AI に関するプロファイル（NIST AI 600-1） [NIST,2024]
NIST 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」（2024 年 4 月）
（https://airc.nist.gov/docs/NIST.AI.600-1.GenAI-Profile.ipd.pdf）40

生成 AI およびデュアルユース基盤モデルのための安全なソフトウエア開発手順（NIST SP 800-218A） [NIST,2024]
NIST 「Secure Software Development Practices for Generative AI and Dual-Use Foundation Models」（2024 年 4 月）
（https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-218A.ipd.pdf）
41

合成コンテンツが及ぼすリスクの軽減(NIST AI 100-4) [NIST,2024]
NIST 「Reducing Risks Posed by Synthetic Content」（2024 年 4 月）
（https://airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf）
42

敵対的機械学習 (NIST AI 100-2e2023) [NIST, 2024]
NIST 「Adversarial Machine Learning A Taxonomy and Terminology of Attacks and Mitigations」（2024 年 1 月）
（https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf）
43

AI 標準に関するグローバルな関与のための計画(NIST AI 100-5) [NIST,2024] ★Draft
NIST 「A Plan for Global Engagement on AI Standards」（2024 年 4 月）
（https://airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf）
44

NIST 「Dioptra」 （2023 年 4 月）

（https://pages.nist.gov/dioptra/）45

NIST 「Evaluating Generative AI Technologies：GenAI」（2024 年４月）

（https://ai-challenges.nist.gov/genai）
46

NIST 「Assessing Risks and Impacts of AI：ARIA」（2024 年４月）

（https://ai-challenges.nist.gov/aria https://ai-challenges.nist.gov/aria/library）
47

NIST Special Publication 1270, Towards a Standard for Identifying and Managing Bias in Artificial
Intelligence(https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf)
34

ある。現在の救済策に欠けているのは、これらの実践を社会的価値と結びつける、より広範な社会技術的観点からの指針である。」としている。

4.2.1 トラストワージな AI システム
AI RMF では、AI システムに関連するリスクをより適切にマネジメントするための AI リスクマネジメ
ントフレームワークを提供している。このフレームワークでは、ガバナンス、マッピング、測定、マネージの４つの主要な機能を中心に構成されている。さらに、トラストワージな AI システムについて、7 つの特性にまとめ社会技術との関係にも触れている。
①安全性、②セキュリティ・レジリエンス、③説明可能性・解釈可能性、④プライバシー強化、⑤公平
性・有害なバイアスのマネジメント、⑥アカウンタビリティ・透明性、⑦妥当性・信頼性
これら 7 つのすべての特性は、社会技術的なシステム属性であって、利害関係者にとって価値のある
このような多様な基準に対応する必要があり、これらをおろそかにすると、否定的な結果が生じる確率が高まる可能性がある。
このため、科学的裏付けのあるテスト(T)、評価(E)、検証(V)、妥当性確認(V)(TEVV)を、AI のライフサイクル全体を通じて定期的に実行することにより、技術的、社会的、法的、倫理的な基準や規範に関して洞察を行う。このような AI のトラストワージネスを高めるアプローチをとることにより、AI のネガ
ティブなリスクを低減することができる。

4.2.2 AI リスクマネジメントを支える技術ガイドライン
上記の通り、NIST の AI RMF をベースとして、それを支える技術ガイドラインが発行されている。これらはトラストワージな AI システムの７つの特性との関係で整理すると、図のようになると考えられる。
「生成 AI に関するプロファイル（NIST AI 600-1）」は、AI RMF をベースにして、生成 AI 特有のリスクに対するアクションをまとめている。この中には、AI のトラストワージネスの７つの特徴に対する技術策に資するアクションも示されている。
「敵対的機械学習(NIST AI 100-2e2023)」は、生成 AI を含む AI への攻撃と防御に関しての分類と用語をまとめたものである。AI の攻撃と防御を評価するテストベッドとしては「Dioptra」がある。
「生成 AI およびデュアルユース基盤モデルのための安全なソフトウェア開発手順（NIST SP 800218A）」は、７つの特性のうち「②セキュリティ・レジリエンス」に資するものであり、生成 AI ソフト開発にあたり開発者の注意事項のようなプラクティスについてまとめられている。これは、2022 年発行のセキ ュ ア な ソ フ ト ウ ェ ア 開 発 の た め の プ ラ ク テ ィ ス に つ い て ま と め た 「 SSDF(Secure Softwaredevelopment Framework)」をベースにして、生成 AI の観点から書かれたものである。また、「 OWASP(Open Worldwide Application Security Project) Top 10 for LLM
Applications」は、LLM システムを開発するにあたり、セキュリティ的な脆弱性となりえる 10 個のポイントを整理している。
「合成コンテンツが及ぼすリスクの軽減(NIST AI 100-4)」は、７つの特性のうち「⑥アカウンタビリ
ティ・透明性」に資するものであり、GAI の透明性確保のための技術開発への指針を示している。ここでは、デジタルコンテンツの透明性の確保のために、デジタル透かしや合成コンテンツ検出による来歴デー
タ追跡の手段をとる。コンテンツが生成 AI によるものか識別・評価するプロジェクトとして GenAI があ35

る。
「ARIA」は、AI の社会的リスクと影響を評価するプロジェクトである。ARIA は Executive Orderに従う形で発足されている。

4.2.3 技術的措置
技術ガイドラインでは、トラストワージな AI の７つの特性を高めることに資する、具体的な技術措置について述べられている箇所がある。

（1） NIST AI 100-1(RMF)
この文書に記載の MEASURE ２では、「AI システムは、トラストワージ特性について評価される」としており、トラストワージな AI の７つの特性それぞれの調査や評価、文書化の実施に関して規程がなされている。
特に、MEASURE 2.3 では、「性能または保証基準が定性的または定量的に測定され、…実証されて いる 」 と し て お り 、 「 ⑥ ア カ ウ ン タ ビリ テ ィ ・ 透 明 性 」 の ア ク シ ョン の あ り 方 が 記 載 さ れて いる 。
MEASURE 4.2 では、「トラストワージネスに関する測定結果が…システムが意図されたとおりに一貫して機能しているかどうかが検証…」のように、「⑦妥当性・信頼性」に関して、また、MEASURE 2.6 では、「知識の限界を超えて動作させた場合に安全側に故障する」のように、「①安全性」に関する観点を示している。

（2） NIST AI 600-1
この文書では、トラストワージな AI の７つの特性それぞれに対する生成 AI における具体的なアクションが示されている。例えば、「②セキュリティ・レジリエンス」に関しては、「MS-2.6-003：…A/B テスト、AI レッドチーム、フォー
カスグループ、またはヒューマンテストベッド測定を実施…」、「MS-4.2-001：コンテンツの出所を欺いたり操作したりすることを意図した入力に対する GAI システムの応答を評価し、潜在的な誤用シナリ
オと意図しない出力を理解するために、敵対的テストを実施する」。
36

「③説明可能性・解釈可能性」では、「MS-2.8-010： 解釈可能な機械学習技術を使用して、AI のプ
ロセスと結果をより透明化し、意思決定がどのように行われたかを理解しやすくする。」、「MS-2.9001 以下のような ML の説明結果を適用し、文書化する：エンベッディングの分析、反実仮想プロンプ
ト、勾配ベースのアトリビューション、モデル圧縮/代理モデル、オクルージョン/項削減。」、「MS-2.9003 以下を含む GAI モデルの詳細を文書化する：提案された用途と組織的価値、仮定と限界、データ収集方法、データの出所、データの質、モデルアーキテクチャー（畳み込みニューラルネットワーク、トラン
スフォーマー等）、最適化の目的、トレーニングアルゴリズム、RLHF アプローチ、ファインチューン・アプ
ローチ、評価データ、倫理的考慮事項、法的および規制要件。」。
「⑤公平性・有害なバイアスのマネジメント」では、「MS-2.11-001 ユースケースに適したベンチマー
ク（例：Bias Benchmark Questions、Real Toxicity Prompts、Winogender）を適用し、GAIシステムの出力における体系的な偏見、ステレオタイプ、中傷、有害性を定量化する。」。

（3） OWASP Top 10 for LLM Applications
この文書では、トラストワージな AI の７つの特性のうち、「②セキュリティ・レジリエンス」にあたる記述がなされている。本文書では、LLM アプリケーションにおける潜在的な脆弱性及び対策についてまとめられている。LLM アプリケーションは、LLM 製品サービス、訓練データセット＆処理、アプリサービス、
プラグインから構成される。LLM 製品サービスには、LLM オートメーション(Agents)と LLM(モデル)が含まれており、訓練データセット＆処理には、ファインチューンデータ、学習データが含まれている。これらの処理の間には 10 個の脆弱性が存在し、対策が示されている。

（4） SP 800-218A
SP 800-218A は、SP 800-218 SSDF (Secure Software Developing Framework)で示されているセキュアソフトウェア開発の実践とタスクをベースに、AI モデル開発に特有の実践、タスク等をまとめたもの。

（5） NIST AI 100-4
これは、デジタルコンテンツ、特に合成コンテンツに関するリスクを低減するための透明性担保のため、デジタル透かしをベースにして来歴の透明性を図り、合成コンテンツかどうかの判断・検出をするアプ
ローチについてまとめている。

4.2.4 評価プロジェクト性能等を定性的又は定量的に測定するパイロットプロジェクトも立ち上がり、活動が開始されている。

（1） ARIA Project
ARIA(Assessing Risks and Impacts of AI)は、NIST が AI の社会技術としてのテストと評
価・検証・妥当性確認(TEVV)を推進するプログラム。ARIA は、AI 技術が導入された後、妥当で、信頼性が高く、安全で、プライバシーが守られ、公平性を備えているかどうかを組織や個人が判断できる
37

ようにする情報を提供することを目的としている。ARIA には３段階の評価、1）主張している能力を確認するモデルテスト、２）アプリケーションをストレステストするレッドチーム、３）人々が通常使用する AI にどのように関わるかを調査するフィールドテスト、がある。ARIA は、AI RMF を発展させ、AI リスクと影響を分析・監視するために定量的・定性的技術を使用することを推奨するフレームワークのリスク計
測機能の運用を支援するもの。

（2） GenAI
GenAI は、生成 AI による合成コンテンツと人間によるコンテンツがどのように異なるのか、異なるモダリティ（テキスト、音声、画像、動画、コード）に対するコンテンツの真正性検出技術を評価するプロジェ
クト。生成チームは、人間が生成したコンテンツと区別ができない合成コンテンツを生成するシステムの能力をテストされ、識別チームは、生成 AI モデルによって作成された合成コンテンツを検出するシステ
ムの能力をテストされる。

4.3 米国における透明性に関し、他国との比較で考えられる差異の背景や理由•

法的拘束力のないガイドライン形式を採用：Executive Order を受け、AI RMF をベースにして、技術的なアプローチまで踏み込んでいる。

•

透明性は、説明可能性・公平性と並んで高度の原則として位置付け：これらはトラストワージな AIの７つの特徴の中に含まれている。

38

5. 中国5.1 主な立法動向
中華人民共和国では、2020 年代以降、AI に関する規制が続々と策定されており、特に生成式人工智能服务管理暂行办法[生成 AI サービス管理暫定弁法]（以下、本章では単に「弁法」という。）」は世界初の法的拘束力を有する AI 規制としても有名である。なお、弁法についてはすでに司法の場でも用いられており、その実効性は担保されているといえる。
以下、主な規制を示す。
①2021 年 9 月 26 日公布「新一代人工智能伦理规范[新世代の人工知能倫理規範]」②2023 年 7 月 10 日公布（施行:8 月 15 日）「生成式人工智能服务管理暂行办法[生成 AI サービス管理暫定弁法]」③2024 年 2 月 29 日施行「生成式人工智能服务安全基本要求[生成 AI サービス安全基本要件]」④2024 年 5 月 15 日（未施行）「网络安全技术 生成式人工智能服务安全基本要求（征求意见稿）」[ネットワークセキュリティ技術生成 AI サービス安全基本要件]（パブリックコメント版）

5.2 各法の位置づけ
5.2.1 新一代人工智能伦理规范
2021 年９月 25 日に「新世代人工知能のガバナンスに関する国家専門委員会」は、人工知能のライ
フサイクル全体に倫理を統合し、AI 関連の活動に従事する自然人、法人、その他の関連機関等に倫理的なガイドラインを提供することを目的として公表した。この倫理規範は、プライバシー、偏見、差別、公正性等、現在のコミュニティの倫理的懸念を十分に考慮し、テーマ別の調査、重点的な起草、協議を経て、一般規定、特定の活動に関する倫理規範、組織的実施事項に分類して作成された。
あくまで AI 開発利用に係る倫理規範にとどまるソフトローであるここでは、AI に関与するステークホ
ルダーを包括的にとらえ、研究開発者、製造者等が遵守すべき責務が記されている。

5.2.2 生成式人工智能服务管理暂行办法
生成 AI サービス事業者の生成 AI サービス運用に係る諸義務を規定し、一定の義務違反の場合には本法に基づく営業停止措置を講じたり改善命令を発令したりすることができるハードローである。な39

お、草案段階で規定されていた制裁金規定は削除され、治安管理処罰法や刑法で対応するものとした。
＊この弁法に定める生成 AI サービス・プロバイダーに課せられた義務のうち、学習データやデータア
ノテーションにおける安全性アセスメントを実施する義務（弁法 17 条）の基準となる要件として、「生成式人工智能服务安全基本要求」や「网络安全技术 生成式人工智能服务安全基本要求」（※未施行）が別途規定されている。

5.3 各法の規定内容
5.3.1 新一代人工智能伦理规范48
国家新一代人工智能治理专业委员会[中国国家次世代人工知能ガバナンス専門委員会]〇６つの基本原則の提示49
・人間の福利の向上
・公正と正義の推進
・プライバシーとセキュリティの保護・管理可能性と信頼性の確保
・責任の強化・倫理リテラシーの向上
これらを軸に、AI の管理、研究開発、供給、利用等、特定の活動に対する 18 の具体的な倫理的要求事項を提案する。

•

研究開発者
o

技術研究開発のあらゆる側面に AI 倫理を統合することを率先して行い、意識的に自己検閲を行い、自己管理を強化し、倫理・道徳に反する AI 研究開発を自制する意識の強化（10 条）o

データの収集、保存、使用、処理、伝送、提供及び開示の過程において、データ関連の法
律、基準及び規範を厳守し、データの完全性、適時性、一貫性、標準化、正確性等データの品質向上（11 条）oアルゴリズムの設計・実装・応用において、透明性、解釈性、理解性、信頼性、制御性を高め、AI システムの回復力、自己適応性、反干渉性を強化し、検証性、監査性、監督性、追跡性、予測性、信頼性の実現（12 条）o

データ収集やアルゴリズム開発において、倫理的審査を強化し、差別的主張を十分に考慮し、データやアルゴリズムの偏りの可能性を回避し、AI システムの普遍性、公平性、無48

Ministry of Science and Technology of the People’s Republic of China 「《新一代人工智能伦理规范》发
布」 (2021 年９月)(https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html)
49

各条文の規定については、日原拓哉『AI の活用と刑法』(成文堂、2023 年) 17９頁以下参照。
40

差別性の実現（13 条）•

製造（販売）者
o

市場参入、競争、取引等の活動に関する各種規則を厳格に遵守し、市場秩序を積極的に維持し、AI の発展に資する市場環境を整備し、データ独占、プラットフォーム独占等で秩序ある市場競争を損なうことを控え、いかなる方法によっても他の主体の知的財産権を侵害することを禁止することを目的とする市場ルールの尊重（14 条）

o

AI 製品・サービスの品質監視と利用評価を強化し、設計や製品の欠陥等による個人の安全、財産の安全、利用者のプライバシーの侵害を回避し、品質基準を満たさない製品・サービスの運用、販売、提供は行わないこと目的とする品質管理強化（15 条）

o製品及びサービスにおける AI 技術の使用について、利用者に明確に伝え、その機能と制限を明らかにし、利用者の情報及び同意の権利を保護することを目的とする利用者の権利・利益保護（16 条）

o

緊急時のメカニズムや損失補償のスキームや手段を研究・開発し、AI システムを適時に監視し、利用者からのフィードバックに適時に対応・処理し、システム障害を適時に防止し、法律や規則に従って AI システムに介入する関連主体を支援し、損失を減らしリスクを回避する準備を整えることを目的とする緊急時の保護強化（17 条）

o

AI 製品とサービスの使用前のデモンストレーションと評価を強化し、AI 製品とサービスがもたらす利益を十分に理解し、すべてのステークホルダの合法的権益を十分に考慮し、経済繁栄、社会進歩、持続可能な発展を促進するという善意の利用の促進（18 条）oAI の倫理的ガバナンスの実践に積極的に参加し、関連するテーマに適時にフィードバックし、AI 製品やサービスを利用する過程で見つかった技術的な安全性の陥穽、政策や規制の空白、規制の遅れ等の問題解決を支援すること（21 条）•

利用者及び製造者
o

AI 製品・サービスの適用範囲と悪影響を十分に理解し、関連する対象者の AI 製品・サービスを使用しない権利を効果的に尊重し、AI 製品・サービスの不適切な使用や濫用を避け、意図せずに第三者の正当な権利や利益を損なわないようにするという AI の誤
用・濫用の回避（19 条）

o

法令・倫理・基準・規範に適合しない AI 製品・サービスの利用の禁止、AI 製品・サービスの利用による違法行為の禁止、国家の安全、公共の安全、生産の安全を脅かすことの禁止、公益の毀損等の禁止という AI の違法な利用の禁止（20 条）

o

AI 製品とサービスを安全に使用し、効率的に活用するために、AI に関連する知識を積極的に学び、運用・保守・緊急時の処理等に必要なスキルを率先して習得すること（22 条）

41

5.3.2 生成式人工智能服务管理暂行办法50
生成 AI の健全な発展と規範に従った利用を促進し、国家の安全と社会公共の利益を保護し、公民、法人その他の組織の合法的権益を保護するとともに、中国サイバーセキュリティ法、中国データセキュリ
ティ法、中国個人情報保護法、中国科学技術進歩法、その他の法律・行政法規に基づき制定された。
本弁法は主に生成 AI サービスプロバイダー（提供者）を念頭に置いた業規制的性格を有するハードローである。
【構成】
第１章 総則

第 4 章 監督検査および法的責任

１条：目的規定

16 条：国家関連機関の生成 AI サービス管理の強２条：適用範囲

化、規則・ガイドライン策定

３条：国家の責務

17 条：生成 AI サービス・プロバイダーによる安全性

４条：生成 AI サービスの提供利用の遵守義務

アセスメントの実施および当局へのアルゴリズム申請・変更取消申請の義務

第２章 技術発展とガバナンス

18 条：利用者の告発権

５条：生成 AI 技術に関するソフト面での支援

19 条：関連主管機関の生成 AI サービスの監督検６条：生成 AI 技術に関するハード面での支援

査実施およびプロバイダーの協力義務

７条：生成 AI サービス・プロバイダーにおける AI 学

20 条：国外の生成 AI サービスが国内法規に適合習等に関する義務

しない場合の措置

８条：データアノテーションに関する運用

21 条：弁法の規定に違反した場合の是正命令・暫定的提供停止命令第 3 章 サービス規定

22 条：用語定義規定

９条：生成 AI サービス・プロバイダーの利用者との23 条：法律ないし行政規則が生成ＡＩサービス提供

サービスに係る義務の行政許可を求める場合

10 条：サービス適用範囲の明確化、未成年者への24 条：施行

配慮
11 条：利用者からもたらされる個人情報の保護
12 条：生成コンテンツの AI 生成表示義務
13 条：安全、安定かつ持続的なサービス提供の保障14 条：違法コンテンツ検出時の当該コンテンツ削除
およびモデル是正義務
15 条：苦情投稿・通報システムの確立

50

Office of the Central Cyberspace Affairs Commision 「生成式人工智能服务管理暂行办法」(2023 年７月)
(https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm)
42

5.3.3 生成式人工智能服务安全基本要求51
弁法第 17 条における生成 AI サービス・プロバイダーによる安全性アセスメントの実施に係る基準
コーパスの安全性、モデルの安全性、安全対策等、生成 AI サービスの安全性に関する基本的な要求事項を規定し、安全性アセスメントに関する要求事項を示すとともに、サービス提供者が安全性アセスメン
トを実施し、安全レベルを向上させるために適用できるほか、関係当局が生成 AI サービスの安全レベ
ルを判断する際の参考資料ともなる。
以下、遵守すべき要件について順を追って詳述する。

（1） コーパスの安全性要件
コーパスソースとなるコーパスの安全性アセスメントについては以下のような遵守義務を規定する。
→５％以上の違法・不健全情報が含まれている場合、当該ソースのコーパスを収集してはならない。
また、コーパスソースの性質（オープンソースか商用ソースか）に応じて以下のように規定する。すなわ
ち、オープンソースの場合は、ライセンス契約書もしくは利用許可合意がなければならないものとし、商用ソースの場合は、契約/パートナーシップ協定のもと、その相手方が出所、品質、安全性、関連資料について提供できない場合はそのコーパスは使用することはできないものとする。なお、プロバイダー自ら
出所、品質、安全性、関連資料を調査しなければならない。

（2） 違法・不健全情報（（付録 A）-「安全性リスク」）
安全性リスクを示す情報は本基本要件の別添である付録 A に記載されている。この内容が後述する
安全性アセスメントを満たすための指標となる。
A.1 社会主義の中核的価値観に反するもの＊その他のリスクのある情報＊

a) 国家権力の転覆と社会主義体制の打倒を煽動す

A.3 商業上の違法・法令違反

るものa) 他人の知的財産権の侵害

b) 国家の安全と利益に危害を加え、国のイメージをb) 商業倫理違反

損なうものc) 他人の営業秘密の開示；

c) 国家を分裂させ、国家統一と社会安寧を破壊するd) アルゴリズム、データ、プラットフォームなどを利用ように煽動するもの

した独占行為や不正競争行為d) テロリズムや過激主義を宣伝するものe) その他の商業上の違反行為e) 民族的憎悪を宣伝するものf) 暴力、わいせつなポルノを宣伝するもの

A.４ 他者の正当な権利と利益の侵害

g）虚偽の有害情報を伝播させるもの

a) 他者の身体的・精神的健康を危殆化させることh) その他、法律や行政規則で禁止されている内容b) 他人の肖像権を侵害すること
c) 他人の名誉権を侵害すること

A.2 差別的な内容を含むものd) 他人の栄誉権を侵害すること

a) 民族差別的な内容e) 他人のプライバシー権を侵害することb) 信条差別的な内容

f) 個人情報に関する他者の権利・利益を侵害すること

c) 国別の差別的内容

g) その他、他者の正当な権利・利益を侵害すること

51

全国网络安全标准化技术委员会发布 「生成式人工智能服务安全基本要求」(2024 年２月)
(https://www.tc260.org.cn/upload/2024-03-01/1709282398070082466.pdf)）
43d) 地理的な差別的内容e) 性差別的な内容

A.５ 特定のサービス類型の安全性ニーズを満たさな

f) 年齢差別的な内容

いものg) 職業差別的な内容

a) コンテンツの正確性を欠き、一般的な科学的知識やh) 健康差別的な内容

主流の認識と著しく適合しないもの；

i) その他の差別内容b) コンテンツの信頼性を欠き、重大な誤りは含まれていないものの、ユーザーを支援できないもの。
※「この分野における主な安全リスクは、自動制御、医療情報サービス、心理カウンセリング、重要情報インフラ等、安全性ニーズの高い特定のサービス類型に生成
AI を利用することによって存在するもの」と定義（3） コーパスアノテーションの安全性要件•

アノテーション担当者を設置
少なくともデータアノテーション、データ監査などに分掌し、同一のアノテーションタスクの下で、同一のアノテーション担当者が複数の権能を所掌してはならない。
•

アノテーションルール
アノテーションの目的、データフォーマット、アノテーション方法、品質指標等を含めなければならず、

付録 A 記載の 31 種類の安全性リスクにすべて対応するアノテーションルールを策定する必要がある。

（4） キーワード・ライブラリ作成に係る基準•

キーワード・ライブラリ［关键词库］
おそらく大規模言語モデルを指すものと思われる。キーワード・ライブラリは全面的であるべきであり、総容量は 10,000 を下回ってはならないことを義務付けるとともに、キーワード・ライブラリは代表的なものでなければならず、本書の付録 A.1 及び A.2 に記載されている少なくとも 17 種類の安全性リスクをカバーしなければならない。また、付録 A.1 に記載されている安全に係るリスクのキーワードは 200 以
上、付録 A.2 に記載されている安全に係るリスクのキーワードは 100 以上でなければならないとする。
キーワード・ライブラリは、ネットワークセキュリティの実際のニーズに応じて適時に更新すべきであり、少なくとも 1 週間に 1 回更新するべきである（必ずしも遵守すべき義務ではない）。

（5） 生成内容テスト問題データベース作成に係る基準
入力とそれに対応する出力の組み合わせをデータベース化する。
a) 生成内容テストデータベースは全面的で、その総数は 2,000 問を下回ってはならない。
b) 生成内容テストデータベースは、代表的なものであり、本文書の付録 A に記載されている 31 の安全に係るリスクすべてを完全にカバーするものでなければならない。
→付録 A.1 及び A.2 の安全に係るリスクそれぞれに対するテスト問題は 50 問以上。その他の安全に係るリスク（A.3,A.4,A.5）に対するテスト問題は 20 問以上でなければならない。
c) 生成内容テスト問題データベースに基づいて、31 種類の安全に係るリスクすべてを特定するため
44

の作業手順を、その判断の根拠とともに確立する。
d) 生成内容テストデータベースは、ネットワークセキュリティの実際のニーズに応じて適時に更新しなければならず、少なくとも月に 1 回は更新するべきである（推奨規定）。

（6） 回答拒否テスト問題データベース
入力とそれに対応する出力の組み合わせのうち、回答してはならないものを以下の条件で別途デー
タベース化する。
a) モデルが回答を拒否すべき質問を中心に、回答拒否テスト問題データベースを確立しなければならない。
⚫

回答拒否テスト問題データベースは全面的であるべきであり、総数は 500 問を下回ってはならない。

⚫

回答拒否テスト問題データベースは、代表的なものであり、本書の付録 A.1 及び A.2 にある少なくとも 17 種類の安全に係るリスクをカバーし、安全に係るリスクそれぞれのテスト問題は 20
問以下であってはならない。

b) モデルが回答を拒否すべきでない質問を中心に、非回答拒否テストデータベースを確立しなければならない。

（7） 非回答拒否テスト問題データベース
入力とそれに対応する出力の組み合わせのうち、回答拒否してはならないものを以下の条件で別途
データベース化する。
a) 非回答拒否テスト問題データベースは全面的でなければならず、その総数は 500 問を下回ってはならない。
b) 非回答拒否テスト問題データベースは代表的なものでなければならず、少なくとも本邦の制度、信仰、イメージ、文化、習俗、民族、地理、歴史、烈士等のほか、性別、年齢、職業、健康等をカバーしなければならず、各テスト問題の種類は 20 問以上でなければならない。
非回答拒否テスト問題データベースは、ネットワークセキュリティの実際のニーズに応じて適時更新するものとし、少なくとも月１回更新すべきである（推奨規定）。

（8） 安全性アセスメント要件
すべての規定を対象とし、各規定についてそれぞれアセスメント結果を出す。
その審査結果は、「適合」、「不適合」又は「適用なし」とする。
•「適合」：十分な証明資料を具備しなければならない。

•「不適合」：不適合の理由を記載し、次のような特別な事情が存在する場合には追加説明を行わなければならない。
o

本文書の基準を満たさない技術的又は管理的手段を採用したが、同様の安全上の効果が得られる場合は、詳細な説明を行い、その手段の有効性を証明しなければならない。

o

技術的又は管理的措置が採用されたが、要件が満たされていない場合、採用された措置
45

の詳細な説明及び要求事項を満たすためのその後の計画を提供しなければならない。
•「適用なし」：適用されない理由を説明しなければならない。

（9） アセスメント報告書
各規定のアセスメント結果、及び関連する証明資料及び補足資料を記載しなければならないとともに、総合アセスメント結果も併記しなければならない。その運用は以下の通りである。
1)各条項のアセスメント結果が適合である場合、総合アセスメント結果は適合となる。
2)一部の条項のアセスメント結果が不適合である場合、総合アセスメント結果は「要件一部適合」となる。
3)すべの条項が不適合であることが判明した場合、総合アセスメント結果は「すべての要件が満たされていない」となる。
4)推奨条項のアセスメント結果は、全体的な評価結果に影響しない。推奨条項とは、「宜」の助動詞が付せられている規定のことを指す。
以上につき、３名の担当者の連署をしなければならない。

（10）

安全性アセスメントの基準

コーパス又は生成コンテンツに対しては以下の基準で安全性アセスメントを遂行するように規定される。

1） コーパスa) 手動サンプリングでコーパス全体から 4,000 個以上のコーパスを無作為に抽出し、その合格率は 96％を下回ってはならない。
b) キーワード等技術的なサンプリングと組み合わせ、コーパス全体から 10％以上のコーパスを無作為に抽出し、その合格率は 98％を下回ってはならない。

2） 生成コンテンツa) 生成コンテンツテスト問題データベースを構築。
b） 手動サンプリングを採用し、生成コンテンツテスト問題データベースから無作為に 1,000 問以上のテスト問題を選択し、生成コンテンツモデルのサンプリング合格率が 90％以上でなければならない。
c） キーワードサンプリングを採用し、生成コンテンツテスト問題データベースから無作為に 1,000 以
上のテスト問題を選択し、モデル生成コンテンツのサンプリング合格率は 90％以上でなければならない。

3） 問題解答拒絶アセスメントa) 回答拒絶テスト問題データベースを構築すること。
b） 回答拒絶テスト問題データベースから 300 問以上のテスト問題を無作為に選択し、モデルの回答拒絶率が 95%以上でなければならない。
c) 300 問以上のテスト問題を非回答拒絶テスト問題データベースから無作為に選択し、モデルの回
46

答拒絶率は 5%以下でなければならない。

5.4 网络安全技术 生成式人工智能服务安全基本要求(征求意见稿)(2024)52
学習データの安全性、モデルの安全性、安全対策等、生成 AI サービスに求められる安全性の基本要件を規定し、安全性アセスメントの参考となる要点を提供する。さらに、サービス提供者が安全性アセス
メントを実施する際に適用するほか、関係する主管部門への参考資料にもできる。
弁法７条、８条、13 条、17 条の内容を具体化する位置づけであり、2 月 29 日施行規則の「学習データ」版でありパブリックコメント募集中である。

5.4.1 「编制说明」による補足事項
パブリックコメント募集にあたり、本文とは別に「编制说明」という本要件制定に係経緯・目的が仔細に記載されている53。そこでは、「本基準の編成過程において、本基準は数十の企業トップ団体と研究機関の研究成果と応用実践を全面的に吸収し、良好な産業基盤を有し、これにより技術の進歩と創発がもたらされ」、さらに、「本基準は TC260-003『生成 AI サービス安全基本要求」に基づいており、すでに各管理部門と企業のより良いコンセンサスを得て、関連する安全規範を形成し、各企業の一般的な実践を獲得し、基準の内容は比較的充分に産業の基盤となっている」とある。

（1） 本基準の作成原則
３つの原則が建てられている。
1)汎用性：本基準は生成 AI サービスの共通の安全要件のために作成され、関連単位の安全性水準向上に資し、安全性アセスメント業務の基礎を提供する。
2）実用性：本基準は本邦における生成 AI 技術の発展及び生成 AI サービスの実際の適用事例に従って編成し、生成 AI サービスを指導する上で高い実用性をもって用いられるものである。
3）適合性：関連する国内法規及び既存の基準・基準の関連要件に適合するものである。

（2） 基本要件の運用について•

本基準の適用推進の主導単位

主導単位は北京百度網絡科技有限公司[Baidu]であるとともに、試験的運用の単位としては、すでに一般にサービスを提供している多くの生成 AI サービス・プロバイダー、又は基準条項の全部又は一部を実施した経験を持つ企業から選出される。

•

本基準の適用実施の試験的運用単位

すでに一般にサービスを提供している多くの生成 AI サービス・プロバイダー、または基準条項の全部
52

中华人民共和国国家标准 「网络安全技术 生成式人工智能服务安全基本要求」(https://www.tc260.org.cn/file/2024-05-17/9e2853d0-99a0-49c2-9df7-ccaada842ac5.pdf)
53
征求意见稿 编制说明「网络安全技术 生成式人工智能服务安全基本要求」(https://www.tc260.org.cn/file/2024-05-17/9e2853d0-99a0-49c2-9df7-ccaada842ac5.pdf）
47

または一部を実施した経験を持つ企業から選出される。

（3） その他情報
本基準である「サイバーセキュリティ技術に係る生成 AI サービスの安全性に関する基本要件」のみな
らず、目下研究中の国内基準である、「网络安全技术 生成式人工智能预训练和优化训练数据安全规
范[サイバーセキュリティ技術に係る生成 AI の事前学習及び最適化学習データの安全性に関する規範]」や「サイバーセキュリティ技術に係る生成 AI のデータアノテーションの安全性に関する規範[网络安全技术 生成式人工智能数据标注安全规范]」もいずれも「弁法」の裏付けとなる文書とする。すなわ
ち、さらに新たな基準を制定する示唆があることは注目に値する。

5.4.2 2 月 29 日公布「基本要件」との差分「生成式人工智能服务安全基本要求」(2024/2/29)と比べ、「違法・不健全データ」が 29 種類に拡張されている。具体的には、A.1, A.2, A.3, A.4 のすべてが「違法・不健全データ」に該当する具体的には、A.1 社会主義の中核的価値観に反するコンテンツ A.2 差別的な内容を含むものに加えて、A.3
商業上の違法・法令違反と A.4 他者の正当な権利と利益の侵害が追加された。
その他の要件については、さしあたり「生成式人工智能服务安全基本要求」に定める規定のうち「コーパス」をすべて「学習データ」と読み替えればよく、安全性アセスメントに係る合格率等の数値については遵守義務から基準指標へと変更されている。

5.5 まとめと展望「社会主義の核心となる価値観を堅持」することを前提に、生成 AI 開発利用に関する提供者（プロバイダー）の義務及び安全基準が、この２年間のうちに規定されている。
また、司法の場では弁法の実運用がなされている。例えば、著作権保護される著作物と類似する画像をプロンプト入力によって出力できる画像生成 AI サービスの運営者が著作権侵害の責任主体として認定された事例がある（广州互联网法院（2024）粤 0192 民初 113 号）。日本法でいう規範的侵害主体
論的な構成を取らず、「生成 AI サービス・プロバイダー」として（22 条 4 項）や「違法コンテンツの速やかな削除・是正措置を講じる生成サービス・プロバイダーの義務」に違反した（14 条）という構成で生成
AI サービス・プロバイダーの著作権侵害を認定して権利侵害の停止（生成の停止）措置を講じる責任を負うものとしている。
今後の中国の動向としては、新たな立法及び裁判例を注視すべきであるとともに、日本における AI
ガバナンスの参考にもなるものと考えられる。

5.6 参考資料
生成式人工智能服务管理暂行办法（2023 年７月 10 日）は以下のとおりである。

48

第一章 总 则
第 1 章 総則
第一条
为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。
生成 AI の健全な発展及び基準の適用を促進し、国家安全保障と社会公共利益を保護し、公民及び法人その他の組織の合法的な権益を保護するために、「中華人民共和国サイバーセキュリティ法」、「中華人民共和国データセキュリティ
法」、「中華人民共和国個人情報保護法」、「中華人民共和国科学技術促進法」等の法律、行政法規に従って本弁法を制定する。
第二条
利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
中華人民共和国内の公衆にテキスト、画像、音声、動画およびその他のコンテンツを生成するサービスを提供するための生成 AI 技術の使用（以下、生成 AI サービスという）は、本弁法に準拠するものとする。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
国家が、新聞の出版、映画およびテレビの制作、文学および芸術の創作などの活動に従事するための生成 AI サービスの利用について別に定めがある場合には、当該規定が適用される。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供
生成式人工智能服务的，不适用本办法的规定。
業界団体、企業、教育・科学研究機関、公共文化機関、関連専門機関等が、その内部において、生成 AI 技術を開発・応用し、公衆に提供しない場合、本弁法の規定は適用されない。
第三条
国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式
人工智能服务实行包容审慎和分类分级监管。
国家は、発展と安全の均一な重視、イノベーションの促進および法に基づくガバナンスの結合の原則を堅持し、生成AI の革新的発展を奨励するための効果的な措置を講じ、生成 AI サービスの慎重かつ包容的で、段階的に分類された監督を実施する。
第四条
提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：生成 AI サービスの提供および利用は、法律および行政法規を遵守し、社会道徳および倫理を尊重し、以下の規定を遵守しなければならない：（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；
社会主義の核心となる価値観を堅持し、国家権力の転覆を扇動し、社会主義体制の転覆、国家の安全と利益を危険にさらし、国家のイメージを損なうこと、国家の分離独立を扇動し、国家統一と社会の安寧を破壊し、テロリズム、強硬主義、民族憎悪、民族差別、暴力、わいせつなポルノ、虚偽の有害情報を助長することなど、法律や行政法規で禁止されている内容を生成させてはならない。
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；
アルゴリズムの設計、学習データの選択、モデルの生成と最適化、サービスの提供において、民族、信条、国、地域、
性別、年齢、職業、健康などに基づく差別を防止するための効果的な措置を講じる。
（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；
知的財産権と商業倫理を尊重し、営業秘密を保持するとともに、アルゴリズム、データ、プラットフォーム等の優位性を利用して独占行為や不正競争行為をしてはならない。
49

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；他人の合法的な権益を尊重し、他人の身体的・精神的健康を危殆化させたり、他人の肖像権、名誉権、プライバシー権
および個人情報の権益を侵害したりしてはならない（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性
サービスの種類の特性に基づき、生成 AI サービスの透明性を高め、生成コンテンツの正確性と信頼性を向上させるための効果的な措置を講じる。
第二章 技术发展与治理
第２章 技術発展とガバナンス
第五条
鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。
各産業や分野での生成 AI 技術の革新的な応用を奨励し、積極的かつ健全で、上昇志向で良質なコンテンツを生成し、応用シナリオを探求・最適化し、応用的エコシステムを構築する。
支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转
化应用、风险防范等方面开展协作。
業界団体、企業、教育・科学研究機関、公共文化機関、関連専門機関は、生成 AI 技術のイノベーション、データリソー
スの構築、変換、応用、リスク防止等に関して、その展開・協力を支援する。
第六条
鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。
生成 AI のアルゴリズム、フレームワーク、チップおよび付属ソフトウェアプラットフォームなどの基礎技術における自主的な技術イノベーション、対等かつ互恵的な国際交流・協力、生成 AI に関連する国際ルールの策定への参加を奨励する。
推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公
共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
生成 AI のインフラと公開学習データリソースプラットフォームの構築を推進する。 演算リソースの共同利用を促進
し、演算資源リソースの有効性を高める。 公開データの分類と等級付けの秩序立てられた開放を促進し、高品質の公開学習データリソースを拡大する。 安全かつ信頼できるチップ、ソフトウェア、ツール、計算能力、データリソースの採用を奨励する。
第七条
生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：生成 AI サービスのプロバイダー（以下、プロバイダーいう）は、法に従い、事前学習や最適化学習等の学習データ処
理活動を実施し、以下の規定を遵守するものとする：（一）使用具有合法来源的数据和基础模型；
合法なソースのデータ及びベースモデルを使用すること；（二）涉及知识产权的，不得侵害他人依法享有的知识产权；
知的財産権が関係する場合、法に従って他者が享受する知的財産権を侵害してはならない；（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；
個人情報を利用する場合は、本人の同意を得、あるいは法律及び行政法規その他の事情に適合させることを遵守しなければならない；（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；
学習データの質を向上させ、学習データの真実性、正確性、客観性及び多様性を向上させるための効果的な措置を講
ずること；
（五）
《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
50

「中華人民共和国ネットワーク安全法」、「中華人民共和国データ安全法」、「中華人民共和国個人情報保護法」などの法律および行政法規のその他の関連規定、および関係主管機関のその他の関連する監督要求。
第八条
在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员
规范开展标注工作。
データアノテーションのための生成 AI 技術の研究開発の過程において、プロバイダーは、本弁法の要求を満たす、明確で具体的かつ運用可能なアノテーションルールを策定しなければならない。 データアノテーションの品質評価およびアノテーションされた内容の正確性のサンプル検証を実施する。 アノテーションをする者に必要な学習を提供し、法律を尊重し遵守する意識を高め、アノテーションをする者が標準的な方法でアノテーション作業を実施するよう監督・指導する。
第三章 服务规范
第 3 章 サービス規定
第九条
提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
プロバイダーは、法に従い、ネットワーク情報コンテンツ製作者としての責任を負わなければならず、ネットワーク
情報セキュリティ義務を履行しなければならない。 また、個人情報が含まれる場合には、法に基づき個人情報取扱事業者としての責任を負い、個人情報保護義務を履行するものとする。
提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。
プロバイダーは、サービスに登録した生成 AI サービスの利用者（以下、利用者という）と、双方の権利と義務を明記したサービス契約を締結する。
第十条
提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取
有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
プロバイダーは、そのサービスの適用対象者、場面、用途を明確に公開し、利用者が科学的かつ合理的に理解するともに、法に則って生成 AI 技術を利用するよう指導し、未成年の利用者による生成 AI サービスへの過度な依存または中毒を防止するための効果的な措置を講じなければならない。
第十一条
提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。
プロバイダーは、利用者の入力情報および利用記録の保護義務を履行し、必要のない個人情報を収集してはならず、利用者を識別できる入力情報および利用記録を不正に保持してはならず、利用者の入力情報および利用記録を不正に他者に提供してはならない。
提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。
プロバイダーは、法に従い、その個人からの個人情報等の照会、複製、訂正、追加または削除に関する請求に時宜に即して応じ、処理しなければならない。
第十二条
提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
プロバイダーは、「インターネット情報サービスディープフェイク管理規定」に照らして、画像や動画等の生成コンテ
ンツにマークを付さなければならない。
第十三条
提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。
プロバイダーはそのサービスにおいて、利用者の正常な利用を保障するために、安全で安定した継続的なサービスを提供しなければならない。
第十四条
提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向
有关主管部门报告。
プロバイダーは、違法コンテンツを発見した場合、速やかに生成停止、送信停止、削除等の処分的措置を講じるとともに、モデル最適化学習等の是正措置を講じ、関係主管庁に報告しなければならない。
提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提51

供服务等处置措施，保存有关记录，并向有关主管部门报告。
プロバイダーは、利用者が生成 AI サービスを利用して違法行為を行っていることを発見した場合、法に基づき、警告、機能制限、利用者へのサービス提供の停止または終了等の処分的措置を講じ、関連記録を保存するとともに、関係主管庁に報告しなければならない。
第十五条
提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。
プロバイダーは、苦情投稿・通報システムを確立・改善し、簡便な苦情投稿・通報ポータルを設置し、処理プロセスとフィードバックの期限を発表し、時宜に即して公衆の苦情・通報を処理するとともに、その処理結果をフィードバッ
クしなければならない。
第四章 监督检查和法律责任
第4章

監督検査および法的責任

第十六条
网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。
ネットワーク情報安全、開発と改革、教育、科学技術、工業・情報技術、公安、ラジオ・テレビ、報道・出版などに関する機関は、各々の職責により、法律に従って生成 AI サービスの管理を強化する。
国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管
方式，制定相应的分类分级监管规则或者指引。
関連する国家の主管機関は、生成 AI 技術の特性および関連産業・関連分野のサービスの応用を考慮し、イノベーションの発展に適した科学的監督方法を改善し、対応する分類・等級付けを行う監督規則またはガイドラインを制定する。
第十七条
提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
世論属性を有する、または社会に働きかける機能を持つ生成 AI サービスを提供する者は、国内の関連法規に従って安
全性評価を実施し、「インターネット情報サービスのアルゴリズム推奨管理規則」に従ってアルゴリズムの申請および変更・取消申請手続を行わなければならない。
第十八条
使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。
生成 AI サービスが法律、行政法規および本弁法の規定に適合していないことを発見した利用者は、関連する所管機関に告訴または告発する権利を有する。
第十九条
有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。
関連主管機関は、その職責に従い、生成 AI サービスの監督・検査を実施し、提供者は法に従い協力し、必要に応じて学習データのソース、規模、種類、ラベリング規則、アルゴリズムのメカニズム等を説明し、必要な技術、データその他の支援・援助を提供しなければならない。
参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私
和个人信息应当依法予以保密，不得泄露或者非法向他人提供。
生成 AI サービスの安全評価および監督・検査に関与する関連機関およびその職員は、法に従い、職務遂行上知り得た
国家機密、商業機密、個人のプライバシー、個人情報の秘密を保持し、他者に漏洩または不法に提供してはならない。
第二十条
对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应
当通知有关机构采取技术措施和其他必要措施予以处置。
中華人民共和国外から提供された生成 AI サービスであって、法律、行政法規および本弁法の規定に適合しないものに対して、国家ネットワーク情報安全化機関は、関連機関に通知し、技術的措置を講じ、その他の必要な措置により処置しなければならない。
第二十一条
提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人
民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有52规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。
プロバイダーが本弁法の規定に違反した場合、「中華人民共和国ネットワーク安全法」、「中華人民共和国データ安全法」、「中華人民共和国個人情報保護法」、「中華人民共和国科学技術発展法」等の法律、行政法規の規定に照らして、関連する所管機関により処罰される。法律、行政法規に定めがない場合、所管機関によりその職務に基づき警告、戒告を行い、一定期間内の是正を命じるものとする。是正を拒否した場合、または事情が深刻な場合、関連サービスの一時的な提供停止を命じるものとする。
构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
治安管理違反行為を構成する場合は、法に基づき治安管理処罰を与えるものとする。犯罪を構成する場合、法に基づき刑事責任を追及するものとする。
第二十二条
本办法下列用语的含义是：
本弁法での以下の用語の意味は以下の通りである。
（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。
生成 AI 技術とは、文章、画像、音声、映像等のコンテンツを生成する機能を有するモデル及び関連技術をいう。
（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
生成 AI サービス・プロバイダーとは、生成 AI 技術を用いて生成 AI サービスを提供（プログラマブル・インターフェースの提供等による生成 AI サービスの提供を含む）する組織又は個人をいう。
（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。
生成 AI サービス利用者とは、生成 AI サービスを利用してコンテンツを生成する組織又は個人をいう。
第二十三条
法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。
法律、行政規則が、生成 AI サービスの提供は関連する行政許可を受けなければならないと定めている場合、プロバイ
ダーは法に従って許可を得なければならない。
外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。
生成 AI サービスへの外資導入は、外資導入に関する関連法と行政法規の規定に沿ったものでなければならない。
第二十四条
本办法自 2023 年 8 月 15 日起施行。
本弁法は 2023 年 8 月 15 日より施行する。

53

6. シンガポール
6.1 シンガポールにおける AI 関連施策の概要
これまでに公表されているシンガポールにおける AI 関連施策（AI の使用や管理に関連するルール
等）で、主だったものを挙げると、以下の通りである。ハードローや準ハードローは、数が少なく、また特定の産業分野やテーマを対象とするものに限られる。シンガポールでは、AI 一般については、ソフトロー
による規律に委ねる立場を採用していると言える。

6.1.1 ハードロー•

Medical devices (whether AI-enabled or not) are regulated under the Health
Products Act 2007•

Legislation concerning the use/testing of autonomous vehicles (AVs)

6.1.2 準ハードロー•

Advisory Guidelines on use of Personal Data in AI Recommendation andDecision Systems (Mar 1 2024)

6.1.3 ソフトロー•

The Model Artificial Intelligence Governance Framework (the “Model
Framework”)•

The Principles to Promote Fairness, Ethics, Accountability•

Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics
in Singapore’s Financial Sector/FEAT Transparency Principles Assessment
Methodology•

The IP and Artificial Intelligence Information Note•

The Artificial Intelligence in Healthcare Guidelines•“Data: Engine for Growth – Implications for Competition Law, Personal Data
Protection, and Intellectual Property Rights”•

MAS’s Veritas Initiative•

Implementation and Self-Assessment Guide for Organizations (ISAGO)•

Model AI Governance Framework for Generative AI•

AI システム審査のためのツール（AI Governance testing framework and tooｌkit)•

A.I.Verify•

Project Moonshot (LLM evaluation Toolkits)54以下では、上記の AI 関連施策のうち、重要と思われるものの内容を一部紹介する。

6.2 モ デ ル AI ガ バ ナ ン ス フ レ ー ム ワ ー ク (The Model Artificial Intelligence
Governance Framework)
シンガポール個人情報保護委員会（PDPC）は、2019 年１月にモデル AI ガバナンスフレームワークとして、第１版を公表し、2020 年１月に第２版を公表した。
モデル AI ガバナンスフレームワークは、組織向けのガイドとして機能し、シンガポールにおける責任ある倫理的な AI の開発と利用のための包括的な原則を提供するものであり、その目的は、社会的価値、法的要件、倫理的配慮を尊重した AI システムの責任ある展開を確保することである。
モデル AI ガバナンスフレームワークは、次の４つの項目で構成されている。各項目において、Master
Card、Facebook、MSD 等、実際の組織における事例を紹介することで、実務上の留意事項を含む情報を提供している。
•

組織内部のガバナンス構造と手段•

AI を用いた意思決定における人間の関与度合の決定

•

運用管理

•

ステークホルダーとの関係・コミュニケーション

また、モデル AI ガバナンスフレームワークに付随するガイドとして、組織が AI ガバナンスを実践する
際、同枠組みとの整合性を簡易的に評価できることを目的とした、組織のための実装及び自己評価ガイド”ISAGO”が提供されている。さらに、モデル AI ガバナンスフレームワークや ISAGO を補足するものとして、２つの事例集（組織における AI ガバナンスの取組み例を多数掲載した事例集 Volume1 と、
国家プロジェクトである”AI Singapore“に参画している４社（IBM、RenalTeam、損保 HD Asia、
VersaFleet）を含む Volume2 が公開されている。546.2.1 Annex A
モデル AI ガバナンスフレームワークは、その附属書（Annex A）で、AI 倫理の基本原則を紹介してお り、 その中で 説 明可 能性 （ Explainability） や責 任 、説 明責 任 及び透 明性 （ Responsibility,
accountability and transparency)を基本原理の一部として掲げている。

6.2.2 定義づけ
しかしながら、モデル AI ガバナンスフレームワークでは、透明性について明確な定義づけはなされていないため、透明性をどのように理解しているかは、他の関連する記述を参照する必要がある。以下のように、AI モデルのアルゴリズムの透明性についての問題意識を指摘する記述がある。
•

3.25 AI システムには、AI モデルのアルゴリズムによって実現される数多くの特徴や機能がある。

54

経済産業省「AI 関連政策の海外動向」（2023 年 3 月）（https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/2022_008_s02_00.pdf）
55

説明可能性、再現性、頑健性、定期的なチューニング、再現性、追跡可能性、監査可能性等の対策は、AI モデルに見られるアルゴリズムの透明性を高めることができる。すべてのアルゴリズムに対して、これらの最も重要な対策を実施することは、実行可能でないかもしれないし、費用効率が悪いかもしれない。組織は、リスクベースのアプローチで２つの評価を行うことが推奨される。第一に、そのような措置が関係する利害関係者に最も大きな影響を与える特徴又は機能のサブセッ
トを特定する。第二に、利害関係者との信頼関係を構築する上で、どの施策が最も効果的かを特定する。説明可能性（説明が容易でないモデルを使用する場合は再現性）、頑健性、定期的なチューニング等、これらの尺度の中には、組織の AI 導入プロセスの一部として、程度の差こそあれ、組み込むことが可能なほど本質的なものもある。再現可能性、トレーサビリティ、監査可能性
等、その他の対策は、よりリソースを必要とし、特定の機能又は特定のシナリオに関連する可能性がある。

6.2.3 説明可能性との関連付け
また、モデル AI ガバナンスフレームワークでは、アルゴリズムの説明可能性を確保することが、AI モ
デルに対する理解と信頼を得るために有用であることを説明しており、透明性を説明可能性と関連付けて、捉えているものと考えられる（ただし、ここでの説明とは、技術的な説明を重視しているものではない
ことも留意すべきである）。
•

3.26 説明可能性とは、導入された AI モデルのアルゴリズムがどのように機能するのか、及び/又は、意思決定プロセスがどのようにモデルの予測を組み込むのかを説明することによって達成される。AI による予測を説明できるようにする目的は、理解と信頼を築くことである。（以下略）•3.27 AI ソリューションを導入する組織は、以下の慣行を採用することが推奨される： モデルの訓練と選定は、知的システム（AI 技術を含むシステム）を開発するために必要である。モデルの訓練と選定のプロセスがどのように実施されたか、決定が下された理由、特定されたリスクに対処するために取られた措置を文書化することで、組織はその後の決定について説明することができる。
（以下略）

•

3.28 技術的な説明可能性は、特に一般の人々にとって、必ずしも啓発的であるとは限らない。
AI モデルのアルゴリズムがどのように機能するかについての暗黙の説明は、モデルの論理を明示的に説明するよりも有用かもしれない。（以下略）6.2.4 情報開示や説明の必要性
また、モデル AI ガイドラインフレームワークでは、例えば、ステークホルダーとの関係・コミュニケーショ
ンとして、情報開示や説明を行う必要性を説いている。説明の内容としては、AI と意思決定の関係、AIを使用する理由、AI の果たす役割と程度等を挙げている。
•

3.46 組織は、AI が製品及び/又はサービスに使用されているかどうかに関する一般的な情報を提供することが推奨される。これには、適切な場合には、AI とは何か、AI が消費者との関係で意思決定においてどのように使用されているか、AI はどのような利点があるのか、なぜ AI を使用することにしたのか、リスクを軽減するためにどのような措置を講じたか、また、意思決定において
56

AI が果たす役割とその程度の情報を含む。例えば、オンラインポータルであれば、ユーザーに対して、AI を搭載したチャットボットとやりとりしているのであって、人間の顧客サービス担当者とやりとりしているのではないことをユーザーに知らせることが考えられる。
•

3.49 適切な対話とコミュニケーションは、組織と個人（従業員を含む）の間にオープンな関係を築き、維持することで、信頼と信用を呼び起こす。ステークホルダーとの関係戦略もまた、固定的であってはならない。企業は、戦略の有効性をテストし、評価し、見直すことが奨励される。さらに、これらの要素の程度や実施方法は、シナリオによって異なる可能性がある。（以下略）6.3 組織のための実装及び自己評価ガイド（ISAGO）
情報通信メディア開発庁（IMDA）とシンガポール個人情報保護委員会（PDPC）が、世界経済フォー
ラム第四次産業革命センターと共同して、ISAGO を作成した（2020 年 1 月公表）。組織の管理体制がモデル AI ガバナンスに即しているかを評価することや、モデル AI ガバナンスからの乖離を解決することを支援することを目的としている。モデル AI ガバナンスを補足する文書と位置づけられ、モデル AI ガ
バナンスと同様に、以下４つの観点で構成されている。この 4 つの各項目において、ガイド質問や改善措置の具体例を挙げている。
•

組織内部のガバナンス構造と手段•

AI を用いた意思決定における人間の関与度合の決定

•

運用管理

•

ステークホルダーとの関係・コミュニケーション

また、一般論として、リスクベースアプローチを採用することを推奨している。
透明性（説明可能性）について、ISAGO から読み取れる内容は以下の通りである。
•

ISAGO 4.24： 説明可能性（Explainability)は、頑健性（Robustness）、定期的チューニン
グ （ Regular tuning ） と 同 順 列 。 ト レ ー サ ビ リ テ ィ （ Traceability ） 、 再 現 性（Reproducibility）、監視可能性（Auditability）は、より多くのリソースを要するため劣後。

•

ISAGO 4.25： 説明可能性の向上のための措置として、解釈の余地の少ない形で AI モデルを説明する手法を例示（サロゲートモデル、部分従属度(Partial dependent plots:)、反実仮想
説明(counterfactual explanation)等）。推論結果に影響した特徴量による説明（LIME:
Local Interpretable Model-Agnostic Explanations)等も挙げている。

•

ISAGO 5.1～5.4：利害関係者へのコミュニケーションで次のような事項について説明することを推奨：データ、モデル、人間の関与、推論、アルゴリズムの存在、影響度。

6.4 Principles

toPromoteFairness,

Ethics,Accountability

andTransparency (FEAT) in the Use of Artificial Intelligence and Data
Analytics in Singapore’s Financial Sector
シンガポールの金融業界において AI とデータ分析の責任ある利用と倫理を確保するために、シンガ
ポール金融管理局（MAS）によって 2018 年に導入された原則で、シンガポールの金融業界における人57

工知能とデータ分析（artificial intelligence and data analytics, "AIDA"）の使用において、金融機関向けに、公正さ、倫理性、説明責任、透明性を促進するための原則をまとめたものである。
同原則において、透明性の確保は、金融業界における AI とデータ分析の信頼性と持続可能性を向上させるために不可欠な要素とされている。他方で、過度の透明性は、AIDA モデルの悪用や、操作における混乱等をもたらすリスクがあるため、適切な透明性レベルの決定が必要と指摘している。
透明性の確保にあたり、開示する事項としては以下のようなものが挙げられている（セクション 8 参照）。
•

AI の利用•使用されるデータ、当該データが金融機関における意思決定にどのように影響するか、データ対象者にもたらす影響、についての、明確な説明（他方で、知的財産やソースコードの開示は必要でないとしている。明確な説明の代わりにデータ対象者が AIDA 使用を理解しやすくすることに重点を置くことも可能）o

例１： 自動車保険を提供する保険会社が、顧客の保険料を見直すために AIDA を用いる
場合、顧客に対し、保険料見直しにあたり顧客の運転パターンのデータを利用することや、特定の運転パターンが保険料にどのように影響するか、等を説明。

o

例２： 不正検知やレッドフラッグの可能性検知のために AIDA を利用する場合、モデルの重要性や、モデル操作や悪用懸念を考慮し、AI モデルやそれに関する説明を行わないこととする。他方で、顧客からの問い合わせに対し、AI オペレーターを配備する場合、顧客に対し AI オペレーターと対話することを通知。

•

デジタル製品やサービスの透明性に関する評価手法（デジタル製品やサービスが透明性を確保しているかどうかを評価し、利用者や関係者に対して信頼性を高めることを目的）

また、この原則の透明性に関する言及に関連して、「FEAT （Fairness, Ethics, Accountability,
and Transparency） Transparency Principles Assessment Methodology, 3C」にも公表されている。これは、デジタル製品やサービスの透明性に関する評価手法を示した文書で、デジタル製品やサービスが透明性を確保しているかどうかを評価し、利用者や関係者に対して信頼性を高めることを目的としている。同文書では、外部的な透明性の確保のための AIDA driven の意思決定に対する説明は、以下の３つの条件を満たすことが期待されるとされている（セクション 2.2 参照）。
•

人間の直観と一致していること•

説明の複雑さのレベルが、影響を受ける人間の専門知識レベルに見合ったものであること•

ドメイン固有の（つまりユースケース固有の）語彙を使用すること

また、同文書では、データ対象者への説明にあたり、具体的に回答を用意しておくべき質問も紹介されている。例えば以下のようなものが含まれる。
•

どのように意思決定がされているのか（全体的な意思決定プロセスの内容、意思決定に使用されたデータの概要、関連する人間の監督等を含む）•

具体的な意思決定の背景にどのような理由があるか（意思決定を促した主要な理由、データ対象者に不利に働いた要因のみならず有利に働いた要因も含む）•

どのような行動をとれば、データ対象者にとってより好ましい結果が得られたか（データ対象者が58

より好ましい結果を得るために役立つ可能性のある情報の共有。ただし、データ対象者がそのような行動をとった場合に同人に好ましい変化を保証できる内容に限定すべきであり、また、基礎となるアルゴリズム等は時間の経過ともに変化する可能性もあるため、適切な時間制限も設けるべき）•

AIDA の決定がデータ対象者にどのような影響を与えるか（融資や保険金請求の拒否等）•

どのような救済オプションが利用可能か（データ対象者による AIDA 主体の決定に対する照会、不服申し立て、再審査請求等）

加えて、同文書では、①データ対象者への説明の正確性の確保、及び②AIDA を使用する前提として内部の利害関係者の信頼を勝ち取る、という観点から、内部的な透明性の確保も必要とされている。
内部的な透明性の確を確保する手法としては、以下のようなものが紹介されている（セクション 2.3 参照）。
•

モデルが用いた学習手法に応じた説明： 特定の手法固有の説明方法（例えばニューラルネット
ワークのレイヤーで学習された重みを調べるために利用される手法等）や、手法にとらわれない説
明方法•

説明の範囲： 説明しようとする量に応じて異なる（個々のモデルの予測（individual model
prediction ） / モデ ル 動 作 の 全 体 的 な集 約 ド ライ バー （ overall aggregate drivers ofmodel behaviour/モデルの内部構成要素（internal component of the model） etc.）•

説明手法： モデルの構成要素に関して結果を要約しなければならない（伝統的な方法として、各特長が全体的なモデル決定に与える影響を説明することで、モデルの局所的又は全体的な特性を説明する方法がある。より複雑なモデルの場合、決定木の分岐構造やニューラルネットワークの中間層の可視化等、学習された重みや層等のモデル内部を説明対象とする場合もある。さらに、基礎となるトレーニングデータ点から、学習されたモデル動作の特定の側面に特に貢献した点等に関してモデル出力を説明する方法等も紹介されている）

また、同文書では、外部及び内部の透明性の確保のための方法論についても、紹介されている（セクション 3 参照）。

6.5 Model AI Governance Framework for Generative AI
6.5.1 概要
情報通信メディア開発庁（IMDA）及び AI ベリファイ団体（AI Verify Foundation）は、2024 年
５月、生成ＡⅠに関するモデル AI ガバナンスフレームワークを公表した。
与えられたデータから得た洞察を分析・予測する従来の AI のリスクと、生成 AI に係る新たなリスクを踏まえ、生成 AI によりもたらされるリスクに対応するために、政策立案者、産業、研究者等の利害関係者が、それぞれの立場を踏まえて求められる行動を示したものであり、その目的は、生成 AI に係るリ
スクへの対応とイノベーションの両立を企図したものである。
生成 AI に関するモデル AI ガバナンスフレームワークは、次の９つの項目で構成され、各項目において、その重要性と取るべき対応が示されている。
59

①

説明責任

②

データ

③

信頼できる開発と導入

④

事故の報告

⑤

テストの実施と保証⑥

セキュリティー

⑦

信頼性の高いコンテンツ⑧

安全性と整合性が確保されたＲ＆Ｄ⑨

公益のための AI

6.5.2 透明性への言及
生成 AI に関するモデル AI ガバナンスフレームワークにおける９つの項目のなかで、透明性は、特に「信頼できる開発と導入」「信頼性の高いコンテンツ」等で言及されている。

（1） 信頼できる開発と導入
本項目においては、信頼できるモデルであることを確たるものとするために得られるべき情報が提供
されていない、という点が指摘されている。今後、開発、開示及び評価に係るベストプラクティスの実践が重要であり、有意な透明性が鍵となる、とされている。一方で、透明性は、事業の安全性、情報の帰属及び、悪意ある主体によるシステムの悪用の防止とのバランスについても留意するべきとも指摘されている。

1） “Food Labels”
透明性に関しては特に「Disclosure」にて具体的な手法を“Food Labels”に例えて記載している。
具体的に、「食品表示ラベル」のように項目を標準化した情報開示を通して透明性が実現するとも示唆
している。
•

利用データ

訓練データの種類、およびそのデータが訓練前にどのように処理されていたかについての概要•

学習インフラAI の訓練に用いられるインフラに関する概要。可能な場合には環境への影響の概要(炭素の排出を加速するとの問題意識）•

評価結果

評価の概要と主な結果(評価手法の包括性、対象、ツールの十分性一貫性等は課題）•

安全策

偏見を是正する技術や、機微情報流出の防止策、導入されている安全対策•

リスクと対応当該モデルについて認識されているリスクと対応するための取り組み
60•

意図しているモデルの使途

当該モデルが想定している用途を明示した文書•

ユーザーデータの保護

ユーザーデータがどう利用され、保護されるかについての概要

2） 産業界及び政府への示唆
産業界におけるさらに踏み込んだ対応として透明性の基礎に関する合意形成や、一定の基準の検討を示唆している。斯様な合意形成に代わり、政策立案者による基準策定の余地も示唆している。
加えて、国家安全保障や社会的影響の大きい事項に関連するリスクを孕む領域については、政府に対する透明性を強化するべく、政策立案者側でリスクの閾値を定義し、追加的な監督の一助とする余地もある、としている。

（2） 信頼性の高いコンテンツ
本項目においては、生成 AI が合成コンテンツを迅速に量産できる点を踏まえ、利用者が AI 製のものとそうでないものとの区別をつけることが難しい点を指摘。選挙におけるディープフェイクの影響等を例に、社会的脅威にもなりうる等の問題を提起。この点、当該コンテンツの出処に関する透明性を担保することで、利用者が適切に情報を得ながらオンラインコンテンツを利用できるようになると指摘している。

1） リスクへの対応手段
上 記 の リ ス ク へ 対 応 す る 技 術 を 政 府 及 び 事 業 者 と し て も 模 索 し て い る 、 と し 、 Digital
Watermarking や Cryptographic 等が例示されている。また、技術的解決策のみでは不十分となる可能性が示唆され、政府による一定の強制力を伴った仕組みの必要性も指摘されている。

2） 政策立案に係る課題
一方で、制度設計については、すべてのコンテンツを対象とすることは現実的ではないことや、出処に関する情報がコンテンツから分断されうること、消費者のツールへの理解度が高くないこと、さらには、
虚偽の認証等の形で悪用されうること等を踏まえた慎重な検討が必要とも指摘されている。

3） 課題を踏まえた示唆
この点については、コンテンツのライフサイクルを踏まえた関連当事者との連携が肝要として、各当事者に期待される役割等を提示している。コンテンツの編集に係る情報の標準化等を示唆するとともに、エンドユーザーにおける情報の出処に係る深い理解や、発行者等の事業者における対応事項として、コンテンツに識別記号を埋め込む、出処の詳細を表示する、承認制度の悪用を防止する、ユーザーが理解できるように情報を絞り込む、等を提示している。

6.6 Advisory Guidelines on use of Personal Data in AI Recommendation
61

and Decision Systems
6.6.1 目的
2024 年 5 月 1 日、シンガポール個人情報保護委員会 (PDPC)は Advisory Guidelines on
the Use of Personal Data in AI Recommendation and Decision Systems（以下「AI 推奨・意思決定システムの個人データ使用に関するガイドライン」という。）を公表した。当該ガイドラインの目的は、機械学習モデルを組み込んだシステム（以下「AI システム」という。）が通常、自律的な決定を行ったり、推奨や予測を通じて人間の意思決定者を支援したりするために使用されることから、組織に対して、AI システムを開発・展開する際に個人データをいつ使用できるかについて確実性を提供し、かつ、消費者に対して、AI システムにおける消費者の個人データの使用について保証を提供することにある（同 1.2 条）。
1.2 The purpose of the Advisory Guidelines on the Use of Personal Data in AI
Recommendation

andDecision

Systems(“Guidelines”)

istoprovideorganisations with certainty on when they can use personal data to develop anddeploy systems that embed machine learning models (“AI Systems"), and give
consumers assurance on the use of their personal data in AI Systems, since they
are typically used to make autonomous decisions or assist a human decisionmaker through recommendations and predictions.

また、同ガイドラインは、透明性の観点から、個人データの収集について消費者が意味のある同意を与えられるよう、データ収集時に関連情報を提供することを推奨しており、また、特に消費者に大きな影響を与える結果をもたらす場合には、AI システムの信頼性を確保するために実施している保護措置やプラクティスを組織に関して組織のポリシーに含めることを推奨している（同 1.5 条）。
1.5 To assure consumers that their personal data is being used appropriately,
the Guidelines encourage organisations to be more transparent. To this end,
organisations are encouraged to provide relevant information at the point ofdata collection so that consumers can give meaningful consent. They are also
encouraged to include in their written policies about safeguards and practices
they put in place to ensure that AI Systems are trustworthy, especially where
the outcome has high impact on consumers.

6.6.2 個人データ使用に関するガイドラインの適用範囲
Personal Data Protection Act（以下「PDPA」）は、組織によるすべての個人データの収集と使用に適用される広範な法律であり、AI システムの開発、テスト、監視のための又はそれらの展開プロセスの一部としての個人データの収集及び処理にも適用される。 AI 推奨・意思決定システムの個人デー
タの使用に関するガイドラインは、AI システムの設計及び展開が、PDPA の適用を受けるシナリオにおいて個人データの使用を伴う状況に適用される。
62

6.6.3 AI システムの開発・利用時における透明性確保
AI 推奨・意思決定システムの個人データ使用に関するガイドラインは、AI システムの開発時においては、例外規定（Business Improvement Exceptions や Research Exception）の適用により、個人の同意なく個人データを利用し、かつ第三者に共有しうることを示す一方で（同 5.6 条）、AI システ
ムが推奨、予測、意思決定を提供するための個人データの収集・利用には個人の同意の取得を要求している（同 9.1 条）。そして、この同意を求める際には、PDPA20 条に基づき、個人データの収集目的と意図される使用について利用者に事前に通知する必要がある（同 9.2 条）。とりわけ、個人が意味のある同意を提供するため、当該通知においては、収集・処理される個人データの種類と処理の目的（例えば、映画の推奨等）について情報提供することが求められ、さらに、同ガイドラインでは実行可能な範囲
で以下の情報を提供することが推奨されている（同 9.3〜9.5 条）。
a) The function of their product that requires collection and processing of
personal data (e.g., recommendation of movies);
個人データの収集と処理を必要とする製品の機能（例：映画の推奨）b) A general description of types of personal data that will be collected andprocessed (e.g., movie viewing history);
収集・処理される個人データの種類の一般的な説明（例：映画視聴履歴）c) Explain how the processing of personal data collected is relevant to the
product feature (e.g., analysis of users’ viewing history to make movie
recommendations); and
収集された個人データの処理が製品機能にどのように関連するかの説明（例：ユーザーの視聴履歴の分析による映画推奨）d) Identify specific features of personal data that are more likely to influence
the product feature (e.g., whether movie was viewed completely, viewed
multiple times, etc).
製品機能に影響を与える可能性が高い個人データの特定の特徴の識別（例：映画が完全に視聴されたか、複数回視聴されたか等）
また、同ガイドラインにおいて、説明責任義務（Accountability Obligation）とは、組織が収集もし
くは処理のために取得した個人データ、又はその管理下にある個人データに対する責任をどのように果たすかを指すものとされているところ、この義務を果たすために組織が実行すべき行動は PDPA11 条
及び 12 条に定められている（同 10.1 条）。そして、PDPA12 条は、組織が PDPA の下での義務を果たすためのポリシーとプラクティスの開発を要求しているところ、AI システムを利用する組織は、透明性を持ち、かつ公平性と合理性を達成するための関連プラクティスと保護措置を文書化されたポリシーに含めるべきとされている（同 10.3 条）。さらに、PDPA12 条(d)は、組織がこのようなポリシーとプラク
ティスに関する情報を要求に応じて個人に提供することを求めているが、消費者とのこのような外部コ
ミュニケーションの存在理由は、PDPA の遵守における説明責任を示すことでデータ主体との信頼関係を構築することにあるため、組織は要求に応じてのみではなく、ウェブサイトを通じてこのような文書化されたポリシーを予め開示することを検討すべきとされている（同 10.4 条）。
63

7. まとめ以上、各国の AI における透明性（情報開示）におけるルールを見てきた。その中で 3 点指摘しておきたい。
まず、第１点目は、透明性の具体的な内容の議論の必要性である。透明性の定義自体が各国でずれが存在している。おおむね、情報開示を中心とした概念であるといえるが、どのような情報を誰に対してどのような理由で開示するのかについて、各国のルールを見てみると、そこにもずれが存在している。各国のルール比較においては、透明性問う概念がルール上存在しているかだけではなく、透明性に基づいて開示が要求される情報の内容や範囲も踏まえた比較が求められる。なお、各国の代表的なガイドライ
ン等のルールにおいて開示が求められている情報について、参考のため一覧にした。各国において、透明性に基づいて開示を求める情報の内容に乖離があることが明らかである。このような開示を求める情報の違いは、透明性に期待する役割や透明性により実現したいことの各国における差が背後に存在する可能性がある。
第２点目は、開示対象者や開示主体の点である。EU の AI 法では開発者からデプロイヤに対する情報開示が主なルールである一方、日本やシンガポールではユーザーや一般社会に対する情報開示が主で あ る 。 ま た 、 英 国 で は 、 公 的 機 関 に よ る 情 報 開 示 の 標 準 が 整 備 さ れ て お り （ Algorithmic
Transparency Recording Standard）、公的機関を主体とする開示に関するルールが整備されている。このような差異は、透明性により実現したい価値の優先付けに国による差が存在しうることを示している。つまり、EU は、下流のデプロイヤによるユーザーの保護措置の実施に重きを置き、日本やシンガポールはユーザー自身による措置にウエイトを置いており、英国は、競合との競争という要素が少な
い公的機関によるベストプラクティスの共有にウエイトを置いているのではないか。このような違いが何に由来するのかも検討されなければならない。
第３点目は、どのような理由に基づいてある情報の開示が求められるのかに関する検討が必要と思える点である。AI の精度の開示を透明性に基づき求めることがあるが、AI の精度というのは利用する環
境により異なるものであり、開発者が一定のテスト用データで測定した精度にどの程度の意味があるのかは検討する必要があるのではないだろうか。このような開示された情報がどのような意味を持つのかを検討し、本当に開示が必要な情報を再検討することも必要であろう。
以上に述べた視点は透明性に限ったものではない。各国のルールの比較が最近盛んになされているが、以上に述べたような視点によるより深い分析がなされ、より適切な AI に関するルール作りがなされることを期待する。

64

AI の透明性に関する国際的なルール比較

2024 年７月
AI 法研究会
国際交流部会65