AI アルゴリズムの透明性について―AI によるイノベーションを社会が受容し享受するためのガバナンスのあり⽅の⼀提案―

結城 東輝*†、岡本 昌之‡、村⼭ 拓、⽮島 桐⼈§、⻄垣 裕太**††要旨
AI によるイノベーションが⽣み出す正のインパクトを最⼤化するためには、当該 AI が内包するリスクをステークホルダーが認識し、その利害調整を適切かつ柔軟に実⾏できる技
術的、組織的、社会的システムの設計と運⽤、すなわち当該 AI に対するアジャイル・ガバ
ナンスのフレームワークが不可⽋である。本稿は、AI アルゴリズムの透明性という最も議論が盛んなガバナンス上の課題について、俯瞰的、体系的な整理に挑戦し、実践的なツールキットを提案する。俯瞰的、体系的な整理がない中で、イノベーションが種々の問題を引き起こす度に規制や規範が形成されることは、設計図のないまま建物の増築が繰り返されるようなものであり、事業者にとって予⾒可能性を⽋くとともに、本来の⽬的を離れた形式だ
けの「透明性」が⾃⼰⽬的化していきかねない。統⼀的な考え⽅のもと体系的に整理されていることと共に、事業者が実運⽤しやすい汎⽤性、明瞭さ、裁量の余地がある柔軟性が追求
されなければならない。
本ツールキットは、各国の規制当局の議論のみならず、様々な AI アルゴリズムが⽣み出す新たなリスク事象を幅広く考慮し、さらには AI アルゴリズムに関する先⾏研究を踏まえながら、体系的な開⽰事項・事例集として使えるよう構成した。また、事業者が透明性の程度を⼯夫することで、社会における信頼性のみならず AI アルゴリズムを組み込んだプロダ
クトへの満⾜度など異なる指標にも良い影響が与えられる観点を取り込んでいる。加えて、開⽰事項をリスト形式にし、それを AI アルゴリズムの提供者、利⽤者、リスクなどの観点から裁量的な選択性とするなど、⾃主・共同規制に対応する事業者にとって利便性の⾼いツールキットとなることを⽬指し、ユースケースとともに提案する。

*

SmartNews 株式会社, 法律事務所 ZeLo・外国法共同事業（代表連絡先）tonghwi.soh@gmail.com‡
トヨタ⾃動⾞株式会社§
アフラック⽣命保険株式会社, アフラックデジタルサービス株式会社**
東京⼤学⼤学院法学政治学研究科法曹養成専攻††
プログラムアシスタント
†

1

⽬次
１ AI アルゴリズムの透明性が求められる理由
２ ツールキットの概要
３ ツールキットの解説
４ ツールキットの利⽤のための視点
５ ユースケース
６ 各国の規制状況と本ツールキットの対⽐
７ 結語
８ 謝辞

2

1

AI アルゴリズムの透明性が求められる理由
1.1

はじめに
本稿は、第三次⼈⼯知能（Artificial Intelligence、以下 AI）ブームによって AIが社会に当然のように浸透している現代において、明らかになりつつあるリスクや弊害を社会がコントロールし、その効⽤を最⼤限享受するために、透明性という観点からの解法を提案するものである。イノベーションは、既存のシステムや体制、価値体系、ビジネスモデルなどを何らかの意味で破壊することが多く、社会がそのリスクを過度に恐れた結果、イノベーションが阻害される不幸は後を絶たない。経済産業省が 2021 年に公表した報告書1によれば、「社会において⽣じるリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる正のインパクトを最⼤化することを⽬的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計及び運⽤」としてイノベーションに対するアジャイル・ガバナンスの必要性が述べられている。AI によるイノベーションと、それが内包するリスクのバランスを取るためには、ステークホルダ
ー間でリスクを受容可能な⽔準で適切に分配する必要がある。そのガバナンスの⼀例として「透明性」という観点が求められるのである。そしてそれは、社会や利⽤者との適切なコミュニケーションにより、社会全体で AI のリスクを受容可能な程度にコントロールし、信頼を構築していくことで、イノベーションによるインパクトを最⼤化することに繋がっていく。
しかし、すでに AI アルゴリズムの透明性というトピックは国際的に議論されているものの、提案されている内容は百家争鳴の状況である。透明性の担保は重要であるが、本稿で⾒ていくように、透明性の程度を誤れば開⽰⾏為そのものが利⽤者の信⽤や満⾜度を落とすおそれすらある。また、体系的な議論を経ずにイ
ノベーションが引き起こす種々の問題に都度対応する規制が追加されていくよ
うなことは避けなければならない。そうでなければ、ガバナンス・信頼の構築や⾃⼰決定権の保護のための透明性という⼿段が⽬的化し、その結果、設計図のない増築を繰り返した低強度・低品質の開⽰項⽬への対応が⾄上⽬的となってしまう。イノベーションのスピードに耐えうる規制のあり⽅として、⾃主規制・共同規制が⼀般化しつつある中、事業者にとって理解しやすく、現実的に⾃主的対応ができる透明性の実現⽅法が提案されなければならない。
本稿はこれまでの議論の体系的な整理を試み、実務に耐えうるツールキットバージョン 1.0 を提案することでこれらの問題に対応するものである。本ツールキットを通じ、各国の最新の規制の議論にも対応しながら、AI がもたらす様々なリ

経済産業省「GOVERNANCE INNOVATION Ver.2: アジャイル・ガバナンスのデザインと実装に向けて」95 ⾴ https://www.meti.go.jp/press/2021/07/20210730005/20210730005-1.pdf（2023 年 1 ⽉ 28 ⽇閲覧）1

3

スク事象や AI に対する先⾏研究を踏まえ、体系的かつ利便性の⾼い開⽰事項・事例集を提案する。本稿は、ツールキットを活⽤するためのガイド⼜はハンドブ
ックの⽴ち位置となる。
なお、本稿を通じて、AI とは「データ・情報・知識の学習等により、利活⽤の過程を通じて⾃らの出⼒やプログラムを変化させる機能を有する」2ソフトウェ
アやシステムの総称を指す。本ツールキットは特に機械学習・深層学習を⽤いた
AI アルゴリズムを主眼に記載しているが、ルールベースや知識ベースといった
他の AI アルゴリズムにおいても論点は概ね共通する。また、本稿でいう「AI アルゴリズム」とは、AI が問題を処理する⼀プロセスであり、AI が「数学的問題（解が定まっており計算可能な問題）を解くための有限回数の⼿続き」3を指す。
1.2

AI によるイノベーションが孕むリスク・弊害
本稿が取り組むべき問題を確認するために、AI によるイノベーションが孕む
リスク⼜は弊害の実例を⾒ていきたい。
あるソーシャル・メディア A は、利⽤者のエンゲージメント指標を最⼤化するようなアルゴリズムを発展させた結果、特に若年層の⼼の健康を阻害している可能性があると指摘されている。別のソーシャル・メディア B では、フィード内の投稿順位が、利⽤者や社会の与り知れぬ⽅法で、⼈為的に、場合によっては何らかの政治的意図を持って操作されている可能性も指摘されている。
求⼈求職情報をマッチングする⼈材サービス C では、特定の⼈種や性別の求職者が優遇されてしまうことが明らかになっている。
画像認識サービス D では、⿊⼈をゴリラと判定してしまう問題が発⽣した。
飲⾷店のレーティング情報提供サービス E では、レーティングのアルゴリズムが変更されることによって飲⾷店に多⼤な損害を及ぼす可能性がある。検索エン
ジン F のアルゴリズムの変更がメディア事業者や閲覧者に及ぼす影響も同様である。
ある画像⽣成 AI サービス G は、特定のアーティストの意思に反して、類似する作品を無数に⽣み出すことができ、別の動画⽣成 AI サービス H は、政治家のフェイク動画を⽣み出して選挙を妨害することに成功している。

1.3

AI に関する原則・ガイドライン等で最も⾔及される「透明性」
上述したような問題に対し、⼈間社会はどのように対峙すべきか、すでに議論

2

総務省 AI ネットワーク社会推進会議｢AI 利活⽤ガイドライン 〜AI 利活⽤のためのプラ
クティカルリファレンス〜｣4 ⾴（https://www.soumu.go.jp/main_content/000637097.pdf（2023 年 1 ⽉ 28 ⽇閲覧)）.
3“Algorithm.” Merriam-Webster.com Dictionary, Merriam-Webster, https://www.merriamwebster.com/dictionary/algorithm. Accessed 13 Jan. 2023.
4

は始まっている。総務省の報告書4によれば、各国政府や研究者らが公表している、40 本に及ぶ AI 関連の開発ガイドライン及び利活⽤ガイドラインのうち、約 9 割を占める 35 本のガイドラインで「透明性・説明可能性」が掲げられている。また、他の重要視される項⽬の「プライバシー」や「公平性」などを採⽤していな
い国・機関も存在する⼀⽅で、唯⼀「透明性・説明可能性」は全ての国・機関による指針に挙げられている。

表 1 総務省 AI ネットワーク社会推進会議「（２）海外における原則・指針・ガイドライン等との⽐較からの検証」（｢報告書 2022〜「安⼼・安全で信頼性のある AI の社会実装」の更なる推進〜｣78 ⾴より引⽤）

このような指針にとどまらず、すでに EU は⼀般データ保護規則（GDPR）5により AI の透明性を⼀部実現する規制を開始しており、AI 規則6、デジタルサービ
ス法（DSA）、デジタル市場法（DMA）7といったさらなる規制の導⼊へと歩みを4

総務省 AI ネットワーク社会推進会議｢報告書 2022〜「安⼼・安全で信頼性のある AI の社会実装」の更なる推進〜｣（2022 年 7 ⽉ 25 ⽇）78 ⾴
https://www.soumu.go.jp/main_content/000826564.pdf （2023 年､1 ⽉ 28 ⽇閲覧).
5
European Commission “EU data protection rules”
https://commission.europa.eu/law/law-topic/data-protection_en （2023 年 1 ⽉ 28 ⽇閲
覧）.
6European Commission “A European approach to artificial intelligence｣https://digitalstrategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence” （2023 年 1 ⽉
28 ⽇閲覧）.
7
DSA, DMA それぞれにつき European Commission “The Digital Services Act package”
5進めている。⽇本もデジタルプラットフォーム取引透明化法（DPF 取引透明化法）において、透明性の観点からの共同規制を導⼊した。すでに AI アルゴリズ
ムの透明性は、いつか実現すべき理想の姿ではなく、現実に対応すべき社会からの要請なのである。
1.4

透明性による解決の可能性
なぜ AI アルゴリズムの透明性がこれほど声⾼に叫ばれるのか。
⼈間が AI と調和する社会を⽣み出すには、⼈間が AI を理解する必要がある。
AI に限らず、イノベーションにはリスクがつきものであり、そのリスクは評価されコントロールされることによってイノベーションが社会に根ざす準備が整っていく。リスクを持った AI と共存するためには AI に対する信頼の醸成が不可⽋であり、AI との適切な共存⽅法を⼈間社会が理解できなければならない。たとえば、我々が⼝にする⾷品には栄養成分や原材料、原産国、消費期限などの表⽰がなされている。これは当該⾷品を購⼊するために必要な安⼼と安全のための透明性である。より講学上の概念としては、⾃⼰決定権を保護するための措置である。
冒頭に記載した AI によるイノベーションのリスク・弊害事例は、事業者が AI によるリスクやコントロール⽅法を社会と意識的にコミュニケーションすれば解決の緒が⾒いだせる。
AI は本来的に価値中⽴的であり、⼈間よりも信頼できるという⾔説が存在するが、問題の本質を⾒誤っている。AI を開発するのは⼈間であり、結果的に「体系的なバイアス」8を導⼊したり、「歴史的差別を強化したり」9することが指摘されている。⼈間よりも信頼できるかが問題なのではなく、⼈間が開発する AI について信頼できるかを個⼈及び社会が判断する基盤として、AI の透明性が求められるのである。
しかし、AI アルゴリズムの透明性は、利⽤者個⼈や社会がメリットを享受するための事業者への⾜枷ではない。むしろ AI を開発・提供する事業者の観点からも様々な効⽤が期待できる。事業者は、AI アルゴリズムの透明性を担保すること
で、競合他社との差別要因を明らかにできる。引き続き⾷のアナロジーを⽤いれ
ば、有機栽培や無農薬野菜、産地直送などを差別化要因とすることとパラレルである。また、透明性を実現する取り組みは、事業者のリスクマネジメントにも結https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package （2023 年 1
⽉ 28 ⽇閲覧）.
8
Kashin, K., King, G., & Soneji, S. (2015). Systematic Bias and Nontransparency in US
Social Security Administration Forecasts. Journal of Economic Perspectives, 2(29), 239‒258.
（https://www.aeaweb.org/articles?id=10.1257/jep.29.2.239 （2023 年 1 ⽉ 28 ⽇閲覧））
9
Kroll, J. A. (2015). Accountable algorithms. (Doctoral Dissertation) Princeton University（https://dataspace.princeton.edu/handle/88435/dsp014b29b837r （2023 年 1 ⽉ 28 ⽇
閲覧））6

びつく。本稿で提案するツールキットは、AI がもたらすリスクを体系的に整理した上でどのような組織的⼜は技術的措置をとるかを検討するチェックリストの役割を果たすことができる。そのように評価したリスクに対して、事業者がどのようにリスクをコントロールするかを判断し、社会とコミュニケーションを取る
ことで、いざ顕在化したリスクに対しては社会とともに解決を⽬指すことが可能になる。結果的に、AI を開発・提供する事業者にとっては、リスクマネジメントのプロセスを俯瞰的に履践するに等しい。
事業者からは、AI アルゴリズムの内部の開⽰に対して、利⽤者にハックされる
おそれや競合他社に企業秘密を知られてしまう懸念を表明されることがある。しかし、本稿の提案する AI アルゴリズムの透明性とは、つぶさにコードを開⽰することを意味しない。そのような開⽰を⾏ったところでそれが意味するころを理解できるのは限定された研究者や開発者のみであり、⼤半の利⽤者に対しては透明性の説明にならない。国際的な議論を踏まえて本稿が提案するのは、特徴量や重み付けに関するより抽象化され、合理的に理解可能な形で⾔語化された説明である。求められるのは、秘伝のタレのレシピの開⽰ではなく、そのメニューの具材、調理法、味付けの開⽰である。
2

ツールキットの概要
2.1

ツールキットの⽬的・役割
前項で⾒たように、AI アルゴリズムの透明性は必要性が様々な場所で唱えられているにもかかわらず、具体的な⽅策は⾃主的な対応に委ねられていたり、各国の個別具体的な規制が先⾏したりして、全体的な体系的整理や理解がないままに実務が進み始めているように思われる。本稿が提案するツールキット（以下「本ツールキット」）は、最新の議論を反映しながら AI アルゴリズムの透明性について体系的な整理を⾏った上で、実践的な内容を備えた対応カタログの役割を果た
すことを⽬指す。翻って⾔えば、各国の規制や事業者による⾃主規制が解決しようとする問題は、本ツールキットを参照することで俯瞰して理解することができよう。
透明性に関する原則や指針ではなくツールキットを提案するのは、AI を利⽤する主体、⽬的、⽅法、場⾯などによって、必要とされる内容や程度が異なるためである。壮⼤な理想像ではなく、⽂脈に応じて各ステークホルダーが使い分けることができるカタログを⽬指す。したがって、本ツールキットは透明性を担保するためのオプションの集合体であって、厳格な開⽰項⽬として捉えられるべきではない。AI を開発・提供する事業者と利⽤者・社会との間の信頼関係をどう構築するか、コミュニケーションはどうあるべきかといった観点から本ツールキットの利⽤⽅法を解説していこう。
7

2.2

ツールキットの射程1.1 で述べたとおり、本稿が想定する AI とは機械学習モデルや深層学習モデルを⽤いたソフトウェアやシステムを想定している。⼀⽅、本ツールキットの対象となる AI の⽤途や⽬的などを制限することはないため、広く AI を⽤いたソフト
ウェアやシステム全てに利⽤できる内容になっている。
ただし、透明性という観点だけでは解決できない AI も存在する。特に⽣命や⾝体への危険を伴うプロダクトや利⽤者にとって代替⼿段の少ないプロダクトに組み込まれる AI（⾃動運転やデジタルプラットフォームなど）は、利⽤者の安
全性や利⽤における公正性を⼀義的に追求しなければならず、リスクの存在について透明性をもってコミュニケーションするだけでは社会実装は認められない10。
その意味で、本ツールキットはリスクと共存すべき AI を前提にして構成されて
いる。

2.3

ツールキットの構成
図 1 のように、機械学習モデルのアルゴリズムは、⼈間が指令や条件を指定してアルゴリズムを開発していく伝統的なプログラミングと異なり、モデルそのものの⽣成をデータに基づいて機械が担う11。本ツールキットの構成は、この点への理解が不可⽋であるため、図 1 を⽤いて具体的に双⽅の違いを確認したい。

10

仮に「⾃動運転⾞が事故に遭う確率」が開⽰されたとしても、利⽤者にできることはその⾞に乗らないことしかない。
11
機械学習における「アルゴリズム」と「モデル」の定義を念のため明確にしておきたい。機械学習アルゴリズムとは、分類、予測といった⽬的に応じ、⼊⼒データから処理の⽅法を学習し、あるいは⼊⼒データに応じ処理結果を返す⼿順を指す。⽬的に応じ、ロジ
スティック回帰、決定⽊、ニューラルネットワークなどのアルゴリズムが⽤いられる。機械学習モデルとは、機械学習アルゴリズムが学習データを処理することで得られた結果
で、新しい⼊⼒データに対し、何らかの識別・判断結果を出⼒するプログラムを指す。同じアルゴリズムを⽤いても、学習するデータが異なると出⼒されるモデルは異なるものになる。本⽂内の⽤語もこの定義による。
8

図 1：伝統的なプログラミングと機械学習アルゴリズムの⽐較（ZEISS12より引⽤）

ルールベースのような、伝統的なソフトウェア開発では、コンピュータ上で専⾨家が作成したプログラム（図 1 では「Handcrafted model」）がデータを処理することにより出⼒（認識、推論した結果。図 1 では「Result」）が得られる。
⼀⽅、機械学習アルゴリズムにおける学習フェーズの場合は、「⼊⼒データとその⼊⼒に期待される出⼒（正解）」のサンプル（学習データ。図 1 では
「Sample Data」と「Expected Result」）から、⼊出⼒の関係を⽰すモデル（図１では「Model」）が得られる。このとき、データからモデルを得るための⼿順が機械学習アルゴリズムにおける学習フェーズである。得られたモデルを⽤いることで、新たな⼊⼒データに対しても認識・推論結果（図１では「Result」）を得られるようになる。単純な例として、曲線 f(x)=w0+w1x+w2x2 ... + wMxM（w0, ...,
wM は係数、xn は x の n 乗）を学習することを考えると、与えられた(x,f(x))の組
み合わせから係数を推定する⼿法（例えば最⼩⼆乗法）が学習アルゴリズムであり、具体的な係数を当てはめた関数が学習結果のモデルということになる。
さらに、モデルを開発する主体がアウトプット（モデルが抽出する結果）の妥
当性や品質をチェックし、また追加のモデル開発を⾏い、これを繰り返すという点で、⼈間の関与も引き続き多⼤である。すなわち、Seaver の⾔葉を借りれば、
12

ZEISS｢The Relation between Computer Vision and Machine Learning｣https://blogs.zeiss.com/digital/page/2/（2023 年 1 ⽉ 28 ⽇閲覧）.
9「アルゴリズムとは、独⽴した⼀つの⼩さな箱ではなく、何百⼈もの⼿が⼊り込
み、調整し、部品を交換し、新しいアレンジメントで実験する、⼤規模でネットワーク化されたもの」13なのである。
したがって、単純にモデルのコードを開⽰したり、モデルについてのみ説明したりするだけでは何ら問題は解決されない。
そこで、本ツールキットは、AI アルゴリズムをデータ、モデル、アウトプット、
⼈間の関与、そして全体のシステム設計の五つが有機的に連携することで成⽴していると捉え、別表１のとおり、これらの観点を踏まえた AI 全体の透明性を担保しようとする。次項より各項⽬の詳細について述べる。
3

ツールキットの解説
AI アルゴリズムの透明性を議論するにあたって、まずはこの開発・提供のプロセスについて図 2 をもとに⼤まかに認識を整えたい。

図 2：AI の開発プロセスの概要（著者作成）

まず、AI のモデルを開発するために、学習データ（Training Data）が必要となる。
これをもとに AI はモデルを構築し、そのモデルが実運⽤に耐えうるかをテストデータ
で確認を⾏う。そして実運⽤にあたっては、実際に当該モデルに⼊⼒するインプットとしてのデータ（Operating Data）が⼊⼒され、それに基づいて当該モデルが出⼒（Output）
を⽣み出す。この全ての過程に⼈間による関与（Human）が含まれる。これらの各要
素を横断する思想やデザインを本ツールキットでは全体のシステム設計（System）と呼13

Seaver, N. (2019). Knowing algorithms. DigitalSTS, 412-422. https://digitalsts.net/wpcontent/uploads/2019/03/26_Knowing-Algorithms.pdf 2023 年 1 ⽉ 28 ⽇閲覧）10

んでいる。
別表１「AI アルゴリズムの透明性開⽰項⽬リスト」は、AI 開発の⼤まかなライフサ
イクルに基づいた開⽰事項を昇順に列挙し、各開⽰事項が上述の五つの要素のいずれに関するものであるかを明⽰している。以下では、五つの要素毎で実現すべき透明性のあり⽅を具体的に⾒ていくことにする。なお、説明の便宜上、データ、モデル、アウト
プット、全体のシステム設計、⼈間による関与の順に⾒ていくものとするが、基本的には順不同である。
3.1

データ（Data）
3.1.1 学習データ（Training Data）の概要
ある AI を開発するにあたって、⽤いられている学習データ（テストに⽤いるためのデータを含む。以下同様）の概要を開⽰する。たとえば、テキス
トの⽣成 AI であれば利⽤する⼤規模⾔語モデルによって⽤いられている学習データは異なりうる。画像⽣成 AI であれば、⽤いている画像のデータセットの特徴を利⽤者や⼀般社会が理解しやすい形で⾔語化する。
学習⽅法によって異なる開⽰を⼯夫することも重要である。たとえば、教師あり学習の場合にはどのようなデータを教師データとしているのか、何を教えているのか。教師なし学習の場合にはモデルに何をさせようとしているのか。強化学習の場合にはモデルに与えるインセンティブなどを明確にする
ことが考えられる。
また、データセットを構築する全ての変数や項⽬を開⽰することはできず
とも、何らかの特殊な事項やセンシティブな事項が含まれる場合にはその旨を明⽰することも必要となる可能性がある。
3.1.2 学習データのソース
利⽤者や研究者がアクセス可能な形式で公開されているデータセットへのアクセスリンクを提供する。
オープンデータであればこれはそれほど困難なものではないが、そうでな
い場合、全体のデータセットと内容に齟齬のないサンプル化したデータセッ
トを提供することも考えられる。
3.1.3 学習データの⼊⼿経路
学習データがどのような⽅法で⼊⼿されたのかを説明する。
すでに個⼈情報に関しては、各国の個⼈情報保護規制によって少なくとも取得段階で取得⽅法や利⽤⽬的に関する開⽰が求められていることがほとんどであるが、AI の利⽤段階でもこの開⽰は求められるべきである。また、
個⼈情報以外のデータ（たとえば統計データやテキストデータ等）についても同じく開⽰されるべきケースはあるだろう。
3.1.4 学習データの DEIB (Diversity, Equity, Inclusion, and Belonging) ポリシー
11

AI のモデルを開発するにあたって、学習データが考慮している多様性や公平性、網羅性、代表性（当該 AI が利⽤対象にする⺟集団を適切に代表しているか）、包摂性といったいわゆる「Diversity, Equity, Inclusion, andBelonging」に関する事業者のポリシーや⾒解を記述する。
AI がバイアスを持つとき、その⼀つの要因は学習データそのものが偏ってしまっていることが挙げられる。したがって、実運⽤に耐えうるように偏りをいかになくしているか、あるいは偏りをあえて残す場合はその理由を説明することが、利⽤者の便宜に資するのみならず、事業者の開発時の意識強化にも繋がる。たとえば、⽇本を市場として AI を提供する場合、⽶国社会
にとっては明らかに偏りがあるとされるデータセットであっても⽇本社会における多様性や包摂性の観点からは問題が少ない場合がある。その場合、どの社会からも受け⼊れられるような多様性のあるデータセットの利⽤を追求するのではなく、当該市場における DEIB 観点からの⼗分性の検討結果
を事業者が明らかにすることが重要である。
また、学習データから意図的に除外されたデータを説明することで、多様性や網羅性、代表性に関する説明が可能となる場合がある。
3.1.5 実運⽤データ（Operating Data）
AI が実際に活⽤される時点で⽤いられるデータの概要を記述する。
すでに述べた学習データに関する項⽬が実運⽤データにも全て適⽤できる場合、「データ」という⼤きな項⽬に整理可能である。⼀⽅、学習データとは異なり、たとえば利⽤者が直接⼊⼒するデータが実運⽤データになる場合には、実際に⽤いられるデータについて、学習データとは別途説明が必要となる場合がある。
3.2

モデル・Model
3.2.1 利⽤フェーズ
AI で⽤いられているモデルが製品・サービス開発のどのようなフェーズで使われているかを説明する。たとえばアイデア段階、研究段階、ベータ版、
実運⽤段階といったフェーズを明⽰することで、利⽤者は当該 AI に対する期待値や利⽤⽅法を調整することが可能になる。
3.2.2 学習⼿法
当該モデルがどのような学習⼿法によって開発されているかを記述する。
機械学習、深層学習、エキスパートシステム、ルールベースなど、その説明
⽅法や粒度は利⽤者や研究者の理解に資する観点からケースバイケースで選択すべきである。
3.2.3 説明可能性
当該モデルを事業者が合理的に説明することのできる程度に限界がある
12場合、事業者の理解を記述する。
たとえば深層学習モデルについては、どうしてもそのブラックボックス性ゆえに、抽象化したパラメータ・特徴量等による⾔語化にも限界があるケースが存在する。しかし、根本に⽴ち返って、透明性が実現しようとするのは社会や利⽤者による AI プロダクトへの信頼、あるいは⾃らの⾃⼰決定権を含む権利保護であると考えれば、「⼈間が理解可能な粒度のある程度の説明」という透明性で解決できる事項もまた多い。昨今導⼊が進んでいる
Explainable AI（XAI）などにもまさにそういった観点からの取り組みが存在している。そこで、事業者による過度な説明責任を軽減し、代替できる説得的な説明⽅法を案内することが考えられる。
3.2.4 パラメータ・特徴量とその⽬的・理由
当該モデルを構成するパラメータ・特徴量について説明する。その⽬的や理由について事業者の理解が記載することが望ましい。
パラメータまたは特徴量とは、データセットが持つ特徴を定量的に表現したものを指すが、ここではその厳密な定義を求めるものではなく、AI アルゴ
リズムがある出⼒結果を求める際に考慮している数値化可能な特徴・設定値などといった認識で揃えたい。また、どのパラメータをどの程度重視するかを定量化したものを重みと呼ぶ（説明は後述する）。AI プロダクト開発においてはパラメータをどのように設計しまたはデータから獲得するか、重みをどのように設定したり最適化したりするかが主な論点となる。よく挙げられる事例として、アイスクリームの売上を予測する AI アルゴリズムを考えると、天気や気温、商品数、⽴地（最寄駅からの距離など）など様々なデータと売上データの関連性を学習しながら AI のモデルが構築され、それら⼀つひとつの要素がパラメータを構成することになる。深層学習に代表されるよ
うに、⼈⼿で個々のパラメータを設計するのではなく、データから学習する
中で、⼊⼒データの中で⽬的に有効なパラメータが「獲得」される場合もある。
しかし、細かなパラメータなどを全て開⽰することが求められるわけではない。詳細なパラメータの開⽰は利⽤者の理解を困難にさせ、事業者にとっても秘伝のたれとしての企業秘密を開⽰することにも繋がりかねない。むしろ、利⽤者が理解可能な程度に抽象化された、モデルが考慮する重要なパラメータについて、次項に述べる重み付けと併せて⾔語化することが最も実務的である。先の事例でいえば、「天気を以下の厳格な定義に基づいて 18 種類に分類し、…」といった説明が求められるのではなく、「当⽇の天気」というパラメータの説明で利⽤者は適切な理解を得ることが多いだろう。また、深層学習のようにパラメータ⾃体を学習する場合は、学習の⼿法についての⾔13

語化・開⽰となることも考えられる。また、モデルに影響を与えないが、影響を与えるのではないかと誤解されやすい要素を明⽰的に説明することで、AI アルゴリズムの適正な利⽤を促すことも考えられる。
この観点で 2023 年 1 ⽉ 28 ⽇現在最も参考になる先⾏規制は EU のプラ
ットフォーム透明化規則（P2B 規則）14だろう。同規則は、オンラインプラ
ットフォーム上において中⼩企業を含む事業者の取引の公正性と透明性を実現すべく、オンラインプラットフォーム事業者に対して主要なアルゴリズ
ムやパラメータの透明性を実現するよう求めている。具体的に同規則では、ランキングを決定する主要なパラメータを決定し、説明することが求められている。AI アルゴリズム内に多数のパラメータが存在している場合、それらをいくつかのカテゴリに分類し、決定的な役割を果たす⼤きなカテゴリを残していく作業を履践する。そして、主要なパラメータを決定するまでの判断
プロセス⾃体も記述することがベストプラクティスとされている。さらに、⼀般的に⽤いられるパラメータ⼀覧も公表15されており、どういったものが
いわゆる「パラメータ」の記述候補となるのかがわかりやすい。たとえば「コンテンツの品質（ウェブサイトへの相互リンク、豊富度、⾔語の質・数）」や「地理的な近接性」、「商品・サービスの⼈気」、「在庫の有無」などが記載されている。
また、⽇本の DPF 取引透明化法でも主要なパラメータの開⽰は求められているが、P2B 規則ではさらにその理由の説明までを求めている点に特徴がある。AI アルゴリズムの類型にもよるが、⽬的や理由、意図するところまでを開⽰できれば、利⽤者や社会にとって、どのように当該 AI アルゴリズムを利活⽤すればよいかを⼀歩踏み込んで理解できるだろう。
実際の開⽰事例をいくつか抜粋する。
たとえば Google LLC は、公式サイト16において、Google Play におけるアプリの表⽰順位について、「ユーザとの関連性」、「アプリのエクスペリエン
スの品質」、「エディターによる評価」、「広告」、「ユーザーエクスペリエンス」
を「主な要因」とし、ただし「ランキングに与える影響の⼤きさは、ユーザ
14European Commission “Platform-to-business trading practices｣https://digitalstrategy.ec.europa.eu/en/policies/platform-business-trading-practices” （2023 年 1 ⽉ 28⽇閲覧）.
15
EUR-Lex “Guidelines on ranking transparency pursuant to Regulation (EU) 2019/1150
of the European Parliament and of the Council”(Annex1) https://eur-lex.europa.eu/legalcontent/EN/TXT/?uri=CELEX%3A52020XC1208%2801%29 （2023 年 1 ⽉ 28 ⽇閲覧）.
16
Google LLC 「アプリの検出とランキング」
https://support.google.com/googleplay/android-developer/answer/9958766?hl=ja （2023
年 1 ⽉ 28 ⽇閲覧）14

ーが⾒ている Google Play 上の場所、ユーザーが使⽤しているデバイス、ユーザーの設定によって異な」るとしている。さらにそれぞれの項⽬について、より深い理解を促すために、詳しい説明を続けており、その中でそのような要素を「主な要因」とした理由や経緯も記載されている。
アマゾンジャパン合同会社17は、オンラインモール「Amazon 出品サービス」の商品の表⽰順位を決定する主要なパラメータとして、商品の提供事業者向けには「商品情報にあるテキストその他の情報との⼀致率、価格、ポイ
ント、在庫状況、品揃え、販売履歴などの要素」によって決まると開⽰しており、⼀般利⽤者向けには、「お客様の⾏動（商品の購⼊頻度など）、商品の情報（商品名、価格、商品の説明など）、在庫の有無、お届けまでにかかる時
間、各種料⾦（配送料など）、その商品に興味を持たれるかどうか（新商品など）」といった内容で開⽰している。出店者向けと利⽤者向けでそれぞれ異なる説明を置いている点が特徴的である。
ヤフー株式会社は、公式サイト18において、「検索順位やランキングの決定の仕組み、各表⽰枠」について、「優良配送アイコンが付された商品」を「主に」「考慮」し、さらに、「その他の考慮要素」として、検索ワードとの関連性、商品の購⼊件数、購⼊顧客数、販売個数、商品レビュー数、ストア評価
数、ストア評価の平均値、ストア評価の合計値等」を挙げている。同時に、「出店者様からの販促費等の⽀払が、ランキングの順位に直接的に影響を及ぼすことはありません」と明記することで、誤解を⽣みやすい内容にも対応している。また、報告書19において、このような主要なパラメータの抽出に⾄った理由や観点を丁寧に説明している。すなわち、「当社オンラインモールの『おすすめ順』の表⽰順位を決定する主要な事項は、表⽰順位 を改善したいと考える出店者に参考にしていただける要素を公開すべきという⽅針のもとで、約 120 の要素の中から、順位を左右する度合いの⼤きい要素を抽出しました。ストアツールにおいて閲覧可能な数値（購⼊顧客数、注⽂件
数、レビュー数）や、「ストアパフォーマンス」として開⽰されているスコア（注⽂件数、ストア評価平均点等）とできる限り⼀致する形で項⽬化することで、出店者が改善に繋げやすいようにしています」とのことである。さら17

アマゾンジャパン合同会社「令和３年度特定デジタルプラットフォーム提供者による定期報告書概要」50 ⾴,66 ⾴
https://www.meti.go.jp/press/2022/12/20221222005/20221222005-c.pdf （2023 年 1 ⽉
28 ⽇閲覧）18
ヤフー株式会社「透明性向上のための取組みのご紹介」 https://businessec.yahoo.co.jp/shopping/digitalplatformer/ （2023 年 1 ⽉ 28 ⽇閲覧）19
ヤフー株式会社「令和３年度特定デジタルプラットフォーム提供者による定期報告書概要」43 ⾴15

に機械学習アルゴリズムの特質に基づく説明として、「表⽰順位を決定する要素の内容や重みづけは、機械学習により⽇々変動するため、その全てを常に正確に開⽰することはほぼ不可能ですが、順位を左右する度合いが⼤きい
主要な要素を新たに追加する場合は、必ず開⽰内容を更新することとしています」と明記している。
3.2.5 重み付けとその⽬的・理由
各パラメータに対する重み付けや係数について説明する。重みとは、どのパラメータを重視するかを定量化した係数である。先のアイスクリームの売上予測の例で⾔えば、気温を重視するのであれば気温を表すパラメータに対する重みを⼤きくすることになり、⽴地を重視する場合は対応する重みが⼤きくなる。重みは、解決したい問題に対する専⾨家が設定する場合もあれば、データからの学習により調整・最適化される場合もある。重みについては、
パラメータ・特徴量と同じく、その⽬的や理由について事業者の理解が記載することが望ましい。
パラメータはモデル内で相互に対等ではないことが多く、相互関係や相対的な重要度を考慮し、利⽤者がパラメータ間の重要性の違いを理解できるような説明が求められることがある。ただし、重み付けは⽇常的に変化しうる
し、細かな調整こそ事業者内部に秘匿すべきことが少なくないことから、個別の既述よりも相対的な関係性の記述が好まれることが多いだろう。
EU の P2B 規則を例に取ってみても、正確な重み付けの指標の開⽰やパラメータ間の係数の開⽰まで求められているわけではない。利⽤者にとって有益なのは、どのような挙動をすべきか想定できることであるから、相対的に重要なパラメータに限定して開⽰することで⼗分に⽬的は達成できるだろう。したがって、本項⽬を独⽴して記載せず、前項のパラメータ・特徴量とともに「主要なパラメータ」や「重要な要素」のような形で、パラメータ間の相対的な⽐較から影響の⼤きいパラメータを抽出する⽅法が考えられる。
パラメータの重要性の考え⽅としては、モデルの抽出するアウトプット（たとえば表⽰順位やレーティング結果、審査結果、判定結果など）に影響を及ぼすもののうち、特に事業者が重視している事項（モデルを通じて、AI アル
ゴリズムへの事業者の思想・哲学が反映される）、⼜は特に利⽤者が AI アル
ゴリズムを最適に利⽤するために考慮すべき要素（利⽤者の最適化⾏動を通じて、AI アルゴリズムへの事業者の思想・哲学が反映される）が⼀つの尺度になるだろう。
前項ですでに挙げたいくつかの開⽰事例も基本的に主要なパラメータを説明する⽅針を採っており、今後⼀般化されるように思われる。⼀⽅、公的機関が利⽤する AI アルゴリズムや、利⽤に対するリスクが⼤きいと考えら16

れる AI アルゴリズムについては、主要なパラメータに限らず、相互の関係性などが記述されるべき場合も考えられるため、そのような場合には個別に独⽴した説明がなされるべきである。
3.2.6 課⾦を含む利⽤者区分毎の異なる取扱い
パラメータや重み付けが利⽤者の課⾦⾏為その他の⾏為⼜は属性によって変化しうる場合、どのような区分で異なる取扱いがありうるのかを説明する。たとえば課⾦の有無による区分、事業者による区分、年齢による区分、性別による区分、総利⽤期間・頻度による区分などで異なる取扱いを⾏う場
合などが考えられる。ここには、事業者（グループ企業を含む）が⾃ら運営するサービスとその他のサービスとを AI アルゴリズム上で異なる取扱いをする場合にはそれを説明することも含まれる。
実際に、EU の P2B 規則では、直接⼜は間接の対価の⽀払いによってランキングアルゴリズムにどのような影響を及ぼすかを開⽰するよう求める規制がある。また、同じく⾃社優遇に関する規制も P2B 規則や DMA などに含まれている。
たとえば、プラットフォーム事業者が AI を⽤いてレコメンデーションエ
ンジンやレーティングを調整する場合を想定してみよう。あるソーシャル・
メディアでは、課⾦した利⽤者の投稿を表⽰順位の観点で優先させることや、返信や拡散投稿を表⽰されやすくすることを開⽰している。また、特定の年齢の利⽤者に対しては⼀定の AI アルゴリズムを使⽤しないポリシーを有する事業者なども存在する。
3.2.7 変更の適正⼿続
AI アルゴリズムが変更される場合に事業者が履践する適正⼿続を記述する。
AI アルゴリズムの変更の内容が実質的に利⽤者に影響を及ぼす場合、たとえばレーティングに影響を及ぼしたり、レコメンデーションエンジンの結果が変更されたりする場合、利⽤者の予測可能性や防御の観点から、事前の通知、変更の⽬的、変更によって予想される影響などを説明することが考えられる。当然ながら、利⽤者による悪⽤（エンジンのハック）は予防されるべきであるため、事前の通知内容を⼀定程度抽象化することはありうる。
3.3

アウトプット（Output）
3.3.1 パフォーマンス精度・限界
AI のモデルが出⼒した結果の精度や限界を説明する。
たとえばその結果がどれほど信頼できるのかを有意確率やエラー率、正解率などによって記述することで、利⽤者は当該 AI に対して適切な期待値や利⽤⽅法を調整することができる。
17

また、よく起こる誤りの記述や不正解を起こしやすいケースの説明なども利⽤者にとって有意義となるだろう。
3.4

全体のシステム設計（System）
AI は、⽤いる学習⼿法によっては、⼀般の利⽤者の理解の範疇を超えるロジッ
クをもってアウトプットが出⼒される。その AI プロダクトを信頼してよいのかどうかは、事前事後の透明性や説明責任、あるいはその AI プロダクトを開発する主体やガバナンス体制への信頼へと委ねられる。そこで、全体のシステム設計と⼈間の関与に関する項⽬は、AI を⽤いる主体としての⼈間の関与⽅法や AI の設計思想、ガバナンス体制について記述することで、当該 AI への理解や信頼獲得を実現しようとするものである。
3.4.1 利⽤⽬的
提供するサービスやシステムにおいて、AI を利⽤する⽬的を記載する。
利⽤⽬的は、開発の経緯や将来像などを含むことで、より具体的に事業者の利⽤意図や思想を理解することに繋がる。
3.4.2 ベネフィット⼜はインパクト
当該 AI を⽤いることで得られる便益（ベネフィット）⼜は影響（インパクト）を説明する。
この項⽬は利⽤者の⽬線、事業者の⽬線、社会全体の⽬線など様々な観点からの記述が可能である。リスクとは別に、想定するポジティブな影響を中⼼に記述することで、利⽤者や社会全体の理解へと繋げることが可能となる。
3.4.3 利⽤⽅法
提供するサービスやシステムにおいて、どのように AI を⽤いるのかを説明する。
サービス全体の中で AI がどのように利⽤されているのかは、⼀⾒すると利⽤者にはわからないことがしばしば発⽣する。具体的には、どのプロセス
で AI を⽤いているのか、AI が出⼒したアウトプットは⼈間の意思決定をサポートする役割にすぎないのか、それとも AI によるアウトプットそのもの
が意思決定となるのかを具体的に説明することが望ましい。
たとえば、クレジットカードの決済履歴情報や購買履歴などに基づく与信審査で AI が⽤いられる際、AI による審査結果そのものが最終的な審査判断となるのか、それとも⼈間がその審査結果を参考にしながら審査判断を下すのかは意味合いが全く異なり、かつ開⽰されない限り利⽤者にはわからない。
3.4.4 リスクマネジメント
当該 AI の利⽤によって⽣じうるリスクについて、評価（アセスメント）、
リスクの最⼩化⽅法、⼜はコントロール⽅法を説明する。
AI が⽣み出すリスクを秘匿するのではなく、むしろリスクと共存してイ18

ノベーションを⽣み出すために、リスクの存在を利⽤者と共有し、事業者がどのような努⼒にとってこれを最⼩化しようとしているか、あるいはコント
ロールすべき項⽬として対応しているかを記述する。このようなスタンスによって、利⽤者もリスクを認識した利⽤が可能となるし、利⽤者⾃⾝のリス
クマネジメントにも繋がる。
また、⼀般的に同様の AI が包含するリスクに対して、⾃社の AI がどのような優位性を持つのかをリスクマネジメントの観点から説明することで差別化を図ることも可能かもしれない。
なお、リスクマネジメントについては、データ、モデル、アウトプットな
どそれぞれの観点から整理することでより理解しやすい体系となるだろう。
3.4.5 教育体制
AI の利⽤によって利⽤者や第三者に対して損害を⽣じさせることや、社会に対して新たな問題を⽣じさせることを可能な限り避けるため、事業者内
で AI の開発や提供に関して求められる倫理意識や留意点などの教育体制をどのように整えているか、トレーニングの実施内容や頻度、認証制度などを説明する。これにより、事業者が⽬指す取扱いの品質⽔準が可視化される。
3.4.6 監査体制
データやモデル、アウトプットなどについて、どのような監査体制を整備しているかを説明する。監査主体の別（内部か外部か）、監査対象の別（開発プロセスの監査か、技術そのものの監査か）などの観点から、事後的にどのような監査を⾏い、フィードバックがなされているかを明らかにする。
3.4.7 利⽤者によるコントロール
3.4.7.1 AI アルゴリズム利⽤の選択権
AI アルゴリズムを利⽤するか否か、⼜は複数の選択肢がある場合にどの AI アルゴリズムを利⽤するかを利⽤者が選択できることができるかを説明する。
たとえば、あるソーシャル・メディアではレコメンデーションエン
ジンに基づくフィードと投稿時間のみに基づくフィードを区別し、利⽤者が選択できるようにしている。しかし、⼀瞥してその区別や利⽤者による選択の可否がわからないことがある。利⽤者による主体的なAI アルゴリズムの選択を可能にするのであれば、選択権が存在すること⾃体が適切に伝達されなければならない。
3.4.7.2 フィードバック
AI アルゴリズムやデータへの利⽤者によるフィードバック⽅法の有無、また存在する場合はその利⽤⽅法を説明する。
たとえば、あるアグリゲーション・プラットフォームは、利⽤者が19

関⼼を持っている項⽬を選択することができ、それによって AI アル
ゴリズムにフィードバックできる仕組みとしている。さらに、事業者
によっては、事業者が推測したプロファイリング結果について、利⽤者がそれを訂正したり追加したりすることで、より最適な AI アルゴ
リズムに調整することを可能にしている。
3.4.7.3 データ・オプトアウト
利⽤者が、AI のモデルのために⽤いられている学習データにおいて
⾃らの情報や⾃⾝の知的財産等の利⽤を停⽌するよう申請する⽅法の有無、また存在する場合はその申請⽅法を説明する。
特に⽣成 AI で問題になることが多いが、学習データにデータを⽤
いられたくないと考える利⽤者が⼀定数存在することを想定するサービスやシステムは、このようなオプトアウト権の実装を検討すべきである。個⼈データの利⽤に関するオプトアウト権については、EU や
⽶国の⼀部の州で認められているが、個⼈データにとどまらないデー
タ利⽤については事業者の判断が求められている。
3.5

⼈間の関与（Human）
3.5.1 開発責任者・管理責任者
AI を開発・提供する責任者及び管理責任者を記載する。本記載によって、
当該 AI によって⽣じた責任の帰属先を明確にする。個⼈情報の取扱責任者の明⽰は国際的にも必須となり始めているが、その流れにも即するものである。
3.5.2 開発チームの DEIB ポリシー
AI を開発するチームが考慮している多様性や公平性、網羅性、代表性、包摂性といったいわゆる「Diversity, Equity, Inclusion, and Belonging」に関する事業者のポリシーや⾒解を記述する。
学習データの取扱いや AI のアウトプットへの評価を⾏うチームがアンコ
ンシャス・バイアスを持つことは避けられないため、これに対する事業者の措置を説明する項⽬である。
AI が持つ偏りを最⼩化する⽅法の⼀つとして、これを開発・提供するチームの多様性を担保すること、あるいは想定利⽤者の⺟集団との整合性を取ることが考えられる。しかし、開発チームがこれら全ての観点で必要⼗分な属性を持つことができるのは稀である。そこで、どのようにアンコンシャス・バイアスを排除しようとしているか、複数の観点からチェックを⾏う体制は整備されているかなどについて、事業者のポリシーを説明することも考えられる。
3.5.3 委託先管理
⾃社以外の委託先とともに AI を開発・提供する場合、その管理⽅法や体20

制について説明する。委託先についても各事業者が⾃社のガイドラインによる開発を求めるなど、適切な開発を担保する措置を記述することが求められる。
3.5.4 事業者によるモニタリング及びメンテナンス
特に AI が出⼒したアウトプットに対する品質評価⼜は安全性評価について、事業者による能動的なモニタリングやメンテナンス体制を記述する。
実運⽤段階では、利⽤者に誤ったアウトプットや違法有害な情報が出る影
響を最⼩化するためにトラストアンドセーフティの観点から能動的にアウ
トプットをモニタリングする体制が必要となるケースがある。またそれらの具体的な運⽤状況（検出件数等）を利⽤者や⼀般社会に共有し、どのようにそれらを AI にフィードバックするかなどを説明することでさらなる信頼の構築へと繋がるだろう。
3.5.5 問い合わせ対応
利⽤者や研究者による問い合わせ窓⼝やアウトプットに対する不服申⽴て窓⼝の案内、カスタマーエクスペリエンス体制及びその運⽤結果（問い合
わせの内容、頻度等）などを記述する。
たとえば、⽇本の DPF 取引透明化法に基づく開⽰では、Amazon や Google
らが苦情の類型、苦情に対する処理期間の平均期間、処理の結果に関する概要（処理結果の割合等）を年次報告書の形式で提出している20。各事業者がどのようにユーザからの問い合わせに向き合っているかがわかる良質な情報開⽰である。
3.6

留意点
なお、特に Human や System に関する項⽬については、複数のサービスやプ
ロダクトを提供しているような事業者は、サービスやプロダクト単位ではなく事業体単位として横断的に統⼀した体制を整備している場合もあるだろう。また、事業者全体としてみれば更に透明性を⾼められる事項や求められる開⽰事項もありうる可能性がある。しかし、本ツールキットは ver1.0 としてひとまず⼀つのサービスやシステムにフォーカスした内容としている。

4

ツールキットの利⽤のための視点
以上のように、本ツールキットの各項⽬に対して説明を加えてきたが、繰り返し述べたとおり、全ての事業者がこれら全ての項⽬について常に詳細に開⽰することが求め

20

経済産業省「『特定デジタルプラットフォームの透明性及び公正性についての評価』を取りまとめました」
https://www.meti.go.jp/press/2022/12/20221222005/20221222005.html （2023 年 1 ⽉
28 ⽇閲覧).
21

られる訳ではない。どの項⽬についてどのような開⽰を⾏うかを決定するために重要な視点として、利⽤される AI に内在するリスク、AI を利⽤する主体、情報が必要なス
テークホルダーの別がある。
4.1

AI 利⽤によるリスク・影響による分類
EU が AI 規則において、AI をリスクベースで 4 つに分類21したように、全ての AI について⼀律の規制や透明性を求めるのは妥当ではない。当然ながら与えるインパクトの⼤きさによって問われる透明性は異なるだろう。
⼀つの参考に過ぎないが、たとえば、以下のような分類をした場合に、Tier 1
ほど⾼度な透明性が求められると考えられる。ただし、Tier1 が⽤いる AI の種類
によっては、透明性では解決できない問題（リスクが顕在化した時点で多⼤な被害が⽣じる場合など）もあるため、その点は留意が必要である。

リスク

Tier 1

Tier 2

Tier3

利⽤者の⽣命・⾝体

利⽤者に経済的影響

その他の AI（利⽤や、社会が共有するを及ぼすもの者の意思決定の補

基本的⼈権・⾃由⺠助や業務サポート

主主義の価値観に危を⾏うもの）

険を及ぼすもの
具体例

医療的判断を下す

求⼈求職マッチング

勤務シフト調整AI、⼤規模な映像監

AI、契約書審査 AI、（ク

AI、検索エンジン

視 AI、投票先マッチ

リエイターにとって等

ング等の）画像⽣成 AI、飲⾷店やホテルにとっての事業者レコメンデーションエンジン等

4.2

利⽤主体による分類
AI を⽤いる主体によっても、求められる透明性は⾼まる。特に、公的機関がその業務で AI を⽤いる場合、影響を受けるのは⾏政サービスの対象としての市⺠であり、当該 AI の利⽤については⾼度な情報の透明性が求められる。また、ある市場において⽀配的な地位を有する巨⼤なプラットフォーム事業者についても、その取引の公正性を担保するために⾼い透明性が求められるといえよう。

21

The European Union ”Regulatory framework proposal on artificial intelligence”
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai（2023 年 1 ⽉ 28
⽇閲覧).
22

主体

Tier 1

Tier 2

政府・公的機関その他

巨⼤プラットフォーム
実際に英国政府が 2022 年末に公表したアルゴリズムの透明性記録基準（Algorithmic Transparency Recording Standard）22は、政府を含むパブリックセ
クターがアルゴリズムツールを⽤いる際の情報の開⽰⽅法を網羅的に整理している。本稿と同じく、モデルのみに集中せず、データやアウトプット、⼈間による関与に⾄るまで、様々な視点でパブリックセクターが果たすべき説明責任を⾔語化している。パブリックセクターという主体の重要性に鑑みた透明性の基準として今後様々な場所で参照されるものになるだろう。
4.3

情報の受け⼿の視点
本ツールキットを⽤いて AI アルゴリズムの透明性の観点から開⽰する項⽬とその記載⽅法は、開⽰された結果を確認するステークホルダーの別を考慮した内容でなければならない。いわゆる読み⼿の視点である。なぜなら、ステークホル
ダー別に透明性の理解や必要性、⽤途は全く異なるからであり、それに応じた説
明⽅法が個別に選択されるべきだからである。表 2 は、ロボティクスや AI に関する透明性の理解がステークホルダー毎に異なることを指摘した先⾏研究の抜粋である。
ステークホルダー

透明性の類型・⽬的

開発者

・デバッグや改良のために、システムがどのように動作しているかを理解すること・安全基準のためのモニタリングとテストを容易にす
ること

利⽤者

・システムが何をしているのか、なぜしているのかを理解し、不測の事態に何が起こるかを予測できるようにし、技術に対する信頼感を構築すること
・ある特定の予測や決定がなぜ下されたかを理解し、システムが適切に機能したことを確認し、意味のある挑戦を可能にすること（例：審査の承認や刑事判決）

社会

広くシステムの⻑所と限界を理解し、慣れ親しみ、未知

22

GOV.UK “Algorithmic Transparency Recording Standard”
https://www.gov.uk/government/publications/algorithmic-transparency-template （2023
年 1 ⽉ 28 ⽇閲覧）.
23

のものに対する無理もない不安を克服すること
専⾨家・規制当局

特に何か問題が発⽣した場合（⾃律⾛⾏⾞による衝突など）、予測や決定の痕跡を詳細に監査する能⼒を提供すること。これには、主要なデータストリームを保存し、各論理的ステップを追跡することが必要となる場合があり、説明責任と法的責任の割り当てを容易にする。

デプロイヤー

・利⽤者が予測や判断に納得し、システムを使い続けら（deployer）

れるようにすること・利⽤者を何らかの⾏動や振る舞いに導くこと。例えば、アマゾンがある商品を勧め、その説明をすることで、クリックして購⼊するように仕向けること。

表 2 ロボティクス及び AI に関する透明性についてステークホルダー毎の理解の差異（Weller，
2017 より筆者翻訳による引⽤23）

この表が明らかにするとおり、透明性を実現する相⼿が開発者なのか、利⽤者
なのか、社会⼀般なのか、専⾨家や規制当局なのかによって、それぞれのステー
クホルダーは異なる⽬的を持っており、同時に理解度も異なる。本ツールキットの項⽬選択や説明の記載⽅法もそれに応じた使い分けがなされるべきである。
またこれらのステークホルダーが所在する国・地域の観点も重要である。国・地域によって法規制や社会規範、価値意識は⼤きく異なる。それに伴い、社会が問題意識を持つ項⽬にも濃淡があり、それに応じて担保すべき透明性は異なっているだろう。
なお、本ツールキットは、別のステークホルダーとして社内の監査部⾨やリス
ク・コンプライアンス部⾨による利⽤も想定している。本ツールキットをチェッ
クリストのように⽤いることで、AI の社内理解や当該 AI のリスク評価やマネジ
メントの促進に繋がるだろう。
4.4

透明性の粒度・程度について
透明性といっても、本ツールキットの各項⽬について、ただ闇雲に開⽰すれば良いというわけではない。研究者の中には、透明性を⾼めることに意義がない、あるいは有害でさえあるという批判も存在する24が、その強い根拠の⼀つは開⽰事項に対する利⽤者の理解に限界があることである。曖昧すぎる記載やあえて詳

23

Weller, A. (2017). Transparency: Motivations and Challenges. arXiv:1708.01870.
https://arxiv.org/pdf/1708.01870.pdf（2023 年 1 ⽉ 17 ⽇閲覧）.
24
Ananny, M., & Crawford, K. (2018). Seeing without knowing: Limitations of thetransparency ideal and its application to algorithmic accountability. New Media & Society,20(3), 973‒989. https://doi.org/10.1177/1461444816676645（2023 年 1 ⽉ 17 ⽇閲覧）24

細をはぐらかしたような説明は、透明性が⽬指す信頼獲得や理解の向上には全く資さない。⼀⽅、詳細に開⽰したからこれらが実現するかといえば利⽤者の理解に限界がある以上、これも⾸肯できない。しかし、AI アルゴリズムの透明性の粒度・程度に関する複数の先⾏研究を整理した表 3 には、現実的な可能性への⽰唆が存在する。
研究トピック

透明性の結果指標

発⾒事項

映画推薦システム・システムの受容度

混合的な結果：パフォーマン・パフォーマンス

スには効果はないが、受容度には正の効果あり

⾳楽推薦システム
社会的ロボット・システムの満⾜度

満⾜度と信頼度に対する正の

・信頼度

効果

・責任の帰属

弱い効果

・信⽤の帰属⽂化財レコメンダーシ・システムの受容度弱い効果：信頼度とコンピテ

ステム

・信頼度

ンスには効果はなく、受容度・コンピテンスには部分的に効果あり

・理解度

なぜそうなのか、そうでない・信頼度のかの説明が、理解度、信頼・パフォーマンス

度、パフォーマンスを向上さ

⾏動認識システムせる
⾳楽推薦システム・メンタルモデル

理解や信頼を深めるために健・利⽤者の信頼度

全で完全な説明が最適である

Facebook のニュースフ

・最初の驚き、怒り、 アルゴリズムの存在を知るこィードアルゴリズム

不満の度合いとで正負の効果が⽣まれる

・段階的な満⾜度
MOOC におけるピア

信頼度

評価

透明性の効果は利⽤者の期待とそれに背くか次第。結果が利⽤者の期待に反した場合、透明性が⾼くとも信頼度は低くなる。

環境に配慮したモバイ・信頼度

信頼度に対する正の効果はあルアプリ

・認識されたコント

るが、認識されたコントロー

ロール

ルへの影響はない

・信頼度

具体的すぎる説明と⼀般的な・気味悪さ

説明は気味悪さに繋がる。中オンライン広告25

・満⾜度

間的な説明は信頼度と満⾜度を⾼める。アルゴリズムの透
明性は幻滅に繋がる。

Facebook のニュースフ・認知度

認知度への効果が最も⾼く、ィードアルゴリズム

・正しさ

ついで説明責任への効果が⾼・解釈可能性い・説明責任
表 3 様々な AI の透明性に対する利⽤者個⼈への影響に関する先⾏研究（Felzmann et al.,2019
より筆者翻訳による引⽤25）

先⾏研究が⽰すのは、AI の種類や役割によって、透明性の粒度・程度に⼯夫しなければ、場合によっては利⽤者の信頼度や満⾜度、パフォーマンスをむしろ下げてしまうおそれがあるということである。特に、具体的に説明しようとして情報を過剰に提供し、結果的に利⽤者の理解を得られないようではむしろ AI への気味悪さを助⻑させたり、⼀⾒透明性が⾼いようでいて AI の挙動によってはむ
しろ信頼度を落としたりする可能性がある点には⼗分注意する必要がある。⼀⽅
で、⼀般的すぎる説明をアリバイ作りのように置くだけでは、PR 効果を含む⼀切の期待する効果は得られない。利⽤者を始めとするステークホルダーの⽬線から、効果を最⼤化する開⽰の程度を AI の種類や役割に応じて使い分ける必要がある。
5

ユースケース
5.1

ユースケースの⽬的
本ツールキットを具体的にどのように利⽤できるか、簡単なユースケースを 2つほど記しておきたい。これらのユースケースは決して理想的な開⽰事例を⽰す
ものではなく、意図的に議論の対象となる事項を含んでいる。ユースケースを通じて、開⽰項⽬の選択や記載⽅法の検討の⼀助になれば幸いである。なお、全てのユースケースは架空の事案であり、特に念頭に置いたシステムやサービスがあるわけではない。

5.2

政府機関が補助⾦制度の申請審査に AI を⽤いる場合
このユースケースでは、AI アルゴリズムの透明性を実現するにあたって、以下のような点が考慮要素となり、開⽰の項⽬、⽅法、程度はそれらに鑑みた対応で

25

Felzmann, H., Villaronga, E. F., Lutz, C., & Tamò-Larrieux, A. (2019). Transparency you
can trust: Transparency requirements for artificial intelligence between legal norms andcontextual concerns. Big Data & Society, 6(1). https://doi.org/10.1177/2053951719860542（2023 年 1 ⽉ 17 ⽇閲覧）.
26

なければならない。
（１）主体：
XX 庁（政府機関）であり、透明性が強く求められる。
（２）AI の利⽤によるリスク・影響：
利⽤者に経済的影響（補助⾦申請の可否）を及ぼす。
（３）情報の受け⼿：
広く国⺠⼀般であり、そのリテラシーには幅広い差異がある。
このようなケースでは、強い透明性が求められるため開⽰事項は多岐にわたる
⼀⽅、影響を受ける国⺠広く⼀般が理解可能な粒度に情報の開⽰⽅法を⼯夫する必要がある。
別表 2 として本ユースケースの開⽰例を記載している。決して理想的な事例を記載しているわけではなく、説明の便宜のためあえて注意が必要な記載をしている箇所もある。特に留意すべき事項について、以下簡単に検討する。
「ベネフィット・インパクト」は、利⽤者の理解を得るためにもなるべく具体的に、そしてステークホルダー毎の観点で記載することが望ましい。特に政府機関が利⽤する場合は、税⾦を⽤いることへの費⽤対効果の観点も含まれるべきである。
「利⽤⽅法」では、AI が意思決定を下すのではなく、⼈間のサポートに過ぎないことが強調されている。最終的に⼈間が責任をもって審査することが明⽰されている点が重要である。
「開発チームの DEIB ポリシー」や「学習データの DEIB ポリシー」は、広く国⺠⼀般を利⽤対象とするサービスであればあるほど、⾼度なポリシーが求められる。特に何らかの属性に対する差別（合理的説明ができない異なる取り扱い）が⽣じないための措置を現在の記載以上に詳細に記載することが検討されるべきである。
「パラメータ・特徴量」では、主要なパラメータが 5 つ挙げられている。そして、それぞれの項⽬について簡単な記載が置かれている。また、特に⾏政による⾮合理な差別との誤解を⽣みやすい「年齢及び性別」というパラメータについて
は、詳細について別のページに誘導する記載がある。利⽤者間のリテラシーに差異が想定されるケースでは、このような階層的な記載が好まれる。
「パフォーマンス精度・限界」及び「事業者によるモニタリング・メンテナンス」については、政府機関が利⽤する以上、利⽤者が審査結果に疑義を抱かれな
いよう、事前に AI アルゴリズムの精度や誤った判断の可能性への対応⽅法を説明することが求められる。
政府機関により利⽤され、結果によって経済的影響が⽣じる AI アルゴリズム
については、性質上開⽰が許されないもの（個⼈データを含む学習データ等）を
27

除いて基本的には全ての事項をわかりやすく開⽰することが考えられる。先述したとおり、英国が先んじて政府機関による透明性の取組みを始めており、今後の実務対応を注意深く追っていきたい。
5.3

ソーシャル・メディアのフィードに AI によるレコメンデーション機能を⽤いる
場合次に⺠間事業者によるソーシャル・メディア上のフィードに⽤いる AI アルゴ
リズムの透明性を検討する。別表 3 の開⽰例を⾒ると、前項のユースケースとは異なり、開⽰していない事項も存在する⼀⽅、ユーザビリティの観点から利⽤者にコントロールを委ねているものも少なくない。
「学習データのソース」は、サンプルデータを格納するレポジトリが指定されている。事業者に競争優位性を持たせる学習データを全て開⽰することはできず
とも、ランダムサンプリングなどによって抽出された⼀定のサンプルデータを公表することは現実的な対応オプションとして検討されるべきである。
「パラメータ・特徴量」は、主要なパラメータについてある程度抽象化したカ
テゴリで表記し、「重み付け」で相対的に重視されるものを列挙している。
「2023
年 X ⽉時点」と明記しているのも特徴的である。また、特徴的なのは、個別のポストを選択することで表⽰された理由がパラメータと共に説明される設計になっていることである。⼤⼿のソーシャル・メディアなどでは徐々にこのような実装も始まっているが、ソーシャル・メディアにとどまらず、レーティングサービ
スやマッチングサービスなどでも積極的な活⽤が期待される。
「利⽤者によるコントロール」について、様々な記載が置かれている。本来は
このような項⽬を確認せずとも利⽤者がフィードを利⽤している最中に気づき、コントロールできる UI・UX を設計することが理想的である。

6

各国の規制状況と本ツールキットの対⽐AI アルゴリズムをめぐる各国の規制は、特に GDPR、P2B 規則、AI 規則、DSA、DMA といった規則等で EU が先んじて議論や導⼊を進めている。AI と⼈間社会の共存を図る上で、EU がいかに⼈権や⺠主主義といった価値観を重要視しているかが⾒て取れる。GDPR はデータに関する権利を⼈権の議論に引き上げ、AI 規則は AI の内包するリスクに応じて異なる規制を当てはめる、いわゆるリスクベースアプローチを採⽤した点で特徴的である。本稿も、AI を開発・提供する主体、AI を利⽤する者、利⽤
⽅法、AI が及ぼすリスクに応じて透明性のレベルを区分する点で同じ⽴場を取っている。P2B 規則や DSA、DMA は、特にプラットフォーム事業者やオンラインサービス
事業者が社会に果たす役割の⼤きさに着⽬し、規模や業態に応じて、透明性の観点から社会との適切なコミュニケーションの実施を求める規制が含まれている。
⼀⽅、⽇本でも DPF 取引透明化法において、指定された特定の巨⼤プラットフォー
ム事業者を対象に AI アルゴリズムの透明性を求める共同規制が導⼊されている。本稿
28

でもすでに触れたように、プラットフォーム事業者による⾃主的な開⽰が実現しており、プラットフォームの利⽤者による理解も進んできている。
なお、アメリカは依然として AI アルゴリズムの透明性に関する具体的な規制は整備されていないが、すでに議会での議論は開始している。最も直接的な法案としてはアルゴリズム説明責任法（Algorithmic Accountability Act）26が挙げられ、こちらもやはり重要な意思決定を担う AI のようなリスクの⾼いケースに対する⾼度な透明性・説明責
任などを求める内容になっている。ただし、当該法案は未成⽴であり、今後も⽶国議会
はこの観点について当⾯議論を続けるだろう。
それぞれの規制について本稿でその詳細な説明は避けるが、別表４として各国の規制状況と本ツールキットの対⽐表を作成した。もちろん法令毎に規制の対象も異なれ
ば規制の内容も様々であるため、対⽐表は個別の法律・法案の解釈を説明するものではなく、⼤雑把にそれぞれの法律・法案がどういった項⽬について関⼼を有するかを⽰したに過ぎない。この対⽐表からも、本ツールキットが透明性というトピックで俯瞰的、体系的な議論に挑戦していることがご理解いただけるかと思う。
7

結語
AI によるイノベーションが⽣み出す正のインパクトを最⼤化するためには、当該 AIが内包するリスクをステークホルダーが認識し、その利害調整を適切かつ柔軟に実⾏できる技術的、組織的、社会的システムの設計と運⽤、すなわち当該 AI に対するアジャイルなガバナンスのフレームワークが不可⽋である。本稿は、AI アルゴリズムの透明性という最も議論が盛んなガバナンスの⼿法について、俯瞰的、体系的な整理に挑戦
し、実務に耐えうるツールキットを提案した。イノベーティブな AI が不完全なコミュ
ニケーションに起因する誤解によって社会実装を阻害される不幸は回避されるべきであり、そのために透明性が果たすことのできる役割は⼩さくない。ただし、体系的な整理がない中で、イノベーションが種々の問題を引き起こす度に規制や規範が形成されることは、設計図のない建物の増築が繰り返されるようなものであり、予⾒可能性を⽋くとともに、本来の⽬的を離れた形式だけの「透明性」が⾃⼰⽬的化していきかねない。
そのような状況では、イノベーションは阻害されていくだろう。このような状況を避けるためには、アルゴリズムの透明性に関するルールについて、統⼀的な考え⽅のもとに体系的に整理されていることと、事業者が実運⽤しやすい汎⽤性、明瞭さ、裁量の余地がある柔軟性が追求されなければならない。
本稿では、各国当局による規制案のみならず、様々な AI によって⽣じる新たなリス
ク事象を幅広く考慮し、さらには AI アルゴリズムに関する先⾏研究を踏まえながら、

26

CONGRESS.GOV “H.R.6580 - Algorithmic Accountability Act of 2022”
https://www.congress.gov/bill/117th-congress/house-bill/6580 （2023 年 1 ⽉ 28 ⽇閲
覧）.
29体系的な開⽰事項・事例集としてのツールキットを構築した。また、事業者が透明性の程度を⼯夫することで、社会における信頼性のみならず満⾜度など異なる指標にも良い影響が与えられる観点を取り込んでいる。加えて、開⽰事項をリスト形式にし、それを AI アルゴリズムの提供者、利⽤者、リスクなどの観点から裁量的な選択性とするな
ど、⾃主・共同規制に対応する事業者にとって利便性の⾼いツールキットとなることを⽬指した。事業者が、利⽤者や社会、当局、専⾨家らとのコミュニケーションのツールとして、あるいは社内のリスクマネジメントツールとして、本ツールキットを利⽤していただくことができれば、これほど嬉しいことはない。それが AI によるイノベーショ
ンのインパクト最⼤化に繋がる最適なアジャイル・ガバナンスの⼀つだと信じている。
本ツールキットは ver1.0 とし、今後の指摘や議論の発展を踏まえて、アップデートを重ねていきたいと考えている。読者の皆様におかれては、ぜひ過不⾜の指摘などご指導いただきたい。
8

謝辞
最後に、本稿の提案の場を提供してくださり、様々な観点から有益な指摘を続けてくださった宗像直⼦先⽣、⽻深宏樹先⽣、東京⼤学公共政策⼤学院、同「イノベーション
ガバナンスエキスパート養成プログラム」受講⽣の皆様に⼼から感謝申し上げる。

30

別表 1 AI アルゴリズムの透明性開⽰項⽬リスト

Lv1

Lv2

プロダクト
思想

本⽂項⽬ System Data

Model Output Human 開⽰項⽬

3.4.1
利⽤⽬的

◯

AI を利⽤する⽬的

ベネフィット・インパ 3.4.2
クト

AI を利⽤することによって得られる便益（ベネフ◯ィット）、影響（インパクト）のアセスメント

3.4.3

AI が活⽤されているプロセス、AI が担う役割（意思決定そのものを⾏うのか、⼈間の意思決定

利⽤⽅法

◯

をサポートするのか等）

開発責任者・管理責任 3.5.1
開発チーム 者◯

開発チームの DEIB ポ 3.5.2

開発チームの構成・多様性、想定利⽤者との整合

リシー
データ

◯

性

◯

委託先の管理体制・⽅法

委託先管理

3.5.3

学習データの概要

3.1.1◯

学習データ・テストデータの概要

学習データのソース

3.1.2

◯

学習データ・テストデータの所在

学習データの⼊⼿経路 3.1.3◯

学習データ・テストデータの⼊⼿⽅法・⼊⼿経路

学習データの DEIB ポ 3.1.4

学習データ・テストデータの多様性、想定利⽤者

リシー

◯

との整合性

3.1.5

実際に⽤いられるデータの概要（AI は実際に何を実運⽤データAI アルゴリズム

管理責任部⾨・責任者の所在◯

Data として Output を抽出するのか）

3.2.1
利⽤フェーズ

利⽤されるアルゴリズムのフェーズ（研究、テス◯

ト、実運⽤等）31

別表 1 AI アルゴリズムの透明性開⽰項⽬リスト

3.2.2

学習⼿法 AI（エキスパートシステム、ルールベー

学習⼿法
説明可能性

3.2.3

◯

ス、機械学習、深層学習等）◯

アルゴリズム⾃体の説明可能性

パラメータ・特徴量と 3.2.4

合理的に理解可能な程度に抽象化・⾔語化された

その⽬的・理由

◯

パラメータ

3.2.5

重要なパラメータに対する重み付け・係数、ある

重み付けとその⽬的・いは他のパラメータに⽐して相対的に重要である

理由

◯

理由

課⾦を含む利⽤者区分 3.2.6

パラメータや重み付けと課⾦を含む⾏為・属性等毎の異なる取扱い◯

利⽤者区分の関係

3.2.7
変更の適正⼿続

アルゴリズムの変更に係る適正⼿続、変更による◯影響、変更の⽬的等

アウトプッ パフォーマンス精度・ 3.3.1
ト

アウトプットの有意確率、誤謬率、偽陰性・偽陽

限界

◯

性等

事業者によるモニタリ 3.4.4

アウトプットの品質に対するモニタリング・メン

ング・メンテナンス
利⽤者によ◯

テナンス体制（頻度・⽅法・体制）、検出件数

3.4.4.1

るコントロ アルゴリズム利⽤の選
ール

択権

◯

アルゴリズムの採否の選択権

3.4.4.2

利⽤者によるアルゴリズムやデータセットへのフフィードバック◯ィードバックの有無、可否及び⽅法

データ・オプトアウト 3.4.4.3◯

学習データからのオプトアウト⽅法の有無

32

別表 1 AI アルゴリズムの透明性開⽰項⽬リスト

マネジメン
ト体制

3.5.5
リスクマネジメント

AI を⽤いることのリスクに対するアセスメント、◯

最⼩化⼜はマネジメント対応

教育体制

3.5.6

◯

AI の開発・提供に係る教育状況

監査体制

3.5.7

◯

AI の開発・提供に対する監査体制及び実施状況

3.5.8

問い合わせ先・不服申⽴窓⼝、カスタマーエクス
ペリエンス体制（頻度・⽅法・体制）、⼀定期間問い合わせ対応◯

33

経過後の苦情件数

別表２：ユースケース 1 政府機関が補助⾦制度の申請審査に AI を⽤いる場合

Lv1

Lv2

プロダクト
思想

開⽰例
補助⾦申請の審査担当課が、多数の審査書類を精査し、審査基準に満たない申請を抽出するために AI

利⽤⽬的

アルゴリズム（以下「本件 AI」）を利⽤します。
・審査担当課にとっての便益：⽉次 250 万件の審査を実施する予定ですが、本件 AI の利⽤により、審査⼯数が 70％削減されます。そのため、全ての審査を⼈間が実施した場合に⽐べ、審査⽇数約 1 週間

ベネフィット・インパ の縮減、⼈件費⽉額約 4.2 億円の削減が望めます。
クト・申請者に対する便益：本件 AI の利⽤により補助⾦を受け取るまでの時間が約 1 週間早まります。
本件 AI は以下の審査において⽤いられます。ただし、全ての審査において、最終的な判断は審査担当官が⾏い、あくまで本件 AI の役割はその判断のための補助的な仕分けです。
・書⾯の形式審査：誤記や不明瞭な記載などの形式⾯を審査します。
・対象基準の形式審査：補助⾦の給付対象者に該当する者かを、書⾯上に記載された事業所得、業種などから審査します。
・対象基準の実質審査：予算上限がある中で分配される補助⾦の給付対象者の優先順位を様々なデータ

利⽤⽅法（後述）から審査します。

開発責任者・管理責任開発チーム 者

XX 庁 CTO（情報システム部⾨⻑兼務）：XX
本件 AI を開発する XX 社は、申請者の属性（特に年齢、性別及び業種）が多様であることを認識した

開発チームの DEIB ポ 上で、テスト段階において、それぞれの属性の被験者（試験的に申請を実施する⽅）が差別的結果の発リシー

⽣の有無を確認するプロセスを設けています。
本件 AI を開発する XX 社との間で、我が国が定める開発ガイドラインの遵守を求め、特に以下の項⽬について本庁に対する報告を求めています。
・説明不可能⼜は極めて困難な結果が出た場合

委託先管理・本件 AI の判断の正確性に疑義が⽣じた場合
34

別表２：ユースケース 1 政府機関が補助⾦制度の申請審査に AI を⽤いる場合

・XX
本件 AI を開発するために⽤いたのは、本庁が保有する過去の補助⾦申請書類、過去の審査結果及び理由、業種毎の年度別収益状況を含む政府統計データ、確定申告に関するデータ、納税に関するデータでデータ

学習データの概要

す。

学習データのソース−（機微な個⼈情報であり、データ⾃体を開⽰することはできません）

学習データの⼊⼿経路 本庁⼜はデータを保有する他の省庁に対して、本⼈から直接提出されたデータです。
上述のとおり、学習データとして過去の同趣旨の補助⾦申請にかかるデータを⽤いていますが、今回の学習データの DEIB ポ ⺟集団を構成しないと思料される外れ値となるデータ（明確に対象外となった業種等）は事前にデータ
リシー

セットから除外しております。

実運⽤データ

審査に際して⽤いられるのは、今回の補助⾦の申請のために本⼈から提出されたデータです。

利⽤フェーズ

本件 AI はすでに実運⽤段階（本番環境）にあります。

学習⼿法

機械学習が中⼼ですが、形式審査については⼀部ルールベースのものが存在します。

AI アルゴリズム

本件 AI が出⼒する結果は基本的に以下のパラメータ・特徴量や重み付けによって説明可能です。ただし、極めて稀に説明が難しいケースが存在し、その場合には本件 AI による出⼒結果は利⽤せず、審査
説明可能性

担当官が個別に判断を⾏います。
特に対象基準の実質審査では、主要なパラメータ・特徴量として以下を有しています。
・業種（複数の政府統計等により今年度収益が悪化したと考えられる業種に対してポジティブな結果が⽣まれやすくなります）
・年齢及び性別（過去の審査結果に鑑み、業種や収益状況との関係性から特に保護すべき可能性がある
属性としてポジティブな結果が⽣じる場合があります。詳細については、こちらをご覧ください）

パラメータ・特徴量と ・本年度の収益状況（過去 5 事業年度との平均に⽐べて減収減益となっていればポジティブな結果が⽣その⽬的・理由

まれやすくなります）
35

別表２：ユースケース 1 政府機関が補助⾦制度の申請審査に AI を⽤いる場合

・過去 3 事業年度における修正申告履歴
・過去 10 事業年度における納税状況（滞納や追徴課税がある場合のみネガティブな結果が⽣まれやす
くなります）
重み付けとその⽬的・理由

業種と本年度の収益状況が最も重視されています。

課⾦を含む利⽤者区分毎の異なる取扱い

特にございません。

変更の適正⼿続

本件 AI のアルゴリズムを事業年度内に変更する予定はございません。
本件 AI を、過去の審査資料と審査結果と照らし合わせたところ、97％の精度でした。残りの 3％については、外れ値が含まれる申請であるか、過去の審査結果の妥当性に疑義があるものが多いと⾔えます

アウトプッ パフォーマンス精度・ が、なお本件 AI の精度は 100％ではありません。したがって、複数の審査担当官が本件 AI の結果をレト

限界

ビューし、最終的には審査担当官が審査判断を下すものとしています。
本件 AI の結果は、2 名の審査担当官によって交互にレビューされます。2 名の審査担当官がともに本事業者によるモニタリ 件 AI と異なる判断を下した場合、その結果は本件 AI を開発する XX 社にフィードバックされ、本件ング・メンテナンス

AI の改善に利⽤されます。

利⽤者によるコントロ アルゴリズム利⽤の選ール

択権

本件 AI の利⽤⽅法の性質上、特にございません。

フィードバック

本件 AI の利⽤⽅法の性質上、特にございません。

データ・オプトアウト 本件 AI の利⽤⽅法の性質上、特にございません。
本件 AI は、出⼒する審査結果が不適切であるリスクがあり、これは以下のように対応しています。
マネジメン
ト体制

・複数の審査担当官によるレビューとフィードバック
リスクマネジメント

・過去の審査結果との整合性の確認
36

別表２：ユースケース 1 政府機関が補助⾦制度の申請審査に AI を⽤いる場合

・申請者による不服申⽴てとそれによって本件 AI の誤りが明らかになった場合のフィードバック
審査担当官は、本件 AI の仕様及び利⽤⽅法について合計 15 時間の訓練を受け、本庁が求める基準試
教育体制

験に合格しています。
本庁の監査部⾨が本年度の補助⾦申請の判断について 1 年以内に監査を実施する予定であり、本件 AIや審査担当官の判断に疑義があった場合は公表することがあるとともに、本件 AI を開発する XX 社に

監査体制

フィードバックされます。
本件 AI に関する問い合わせ⼜は補助⾦申請に関する問い合わせ若しくは不服申⽴ては以下までお願いいたします。
XX 庁 XX 補助⾦申請問い合わせ窓⼝
電話番号：XX

問い合わせ対応

メールアドレス：XX37

別表３：ユースケース 2 ソーシャル・メディアのフィードに AI によるレコメンデーション機能を⽤いる場合

Lv1

Lv2

開⽰例
ソーシャル・メディア「YY」の投稿フィード内で、速報順のコンテンツ表⽰ではなくユーザにとって

プロダクト
思想

利便性や関連性の⾼いコンテンツが提供されるように、レコメンデーション AI（以下「本件 AI」）を
利⽤⽬的

利⽤します。

ベネフィット・インパ ユーザは満⾜度の⾼いコンテンツをより多く受け取ることができ、限られた時間を最適に過ごすことが
クト

できます。

利⽤⽅法

−

開発責任者・管理責任開発チーム 者−

開発チームの DEIB ポ 開発チームは、⼈種、性別、宗教、教育などの観点で多様性が担保されており、本件 AI の開発にあた
リシーって最低⼀⼈はマイノリティの観点からレビューすることが求められています。

委託先管理

−
YY 内への過去 3 年間のポスト、ポストへのユーザのリアクション（リアクションボタン、コメント、

データ

学習データの概要

拡散、閲覧時間等）、ポストフォーマット（テキスト、画像、動画）などを学習データとしています。
サンプルデータセットは以下のレポジトリから⼊⼿可能です。

学習データのソース

YY.com/repository/feed/sample-dataset/

学習データの⼊⼿経路 YY 内フィード
YY 内フィードから取得されたデータであるため、YY ユーザの代表性が⼀定程度担保されています。た
学習データの DEIB ポ とえば、初回起動後利⽤を停⽌したユーザや bot のような挙動を⾏うユーザは外れ値としてデータセッ
リシー

トの⺟集団から外しています。

実運⽤データ

実運⽤に⽤いられるのはユーザによる実際のポストデータです。

利⽤フェーズ−AI アルゴリズム38

別表３：ユースケース 2 ソーシャル・メディアのフィードに AI によるレコメンデーション機能を⽤いる場合

学習⼿法

−

説明可能性

−
本件 AI は以下のパラメータを主に保有しています。また、個別のポストの詳細メニュー内「なぜこのポストが表⽰されるのですか」を選択していただけば、個別のポストの表⽰理由が、⽤いられているパラメータとともに説明されます。


ユーザ間の関係性

ユーザ間の共通の友⼈の分量

ユーザ同⼠の交流内容（相互の反応等）



ユーザ間のメッセージの分量

⼀⽅のユーザの他⽅ユーザのポスト上の滞在時間



ユーザ区分

ポストの内容

フォーマット（テキスト、画像、動画）



時事性



関連性



地域性

ポストへのリアクション

リアクションの分量

パラメータ・特徴量と

リアクションの頻度

その⽬的・理由

リアクションのクロスコミュニティ度合い

重み付けとその⽬的・ 2023 年 X ⽉時点で相対的に重要なパラメータは、ユーザ間の関係性とリアクションの分量及びクロス
理由

コミュニティ度合いです。

39

別表３：ユースケース 2 ソーシャル・メディアのフィードに AI によるレコメンデーション機能を⽤いる場合

課⾦を含む利⽤者区分毎の異なる取扱い

課⾦ユーザのポストは、優先的に⾮課⾦ユーザのポストよりも多く、⾼頻度で表⽰されます。
本件 AI の重要な変更については、ユーザへの 7 ⽇以上前の予告を⾏います。また課⾦ユーザに関する変更の適正⼿続

不利益な変更については定期⽀払いを解除できるための合理的な期間をおいて実施します。

アウトプッ パフォーマンス精度・ト

限界−
本件 AI が違法有害な情報を多く取り扱うことのないよう、定期的に当社 Trust&Safety チームがフィー事業者によるモニタリ ド内をモニタリングし、該当ポストを削除したり、ダウンランク（表⽰の優先順位を落とす⾏為）した
ング・メンテナンス

りしています。これらの内容と件数は毎事業年度の年次レポートで公表されています。
YY のフィードを、本件 AI による推薦順ではなく、速報順で楽しみたい場合、「設定画⾯」→「表⽰順

利⽤者によるコントロ アルゴリズム利⽤の選 位の変更」→「速報順に⾒る」を選択してください。同様に、同設定よりいつでも本件 AI による推薦ール

択権

順をお楽しみいただけます。
YY のフィード内で満⾜度の低いポストがあった場合、ポストを⻑押しするか、ポスト下の「…」ボタンから、「このようなポストに興味がない」ボタンを押して本件 AI にフィードバックしてください。
またその先の画⾯で理由を選択することで、よりあなた個⼈に適した推薦が可能になります。ただし、フィードバック

本件 AI がフィードバックをうまく活⽤できるまで時間的なラグがある点、ご認識ください。

データ・オプトアウト 個⼈データに関する権利⾏使については、「設定画⾯」→「個⼈データについて」にお進みください。
マネジメン
ト体制

リスクマネジメント

−

教育体制

−

監査体制

−
本件 AI に関する問い合わせは以下まで

問い合わせ対応

support-recommendation@example.com
40

別表４ 各国の規制状況と本ツールキットの対⽐表

Lv1

Lv2

プロダクト
思想

GDPR

AI 規則

P2B 規則 DSA

DMA

ATRS

AAA

DPF 透明

(EU)

(EU)

(EU)

(EU)

(EU)

(UK)

(US)

化法(JP)

◯

◯

◯

◯

◯

利⽤⽬的
ベネフィット・インパ

◯

◯

◯

◯

クト
利⽤⽅法

◯

開発責任者・管理責任

◯

◯

◯

開発チーム 者
開発チームの DEIB ポ
リシー
委託先管理
データ

学習データの概要◯◯◯

学習データのソース◯◯◯

学習データの⼊⼿経路 ◯◯◯学習データの DEIB ポ
リシー
実運⽤データ◯◯AI アルゴリズム◯◯

利⽤フェーズ
学習⼿法
説明可能性

◯
◯

◯

41

◯

別表４ 各国の規制状況と本ツールキットの対⽐表

パラメータ・特徴量と

◯

◯

◯

◯

◯

◯

その⽬的・理由
重み付けとその⽬的・理由課⾦を含む利⽤者区分◯毎の異なる取扱い
変更の適正⼿続◯◯

アウトプッ パフォーマンス精度・
ト

◯

◯

◯

限界
事業者によるモニタリ

◯

◯

◯

◯

ング・メンテナンス
利⽤者によ

◯

◯

◯

◯

◯

◯

るコントロ アルゴリズム利⽤の選ール

択権
フィードバック◯◯

データ・オプトアウト ◯
マネジメン
ト体制

◯
◯

◯

教育体制

◯

監査体制

◯

◯

◯

◯

◯

◯

◯

◯

◯

◯

リスクマネジメント

問い合わせ対応

◯

◯

◯

◯

*GDPR: General Data Protection Regulation *AI 規則: AI Regulation *P2B 規則: The EU Regulation on platform-to-business relations*DSA: Digital Services Act *DMA: Digital Market Act *ATRS: Algorithmic Transparency Recording Standard42

別表４ 各国の規制状況と本ツールキットの対⽐表*AAA: Algorithmic Accountability Act *DPF 透明化法：特定デジタルプラットフォームの透明性及び公正性の向上に関する法律43