2022 年 11 月
JDLA 事務局「AI ガバナンスとその評価」研究会（第Ⅲ期）第 2 回
開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、信頼される AI 構築へ向けた AI ガバナンスの在り方をテーマとして、2020 年 7 月から活動を継続し、今年は三期目となる。
第Ⅲ期第 2 回（2022 年 10 月 18 日開催）では、AI ガバナンスの実現に向けた「フレームワーク」をテーマに議論した。AI サービス毎にリスクを捉えて、実現するべき目的を確保していくためのフレームワークとして、東京大学の研究グループで開発をしたリスクチェーンモデル（RCModel)について、松本敬史氏（デロイトトーマツグループ
Deloitte AI Institute/東京大学未来ビジョン研究センター）より話題提供いただいた。
2. 話題提供「リスクチェーンモデルを用いた検討」松本敬史氏（デロイトトーマツグルー
プ Deloitte AI Institute/東京大学未来ビジョン研究センター）
リスクチェーンモデル（以下、RCModel）の紹介
RCModel は、東京大学未来ビジョン研究センターで開発をした、AI サービスのリスクとその対策について検討する際のフレームワークである。AI の信頼性に関する既存の政策やガイドラインで示されている内容を基にしつつ、AI サービスごと（例えば、採用AI、無人コンビニ、自動運転等）に認識すべき重要なリスクは異なるであるという考えのもと、開発した。AI サービスについて、技術面だけでの対応やサービス提供側だけで検討することの難しさがあるという点、対策の適切な選択をしていく必要があるという点、またシステム化する段階から検討を開始してその過程を示すことが信頼性の確保につながるという視点を持って検討してきた。
RCModel は、「AI システム」「サービス提供者」「ユーザー（AI サービスの利用者）」の 3 層で、技術／非技術の両面でのリスク要因を要素として構成している。本モデルを使った具体的な検討手順は、まず AI サービスによって実現したい価値・目的を明確にしたうえで、それらを阻害するリスクシナリオを具体化する。そのリスクシナリオごとに、各リスク要因のうち該当するものを特定して、その要因間での関係性を可視化することで、対応策（コントロール）が必要な内容を明確にしていくというものである。
RCModel を用いたケース検討
1

RCModel を用いたケース検討を AI サービスの種類ごとに行ったものを公開している。例えば、人材の採用 AI のケースの場合であれば、開発側や、HR テックの専門家を1交えて議論し整理したものである。社会的な側面のリスクを同列で捉えて検討に含めていることが重要なポイントである。
リスクシナリオごとに対策を考えていく際に、各要素の関係性を線で紐づけていく（リスクチェーン）。この目的は、誰がそのリスクを考慮する必要があるかという役割の明確化と、誰から誰に連携する必要があるのかを明確にすることにある。リスクチェーンの起点は原因となる要素だが、起点がサービスプロバイダーやシステム側ではなく、ユーザー側になることもありうる。これまで 30 件以上のケースで検討しているが、一つのリスクシナリオを考える際に必要となる機能は必ず他の機能と連結され、分断されているならば本来間を繋げる機能・役割を見落としていることが考えられる。
リスクチェーンモデルの検討例（採用 AI「公平性」のリスクシナリオ）

また、市民参加型の試みとして、千葉県の柏の葉のスマートシティのプロジェクトにおいて、市内に設置されている AI カメラを題材にしたワークショップで本モデルを使った例もある。AI カメラの使い道の提案と共に、導入にあたってのリスクと対策を検討する際に、実際に住民の方々に RCModel の手順に沿って検討を行った 2。
今後の方向性
重要なポイントは、RCModel による検討のプロセスを独立して行うのではなく、重要なステークホルダーを巻き込みながら実施することにある。特に社会インフラのような大きなインパクトのあるシステムの維持管理（無人化された交通機関、エネルギ
1https://ifi.u-tokyo.ac.jp/projects/ai-service-and-risk-coordination/2

柏の葉みんなのまちづくりスタジオ: https://www.udck.jp/blog/003745.html「AI カメラ編」最終発表会オンライン配信: https://www.youtube.com/watch?v=8K9WoZvI1k82

ー最適化システム等）の場合は、社会的に説明をしていくことが求められてくる。そもそもどのように説明すればよいのかの部分について、合意形成をしながら考えていくようなことに活用していきたい。また開発者視点では、システムを維持管理するために必要な役割や機能について、ユーザー側に提案をできるための材料になり得る。
今後は、ケースをさらに充実させて、実践的な方法論とも合わせて拡張性を広げていきたい、また人材の育成や、それらの人々のコミュニケーションを支援する環境作りといったテーマにも取り組んでいきたいと考えている。
3. 研究会参加者からの主なコメント
主な質疑やディスカッションの内容を以下に示す。
⮚ AI ガバナンス・エコシステムとの関連性について


本研究会が提言している AI ガバナンス・エコシステムは、データベースとしての機能があると思っており、関連するアクターと取組みの関係性を俯瞰しようとしている。RCModel でリスクの対策（コントロール）方法について検討する際に、AI ガバナンス・エコシステムの各要素の選択肢（例えば、AI によるバイアス保険等）を把握しながら対策を考えていくことが有効である。また何のためにコントロールするのかを考える際には、RCModel で分析するといった連携があり得ると考えている。


お互いに接続可能性のあるモデルになるという展望が持てる。

⮚

責任の特定をする作業への活用可能性について

RCModel は、リスクが顕在化したときに何が因子になったのかの仮説を立てるためにはある程度使えると思っているが、AI サービスの賠償責任等を考える際のように、あるステークホルダーに決定的に原因を特定するような作業に応用するのは難しいと考えている。

RCModel の目的は、リスクが顕在化しないように「As Is」と「To Be」の整理をして対策をしていたというプロセスを示せるようになることにあり、またどのように維持・改善するかという過程でも使えると考えている⮚

RCModel に参画するステークホルダーの特定について
サービスによってステークホルダーの範囲も異なり、ユーザー側に利害関係が異なるプレイヤーが入ってくる場合がある（採用 AI の場合の応募者等）。ユーザー側との目的意識が異なる場合には、リスクシナリオを整理するプロセスが複雑になる。



ケースによって、リスクシナリオを考える時に巻き込むべきステークホルダーが変化するという視点が重要（再犯可能性検証 AI について適用したケースでは、ユーザーに関連省庁や保護観察人、人権団体等広く捉えた）となる。どのようなステークホルダーと検討したかについても具体的に明示していく必要があるのかもしれな3

い。
AI の導入によって雇用への影響が想定される場合（イラストを自動生成するサービスがイラストレーターの反対にあって導入停止となる等）、そのリスクを考える際は、AI サービス単体のリスクを考えるというよりも、サービスを利用する側の組織の経営全般として人事戦略をどうしていくかという検討が必要になるだろう。

⮚

実現したい価値・目的の特定や、リスクシナリオ間の優先順について「実現したい価値・目的」が適切にピックアップされないと、リスクシナリオに不足が出る。中小企業やスタートアップが AI を開発する場面では、例えば社会的責任という観点は検討に上がらないケースも多いだろう。また費用対効果の観点から落とすという判断がされることもあり得る。「実現したい価値・目的」を考えるための指針のようなものがもう少し明確化されると良いと思う。



費用対効果を考える際に、目的や価値を狭める場合は、それによって AI を利用する範囲も限定的にならざるを得ないという整理にもなるので、企業はバランスよく判断をしていく必要があるだろう。



検討したリスクシナリオとその対策について、優先度の議論はあり、今後整理していくべき課題である。リスクシナリオごとにトレードオフの関係性がある、また公平性や倫理の問題はそもそも定量的に測れるのか、ということも難しい点である。
リスクシナリオの対策についてなるべく共通化できるような整理や、外部をうまく使うような方向で対策が作れないかの検討をしている。

AI のインシデントや問題提起に関わる論文や海外の事例を集めて、リスクを定量化するような取り組みも行っているところである。
以上＜(第Ⅲ期)第 2 回開催概要＞
日時：10 月 18 日（火）13:00-14:00（Zoom 開催）
内容：
・「リスクチェーンモデルを用いた検討」松本敬史氏（デロイトトーマツグループ
Deloitte AI Institute/東京大学未来ビジョン研究センター）
・質疑・ディスカッション

4