2022 年 12 月
JDLA 事務局「AI ガバナンスとその評価」研究会（第Ⅲ期）第 3 回
開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、信頼される AI 構築へ向けた AI ガバナンスの在り方をテーマとして、2020 年 7 月から活動を継続し、今年は三期目となる。
第Ⅲ期第 3 回（2022 年 11 月 11 日開催）では、AI ガバナンスの実現に向けた「倫理フレームワーク」をテーマに議論した。AI の倫理的なリスクを評価する方式として富士通株式会社が開発した AI 倫理影響評価（AIEIA）について、小野寺佐知子氏（富士通株式会社 研究本部 AI 倫理研究センター）より話題提供いただいた。
2. 話題提供「AI 倫理影響評価（AIEIA）について」小野寺佐知子氏（富士通株式会社 研究本部 AI 倫理研究センター）
AI 倫理影響評価（以下、AIEIA）の紹介
富士通株式会社は、国内では比較的早い段階から AI コミットメントを発表、2020 年には全社員に対して AI 倫理教育を行うなど、積極的に AI 倫理への取り組みを行ってきた。AI 倫理の研究開発を進めるなか、2021 年 4 月に AI 倫理研究センターを設立した。
研究開発のみならず、関連する外部取組みとの連携や発信を推進している。
AIEIA は、AI 倫理の原則やガイドラインが各国・各組織から提示されている中、その内容を実際の AI サービスの開発・提供にどう落とし込むのか、という問題意識から開発された。
AIEIA の開発にあたって、倫理的問題がどのような場面で起きているのか、過去の事例を分析した。そこで着目されたのは、AI システムを誰がどこでどのように利用するかを明らかにすることが重要となるということである。また、AI システムに直接または間接的に関わるステークホルダーを要素とし、AI システムとそれら要素が関わる部分（インタラクション）に倫理的問題が起こりうるという点である。このことを踏まえ、
AIEIA では、まず 1）AI システムの構成要素と各ステークホルダーとのインタラクションを AI システム図として整理したうえで、２）ガイドラインに挙げられている内容である「AI 倫理要件」と各要件に紐づくインタラクションを構造的に整理し、システム図のインタラクションに対応する倫理要件を抽出し、３）それらの反対の状態を「リスク」と捉えて洗い出すというステップで起こり得るリスクを導き出す方式を開発した。
1

AIEIA の適用例
AIEIA については、過去の事例（Partnership on AI の AI Incident Database から代表的な事例を抽出）を用いた検証を行っており、それらを含めて無償で公開している 1。
適用した主な事例としては、履歴書から面接対象者をスクリーニングする人材採用 AIのケースや、融資判定をするローン審査 AI のケースなどがある。AIEIA を適用したリスク評価を行うことで、それぞれのインタラクションにおいてどのようなことが起こりうるか（リスク可能性要因）が整理され、また同じ AI システムでもどのように実装されるかにより抽出されるリスクが異なってくることが見えてくる。
例えば、銀行のローン審査において融資担当者の判断をサポートする AI を利用する
ケースでは、2 つの異なる AI システム構成において検証した。ケース 1 では AI の判断結果は融資担当者に通知され、その結果を参考に担当者が最終判断し、ケース 2 ではAI の判断結果が直接ローン申込者に自動通知される。どちらのケースにおいても学習データに偏りがあるなどの要因により AI の審査結果に特定の性別や人種に対するバイアスがあるのではないか、というリスクが抽出される。加えてケース 2 では、申込者に直接結果が通知されることで不服申し立ての機会が奪われる、というリスクも抽出される。このように、実装の仕方により想定される倫理的問題も異なってくる。
今後の取組みAIEIA は膨大な文章情報であるガイドラインをモデル化すること、また、インタラクションに着目することにより、システム上のどこでどのようなリスクが起こるかの洗い出しが可能となる方式であり、その内容を公開することにより、国内外のパートナーと AI 倫理への取り組みを実践していきたいと考えている。AI 倫理は社会全体で取り組むべき課題であり、多様なステークホルダーと共に議論や検討を推進していきたい。
2022 年度中には正式版をリリースする予定である。
3. 研究会参加者からの主なコメント
主な質疑やディスカッションの内容を以下に示す。
 抽出されるリスクの評価と対処について

インタラクションに紐づく AI 倫理要件は自動的に抽出されるが、要件に反する状況（リスク）の事象の具体化と評価は人の作業になる。個々の業務・業種・状況により、業務知識のある者が解釈をして、リスク要因をピックアップすることになる。



評価で見えてきたリスクについて、許容範囲やユーザー側とのコンセンサスの取り方など、どう対処するかはあくまで人間が判断する。その前段階としてどういうリスクがあるのかを把握する方法として AIEIA が活用できる。

1

同様の AI システムでも利用目的、国の文化・倫理観によっては抽出された要件がリ

https://www.fujitsu.com/jp/about/research/technology/aiethics/2スクではない、という場合もある。本当のリスクのポイントはどこにあるかを適切に判断すべきである。加えて、関わるステークホルダーが利用目的および起こりうる問題について十分な説明を得て納得していることが重要である。


AI システム導入前に事前にリスクを洗い出すのはもちろん重要であるが、運用段階でインタラクションが増えていくことは多々あるため、適用範囲の変更のタイミングごとにインタラクションの抽出・分析・評価を行っていくことが必要である。
開発段階においても、開発が進み AI モデルが詳細化される中で見えてくるリスクもあるため、AI のライフサイクルの段階ごとにリスク評価を行うことで漏れが防げると考える。

 AIEIA の検証作業について

今後は AI Incident Database にある事例のみならず、日本国内のケースについても検証を進めていきたい（例えば昨今注目されているカメラ画像を活用した AI のリスクなど）



運用フェーズを対象とした検証についても今後事例を蓄積していく必要がある。

 AI 倫理モデルの範囲やアップデートについて
AIEIA における AI 倫理モデルは、ガイドラインをベースに作成されているため、ガイドラインの範囲内（最低ラインの要件）でのリスクの洗い出しが可能な仕組みである。モデルのアップデートはガイドラインの改訂に合わせて行われる。



ガイドラインより広い範囲の要件（社会受容性等）が考えられたり、また倫理観自体が不変であったりするため、都度議論が必要な部分はある。最低限守るべきラインでのリスク洗い出しを行った上で、その他の部分につては、ステークホルダーを交えた議論で共通認識を醸成していくことが必要である。



現状では 1 ガイドラインに 1 モデルの対応としている（AIEIA は Trustworthy AI
Guideline に基づく）。別のガイドラインから別のモデルを作成することは可能であるが、ガイドライン同士が紐づいていることもあるため、複数のガイドラインを追加したモデルの構成については今後の課題である

 今後必要な人材について


AIEIA ではガイドラインに沿ったリスクの洗い出しはできるが、それらのリスク項目にどう対処するのかは人間が最終的な判断をするため、技術的な面だけでなくビジネス側の理解も必要となる。その部分のインストラクションや人材教育も必要になるのではないか。



最終的判断は人が行う必要があり、倫理ガイドラインを使うのみならずアップデートしていける人材の育成も重要なポイントとなってくる。競争領域ではなく協調領域として AIEIA 等のツールを使い、知見を共有して人材の底上げをすることは国際的にも大きな貢献となるであろう。JDLA の人材育成活動にもつなげていきたい。
3以上＜(第Ⅲ期)第 3 回開催概要＞
日時：11 月 11 日(火)13:00-14:00 （Zoom 開催）
内容：
・「AI 倫理影響評価（AIEIA）について」小野寺佐知子氏（富士通株式会社 研究本部 AI 倫理研究センター）
・質疑・ディスカッション

4