倫理ＷＧのご紹介
2021年7月

倫理WGの趣旨と目的について【名称】
AI×倫理WG【ワーキンググループ長】
株式会社グリッド 曽我部【設置目的】
AIを提供・活用する立場として、企業としてのAI倫理に対する考え方やスタンスを明確にした上で、実際に自社へ導入する仕組み作りを支援する事を目的とする。
【活動概要】
ビジネス上でのAI開発や活用において発生し得る倫理課題に対して、各企業が取り組むべき課題を整理し、AI開発におけるアカウンタビリティの確立と、ガバナンスの仕組みの構築を目指す。
【ゴール】
より豊かな社会を実現すAIの進展に貢献するために、AI倫理課題に取り組むステップとAIをどう開発するべきかといった原則や、ガバナンス・コンプライアンスのルール策定を目指す

AIBPC AI×倫理WG

倫理WG当初取り組み予定

STEP4

STEP1

STEP2

各国のAI倫理における取組の理解

品質管理のアカウン
タビリティ及びAI開発手順の議論

STEP3
どのようにシステム構築するか議論

AIBPC AI×倫理WG

各社の倫理規定の策定

第2回（2019年8月）
各国のガイドラインを自分達なりに理解

AIBPC AI×倫理WG

第3回（2019年10月）
人工知能学会倫理委員の理化学研究所中川先生に各国発表物を学ぶ

出典：中川先生2019年6月人工知能学会での発表：
https://www.slideshare.net/hirsoshnakagawa3/ai-149069071

AIBPC AI×倫理WG

第４回（2019年11月）
2019年5月発表QA4AIの品質管理ガイドラインの立て付けを国立情報学研究所石川先生にご説明いただく

出典：AI プロダクト品質保証コンソーシアム 品質管理ガイドライン
http://www.qa4ai.jp/QA4AI.Guideline.201905.pdf
http://www.qa4ai.jp/download/

AIBPC AI×倫理WG

第５回（2020年1月）
EUガイドラインの背景と各項目を確認し理解する

AIBPC AI×倫理WG

第6回（2020年4月）
実際の事例ベースで、アセスメントと行ってみた
ユースケース⑤：就職支援サービス内での内定辞退予測
前年度に応募した学生がサービス上で取った行動ログを解析した上で、今年度の応募者の行動ログと照合し、内定を辞退する可能性を算出するサービス。
出典：「内定辞退予測」なぜ始めた？ 運営元社長が経緯を告白
https://www.itmedia.co.jp/news/articles/1908/27/news062.html

論点

1.リスク管理の視点でどんな事を考慮すべきだと思いましたか？
2.そもそも何がリスクだと感じましたか？
3.どんな対策を考えてサービスをリリースすべきでしょうか？
4.もし自分が当事者だったらサービスを中止する選択肢はありますか？
5.倫理ガイドラインに従って、特に考慮すべきことは何だと思いますか？
6.もし1万人規模の会社だったとして、これをチェックする為にどんな仕組が良いでしょう？
7.もし倫理委員会が社内にあり、担当者だった場合はどのような説明をしますか？
AIBPC AI×倫理WG

第7回（2020年6月）
実際に各社、規定として形に落とし込んでみた①倫理規定

AIBPC AI×倫理WG

第7回の結果

各社規定で考慮すべきと考えている事がバラバラだった

AIBPC AI×倫理WG

第7回 ディスカッション、論点整理

プランAプランB

このまま各社の規定作りに邁進する

いつくかの産業分
野に絞り、要件やアセスメントリストをカスタマイズしてみる

AIBPC AI×倫理WG

規定の前にベストプラクティスを考えてみる
理念・原則

アセスメントリスト

ベストプラクティス
ユースケース

規定

AIBPC AI×倫理WG

第8回（2020年8月）の内容
各社共通して使える規定のモデルや各社の規定を作成するのではなく、リスクベースの事例集の作成を検討するため、東京大学江間先生、松本先生が2020年6月発表された「リスクチェーンモデル」とその手法をWGで解説いただいた。

出典_東京大学未来ビジョン研究センター
https://ifi.u-tokyo.ac.jp/news/7036/

AIBPC AI×倫理WG

第9回（2020年11月）の内容
リスクチェーンモデルに事例を当てはめる
実際の事例をベースに、松本先生より事前に作成したリスクシナリオを解説いただき、その作成手順を伺い、リスクチェーンモデルがどんなものなのかを理解する。

実際のユースケース

WG参加企業が過去行った実際の開発をユースケース

出典_東京大学未来ビジョン研究センターhttps://ifi.u-tokyo.ac.jp/news/7036/

AIBPC AI×倫理WG

第10回（2020年12月）
リスクシナリオにおけるリスクの対応策を検討
これまでのワーキンググループで松本先生より解説いただいたリスクシナリ
オのリスクに対して、開発企業側の目線として事業会社2社が意見を述べた。
また、グリッドよりテクノロジーと運用マネージメントによるリスク回避策を述べた。

例）①データドリフトの監視アルゴリズム②データの可視化など③学習データのトレーサビリティなど

AIBPC AI×倫理WG

第11回（2021年2月）
９回より検討の事例をベストプラクティスとして作成・レビュー
ＷＧの成果物をどのようにアウトプットするかを検討するにあたり、まずは９回より検討していた事例のベストプラクティスをグリッドが作成し、松本先生と江間先生、ＷＧ員よりレビューを受けた。

参考資料

作成物

出典：「CAPA Human-AI Collaboration Framework & Case Studies]
https://www.partnershiponai.org/human-ai-collaboration-framework-case-studies/第12回（2021年4月）
リスクシナリオをWG員各自で作成・レビュー
実際にWG員で松本先生よりご提示いただいた３つのケーススタディの中から１つ選択し、各自でリスクチェーンモデルを活用した上でリスクシナリオを作成した。結果、各自考案したことによりリスクと不足要件の洗い出しの効率性向上を体感できた。

リスクを想定、検討にあたりリスクチェーンモデルの有用性を実感

第13回（2021年6月）第14回（2021年7月）

成果物を作成第12回での、リスクチェーンモデルを活用したリスクシナリオ作成が有用であると体感したことで、これまでのWGの活動を振り返りながらAIサービスのリスクコントロール検討するためのモデル「リスクチェーンモデル」を活用した具体事例とリスク対策に対する考え方をまとめたドキュメントを成果物として作成中「企業活動にAI倫理を導入していく上での注意点と提言〜リスクベース・アプローチを踏まえた検討〜」
１.はじめに
２.AI倫理の動向
３.リスクチェーンモデルについて
４.ユースケース

5. AI倫理を企業活動に取り入れていく上での考慮すべき点
6.企業がAI倫理の問題に対応する際の課題
7. AI倫理W G員より提言8. AI倫理W G活動の総括

今後の予定成果物完成・アウトプット方法を検討

・成果物を第１５回にて完成
・成果物のアウトプット方法とその時期を検討する予定