【2023年 第2回AI品質マネジメントシンポジウム Use Only】

第2回AI品質マネジメントシンポジウム
パネルディスカッション
テーマ：AI品質(社会通念の醸成・第三者承認などのルールメイキング)
2023年 NEC

© NEC Corporation 2023

AIアナリティクス統括部 若松

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)自己紹介
 若松直哉（わかまつなおや）

 所属：NEC AIアナリティクス統括部
 経歴：

 2008年入社
 2014年～

 社外活動： 2020-2023

プロセス業向けSIのPMとして活動(入社前は、プラント制御メーカにて、鉄鋼・石油石化等のプラントの制御システム開発導入に従事)
AIア事に異動し、データサイエンティストとして活動(インバリアント分析：プラントの異常検知を中心)
AI品質（「AI品質ガイドライン」）の施策や分析プロセスの策定など、分析に関わる共通化業務も行う
産総研の「機械学習品質マネジメントガイドライン」メンバとして活動■講演、プレスリリース「AI技術を活用した設備診断」

講演：2019年12月:第43回 紙パルプ計装技術発表会<https://www.japantappi.org/wp-content/uploads/2021/02/back-number2020.pdf>

2© NEC Corporation 2023

「AI品質ガイドライン」を策定<https://jpn.nec.com/press/201912/20191210_02.html>

AIを活用した異常予兆検知を行うシステムを水島製油所へ納入

https://jpn.nec.com/press/201909/20190913_01.html

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

AIビジネス大全

共著

構成
1. AIの品質管理
2. AI利活用の規制・ルールの動向
3. 社会通念の醸成、第三者認証などのルールメイキング
4. ご参考(NECの取り組み)1.AIの品質管理
AI品質管理は従来の品質保証・品質管理全体の一部であり、体制・仕組みが整っていないと適正に品質管理ができない。従来の品質保証・品質管理にAI特有の要素を追加し、管理する必要がある。

品質品質保証：品質を保証できる仕組みを持っている
品質管理：品質上の目標を定め、達成する取組み、作業・結果を計測し、目標に近づけるためのマネジメント

AI特有の要素・ポリシー策定
・体制の構築(ガバナンス、PMO)
・品質の策定(各種ガイドライン、計測チェック)
その他考慮が必要となるもの
・国内外動向調査・AIの長期的な運用を考慮した組織・品質策定検討
・AI教育
・モデルケースの蓄積(参考)品質の定義

・品物またはサービスが使用目的を満たしているかどうかを決定するための評価の対象となる固有の性質・性能の全体（JIS Z 8101)
・製品またはサービスが明示または暗黙のニーズを満たす能力として有している特徴・特性である（ISO 8402-1986)4© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

2.AI利活用の規制・ルールの動向
各国で法令化、ルール化の動きがあり、AIを扱う企業はガバナンスや品質を社会から求められている
動データ蓄積

2018

AI導入期

2019

向2020

2021

AIの長期的な運用
2022

2023

EUが包括的なAI規制法案を発表(2023年末頃に成立予定)

一般データ保護規制(GDPR)施工
欧州

NIST AI RMF
米国
内閣府

人間中心のAI社会原則を公表「AI原則実践のためのガバナンス・ガイドライン」を公表

経産省
日本

機械学習品質マネジメントガイドラインを公開

NEDO
NEC

NECグループ AIと人権に関するポリシーの策定
AI品質ガイドラインの策定

5© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

AIガバナンスの運用を開始

3.社会通念の醸成、第三者認証などのルールメイキング①社会通念(※)の醸成

社会から求められる期待と責任「データ蓄積」から「AI導入期」、そして「AIの長期的な運用」フェーズに多くの企業が進んできている。
また各国の法令・ルール化に伴い、AIを利活用する企業にガバナンス(人権リスクなど)・品質を社会から求められている。

②第三者認証などのルールメイキング

遂行するための仕組み

各企業でのポリシー、ガバナンス、品質策定が必要となる。
(例)

組織 ：ポリシー、体制
品質 ：各種ガイドライン
その他：国内外動向調査、AIの長期的な運用を考慮した組織・品質策定検討、教育(※)社会通念・・・法律で明文化されていなくても社会一般に通用している常識や見解。
6© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

(ご参考)EUのAIに関するフレームワーク
2023年内での整合に向けて、欧州委員会、閣僚理事会、欧州議会の三者での法案審議を継続遂行するための仕組みとして、「第三者認証などのルールメイキング」が必要となる

7

出典<https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/2021_001_05_00.pdf>© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考)NECでの３つの取り組み紹介①ポリシー

AIと人権に関するポリシー②ガバナンス

AIガバナンスの運用

8© NEC Corporation 2023

③品質AI品質ガイドライン

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考)NECグループ AIと人権に関するポリシー

出典<https://jpn.nec.com/press/201904/images/0201-01-01.pdf>

9© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考) NEC、経済産業省のAI原則実践のためのガバナンス・ガイドラインに基づくAIガバナンスの運用を開始

出典：<https://jpn.nec.com/press/202304/20230403_02.html>

10© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考) NEC「AI品質ガイドライン」を策定し、AIシステムの構築・開発に適用従来のソフトウェア開発プロセスに組み込んでいる

出典<https://jpn.nec.com/press/201912/20191210_02.html>
11© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考) 「AI品質ガイドライン」の内容
ガイドラインがカバーする「カテゴリ」
データの品質モデルの品質システムの品質
システムの安全性
システム運用時の考慮
提供価値・目的への適合倫理的な配慮

12© NEC Corporation 2023

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)

4.(ご参考) 「AI品質ガイドライン」の内容例「データの品質」カテゴリの項目例
観点

合格基準

データリーケージが考慮されているか• 運用時に手に入れることができない情報をモデル作成用データに含めていないこと。
≪データリーケージの例≫ 売上予測を行うモデル作成用データに、「未来の天候情報」を含めてしまう。
 不良品検知を行うモデル作成用の画像データに、”OK”/”NG”などの情報が映っている。

データリーケージ：運用時には利用不可能なデータを学習用データに含めてしまうこと「学習時には非常に良い精度が出るのに、運用では精度が悪い」という問題につながる。
例： 時系列のデータを「訓練用」と「評価用」に分ける際に、以下のようにしてしまう。
評価用データに対して、（未来の情報を使うため）非常に良い精度の予測ができてしまう。
2020/113© NEC Corporation 2023

2020/6

訓練用データ2020/12

評価用データ2021/6

訓練用データ

2023年 第2回AI品質マネジメントシンポジウム パネルディスカッションのみ利用(転用NG)