AI品質マネジメント講座のご紹介
2023年12月12日
国立研究開発法人産業技術総合研究所
AI品質マネジメント講座事務局

AI品質マネジメント講座とは• 機械学習AIを利用するシステムの品質に仕事で向き合っている実務者の方々を対象とした社会人向け講座です。
• 機械学習AIの品質の捉え方・考え方が分かります• どう目標設定するか 企画部門、コンプライアンス推進部門の方々• どう要求するか 発注者の方々• どう実現するか 開発者の方々• どう検証するか 品質保証部門の方々• 様々な立場で機械学習AIの品質に取組む方々とのネットワーキングの機会になります。

機械学習品質マネジメントガイドライン• 機械学習を利用したAI システムのライフサイクル全体にわたる品質マネジメントを扱い、AI システムのサービス提供で求められる品質要求を充足するための必要な取り組みや検査項目を体系的にまとめたものです。
• 2020年に初版を発行し、2023年には第4版を発行しています。
• 産総研が主催し、企業や大学が参加する機械学習品質マネジメント検討委員会が作成しました。
• 新エネルギー・産業技術総合開発機構(NEDO)の委託事業「人と共に進化する次世代人工知能に関する技術開発事業／実世界で信頼できるAIの評価・管理手法の確立」の一環として開発したものです。
https://www.digiarc.aist.go.jp/publication/aiqm/

スケジュールの概要

各回の講義・演習の詳細は付録参照• 10月から3月まで7回、対面で開催します。
• 各回とも午後半日で、90分x2コマの講義や演習を実施します。
• 受講者15名程度を予定しています。
回
1

開催日

テーマ

10月3日(火) AI品質概論(心構え、策定経緯、方法論)

2 10月24日(火) プロセス、公平性、プライバシー
3 11月14日(火) 安全性
4 12月19日(火) 法的視点、AIガバナンス、国際標準化
5

1月16日(火) AI開発企業

6

2月6日(火) AI利用企業

7

3月5日(火) AIセキュリティ、AI倫理

想定受講者と受講に必要な事前知識• 機械学習AIシステムを業務で扱う実務者の方々、今後、社内でのAI品質マネジメントを推進する立場の方々• 開発部門の方• 品質保証部門の方• 製品企画部門の方• コンプライアンス推進部門の方• 必要な事前知識• AIを用いた自社の製品やサービスが満たすべき要件や品質の概要• 機械学習AIに関する基本的な知識• 産総研の機械学習品質マネジメントガイドラインを一読しておく

修了証の発行• 一定以上の出席率を達成し、各回の講義や演習に積極的に参加したと認められる受講者には、最終回終了後に修了証を発行いたします。

受講者へのお願い• 原則として、7回全てにご参加ください• 講義資料・演習資料は、原則として自社内関係者への共有のみ認めます。それ以外の方への共有はご遠慮ください。

参加方法• 以下のページの参加申込みフォームにご記入ください。
選考の上、受講可否をご連絡いたします。
• 参加申込みフォーム: https://forms.office.com/r/Ay7guvVBQ8• 氏名、勤務先、所属部門、役職• 連絡先(eメール、電話番号)• 職務上のAI品質マネジメントとの関わり、受講成果の活用予定• 申込〆切：2023年9月15日(金)⇒募集は締め切りました。

• 受講可否は9月22日(金)までにお知らせします。

• 受講料・教材費は共に無料です。会場までの交通費はご負担く
ださい。

講師陣
• 産総研の機械学習品質マネジメントガイドラインの作成に携わった、産総研主催の機械学習品質マネジメント検討委員会メンバーとその関係者が講師を務めます
アドソル日進CDLE

NEC

住友電気工業日立製作所

コニカミノルタ

デンソー

産総研

日本IBM

パナソニックホールディングス

富士通

会場
• （東京都心のアクセスのよい会議スペースを準備中です）

謝辞
本AI品質マネジメント講座は、国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)の委託事業「NEDOプロジェクトを核とした人材育成、産学連携等の総合的展開／AI品質マネジメントに係る講座」の一環として実施するものです。

付録： 各回の講義概要

講義の時間・講師・内容等は今後変更される可能性があります。

第1回 1コマ目
日時： 2023年10月3日 13:30 – 15:30 (120分)講師： 大岩 寛 (産業技術総合研究所 デジタルアーキテクチャ研究センター 副研究センター長)妹尾 義樹 (産業技術総合研究所 企画本部知財・標準化推進部標準化推進室 標準化オフィサー)
項目

内容

狙い（理解してほしいこと）

この講座で学ぶことの意義や必要性を理解する。
この講座で何が学べるかについてのおおよその理解を得る。

概要

 AIのために特別な品質マネジメントが必要な理由
 時代背景（欧州AI Act、AIのサプライチェーンの広がり、等)
 産総研の「機械学習品質マネジメント」プロジェクトの概要、経緯
 機械学習品質マネジメントが解こうとする問題とその対策のあらまし

題目

AI品質マネジメント講座の狙いと背景

第1回 2コマ目
日時： 2023年10月3日 15:４5 – 16:45 (６0分)
講師： 中島 震 (産業技術総合研究所デジタルアーキテクチャ研究センター、国立情報学研究所名誉教授)
項目内容

狙い（理解してほしいこと）

社会的な背景を踏まえて、社内外の関係者（プロジェクト関係管理職、顧客など）に、機械学習ソフトウェアの品質マネジメントが重要なことを説明できるようになる

概要(1)ソフトウェアの開発と品質モデル、(2)機械学習品質への社会的な要請、(3)機械学習の基本的な考え方、(4)AIQMガイドラインの特徴、(5)品質マネジメント計画、(6)演習（品質マネジメントの概要）

題目

機械学習ソフトウェアの品質マネジメント概論

事前知識：AIQMガイドラインの概要、ソフトウェア工学と品質保証技術の基本（参考図書：中谷・中島「ソフトウェア工学」放送大学教育振興会2019 or 2024）

第2回 1コマ目
日時： 2023年10月24日 13:30 – 14:30 (60分)
講師：大岩 寛 (産業技術総合研究所 デジタルアーキテクチャ研究センター 副研究センター長)
浜谷 千波 (アドソル日進)項目

内容

狙い（理解してほしいこと）

ガイドラインの基本的事項。
ガイドラインの適用方法。
AIシステムのライフサイクルとガイドラインが示す手法の関係。

概要

 ガイドラインの対象
 他の規格との関係
 用語の定義 ガイドライン適用の考え方• ビジネス要件定義から運用時の品質確認まで• AIシステムのライフサイクルの全体像• 分業、ゼロから作らないAIの場合のプロセス

題目

機械学習品質マネジメントガイドラインを理解する第2回 2コマ目
日時： 2023年10月24日 14:45 – 16:45 (120分)
講師：中島 震 (産業技術総合研究所デジタルアーキテクチャ研究センター、国立情報学研究所名誉教授)
浜谷 千波 (アドソル日進)項目

内容

狙い（理解してほしいこと）

AI開発において技術者は、狭い意味での技術側面に留まらず、「社会」と関連する重要な役割も持つ。その為に必要な、プライバシーと公平性に関わる品質マネジ
メントの基本的な考え方を学ぶ

概要

プライバシー：(1)技術者倫理と倫理的なAI、（３０分） (2)品質観点としてのプライバシー、

題目

社会とかかわるAI品質マネジメント

公平性：
（６０分）

(3)公平性の難しさについて(4)公平性を実現するためのプロセス概要(5)公平性実現の手段の概要

演習：プライバシーと公平性の関わり
事前知識：本講座第1回（10月3日実施）の講義内容

第3回 1コマ目
日時： 2023年11月14日 13:30 – 15:00 (90分)
講師： 岡本球夫 (パナソニックホールディングス(株) プロダクト解析センター
安全・EMCソリューション部 システム安全設計課 課長）
項目

内容

狙い（理解してほしいこと）

基本的な「安全」の考え方と、安全におけるAIの役割と課題について学ぶ

概要(1)基本的な「安全」の考え方（講義）(2)安全におけるAIの役割と課題（講義）・国際標準化(ISO CD TR5469 AIの機能安全について)(3)AI利用システムの開発方法について
・AI品質アセスメントシートの概要説明（講義）(4)システムのリスクアセスメントとAIモジュールへの要求（演習）

事前知識

AIQMガイドラインの概要

題目

AI利用システムの開発における安全品質管理方法

第3回 2コマ目
日時： 2023年11月14日 15:15 – 16:45 (90分)
講師： 難波孝彰 (パナソニックホールディングス(株) プロダクト解析センター 安全・EMCソリューション部
システム安全設計課 主幹技師 （兼） AI・生体安全係 係長)
項目

内容

狙い（理解してほしいこと）

ガイドラインに基づくAIモジュールの安全品質管理の方法を具体的な事例を通して学ぶ

概要(1)ガイドラインに基づくAIモジュールの安全品質管理方法（講義）・リファレンスガイドとAI品質アセスメントシート(2)AI品質アセスメントシートの活用方法（講義）(3)各開発プロセスにおける品質特性（内部品質）の着目点
・「データセット」に関する検討項目とそのポイント（演習）「データセットの被覆性」「データセットの均一性」「データの妥当性」「データセットの妥当性」
・「学習モデル」に関する検討項目とそのポイント（演習）「学習モデルの正確性」「学習モデルの安定性」「学習モデルの妥当性」
・「運用・保守」に関する検討項目とそのポイント

事前知識

AIQMガイドラインの概要、第3回1コマ目

題目

AIモジュールの開発における安全品質管理方法

第4回 1コマ目
日時： 2023年12月19日 13:30 – 15:30 (120分)
講師：北村 弘 (日本電気株式会社 環境・品質統括部 エバンジェリスト（AI・QMS・法務）、CDLE AIリーガルリーダー）
熊王 斉子 (島村法律会計事務所 弁護士)項目

内容

狙い（理解してほしいこと）

法的視点からは、AIシステム開発や運用において、「○○を進めるとき、△に関する法律の問題がないか、確認しよう」という意識・視点を醸成し、アラートを持ち帰る。
演習を通じ、AI技術の発展や規制の改訂による流動的な状況の中でのAI品質マネジ
メントではリスク確認の契機となる「反対利益」などの法的視点を体得する。

概要(1)前段として、日米欧の地域特性に着眼したAIガバナンスの比較紹介（45分）(2)欧州AI Actを前提としたAI PLDなどで近時議論がされているAIとPL法を中心に、法的視点や品質マネジメント視点から押さえるべきポイントの解説（30分）(3)演習（製造業に関するAIを題材に、例示したサプライチェーンの工程の中から一つを選び、「法的視点のAI品質マネジメント、AIガバナンス」の重要ポイントについてのチーム単位のディスカッションと発表）（45分）

事前知識特になし。

題目

法的視点のAI品質マネジメント、AIガバナンス第4回 2コマ目
日時： 2023年12月19日 15:45 – 17:00 (75分)
講師：杉村 領一 (ISO/IEC JTC1/SC42 国内委員長)
江川 尚志 (国立研究開発法人産業技術総合研究所デジタルアーキテクチャ研究センター)項目

内容

狙い（理解してほしいこと）

様々な標準化機関で策定される標準のうち、AIの実務家に影響する標準は何であるか、それらは何故どのような形で実務に影響を及ぼすか、を理解する。またそれら実務上重要なAI標準の現状を理解する。

概要

AIに関するISO/IEC, IEEE, CEN-CENELECの標準群、特にISO/IEC JTC1/SC42の標準を概観する。次にそれら標準の各国の政策上の位置づけ、特に欧州の整合規格制度、米国でのNIST RMFやバイデン大統領令、G7AI広島プロセス上の位置づけについて述べ、個別分野の標準群との関係の議論について触れる。また品質に特に関係する標準群、42001マネジメント標準、ISO/IEC 5259データ標準、機能安全ISO/IEC TR5469および22440の現状について解説する。

事前知識

特になし

題目

実務に関わるAIの国際標準群概要

第5回 1コマ目
日時： 2024年1月16日 13:30 – 15:00 (90分)
講師： 成田 顕一郎 (富士通株式会社 [AIトラスト研究センター])
項目

内容

狙い（理解してほしいこと）

AI公平性検証ツールでできること
実業務での活用シーンをイメージできる

概要(1) AIにおける公平性問題(2) AI公平性検証ツールのご紹介(Fujitsu AI Ethics for Fairness)(3) AIシステム品質評価支援ツール(Qunomon)
演習：公平性実現に関するグループワーク

題目

事前知識

AI公平性検証ツールのご紹介第５回 ２コマ目
日時： 2024年1月16日 15:15 – 16:45 (90分)
講師：

小川 秀人（株式会社日立製作所 研究開発グループ 主管研究長）
新原 敦介（株式会社日立製作所 研究開発グループ 主任研究員）

項目

内容

狙い（理解してほしいこと）

AIを活用したソリューションを提供する企業として、日立製作所が機械学習品質マ
ネジメントガイドラインなどを参考に整備してきた品質保証の制度や、品質評価のための技術開発をご紹介し、各社での品質保証の参考にしていただく。

概要(1) 日立におけるAI品質・AI倫理に関する取り組みの全体像（小川）(2) 国内外のAI品質保証規格・ガイドラインの概要（新原）(3) それらを踏まえた日立内でのAI品質保証制度の構築事例（新原）(4) AIの品質評価技術の研究開発事例の紹介とデモ（新原）

事前知識

機械学習品質マネジメントガイドライン第4版を一読していること

題目

日立製作所におけるAI品質保証制度と品質評価技術への取組み

第6回 1コマ目
日時： 2024年2月6日 13:30 – 15:00 (90分)
講師： 小宮山英明 （コニカミノルタ株式会社）
項目

内容

題目

コニカミノルタにおけるAIを活用した商品の品質保証狙い（理解してほしいこと）

・コニカミノルタでのAIを使ったテーマの品質保証の考え方を知ってもらう・演習を行い、AI品質保証の一部を体験してもらう

概要

１．コニカミノルタのAI活用商品の紹介(5分)
２．コニカミノルタのAI品質保証ガイドラインの概要（20分）
ガイドラインの要求事項の概要
AIQMガイドラインとの対応関係
３．実テーマでの品質保証（20分）
品質保証体制品質保証活動４．演習(45分）※45分で2つの演習は難しいので、どちらかにするか、グループ毎に違う演習をしてもらうか検討中
内部品質（データ設計）
外部品質（性能要件定義）

事前知識第6回 2コマ目
日時： 2024年2月6日 15:15 – 16:45 (45分)
講師： 桑島 洋 (株式会社デンソー)
中神 徹也 (株式会社デンソークリエイト)
項目

内容

狙い（理解してほしいこと）

AI利用企業におけるAI品質向上活動として、世の中の動向に対応したAI品質保証の仕組みとAI開発プロセスの事例を知ることで、AI利用企業の視点でのAI品質マネジメントを理解する。

概要

1. 世の中のAI動向とデンソーの取り組み① AIの世間動向 ② デンソーの動向 ③ デンソーのAI品質に関する取り組み
2. デンソー社内におけるAI品質保証の仕組み作りの概要① 目指す姿 ② AI品質保証の仕組み作りにおける着眼点③ 構築したAI品質保証の全体像 ④ AIQMガイドラインとの関係
3. AI設計基準（品質）の紹介① AI設計基準（品質）の構築アプローチ ② AI品質保証における基本的な考え方③ AI法規・標準の要求事項に基づく設計基準の定義 ④ 実製品における適用事例

事前知識

教師あり学習の学習プロセス（データ収集、アノテーション、学習）に関する知識、または開発経験

題目

デンソーにおけるAI品質保証の仕組み

第7回 1コマ目
日時： 2024年3月5日 13:30 – 15:30 (120分)
講師： 氏名 三宅 和公(住友電気工業株式会社)項目

内容

狙い（理解してほしいこと）

機械学習を対象とするセキュリティリスクアセスメントの進め方・実施内容

概要

以下のうち(1)～(4)は講義、(5)は演習です。
(1) セキュリティリスクアセスメントとは(2) AIセキュリティとは（情報セキュリティのセキュリティリスクアセスメントとの違い）(3) AIセキュリティにおけるセキュリティリスクアセスメントの進め方（製品・サービスの開発を踏まえつつ）(4) 継続的なAIセキュリティリスクアセスメントの実施について(5) AIセキュリティリスクアセスメント演習

事前知識

機械学習品質マネジメントガイドライン第4版を一読していること

題目

AIセキュリティ

第7回 2コマ目
日時： 2024年3月5日 15:30 – 17:00 (90分)
講師： 氏名 山田 敦 (日本アイ・ビー・エム株式会社 AIセンター長 執行役員 兼 技術理事)項目

内容

狙い（理解してほしいこと）

AI倫理の全体像を理解すると共に、AIリスクを洗出し対策を検討する方法を学ぶ

題目

概要

事前知識

AI倫理

AI倫理の全体像（40分：講義）AIリスクの洗出しとリスク対策（50分：演習）

AIQMガイドラインの概要

変更履歴• 2023年12月12日：講義概要の第5回1コマ目に追記。

• 2023年11月16日：講義概要の第4回2コマ目に追記。受講者募集、を表題から削除。
• 2023年9月19日：講義概要の第5回2コマ目に追記。募集を締め切った旨を記載。
• 2023年9月4日：講義概要の第6回2コマ目と第7回2コマ目に追記• 2023年8月29日：初版公開

The End