AIQMI（AI品質マネジメン
トイニシアティブ）の創設について
2024年7月31日
妹尾 義樹
デジタルアーキテクチャ研究センター
産業技術総合研究所

AIビジネス遂行における
AI品質マネジメントの課題
認証
認定

欧州AI法

ISO/IEC
SC42

CEN/CENELEC JTC21
整合規格

42001
マネジメント標準

AI 事業者ガイドライン
産総研機械学習品質マネジメントガイドライン
AIプロダクト品質保証ガイドライン（QA4AI）

急速な技術革新
生成系、LLM

AI製品、サービス
事業開発
体制整備、プロセス構築
ガイドライン整備、人材育成

機械学習固有の難しさ
確率・統計的データによる帰納的機能定義

米国
NIST/AISIAI Risk Management Framework

多様なVertical

ヘルスケア ネットサービス
金融
ロボット
自動運転
リテール

多様な利用時品質
AI Performance
SafetyPrivacy

著作権
公平性
Security
2

AIビジネス遂行における
AI品質マネジメントの課題
ISO/IEC
SC42

欧州AI法

情報収集と咀嚼
42001
CEN/CENELEC JTC21

認証
認定

マネジメント標準

整合規格

AI 事業者ガイドライン
産総研機械学習品質マネジメントガイドライン
AIプロダクト品質保証ガイドライン（QA4AI）

AI製品、サービス事業開発

技術革新

機械学習固有の難しさ

米国
NIST/AISIAI Risk Management Framework

多様なVertical

ヘルスケア ネットサービス
金融
ロボット
自動運転
リテール

品質管理課題の体制整備、プロセス構築 エコシステム構築
ガイドライン整備、人材育成
多様な解決
急速な生成系、LLM

確率・統計的データによる帰納的
機能定義

利用時品質

AI Performance
SafetyPrivacy

著作権
公平性
Security3

産総研のこれまでの実績と強み
AIQM（AI品質マネジメントプロジェクト）2018年～• 機械学習品質マネジメントガイドライン

 2020年第1版～2024年第4版 、英語版第1版～第3版、ISO/IEC TR5469（AI機能安全）• リファレンスガイド、品質アセスメントシート• テストベッドQunomonの開発と公開• 各種品質評価技術開発

AI国際標準化活動• SC42国際標準化活動（コンビナー、エキスパート、エディタ、国内審議団体、ロビーイング）• CEN-CENELEC オブザーバ参加、AI Trust Consortium参加• 米国NIST MOUによる密連携• 各種イベント開催（2024年7月：人工知能標準化国際シンポジウム）• 各種プロジェクト主導（Human Machine Teaming, Human Oversight、AIデータ品質管理など）
4

産総研の強みを活用した業界団体の開設（注）AIQM＝AI品質マネジメント
プロジェクトAIQM成果AIQMガイドライン

リファレンス

テストベッド

品質評価技術国際標準化

AI品質管理の全体像の明確化、ビジネス活用基盤構築
課題

社会的コンセンサス
国際標準認証

普及促進

使いやすさ
手引き

実例集

品質レイ
ヤ整理

AI評価基盤の構築

実用ツール

AIT

課題解決に向けた活動

企業のおけるビジネス活用• コンサルビジネス立ち上げ• 自社内ガイドライン、体制整
備• AIシステム開発への活用• テストベッド商品化

AIQMイニシアティブ• 企業活動の支援（参加者共助）
ベストプラックティスの共有• 人材育成、教育プログラム• 宣伝、情報発信• 活動cへの企業ニーズフィード
バック• エコシステム構築

教育財整備

倫理

新たなAI
潮流への対応Security

基盤モデル

生成系
ChatGPT

後継プロジェクト（AIQM２）• AI品質管理の社会実装基盤作成• ガイドライン拡充、メンテ• 国際標準化• テストベッド拡充、AIT整備• 実証研究、ベストプラクティス
構築• 品質評価環境・技術整備• AI新技術対応

AIを安心して使える社会の実現、高品質AIによる日本の産業競争力強化

イニシアティブの目的と活動予定
目的：AI品質マネジメントを競争力にするための企業主体のエコシステムの構築
24年8月

24年12月

28年4月

任
意団
体として
活動開始

一般社
団
法人
設
立

参
加
有
償化

活動内容最終調整
一般社団法人設立準備
WG活動試行関係団体との関係構築
有志ボランティアベース

活動本格化
法人収益モデル構築
企業コミットメントベース

業界主導で自立AIQMイニシアティブ 趣意書（案）• 企業がAIをビジネスに活用するために必要となるAI品質マネジメントを支援する
ことにより、AIの安全、安心な活用と、AI活用ビジネスの健全な発展を目指す。
• 定款• AI品質マネジメントに関する種々の関連サービスの企画・開発・提供• 先端情報取得、手引書、コンサル、ツール、認証• AI品質マネジメント人材の育成• AI品質マネジメントに関する社会コンセンサスの醸成のための情報発信• AI品質マネジメントの国際標準制定についての要望のとりまとめ• AI品質マネジメントに関するノウハウ蓄積、公開• ベストプラクティスの蓄積と共有、先端技術情報の整理と蓄積• 関連知財の開発、管理、保護• AI品質マネジメントに関するエコスステムの構築支援• 講演、展覧会、シンポジウム、セミナーの企画、運営• 書籍、雑誌、印刷物などの企画、制作、販売• 関連機関との情報交換、連携、協力• その他、本会の目的達成に必要な事業

7

AIQMイニシアティブを母体としたネットワーキング
US AISI
Consortium

日本
AISI

Safety密連携

SC42国内審議団体
国際標準化

AI Trust
Consortium

認証、認定

AIQMイニシ
アティブ 品質

DL、開発、技術開発、ツール

AI Alliance

技術、事例

QA4AI

支援

AIQM
研究開発
（AIST）

DL協会

8

運営体制案AIQM イニシアティブ総会

事務局

WG1

関連情報調査（規制，標準化等の動向調査，意見の発信）

WG2

実践支援資料の開発（課題抽出・対策検討，知見蓄積，手引書・ベストプラクティクス・コンサル事例検討）

WG3

エコシステム構築

9現時点でのメンバー（暫定、五十音順、敬称略）
岡本 球夫 （パナソニックホールディングス株式会社）
大岩 寛（国立研究開発法人産業技術総合研究所）

大谷 正樹 （オムロン株式会社）
北村弘（独立行政法人情報処理推進機構 (IPA) ／AI
セーフティ・インスティテュート）

吉瀬 紳剛 （株式会社ディアープロダクション）
桑島 洋（株式会社デンソー）

小林 健一 （富士通株式会社）小林 裕宜 （株式会社Citadel AI）
小西 弘一 （国立研究開発法人産業技術総合研究所）
小宮山 英明（コニカミノルタ株式会社）

新原敦介（株式会社日立製作所）

妹尾義樹（国立研究開発法人産業技術総合研究所）

田部尚志(日本電気株式会社)

築地

テレサ（SherLOCK株式会社）徳隆宏

難波
長谷川（ダイキン工業株式会社）孝彰（パナソニックホールディングス株式会社）

哲夫（株式会社東芝）

浜谷千波（アドソル日進株式会社）

福島真太朗（トヨタ自動車株式会社）

松葉威人（株式会社Citadel AI）

宗像一樹（富士通株式会社）

安井裕司（株式会社本田技術研究所）

山田敦（日本アイ・ビー・エム株式会社）

WG1：先端情報の収集と共有、提言
月に2回程度TEAMS会合• TF1の議論を、企業ニーズに照らして必要な部分だけをサマライズして、定期的に共有、議論。
• コンソメンバからの情報共有• メンバで担当情報収集範囲を決め、これを定期的に共有• 収集情報（案）• 国際標準化• 国の施策や方針• EUや主要各国の動向（規制など）• 技術情報• LLMの主要プレイヤーの動向• ツール、保険、認証などの状況• 提言とりまとめ• 国際標準化への要望、国への要望、研究開発への要望などを議論してとりまとめ

11

WG2：ベストプラクティス、手引書• 現在のガイドラインについて、実用に際しての問題点の洗い出しと解決策の検討• まずは、問題点の洗い出しを行い、項目分けして解決策を検討• 項目ごとに解決策を手引書にまとめる（産総研Pjと連携。他のPjもありうるか。）• 項目案• どこまでやればよいか• 外部品質ごとに（Risk Avoidance, AI Performance, Security,,,)• 国際基準などへの適合性評価の観点• 応用ドメイン（AI活用パターン）ごと• LLM対応• ツール活用、品質確認作業の効率化の課題• 無償コンサル機能（問題を持ち込んでいただいて、この解決策をメンバで検討）
12

WG3：エコシステム構築• エコシステムのあるべき姿の検討を行う• 協調領域と競争領域の切り分けをしたい。
• 一社で難しいことを複数社が集まって成就させることが目的。

• エコシステムそれぞれの機能（ツール、認証、監査、保険など）について、先端情報の調査（WG１との切り分け）• それぞれの機能としてあるべき姿の詳細をまとめる。
• 参加企業の強みについて販促の場としても活用。
• ツールなどについては、ハンズオンなどのイベント主催。
• 情報発信（社会コンセンサスづくりに向けて。他のWGも発信する必要がある？）、人材育成（教育プログラム）についても、WG3で担当
13

一般社
会
開発
運
用
促
進
支
援
知識
基
盤

めざすAI品質マネジメントのエコシステム
AIの影響を受ける人々

AIQM
イニシアティブ

AI開発企業

社会人教育

コンサル

大学・研究機関システム開発企業

ツールベンダ

利用企業

プラットフォーマー

標準化団体

消費者団体

個人利用者

認証/認定/監査
組織

保険会社

監督機関
14

WG3の活動計画
エコシステム全体像の明確化• 必要なエコシステム内機能の洗い出し（参加者からアウトソースしたい機能を持ち寄り、一般的機能として整理する。海外も含め現在利用可能な機能の調査• エコシステムの強み、全体像の明確化

連携インタフェースの明確化• プレイヤー間で提供されるサービス機能とインタフェースの明確化

エコシステム構築に必要な制• エコシステムの連携で必要となる制度検討や海外など他のエコシステムとの連携

度、活動の洗い出しとロードマップの構築の構築• 関係機関との協議、ロードマップの構築

15

16