AIにかかる標準化活動について

ISO/IEC JTC1 SC42について：AIMS規格を中心に
一般財団法人

日本品質保証機構 認証制度開発普及室
髙村博紀ISO/IEC JTC1 SC42委員

目次
AIに係る標準化活動＋α ついて概説します• AIに係る標準化活動:ISO/IEC JTC1 SC42について• 2023秋のウィーン総会、規格開発状況について• 国内SC42の活動:省31プロジェクトについて• AIマネジメントシステム規格の概要と気になること• マネジメントシステム規格とは• 適合性評価（認証）について:いわゆる国際スキーム• 海外の動き:気になることなど• ハードロー指向とソフトロー指向といわれますが• 欧州の国際標準化戦略?と、日本の取組み現状など• 我が国の産業を護るために:相互承認協定へ

本発表は個人的な意見であり、所属する組織等を代表するもの
ではございません
また、最新状況につきましては
各自ご確認いただきますようお願いいたします

国内にもAI Safety InstituteがIPAに設置されましたね！

2

自己紹介
髙村博紀と申します• いわゆる認証機関といわれる（一財）日本品質保証機構に勤めています• サービスロボットの安全評価（ISO13482など）や機能安全（IEC 61508, ISO 26262など）評価、
サイバーセキュリティ（IEC 62443など）評価などをしている部署に所属していますと書くと、いろいろ思われる方がいらっしゃるかとは思いますが• 普段は、新規事業開発を担当しておりまして、いろいろ担当しています
何でも屋さん＆便利屋さん（でも、あまり役にたっているかは?）• 大学や研究所にいた期間が⾧く、現場をほぼ知らずノンビリと暮らしておりましたが、前職（友人の会社のお手伝い）で機能安全開発・サイバーセキュリティ開発支援などをしておりました• 大昔書いた構成的数学の論文が昨年出版されたHandbook of Constructive Mathematics (Cambridge Univ. Press)で引用されていることを知り、嬉しい半面・・な3

３大国際標準化機関:ISO／IEC／ITU、そしてISO/IEC JTC1
それぞれに特徴的な違いがある• ISO:国際標準化機構（International Organization for Standardization）
放送通信分野、電気電子分野を除く、一般的な標準を対象にする国際標準化機関
いわゆるMSS（ISO9001, ISO14001, ISO27001など）でも有名• IEC:国際電気標準会議（International Electrotechnical Commission）
電気電子分野の標準を対象にする国際標準化機関、もっとも歴史が古い• ITU:国際連合の専門機関の一つとして、電気通信の良好な運用により諸国民の間の平和的関係及び国際協力並びに経済的及び社会的発展を円滑にする
目的を持って設立
電波利用の周波数割り当ての世界統一標準の策定• ISO/IEC JTC1:ISOとIECのjoint technical committeeです
1985年に発足し、主にIT関係の標準を対象としています

https://www.jisc.go.jp/international/international_standardization.html

人工知能に関する国際標準化はSC42で行われています
4

国内事務局

https://itscj.ipsj.or.jp/committee-activities/committee-list.html

https://itscj.ipsj.or.jp/committee-activities/report/SC42-2020.html

産総研

杉村さま資料より

ISO/IEC JTC 1/SC 42/AHG 4

Liaison with SC 27

Working group

ISO/IEC JTC 1/SC 42/AHG 7

JTC1 joint development review

Working group

ISO/IEC JTC 1/SC 42/JWG 2

Joint Working Group ISO/IEC JTC1/SC 42 - ISO/IEC JTC1/SC 7 : Testing of AI-based systems

Working group

ISO/IEC JTC 1/SC 42/JWG 3

Joint Working Group ISO/IEC JTC1/SC42 - ISO/TC 215 WG : AI enabled health informatics

Working group

ISO/IEC JTC 1/SC 42/JWG 4

Joint Working Group ISO/IEC JTC1/SC42 - IEC TC65/SC65A: Functional safety and AI systems

Working group

ISO/IEC JTC 1/SC 42/JWG 5

Joint Working Group ISO/IEC JTC1/SC42 - ISO/TC 37 WG: Natural language processing

Working group

ISO/IEC JTC 1/SC 42/WG 1

Foundational standards

Working group

ISO/IEC JTC 1/SC 42/WG 2

Data

Working group

ISO/IEC JTC 1/SC 42/WG 3

TrustworthinessWorking group

ISO/IEC JTC 1/SC 42/WG 4

Use cases and applications

Working group

ISO/IEC JTC 1/SC 42/WG 5

Computational approaches and computational characteristics of AI systems

Working groupAI標準化の場:Organizational Structure around AI International Standardization< International >ISOTC< Japan Domestic >Japan Industrial Standards
JISC
Commission under METIIEC
Joint TechnicalCommittee 1 (JTC 1)

SC

Sub Committee42 AI

WGWorking Group (WG)

Mirroring

JAG, SG, WG

Technical Committee
Committees

Information Processing Societyof Japan Information Technology
Standards Commission of Japan(IPSJ/ITSCJ)

Sub Committee 42 AI

Chair: R.Sugimura (AIST)

Sub Committees (SC)Int. Conv.

Editors, Adh Conv. from JNB

Lead in JNB

WG1

P Cotton

M. Javinski(42001), Weiwei(22989), M.Patel(38507)

Sugimura (AIST), Takamura(JQA)

WG2W.
Chang→H.Kim→Boyd

Enomoto(5259-X), Kim(5259-2)

Kim (AIST)

WG3D.Filip

Egawa(5469,42105)

Egawa(NEC, AIST),Aizono(Hitachi)

WG4

F. Maruyama

Cheng(24030, 5338)

Maruyama(AIST)

WG5

T Lieu→ Ning Sun（JWG 1 with SC40）

Y. Harada

ISO/IEC 38507: Mission Completed

Ogura(Nihon Univ)JWG 2 with SC7

A.Smith, S. Reid

TS 29119-11

Nishi (Univ. Electro Comm)

JWG3 with TC215

S. Tsumoto

Imai(18988), Williams

Imai(Tokyo Univ)

JWG4 with TC65A

R.Mariani

TBD

JWG5 with TC37

M.Lauriane

TBD

Sakamoto(NEC)7

SC42のスコープ
SC42 Scope
Standardization in the area of Artificial Intelligence• Serve as the focus and proponent for JTC 1's standardization programon Artificial Intelligence• Provide guidance to JTC 1, IEC, and ISO committees developing
Artificial Intelligence applications
SC42 範囲
人工知能分野の標準化
JTC 1 の人工知能に関する標準化プログラムの中心および推進者としての役割を果たします。
人工知能アプリケーションを開発する JTC 1、IEC、ISO 委員会にガイダンスを提供します．
8

第１回 中国 北京 2018年4月

Plenary の経緯

第４回 日本 東京 2019年10月

第1１回 ドイツ ベルリン 2023年4月

第２回 米国 サニーヴェール 2018年10月

第1２回 オーストリア ウィーン 2023年１０月
第５回～第１０回
e-meeting (コロナのため）

第３回 アイルランド ダブリン 2019年４月
Lawrence
D. Eicher賞
92023年 Lawrence D.Eisher 賞 受賞
JTC1 ではSC27受賞から8年ぶり

10

提供可能

日本の貢献

Reference

Document title

committee

運営リード

stage

38507:2022

IT — Governance of IT — Governance implications of the use of AI by organizations

SC42

原田（情セ大）60.60 2022-04-08 Peter Brown

英TR 20547-2:2018

IT — Big data reference architecture — Part 2: Use cases and derived requirements

SC4260.60 2018-01-10 Suwook Ha

韓TR 20547-5:2018
AWI TS 17847

IT — Big data reference architecture — Part 5: Standards roadmap
IT — AI — Verification and validation analysis of AI systems

SC42
SC42/JWG 2

60.60 2018-02-09 20.00 2022-11-10 Raghavendra Bhat

印

AWI TS 29119-11

Software and systems engineering — Software testing — Part 11: Testing of AI systems

SC42/JWG 2

20.00 2022-02-21 Jonghong Jeon

韓AWI TR 18988

AI — Application of AI technologies in health informatics

SC42/JWG 3

20.00 2023-04-28 Takeshi Imai日AWI TS 22440

AI — Functional safety and AI systems — Requirements

SC42/JWG 4

20.00 2023-09-11 Riccardo Mariani

伊AWI 23282

AI — Evaluation methods for accurate natural language processing systems

SC42/JWG 5

20.00 2023-10-05 Lauriane Aufrant

仏22989:2022

IT — AI — AI concepts and terminology

SC42/WG 1

60.60 2022-07-19 Wei Wei

独22989:2022/AWI Amd 1

IT — AI — AI concepts and terminology — Amd 1

SC42/WG 1

20.00 2023-10-27 Wei Wei

独23053:2022

Framework for AI Systems Using ML

SC42/WG 1

60.60 2022-06-20 Milan Patel

英23053:2022/AWI Amd 1

Framework for AI Systems Using ML — Amd 1

SC42/WG 1

20.00 2023-10-27 Milan Patel

英AWI 42102

IT — AI — Taxonomy of AI system methods and capabilities

SC42/WG 1

20.00 2023-08-23 Taras Holoyad

独CD 42005

IT — AI — AI system impact assessment

SC42/WG 1

30.60 2023-08-25 Peter Deussen

独

DIS 42006

IT — AI — Requirements for bodies providing audit and certification of AI management systems

SC42/WG 1

40.20 2023-10-25 Susanne Kuch

独

FDIS 42001

IT — AI — Management system

SC42/WG 1

50.20 2023-10-06 Marta Janczarski

愛20546:2019

IT — Big data — Overview and vocabularySC42/WG 2

60.60 2019-02-28 David Boyd

米20547-3:2020

IT — Big data reference architecture — Part 3: Reference architecture

SC42/WG 2

60.60 2020-03-04 David Boyd

米24668:2022

IT — AI — Process management framework for big data analytics

SC42/WG 2

60.60 2022-11-17 Gautam Banerjee

印8183:2023

IT — AI — Data life cycle framework

SC42/WG 2

60.60 2023-07-26 Colin Crone

英AWI TR 42103

IT — AI — Overview of synthetic data in the context of AI systems

SC42/WG 2

20.00 2023-05-05 Scott Orr

米CD TR 5259-6

AI — Data quality for analytics and ML — Part 6: Visualization framework for data quality

SC42/WG 2

榎本(個人)

30.00 2023-02-14 Stephen Kwan

米DIS 5259-1

AI — Data quality for analytics and ML — Part 1: Overview, terminology, and examples

SC42/WG 2

榎本(個人)

40.60 2023-09-14 Suwook Ha

韓DIS 5259-2

AI — Data quality for analytics and ML — Part 2: Data quality measures

SC42/WG 2

榎本(個人)

40.60 2023-10-27 Kyoung-Sook Kim

日DIS 5259-3

AI — Data quality for analytics and ML — Part 3: Data quality management requirements and guidelines

SC42/WG 2

榎本(個人)

40.60 2023-09-14 Matthis Eicher

独

DIS 5259-4

AI — Data quality for analytics and ML — Part 4: Data quality process framework

SC42/WG 2

榎本(個人)

40.60 2023-09-14 Wanzhong Ma

中DIS 5259-5

AI — Data quality for analytics and ML — Part 5: Data quality governance framework

SC42/WG 2

榎本(個人)

40.00 2023-10-25 Gyeung-min Kim

韓TR 20547-1:2020

IT — Big data reference architecture — Part 1: Framework and application process

SC42/WG 2

60.60 2020-08-20 David Boyd

米23894:2023

IT — AI — Guidance on risk management

SC42/WG 3

60.60 2023-02-06 Peter Deussen

独24029-2:2023

AI — Assessment of the robustness of neural networks — Part 2: Methodology for the use of formal methods

SC42/WG 3

60.60 2023-08-01 Arnault Ioualalen

仏25059:2023

Software engineering — SQuaRE — Quality model for AI systems

SC42/WG 3

90.92 2023-10-31 Adam Leon Smith

英AWI 24029-3

AI — Assessment of the robustness of neural networks — Part 3: Methodology for the use of statistical methods

SC42/WG 3

20.00 2023-08-22 Arnault Ioualalen

仏

AWI 42105

IT — AI — Guidance for human oversight of AI systems

SC42/WG 3

20.00 2023-08-21 Takashi Egawa

日

AWI TR 42106

IT — AI — Overview of differentiated benchmarking of AI system quality characteristics

SC42/WG 3

20.00 2023-05-05 Nisheeth Srivastava

印

AWI TS 22443

IT — AI — Guidance on addressing societal concerns and ethical considerations

SC42/WG 3

20.00 2023-09-06 Viveka Bonde瑞CD 12792

IT — AI — Transparency taxonomy of AI systems

SC42/WG 3

30.60 2023-08-17 Heather Benko

米CD TS 6254

IT — AI — Objectives and approaches for explainability of ML models and AI systems

SC42/WG 3

30.60 2023-08-15 Jaeho Lee

韓CD TS 8200

IT — AI — Controllability of automated AI systems

SC42/WG 3

30.99 2023-10-29 Xiaoqi Cao

中DTR 5469

AI — Functional safety and AI systems

SC42/WG 3

50.20 2023-10-06 Takashi Egawa

日

DTS 12791

IT — AI — Treatment of unwanted bias in classification and regression ML tasks

SC42/WG 3

50.00 2023-08-23 Adam Leon Smith英DTS 25058

Systems and software engineering — SQuaRE — Guidance for quality evaluation of AI systems

SC42/WG 3

50.20 2023-09-28 Olivier Blais

加PWI 17866

AI — Best practice guidance for mitigating ethical and societal concerns

SC42/WG 3

00.00 2022-05-15

瑞PWI 18966

AI — Oversight of AI systems

SC42/WG 3

00.00 2022-08-19

日

PWI 25059

Software engineering — SQuaRE — Quality model for AI systems

SC42/WG 3

00.00 2023-10-31

加TR 24027:2021

IT — AI — Bias in AI systems and AI aided decision making

SC42/WG 3

60.60 2021-11-05 Adam Leon Smith

英TR 24028:2020

IT — AI — Overview of trustworthiness in AI

SC42/WG 3

60.60 2020-05-28 Orit Levin米TR 24029-1:2021

AI — Assessment of the robustness of neural networks — Part 1: Overview

SC42/WG 3

60.60 2021-03-10 Arnault Ioualalen

仏TR 24368:2022

IT — AI — Overview of ethical and societal concerns

SC42/WG 3

60.60 2022-08-19 Viveka Bonde瑞AWI TR 20226

IT — AI — Environmental sustainability aspects of AI systems

SC42/WG 4

丸山(産総研)20.00 2022-12-01 Harm Ellens

豪

AWI TR 21221

IT – AI – Beneficial AI systems

SC42/WG 4

丸山(産総研)20.00 2023-03-16 Stephen Kwan

米

DTR 24030

IT — AI — Use cases

SC42/WG 4

丸山(産総研)50.00 2023-10-16 Yuchang Cheng日

FDIS 5338

IT — AI — AI system life cycle processes

SC42/WG 4

丸山(産総研)50.20 2023-09-11 Yuchang Cheng日

FDIS 5339

IT — AI — Guidance for AI applications

SC42/WG 4

丸山(産総研)50.20 2023-10-10 Shrikant Bhat

印

TR 24030:2021

IT — AI — Use cases

SC42/WG 4

丸山(産総研)90.92 2021-11-09 Yuchang Cheng日

CD TR 17903

IT — AI — Overview of ML computing devices

SC42/WG 5

30.99 2023-10-29 Xiaoqi Cao

中FDIS 5392

IT — AI — Reference architecture of knowledge engineering

SC42/WG 5

50.00 2023-10-02 Ruiqi Li中江川(産総研)Stage date

Project leader

PWI 42107

IT — AI — AI lightweight modeling

SC42/WG 5

00.00 2023-05-05 Young Im Cho

韓TR 24372:2021

IT — AI — Overview of computational approaches for AI systems

SC42/WG 5

60.60 2021-12-07 Wanzhong Ma

中TS 4213:2022

IT — AI — Assessment of ML classification performance

SC42/WG 5

60.60 2022-10-13 lingzhong meng中日本は，トップレベルプレゼンスを獲得
日本は，５５のプロジェクト中
１７プロジェクトでリーダシップ発揮（全体の３割）
エディター引き受けも８件
米：８，英：７，独：７，中：６，
韓：６．印：５，仏：４，Standard Diplomacy の中心国として認知されている (ATI Florian
Ostmann氏，David Leslie氏との対話で出てきた言葉）

11

SC42 2023年10月ウィーン総会 主要結果
 22989 (用語) と23053 (フレームワーク) のAmendment作成を合意。
Generative AI他の用語と概念の追加のため
 AI maturity model and related conceptsをWG1に割り当て 42001のConstellation (周辺規格) についてWG1アドホックで検討へ Federated learningに関するデータ利用概念のアドホックをWG2に設置
 25059 (品質モデル) 改定のNP投票へ。AIサービスの品質を25011を踏まえ記述、2022版で割愛した
Explainabilityほかの概念の追加、生成系AIへの対応他が目標
 JTC21で議論中のOperational design domain (ODD) をWG3のPWIとして登録
 ExplainabilityとInteroperabilityの関係整理で膠着していたTS 6254はタイトルに両方を入れることで決着 Oversightは42105キックオフ、またPWI 18966にてガバナンス側面の検討を開始
 WG4の新PWIとしてHuman-Machine Teaming、及びEvaluation metrics for AI use cases andapplications（TR提案をPWIに変更）の2個を登録
 Guidance for Generative AI Applications (印提案）をWG4のstudy itemとして登録
 WG5で韓国提案2件 (inference framework, lightweight modeling) がNP投票へ，また中国提案1件(model training efficiency optimization) をPWI登録．
 SC7と共同開発中のTS 29119-11 (testing) はscope明確化。要求条件を陽に記述
 JWG3は参加者がTC215に偏り、SC42からの出席が極めて限られる状態が続く
 JWG4はTS 22440 (機能安全; TR5469を基に要求条件書き下し) キックオフ
 23282 (NLPの評価)を扱うJWG5 (NLP) コンビーナにLauriane Aufrant (仏)を指名
12
産総研 江川さま資料より

SC 42の規格開発状況: 新規WI (1/２)
 下記NWIPを投票に付議することで合意
 改定: ISO/IEC 25059, Software engineering — Systems and software Quality Requirements and
Evaluation (SQuaRE) — Quality models for AI systems, 担当予定: WG3, Project editor: Olivier Blais (加) ISO/IEC TS, 番号未定, Artificial intelligence – AI inference framework for AI systems, 担当予定: WG5,
Project editor: Young-Im Cho (韓) ISO/IEC IS, 番号未定, Artificial intelligence – Guidance on artificial intelligence (AI) lightweight modelling,
担当予定: WG5, Project editor: Young-Im Cho (韓) 下記プロジェクトを新規に登録
 ISO/IEC 22989:2022 amd, Information technology — Artificial intelligence — Artificial intelligence concepts
and terminology, 担当予定: WG1, Project editor: Wei Wei (独) ISO/IEC 23053:2022 Amd, Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML),
担当予定: WG1, Project editor: Milan Patel (英) 番号未定、PWI, Artificial intelligence -- Operational design domain (ODD) for AI systems, 担当: WG3,
Project editor: Patrick Bezombes (仏) 番号未定、PWI, Information technology – Artificial intelligence – Human-machine teaming, 担当: WG4,
Project editor: Yuchang Cheng (日) 番号未定, PWI, Information technology — Artificial intelligence — Evaluation metrics for AI use cases andapplications, 担当: WG4, Project editor: Yugyung Na (韓) ISO/IEC PWI TS 番号未定, Artificial intelligence – Guidance on model training efficiency optimization ofmachine learning system, 担当予定: WG5, Project editor: Juan Deng (中)13SC 42の規格開発状況: 新規WI (２/２)
 下記のタイトル変更を承認
 ISO/IEC TS 6254, Objectives and approaches for explainability and interpretability of ML models and AI
systems(元: Objectives and approaches for explainability of ML models and AI systems)
 下記のスコープ変更を承認
 ISO/IEC TS 29119-11, Software and systems engineering — Software testing — Part 11: Testing of AI
systems 下記の開発期間の新規設定・変更を承認
 ISO/IEC TR 42103, Information technology — Artificial intelligence — Overview of synthetic data in thecontext of AI systems, 新規完成目標: 2025/10
 ISO/IEC TS 12791, Information technology — Artificial intelligence — Treatment of unwanted bias inclassification and regression machine learning tasks, 新規完成目標: 2025/02
 ISO/IEC TS 6254, Information technology — Artificial intelligence — Objectives and approaches for
explainability and interpretability of ML models and AI systems, 新規完成目標: 2024/11
 ISO/IEC TS 29119-11, Software and systems engineering — Software testing — Part 11: Testing of AI
systems, 新規完成目標: 2025/02
 ISO/IEC TS 22440, Artificial intelligence — Functional safety and AI systems — Requirements, 新規完成
目標: 2025/12

14

SC 42の規格開発状況: 既存WI (1)
WG

規格

種

(JWG 1) 38507

IS

タイトル

Governance of IT – Governance implications of the use of
Artificial Intelligence by organizations

29119TS Software testing — Part 11: Testing for AI systems
11
JWG2
17847 TS AI – Verification and validation analysis of AI systems

状況
発行済(2022-04)

WD開発中
WD開発中

JWG 3 18988 TR AI – Application of AI technologies in health informatics

WD開発中

JWG 4 22440 TS AI — Functional safety and AI systems — Requirements

WD開発中

WG 1

22989 IS AI – Concepts and terminology

Amd開発開始

23053 IS Framework for AI (AI) Systems Using Machine Learning (ML)

Amd開発開始

42001 IS AI – Management system

20231218発行

WD開発中
42005 IS AI – AI system impact assessment
42006 IS AI – Requirements for bodies providing audit and certification DIS投票
of artificial intelligence management systems
WD開発中
42102 IS AI – Taxonomy of AI system methods and capabilities15

SC 42の規格開発状況: 既存WI (2)
WG

規格
20546
20547
-1
-2
-3
-5

24668
WG 2

5259
-1
-2
-3
-4
-5
-6
8183
42103

種
タイトル
IS Big data – Overview and vocabulary
IT – Big data reference architecture
TR
Framework and Application ProcessTR
Use cases and derived requirements
IS
Reference architectureTRStandards roadmap
AI – Process management framework for Big dataIS
analytics
AI – Data quality for analytics and machine learning
IS
Overview, terminology, and examples
IS
Data quality measures
Data quality management requirements and guidelines
IS
IS
Data quality process framework
IS
Data quality governanceTR
Visualization framework for data quality
IS AI – Data life cycle framework
AI – Overview of synthetic data in the context of AI
TRsystems状況
発行済(2019-02)
発行済(2020-08)
発行済(2018-04)
発行済(2020-03)
発行済(2018-04)
発行済(2022-11)

DIS CRM処理完了
DIS 投票中(10/26)
DIS CRM処理完了
DIS CRM処理完了
DIS 登録・投票準備中
CIB Consultation 準備中
発行済(2023-07)
WD開発中

20547-4 Part 4: Security and privacy fabricはSC 27で開発、2020-09発行。
16

SC 42の規格開発状況: 既存WI (3)
WG

規格
5469

6254
8200
12791

WG 3

12792
18966
23894
24027
24028
24029
-1
-2
-3

種
タイトル
TR Functional safety and AI systems
Objectives and approaches for explainability andTSinteroperability of ML models and AI systems
TS Controllability of automated artificial intelligence systems
Treatment of unwanted bias in classification and regression
TSmachine learning tasks
IS Transparency taxonomy of AI systems
PWI Oversight of AI systems
IS Artificial Intelligence – Risk Management
TR Bias in AI systems and AI aided decision making
TR Overview of trustworthiness in Artificial Intelligence
Assessment of the robustness of neural networks
TR Overview
IS Methodology for the use of formal methods
IS Methodology for the use of statistical methods

状況
発行済

CD開発中
CDコメント処理完
CDコメント処理完
CD開発中
PWI継続討議
発行済 (2023/02)
発行済 (2021/11)
発行済 (2020/05)
発行済(2021/03)
発行済(2023/08)
WD開発中

17

SC 42の規格開発状況: 既存WI (4)
WG

規格

種

24368

TR AI – Overview of ethical and societal concerns

発行済 (2022/08)

25058

TS SQuaRE - Quality Evaluation Guidelines for AI Systems

発行済

25059

IS SQuaRE – Quality model for AI systems

発行済 (2023/06)

22443

TS

42105

IS AI - Guidance for human oversight of AI systems

42106

TR

(元5471)

WG 3

タイトル

Guidance on addressing societal concerns and ethicalconsiderations

状況

WD開発中
WD開発中

AI - Overview of differentiated benchmarking of AI system
WD開発中
quality characteristics18

SC 42の規格開発状況: 既存WI (5)
WG

WG 4

規格 種
タイトル
24030
TR Artificial Intelligence (AI) – Use cases
Ed. 1

状況
発行済（2021/05）

24030 TR Artificial Intelligence (AI) – Use cases

DTR投票へ5338

IS AI system life cycle processes

発行済

5339

IS Guidelines for AI applications

発行済20226 TR

Artificial Intelligence (AI) – Environmental sustainability
aspects of AI systems

WD開発中

21221 TR Artificial Intelligence (AI) – Beneficial AI systems

WD開発中

4213

TS Assessment of machine learning classification performance

発行済（2022/10）

5392

IS Reference architecture of knowledge engineering

FDIS投票へ

17903 TR Overview of machine learning computing devices
WG 5 24372 TR Overview of computational approaches for AI systems--

TS AI inference framework for AI systems

42107 IS Guidance on artificial intelligence (AI) lightweight modelling--

DTRコメント処理完了、発行へ発行済（2021/12）

NP投票へ
NP投票へ

TS Guidance on model training efficiency optimization of machine
PWI登録
PWI learning system

19

SC42標準化活動に関連した国内プロジェクトについて

令和５年度エネルギー需給高度化基準認証推進事業費 （省エネルギー等国際標準開発（国際電気標準分野）
省３１プロジェクト「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」

20

目次
AIに係る標準化活動＋α ついて概説します• AIに係る標準化活動:ISO/IEC JTC1 SC42について• 2023秋のウィーン総会、規格開発状況について• 国内SC42の活動:省31プロジェクトについて• AIマネジメントシステム規格の概要と気になること• マネジメントシステム規格とは• 適合性評価（認証）について:いわゆる国際スキーム• 海外の動き:気になることなど• ハードロー志向とソフトロー志向といわれますが• 欧州の国際標準化戦略?と、日本の取組み現状など• 我が国の産業を護るために:相互承認協定へ

21

マネジメントシステム規格（MSS）について組織の取組みについて規定した規格です• 代表的なものに品質マネジメントシステム規格（QMS）ISO9001や環境マネジメントシステム規格（EMS）
ISO14001、情報セキュリティに関するマネジメントシステム規格（ISMS）ISO/IEC 27001や最近ではプライバシーに関するマネジメントシステム規格であるISO/IEC 27701などがあります• 各組織は規格の内容を理解して各組織で定めたルールに基づいてしっかりと活動をしています、という取組み全般に係
る活動により品質、環境、セキュリティやプライバシーに対してルールに則った企業活動が行われていると思います
これらに必要な要求事項を提供するMSSは、どのような規模も企業に対しても、原則的には業種にも依存しない形で適用することができるようになっています。
• MSSといえば、PDCAサイクルを回してカイゼン活動につなげること!が良く知られたスローガンかと思います
そのためにはトップマネジメントがしっかりと企業活動にコミットして、計画を立て、実施し、測定できるものをモニタリングしてカイゼンにつなげるような仕組みを構築する必要があります※ 27001も2022年改訂されました（移行期間2025年まで）し、いろいろ動きがあるかと22マネジメントシステム規格（MSS）について
MSS:9001とか27001とか聞くと【認証】ってアタマに浮かぶけど・・・

強制性はない• MSSは基本的には各組織が組織向けのマネジメントシステムを構築して運用していただければいいのですが、MSSと聞
くと、認証をとっている、まだとっていないといった話になることがあるかと思います• 認証については、認証機関といわれる第三者機関が中立な立場で審査し、適合の可否を判断しますが、こちらはいわゆる国際スキームといわれる、国際的な仕組みではありますが、民間ベースでの活動になります• また、認証の対象としましては、いままでお話ししてきたMSSについて、つまり組織が認証の対象となるケースのほかに、製品認証、要員認証があり、適合性評価については、テストやインスペクションなどもあります• 認証機関は認定機関（国内ですとJABやISMS-ACやASNITEなどがございます）により、ちゃんと中立性や公平性を担保しながら活動していますか?と審査される立場でもあります
認定機関どおしの活動の確認は相互に国際的に行うことで担保しています（IAFなど）• 国内ですと、MSSは調達要件のひとつとして、であったり、企業価値のために必要なアイテムといった感じになる場合がほとんどかと思いますが、海外向けのビジネスをする場合においては原則的には民間ベースのこの活動が規制と密接に紐づくケースがあるため、注意する必要があります

海外向けのビジネスでは注意が要ることも 23

いわゆる国際スキーム
原則的には、国際的なものではあるが民間ベース ⇔ 法規制に絡むと要注意!

認定機関

MS認証では、国内認定機関として、日本適合性認定協会（JAB）や
情報マネジメント認定センター（ISMS-AC）があります．製品認証はASNITEがあります
通常は一国にひとつの認定機関（独ならDAkkS）となっています．
認定機関はIAFなど国際的アライアンスで相互に活動を評価します．
試験・校正についてもILACが同様の国際的アライアンス組織として
存在します

４２００6
２７００6-1

認証機関
４２００１：AIMS
２７００１: ISMS

CASCO規格受審組織24

AIマネジメントシステム規格
ISO/IEC 42001が昨年末に出版されました! FDIS投票〆切(12/02）AIAトリローグ終結(12/09）後 12/18に発行!!

• 欧州AI Actとの関係からもかなり加速して開発されました:42001は整合規格のひとつです!
• 国内だとJISが出来てから認証が始まるし、そのときに考えればいいや!と考えるかもしれませんが・・・• 海外向けのビジネスをされている企業にとりましては、いままでのMSSのような感じでとらえるだけでは不十分ではな
いかと考えている部分がありますので、決して煽ったり、大丈夫ですか?早急に対応しないとヤバいですよ!というつもりは毛頭ありませんが・・・
ChatGPTなど生成系AIを規制するとかニュースでもやっているが・・・

欧州AI Actや米国NISTのAI Risk
management Frameworkの話もあるが欧州AI Actもそろそろ

米国も大統領令が法律は抽象度高く記載される文書です
整合規格への適合なども考えなければならない事項もございます
英国も規制法案
審議開始• 海外向けのビジネスでは、AI ActやNIST AI risk frameworkだけを考えることは視野が狭く危険です
欧州、米国のデジタル法制化にも広げて対応を考えることを強く勧めます• 海外向けのビジネスでは製品・サービスを輸出することになると思いますので、あわせて製品認証がどうなるのか?にもご配慮いただきたいです。欧州の機械指令が機械規則に格上げされましたので、それらの動きも一緒にみてください。
25

12月18日にIS発行！
SGSはFDISで認証を出し
BSIも認証開始！と（HP）

現在DIS投票(1/17〆切）
今年中にISになる可能性大26

産総研 杉村さま資料より

ISO/IEC 42001
Contents•

Foreword•

Introduction•

1 Scope•2 Normative references•

3 Terms and definitions•

4 Context of the organization

いわゆるAnnex SLHLSの文書構成• 4.1 Understanding the organization and its context•

6 PlanningP•

6.1 Actions to address risks and opportunities
6.1.1 General
6.1.2 AI risk assessment
6.1.3 AI risk treatment
6.1.4 AI system impact assessment
6.2 AI objectives and planning to achieve them
6.3 Planning of changes

7 Support
•
•
•
•
•
•
•
•

• 4.2 Understanding the needs and expectations of interested parties• 4.3 Determining the scope of the AI management system• 4.4 AI management system
•

•
•
•
•
•
•
•

5 Leadership• 5.1 Leadership and commitment• 5.2 AI policy

7.1 Resources
7.2 Competence
7.3 Awareness7.4 Communication
7.5 Documented information
7.5.1 General
7.5.2 Creating and updating documented information
7.5.3 Control of documented information• 5.3 Roles, responsibilities and authorities•

8 Operation

D

•
•
•
•

8.1 Operational planning and control
8.2 AI risk assessment
8.3 AI risk treatment
8.4 AI system impact assessment

27

ISO/IEC 42001
Contents (cont.)•

9 Performance evaluation

C• 9.1 Monitoring, measurement, analysis and evaluation•

Annex A (normative) Reference control objectives and controls•

Annex B (normative) Implementation guidance for AI controls•

Annex C (informative) Potential AI-related organizational objectives and risk

• 9.2 Internal audit• 9.2.1 General• 9.2.2 Internal audit programme• 9.3 Management review• 9.3.1 Generalsources•

Annex D (informative) Use of AI management system across domains or sectors

Annex AとB
何をしないといけないかのガイドが記載されている• 9.3.2 Management review inputs• 9.3.3 Management review results•

10 Improvement

A

ISMSでは27001と27002と分冊に• 10.1 Continual improvement• 10.2 Nonconformity and corrective action

アジャイルガバナンス

28

Confidential

海外の動きとして:HL・SLの二者択一ではありません!併用!
•

自国に法規制がないと、相互承認スキームなどがつくれない:
対等ではない?
より緩やかでも相互運用可能な仕組みを作れるのか?

•

国際標準やガイドラインをつくるだけで本当にいいのか?

•

関係者は他人事ではなく自分事として考えること•

デファクトスタンダードがあれば!
⇒デジュールスタンダードにすることも考える!

•

ハードローだけでは対応が出来ない（技術革新の速さなど）•

ソフトロー≠規制がない
既存の法規制（はAIのことは考慮されていない）が足枷になることも（自動運転・エアモビリティ関係等に新技術に法が追い付けていない）
既存の法規制がAIにどう適用されるべきか、検討されてはいる•

ハードローとソフトローの組合せで対応するのが合理的整合規格の役割はまさに柔軟な対応のための接着剤的な・・・•

ルールは守るだけのものではなく、創るもの!
（社会・技術）変化に適用するように、ルールも変化し続ける

一橋大学 市川教授の資料より•

アジャイルガバナンス的な考えが必要!

•

ルールに立脚した自由（競争）／ルールがあるからこその自由競争•

共通善・社会的共通資本としての「国際標準」

29現状／今後、懸念事項

現状／今後
•

EU AI actが三者（EU理事会、欧州議会、欧州委員会）対話ののち合意となりました（20231209）
1.
2.

EUの法律であり、その整合規格への適合性評価はNBしかできません／EU域内の動きが活発になります
AIMMS：42001はISがそのままの形でEN規格となるか確定はしていません／他の整合規格の開発が加速さ
れます

懸念事項:
•

本件、どのように進めていくべきか•••

各組織（企業、認定機関・認証機関など適合性評価活動に係る組織）単体で検討・推進できること
関係各所を巻込み、推進すべきこと

さらに、MDR、機械規則対応も含めた海外（特にEU）対応をどのように国家戦略として進めていくか

AIに関係して国内に法律がなければ、相互承認協定はできないのが原則かと30欧州と国際標準化と、日本の取組み:ソフトロー戦略で大丈夫?:現状ノーガード?
欧州

法規制

国際標準化

医療機器規則機械指令⇒機械規則
•
•
•
•

適合性評価

デジタル・データに係るAct
Data Act
Cyber Resilience Act
AI 責任指令案（AILD)
製造物責任指令改正案（ PLD)

170XXシリーズ
CASCO規格の改定:17067、17065

機能安全とAIシステム

AI ActcybersecurityとAIシステム

CEN/CENELEC JTC21

ISO/IEC JTC1 SC42
SC42 AHG7で連携
ウィーン協定AI関連整合規格を制定
SC42と共同開発する動きもありますが、規制と密接に関連するリスクカタログや
トラストワージネスのラベルについては
CEN/CENELEC JTC21でのみ開発するといった動きがあります日本
Digital・データに係る法規制は?

相互承認の仕組みは?
機能安全＆サイバーセキュリティ
国内体制構築については?
認定機関の連携
認証手法確立国内体制整備AI MSS:42001

実施中

42006

省31プロジェクト
AIMS FSAI Safety InstituteがMS

法規制と国際規格を上手く活用

カバーしてくれる？
カバーするような設計が必要

提案
AI Systems Trustworthy検証研究センターの設置に向けた活動へと昇華を!

米国

英国

カナダ

大統領令、NISTATI、BSI、CQI

SCC・EY：金融FS

豪州
MSのキーマン？

17065など適合性評価、17025（JNLA）などの実務対応も兼ねた公設研究センター（ロボット安31
全検証センターを参考に、国際的にも活躍できる「場」としてJTC21議⾧：Sebastian Hallensleben氏の図に加筆

ISO/IEC 42001がAIAの整合規格になることの重大さを正しく認識しなければ！
AI Act法規制が国際規格＋他地域のガイドラインを上手く活用

CEN/CENELEC JTC21
AI関連整合規格を制定

ISO/IEC JTC1 SC42
SC42 AHG7で連携

SC42と共同開発する動きもありますが、規制と密接に関連するリスクカタログや
トラストワージネスのラベルについては
CEN/CENELEC JTC21でのみ開発するといった動きがあります

リソース不足はViena合意で国際規格開発として解消も!

法律と紐付けられる
標準化活動の存在

32

欧州のルールが世界ルールに具体的なルールは国際標準化活動でリソースなども考え、本質的なものはEUで開発する
賢慮
エコシステムルールをつくることでゲームチェンジを
良いモノをマジメにつくることの大切さ＋それを護るためのルール

33

産総研 杉村さま資料に加筆

現状では、AIMS認証として国内で出来ることはいわゆる国際スキームによる認証
原則的には、国際的なものではあるが民間ベース

認定機関

遅くとも
2025には完成

MS認証では、国内認定機関として、日本適合性認定協会（JAB）や
情報マネジメント認定センター（ISMS-AC）があります．製品認証はASNITEがあります
通常は一国にひとつの認定機関（独ならDAkkS）となっています．
認定機関はIAFなど国際的アライアンスで相互に活動を評価します．
試験・校正についてもILACが同様の組織として存在します

４２００6
２７００6-1

認証機関
４２００１：AIMS
２７００１: ISMS

CASCO規格受審組織

海外にAIシステムを輸出する企業は・・・
医療機器規則（MDR）のように・・・

国内対応のみで、大丈夫なのか?
JIS化されて、その後??

34

170XXシリーズについても改訂の動きがいろいろ動きが適合性評価に関する上位規格の改訂の動きも!:認定機関・適合性評価機関が準拠すべき事項となります•

適合性評価:人・組織・製品の認証（第三者適合性評価）等のための規格が170XXシリーズといわれるもの•

規格策定はISO CASCO、その運用についてはIEC CABがとなっています•

製品認証についてはISO/IEC 17065があり、サービス、プロセスなどintangibleなものの評価についてTRを追加で対応してきました、が・・・
また、17065の認証スキームとして17067があります•

ここにきて、17067を改訂しましょう!との提案があり、同時に17065自体の改訂も審議俎上にあがっております•

また、V&Vについては17029が制定され、そのスキームに関するガイダンス17035が提案されています•

このCASCO内での動きに並行（連動?）して、Joint Certificationの動きがEY＆MSの白書に端を発し、ISO/IEC AI WSでも説明されるなど、動きが活性化しております

注視すべき活動• ISO CASCO規格の改訂• IEC CABの動き• IECEE:CBスキーム• IAFとILACの統合

35

いろいろ動きが製品認証＋組織認証:Joint certification

IV＆Vとは製品・サービス認証も込み込み?定期審査の意味は?リモート審査でしょ!⇒ リアルタイムでしょ!

どうあるべきか？

監査 vs. 認証

ITシステム、AIシステムを活用した組織のマネジメント

AI監査（AIを使った／AIの）開発しているシステムは大丈夫?
使用しているシステムは大丈夫?

認証の枠組みも変わるかとJISマーキング
CEマーキング
でも製品も組織もみますが・・・

組織
組織が使用しているシステム

ISO/IEC AI Workshop資料に追記

自動化・リアルタイム性
それこそAIシステムによる評価?
リアルタイムにログを解析すれば?
36
人間がみてわかるような量でも形式でもないのでは?

しかし、AIMSはEU AI Actの整合規格のひとつ

海外戦略

ボランタリーな認証（いわゆる国際スキーム）だけでは・・・国内企業にとってメリットは?

① EU AI actが三者（EU理事会、欧州議会、欧州委員会）対話ののち合意（20231209）
1.
2.

EUの法律であり、その整合規格への適合性評価はNBしかできません／EU域内の動きが活発になります
AIMMS：42001はISがそのままの形でEN規格となるか確定はしていません／他の整合規格の開発が加速されます

段階的に進めるとしても:様々なレベルで並行して活動しなければ•国内市場向けとしては、JACB（国内MS認証機関の集まり）とも連携した審査手法の開発、審査員トレーニング
検討を開始したようです•

産総研 省31プロジェクトから関係各所へ周知・協力体制の構築へ•

AI Safety Instituteによる活動:米英日協力体制

国際規格は作るだけではなく、どう使うかを考えること!

•

欧州NBとの連携 ⇔ 日の丸認証機関のNB化（相互承認協定が要る）•

機能安全・サイバーセキュリティも含めた検討の重要性・必要性•

相互承認協定（MRA）に向けた動きへと、AI法規制、その後の相互承認協定へ

CC（コモンクライテリア150408）
におけるMRAの枠組み（CCRA)が参考になるのでは?
そのためにはコアになる規格（群）をどうするか?
AIAの整合規格と同じでは・・・37

AI関係だけでなく、大きく動いております

提案

適合性評価の仕組みの見直し、Digital対応（AI含む）による覇権:各国のパワーバランス••

法規制はイノベーションを阻害はしません!
•

規制なき国家は、自国を護（守）れません:ソフトロー戦略で大丈夫でしょうか?

•

対等な国家関係を構築することが健全な競争・共創へとつながる道かと•

厚労省ボイラー登録制度や技術情報管理認証制度など活用できる制度はあると考えます

AI Systems Trustworthy検証研究センター（仮）の設置に向けた活動へと昇華を!
17065など適合性評価、17025（JNLA）などの実務対応も兼ねた公設研究センター（ロボット
安全検証センターを参考にしつつも、国際的にも活躍できる「場」として国内に機関を設置して、機微な情報が外に出ない仕組みづくりが必要ではないでしょうか?
例えば、AIシステムのTrustworthiness研究センターなどを新設して、研究機関（理研、NICT、AIST等）から人を出していただき、
また、評価機関としても機能するような組織の設置が必要ではないでしょうか?

AI Safety Institute
英米と連携？

研究・評価・人材育成のための機関
ISO CASCOとIEC CABの動きもあわせてみる必要があります•••

ISO CASCO（17065改訂（検討中））
IEC CABのなかでTFが立ち上がりAIシステムの評価をどうするか議論といった動きがあります
IECEEで製品安全、CBスキーム、さらにシステムlevelでの話へとすべきかと思います

関係各所と連携して、オールジャパンの体制構築と海外との相互承認協定へ

CC MRA（CCRA)の枠組みを参考に制度設計を考える!
38

政府戦略を!

日本の取組み:ソフトロー戦略で大丈夫か? ⇒ 相互承認協定へ!
欧州

法規制

国際標準化

医療機器規則機械指令⇒機械規則
•
•
•
•

適合性評価

デジタル・データに係るAct
Data Act
Cyber Resilience Act
AI 責任指令案（AILD)
製造物責任指令改正案（ PLD)

170XXシリーズ

AI ActcybersecurityとAIシステム

CEN/CENELEC JTC21

ISO/IEC JTC1 SC42
SC42 AHG7で連携
ウィーン協定SC42と共同開発する動きもありますが、規制と密接に関連するリスクカタログや
トラストワージネスのラベルについては
CEN/CENELEC JTC21でのみ開発するといった動きがあります

Digital・データもかかる法規制は?

CASCO規格の改定:17067、17065

機能安全とAIシステム

AI関連整合規格を制定

日本

AI MSS:42001
42006

AI法

相互承認の仕組み構築へ
機能安全＆サイバーセキュリティなどDigital対応を!
CBスキームを越える制度設計

実施中

認定機関の連携
認証手法確立国内体制整備省31プロジェクト
AIMS FS

対等な関係構築へ:仕組みの相互運用⇔ 相互承認協定

MS

CCRAの枠組みを参考に制度設計を!
AI Systems Trustworthy検証研究センターの設置に向けた活動へと昇華を!

米国

英国

カナダ

大統領令、NISTATI、BSI、CQI

SCC・EY：金融FS

豪州
MSのキーマン？

17065など適合性評価、17025（JNLA）などの実務対応も兼ねた公設研究センター（ロボット安39
全検証センターを参考に、国際的にも活躍できる「場」としてご清聴ありがとうございました
Q&A