AI国際標準について

文脈・部分情報・パターンの視点へ
２０２３年９月２８日
国立研究開発法人産業技術総合研究所
情報・人間工学領域
チーフ連携オフィサー
杉村領一
1

AI国際標準について
•はじめに
•現状
•現在の課題
•方向性
•更に先

Page

2
5
40
69
87

2

はじめに １ “３つの柱”
Council of Europe 欧州評議会
Committee on Artificial Intelligence (CA) のゼロドラフト ２０２３年１月• Chapter I: General provisions• Article 1 – Purpose and object• 1. This Convention establishes certain fundamental principles,rules and rights aimed at ensuring that design, development
and application of artificial intelligence systems is fully
consistent with respect for human rights, the functioning of
democracy and the observance of rule of law.
• 人権の尊重，民主主義の機能，法の支配の遵守
3

はじめに 2： ３つの柱を支える科学・技術
国際標準もその一つ
どういうことかと具体的に考えると，例えば• 民主主義： 「衆知」で決める，誰かが決めるのではない• 法の支配： 「仕組み」に従う，誰かが支配するのではない• 基本的人権：「選択」の自由が個人にある，他人が選択しない• 共通の，言葉，概念が必要• 科学・技術：「普遍性」のある知見の探求，蓄積，利用．
反駁可能な知見（ポパー）4AI 国際標準化
現状
5国際標準は，共通の言葉を創り維持管理
国際的コンセンサスを構築する仕組み

共通の言葉が無ければ，文明は崩壊する
6

ISO・IEC

7

AI標準化の場：Organizational Structure around AI International Standardization< International >ISOTC< Japan Domestic >Japan Industrial Standards
JISC
Commission under METIIEC
Joint TechnicalCommittee 1 (JTC 1)

SC

Sub Committee42 AI

WGWorking Group (WG)

Mirroring

JAG, SG, WG

Technical Committee

Int. Conv.

Committees

Information Processing Societyof Japan Information Technology
Standards Commission of Japan(IPSJ/ITSCJ)

Sub Committee 42 AI

Chair: R.Sugimura (AIST)

Sub Committees (SC)
Editors, Adh Conv. from JNB

Lead in JNB

WG1

P Cotton

Sugimura (AIST)

WG2

W. Chang→H.Kim→Boyd

Enomoto(5259-X), Kim(5259-2)

Kim (AIST)

WG3D.Filip

Egawa(5469,42105)

Egawa(NEC, AIST)WG4F. Maruyama

Cheng(24030, 5338)

Maruyama(AIST)

WG5

T LieuJWG 1 with SC40

Y. Harada

ISO/IEC 38507: Mission Completed

Ogura(Nippon Univ)JWG 2 with SC7

A.Smith, S. Reid

TS 29119-11

Nishi (Univ. Electro Comm)

JWG3 with TC215

S. Tsumoto

Imai(18988), Williams

Imai(Tokyo Univ)

Sakamoto(NEC)8< International >< Japan Domestic >

ISO
TC

IEC
JTC 1

JISC
Technical Committee

JAG, SG, WG
SC

SC42

WG

WG

Committees
SC42 JNB
Committees

9JTC1・存在理由：Standardization Justification
ISO/IEC JTC 1 ビジョン
ISO/IEC JTC 1 は、ビジネスおよび消費者アプリケーション向けの世界的な情報通信技術 (ICT) 標準を開発するために専門家が集まる標準開発環境です。 JTC 1 は、多様かつ複雑な ICT テクノロジーを統合するための標準承認環境を提供します。
これらの標準は、JTC 1 専門知識センターによって開発されたコア インフラストラクチャ テクノロジに依存しており、他の組織で開発された仕様によって補完されています。
ISO/IEC JTC 1 ミッション
JTC 1 は、国際的な情報技術 (IT) 標準化に取り組む単一の包括的な標準化委員会を提供するために、国際標準化機構 (ISO) と国際電気標準会議 (IEC) によって設立されました。
今日、JTC 1 は、データと情報のキャプチャ、ストレージ、検索、処理、表示、表現、編成、管理、セキュリ
ティ、転送、交換のためのすべてのテクノロジーを網羅する ICT における正式な標準化の中心として世界的に認識されています。
JTC 1 標準は世界的に認知されており、世界的な相互運用性を提供し、持続的な開発と投資の維持を実現します。
JTC 1 の使命は、ビジネスとユーザーの要件を満たすために世界市場で必要とされる ICT 標準を開発、維持、推進、推進することです。
以上は，JTC1ホームページ情報を翻訳
SC42は国際標準化の世界への新参者として、既存の国際標準との「関連性と影響」を常に真剣に考慮します。
10

一般教養：WTO TBT Agreement on Technical Barriers to Trade
Agreement on Technical Barriers to Trade
https://www.wto.org/english/docs_e/legal_e/17-tbt_e.htm
The WTO/TBT Agreement (Agreement on Technical Barriers to
Trade), which was established in 1995, is an agreement to prevent
technical standards and certification systems used in each country
from becoming an obstacle to the facilitation of trade. After thisagreement came into effect, each country's standard certification
system was obliged to use international standards, except for
exceptions, and the importance of getting involved in the formulationof international standards was emphasized.
[Source: Hyoujunka Kyohon “Tutorial Book for Standardization (in Japanese)”,Manabu Eto, Japan Standard Association 70th anniversary publication, pp.33.
11

< International >< Japan Domestic >

ISO
TC

IEC
JTC 1

JISC
Technical Committee

JAG, SG, WG
SC

SC42

WG

WG

Committees
SC42 JNB
Committees

12Bi-lateral Liaison with SC42 International in ISO and IEC
SC42 has JWG or AHG to work with organizations in red color

IEC/SyC AAL

Active Assisted Living

ISO/IEC JTC 1/SC
38

Cloud computing and distributed
platforms

IEC/SyC SM

Smart Manufacturing

ISO/IEC JTC 1/SC
40

IT service management and IT governance

IEC/TC 100

Audio, video and multimedia systems andequipment

ISO/IEC JTC 1/SC
41

IT service management and IT governance

IEC/TC 62

Electrical equipment in medical practice

ISO/IEC JTC 1/SC 7

Software and systems engineering

IEC/TC 65

Industrial-process measurement, control
and automation

ISO/TC 204

Intelligent transport systems

ISO/CASCO

Committee on conformity assessment

ISO/TC 215

Health informatics

ISO/IEC JTC 1

Information technology

ISO/TC 262

Risk management

ISO/IEC JTC 1/SC 27

Information security, cybersecurity andprivacy protection

ISO/TC 268

Sustainable cities and communities

ISO/IEC JTC 1/SC 29

Coding of audio, picture, multimedia andhypermedia information

ISO/TC 307

Blockchain and distributed ledger
technologies

ISO/IEC JTC 1/SC 32

Data management and interchange

ISO/TC 309

Governance of organizations

ISO/IEC JTC 1/SC 34

Document description and processing
languages

ISO/TC 37

Language and Terminology

ISO/IEC JTC 1/SC 36

Document description and processing
languages

ISO/TC 37/SC 3

Management of terminology resources

ISO/IEC JTC 1/SC 37

Biometrics

ISO/TC 69

Applications of statistical methods

13Category A Liaison of SC42 (International)
ACRONYM

Title

BDVA

Big Data Value AISBL(International Non-Profit Organizaiton)

CI

Consumers International

EC – European Commission

European Commission

ETUC

European Trade Union Confederation

euRobotics AISBL

euRobotics AISBLEUROCAEThe European Organization for Civil Aviation Equipment

IEEE

Institute of Electrical and Electronics Engineers, Inc

IIOC

Independent International Organization for Certification

ITU

International Telecommunication Union

OECD

Organisation for Economic Co-operation and Development, OECD

OGC

Open Geospatial Consortium, Inc.

PAI

Partnership on Al to Benefit People and Societv

SBS – Small BusinessStandards

Small Business Standards
14

SC42のスコープ
SC42 Scope
Standardization in the area of Artificial Intelligence• Serve as the focus and proponent for JTC 1's standardization programon Artificial Intelligence• Provide guidance to JTC 1, IEC, and ISO committees developing
Artificial Intelligence applications
SC42 範囲
人工知能分野の標準化
JTC 1 の人工知能に関する標準化プログラムの中心および推進者としての役割を果たします。
人工知能アプリケーションを開発する JTC 1、IEC、ISO 委員会にガイダンスを提供します．
15

第１回 中国 北京 2018年4月

第２回

米国

第４回

日本

サニーヴェール 2018年10月

東京

2019年10月

第12回

Plenary の経緯

ドイツベルリン 2023年4月

第５回～第１０回
e-meeting

第３回

アイルランドダブリン 2019年４月

16Lawrence D.Eisher 賞 受賞

17

SC42 International Level（2023年9月28日現在）

18

Published Standards 1/2 (2023.Sep.20th)
JIS化中 Information technology — Governance of IT — Governance implications of the use
ISO/IEC 38507:2022
of artificial intelligence by organizations
Software engineering — Systems and software Quality Requirements andISO/IEC 25059:2023
Evaluation (SQuaRE) — Quality model for AI systems
Information technology — Artificial intelligence — Process management framework
ISO/IEC 24668:2022
for big data analytics
Information technology — Artificial intelligence (AI) — Overview of computational
ISO/IEC TR 24372:2021 approaches for AI systems
Information technology — Artificial intelligence — Overview of ethical and societal
ISO/IEC TR 24368:2022 concerns
ISO/IEC TR 24029Artificial Intelligence (AI) — Assessment of the robustness of neural networks —1:2021
Part 1: Overview
Artificial intelligence (AI) — Assessment of the robustness of neural networks —ISO/IEC 24029-2:2023 Part 2: Methodology for the use of formal methods
Information technology — Artificial intelligence — Overview of trustworthiness in
ISO/IEC TR 24028:2020 artificial intelligence
Information technology — Artificial intelligence (AI) — Bias in AI systems and AI
ISO/IEC TR 24027:2021 aided decision making
ISO/IEC 23894:2023
Information technology — Artificial intelligence — Guidance on risk management
19

Published Standards 2/2 (2023.Sep.20th)
Framework for Artificial Intelligence (AI) Systems Using Machine
ISO/IEC 23053:2022
Learning (ML)
Information technology — Artificial intelligence — Artificial intelligence
JIS化完了
ISO/IEC 22989:2022
concepts and terminology
Information technology — Big data reference architecture — Part 1:
ISO/IEC TR 20547-1:2020
Framework and application process
Information technology — Big data reference architecture — Part 2: Use
ISO/IEC TR 20547-2:2018
cases and derived requirements
Information technology — Big data reference architecture — Part 3:
ISO/IEC 20547-3:2020
Reference architecture
Information technology — Big data reference architecture — Part 5:
ISO/IEC TR 20547-5:2018
Standards roadmap
ISO/IEC 20546:2019
Information technology — Big data — Overview and vocabulary
Information technology — Artificial intelligence — Data life cycle
ISO/IEC 8183:2023
framework
Information technology — Artificial intelligence — Assessment of
ISO/IEC TS 4213:2022
machine learning classification performance
ISO/IEC TR 24030:2021
Information technology — Artificial intelligence (AI) — Use cases
20

Standards Under Development 1/4 (2023.Sep.20th)
ISO/IEC PWI 5957
ISO/IEC PWI 42107
ISO/IEC PWI 18966
ISO/IEC PWI 18149
ISO/IEC PWI 17866
ISO/IEC PWI 9814
ISO/IEC NP 23282
ISO/IEC AWI TS 29119-11
ISO/IEC AWI 24029-3
ISO/IEC AWI TS 17847

Trustworthiness — Reference architecture
Information technology — Artificial intelligence — AI lightweight modeling
Artificial intelligence — Oversight of AI systems
Trustworthiness — Ontology
Artificial intelligence — Best practice guidance for mitigating ethical andsocietal concerns
Trustworthiness – Overview and concepts
Artificial Intelligence — Evaluation methods for accurate natural language
processing systems
Software and systems engineering — Software testing — Part 11: Testing ofAI systems
Artificial intelligence (AI) — Assessment of the robustness of neuralnetworks — Part 3: Methodology for the use of statistical methods
Information technology — Artificial intelligence — Verification and validation
analysis of AI systems
21

Standards Under Development 2/4 (2023.Sep.20th)

ISO/IEC AWI TR 20226
ISO/IEC AWI TR 42106
ISO/IEC AWI 42105
ISO/IEC AWI TR 42103
ISO/IEC AWI 42102
ISO/IEC AWI TS 22443
ISO/IEC AWI TS 22440
ISO/IEC AWI TR 21221
ISO/IEC AWI TR 18988
ISO/IEC CD TR 5259-6

Information technology — Artificial intelligence — Environmental sustainability
aspects of AI systems
Information technology — Artificial intelligence — Overview of differentiatedbenchmarking of AI system quality characteristics
Information technology — Artificial intelligence — Guidance for humanoversight of AI systems
Information technology — Artificial intelligence — Overview of synthetic datain the context of AI systems
Information technology — Artificial intelligence — Taxonomy of AI system
methods and capabilities
Information technology — Artificial intelligence — Guidance on addressing
societal concerns and ethical considerations
Artificial intelligence — Functional safety and AI systems — Requirements
Information technology – Artificial intelligence – Beneficial AI systems
Artificial intelligence — Application of AI technologies in health informatics
Artificial intelligence — Data quality for analytics and machine learning (ML)— Part 6: Visualization framework for data quality
22

Standards Under Development 3/4 (2023.Sep.20th)
ISO/IEC CD TR 17903
ISO/IEC CD TS 6254
ISO/IEC CD 12792
ISO/IEC CD 42005
ISO/IEC CD TS 8200
ISO/IEC CD 5259-5
ISO/IEC CD TR 24030
ISO/IEC DIS 42006
ISO/IEC DIS 5259-2
ISO/IEC DIS 5259-1

Information technology — Artificial intelligence — Overview of machine learning
computing devices
Information technology — Artificial intelligence — Objectives and approaches for
explainability of ML models and AI systems
Information technology — Artificial intelligence — Transparency taxonomy of AI
systems
Information technology — Artificial intelligence — AI system impact assessment
Information technology — Artificial intelligence — Controllability of automatedartificial intelligence systems
Artificial intelligence — Data quality for analytics and machine learning (ML) —Part 5: Data quality governance
Information technology — Artificial intelligence (AI) — Use cases
Information technology — Artificial intelligence — Requirements for bodies
providing audit and certification of artificial intelligence management systems
Artificial intelligence — Data quality for analytics and machine learning (ML) —Part 2: Data quality measures
Artificial intelligence — Data quality for analytics and machine learning (ML) —Part 1: Overview, terminology, and examples
23

Standards Under Development 4/4 (2023.Sep.20th)
ISO/IEC DIS 5259-3
ISO/IEC DIS 5259-4
ISO/IEC DIS 5392
ISO/IEC FDIS 42001

Artificial intelligence — Data quality for analytics and machine learning (ML)— Part 3: Data quality management requirements and guidelines
Artificial intelligence — Data quality for analytics and machine learning (ML)— Part 4: Data quality process framework
Information technology — Artificial intelligence — Reference architecture ofknowledge engineering

ISO/IEC DTS 12791

Information technology — Artificial intelligence — Management system
Systems and software engineering — Systems and software Quality
Requirements and Evaluation (SQuaRE) — Guidance for quality evaluation of
artificial intelligence (AI) systems
Information technology — Artificial intelligence — Treatment of unwanted
bias in classification and regression machine learning tasks

ISO/IEC DTR 5469

Artificial intelligence — Functional safety and AI systems

ISO/IEC FDIS 5339

Information technology — Artificial intelligence — Guidance for AI applications
Information technology — Artificial intelligence — AI system life cycle
processes

ISO/IEC DTS 25058

ISO/IEC FDIS 5338

24

< International >< Japan Domestic >

ISO
TC

IEC
JTC 1

JISC
Technical Committee

JAG, SG, WG
SC

SC42

WG

WG

Committees
SC42 JNB
Committees

25

Activities of ISO/IEC SC42 Mirror Committee Japan
under direction of AI Strategy 2021

Background:＜AI Strategy 2021> by Cabinet Office, Japan
Ⅲ． Building a foundation for industry and society
Ⅲ－２ Data-related infrastructure development<Major Goal> Construction of next-generation AI data-related infrastructure on the premise of international
cooperation(2) Trust・Security<Specific Goal 1> Construction and development of a trust data linkage platform that enables international mutualcertification with the United States, Europe, etc.
・ [Update] Promotion of international standardization regarding AI life cycle and AI

quality assurance, including data quality assurance (FY2021) [METI]

Proposed 4 NWIP which were accepted and are now in progress• ISO/IEC 24030:2021 (Published) Information Technology-AI- Usecases (Editor: Dr. Cheng of Fujitsu)• ISO/IEC AWI 5338 Information Technology-AI- AI system life cycle processes (Editor: Dr. Cheng of Fujitsu)• ISO/IEC AWI TR 5469 AI Functional safety and AI systems (Editor: Mr. Egawa of AIST)• ISO/IEC AWI 5259-2 AI Data quality for analytics and machine learning – part 2: Data quality governance
26(Editor: Dr. Kim of AIST)AI Strategy 2022 (April 22, 2022) by Integrated Innovation Strategy
Promotion Council(統合イノベーション戦略推進会議）
PART I BASIC CONCEPTPART II DEALING WITH IMMINENT CRISESPART III PROMOTION OF IMPLEMENTATION IN SOCIETYPART IV STEADY EFFORTS AIMED FOR "AI FOR ALL"
• 1. Education reform• 2. Restructuring of R & D system• Major goal
• Build a comprehensive R & D cycle based on this strategy, from basic research to
implementation in society• Ensuring international initiatives in advanced AI technology and standardization where Japan
can take leadership• 3. Data-related infrastructure development• In the future, activities for data collaboration and standardization should be further promoted, andin the process, bias in big data should be prevented and the risk of AI utilization should not arise.

Source: https://www8.cao.go.jp/cstp/ai/index.html
27

Positions of JNB at a glance• Soft law approach• METI, AIST, QA4AI have already published several guidelines.

• METI Contract Guideline on Utilization of AI and Data Vr. 1.1(Dec. 2019)• METI AI Governance in Japan Ver. 1.1 (July 2021)• QA4AI: Guidelines for Quality Assurance of Machine Learning-based Artificial Intelligence• AIST Machine Learning Quality Management Guideline 1.0 (Feb. 2021)• The guidelines are published and shared among industries in Japan• Risk-based approach has a meaningful level of understanding,however, Business side expressed some concern• “A risk-based approach that uses excessively broad definitions of prohibitedand high-risk AI runs the risk of inhibiting innovation within the EU.
Accordingly, the scope of applicability should be made more limited, and thescope of the regulations made clearer, along with the methods for measuring
and assessing risk. “[Japan Business Federation: Opinions on the proposed
European AI Act]28

< International >< Japan Domestic >

ISO
TC

IEC
JTC 1

JISC
Technical Committee

JAG, SG, WG
SC

SC42

WG

WG

Committees
SC42 JNB
Committees

29

SC42国内専門委員会参加組織

委員長：１，幹事：２，委員：２８，エキスパート：９，オブザーバ：４，リエゾン：６

産業界• ㈱日立製作所，㈱デンソー，日本電気㈱ ，㈱東芝，日本マイクロソフト，富士通㈱，㈱ニコン，アズビル㈱，三菱重工業㈱ ，ソニーグループ㈱，トヨタ自動車株，三菱電機株， SOLIZE㈱ ，横河電機㈱ ， ㈱デンソークリエイト，日本アイ・ビー・エム㈱ ，正啓 ㈱日立製作所，日本オラクル㈱ ，キャノンメディカルシステムズ（㈱マスコミ• 日本放送協会
大学等• 東京大学，日本大学，東北大学，慶応義塾大学，島根大学電気通信大学，情報セ
キュリティ大学院大学，横浜市立大学，（一社）人工知能学会
官• 経済産業省，産業技術総合研究所，（一財）日本品質保証機構，（独）情報処理推進機構，大学共同利用機関法人 情報・システム研究機 構 国立情報学研究所 ，
30（一社）電子情報技術産業協会． (国研)情報通信研究機構

SC42国内専門委員会への国からの支援
Project Mission

Under

IPSJ ITSCJ

Project
Term
2019,
2020
2022

METI

JSA

2022

METI
METI
METI

JSA
JSA
AIST

METI

AIST

2022
2022
20232025
20232024

Quality and Use-case
METI
Standards (2 NWIP)
Human Machine Teaming METI
Feasibility StudyIEEE AI related Project
SurveyJIS X 22989 IDT Project
JIS Q 38507 IDT Project
Human Machine TeamingStandards
AIMSS Feasibility Study

Hosting
AIST

Deliverable
4 NWIP
Reports on
Promising NWIP

Reports:
LandscapeJIS X 22989
JIS Q 38507
Report and NWIP
Report31

２０２３年～２０２５年：HMT & AIMSFS
Ministry of Economy, Trade and Industry

National Institute of Advanced Industrial
Science and Technology (AIST)
Department of Information Technology and
Human Factors

Digital Architecture Research Centre

3 year Project: Human Machine Teaming and
AI Management System Feasibility Study32

人工知能（AI）標準化に関する我が国の貢献•

2017年10月にJTC1総会において、新たなAIに係る新たな分科会の設置が決定。SC42として発足し、現在開発中の24件の国際標準提案のうち、日本は、AIのライフサイクル1件、AIの品質保証（機能安全）1件、データ品質5件，ユースケース2件、ヒューマン・オーバーサイト1件，計10件の国際標準を提案。

•

これまでPlenary（総会）を中国・北京（第１回）、加州・サニーヴェイル（第2回）、アイルランド・ダブリン（第3回）、 東京（第4回）を開催し、その後第5回から第10回は、オンラインで開催。

•

日本以外では、AIに関する原則を社会実装するための具体的なガイダンスの提供を目的としたガバナンス規格、及びマネジメント
規格を、英国、カナダがそれぞれ提案しているが、日本はこれらの規格開発にも積極的に関与。
AIの活用サイクルと標準化の取り組み

ISO/IEC JTC1/SC42（人工知能）（入力）観測・データ収集↓

当初想定していなかった事態が発生し、契約トラブルの原因に（学習）認識・モデル化（出力）実行・制御

学習データの質・量により出力の品質が変化 2017年発足
 議長国及び幹事国：議長 Wael Diab氏(米）
幹事 Heather Benko（ANSI）
 Pメンバ：37ヵ国、Oメンバ：23ヵ国（2023年9月）（国内の審議体制）
 国内審議団体：情報処理学会
 委員長：杉村領一氏（産総研）
幹 事：江川尚志氏（NEC/産総研）・丸山文宏氏（産総研） 23社・機関が委員として参画

日本から提案の規格

 ユースケース（ISO/IEC TR 24030：2021年5月発行済み）⇒ ユースケース(ISO/IEC TR 24030 ed.2: 2023年4月発行予定)
評価の考え方のガイドラインを標準化⇒ AIの品質の評価に関する認識を共有（出典（国研）産業技術総合研究所資料を基に経済産業省作成）

 ライフサイクル（ISO/IEC CD 5338：2023年8月発行予定）
 機能安全（ISO/IEC TR 5469：2023年4月発行予定）
 データ品質（ISO/IEC WD5259-1～5：2024年1月発行予定）
 人間によるオーバーサイト（PWI）（2022年8月に提案承認）

33

ISO/IEC JTC1/SC42（人工知能）における提案状況
設立時からのNP提案の件数（21年12月時点）
65

主なAI国際標準（規格）に関する
JTC1/SC42（AI）での日本の関与状況
規格

43

ユースケース2

ライフサイクル

1

WGコンビナ

原案作成

機能安全（機械学習品質）

0

データ品質
マネジメント

日本提案の概要






ガバナンス

ユースケース：AIを用いた具体事例の収集と分析のレポート、他の規格の基礎として利用されることも想定
ライフサイクル：AIシステムのライフサイクルとその中のプロセスの詳細を定めたAIシステム開発者向け規格
機能安全：機能安全へのAI応用の課題と解決策、緩和策を整理するAI技術者、安全技術者向け技術レポート
データ品質：AIシステム及びデータ分析に使われるデータの品質基準、データ分析プロセスにおける品質管理要件を定める
AIヒューマンオーバーサイト：人間によるAI監視の在り方、人間の関与の在り方を定める（PWI）

日本以外の主要な提案
AIに関する原則を社会実装するための具体的なガイダンスの提供を目的としたAIガバナンス規格（英国提案ISO/IEC38507は本年4月に発行済）、及びAIマネジメントシステム規格（当初アイルランドが提案したものの、担当者がカナダへ転籍したため、カナダ提案となっており、
ISO/IEC42001はで現在DISステージ）が挙げられるが、日本はこれらの規格開発にも積極的に関与。
 AIガバナンス規格（英国）：日本が議長を務めるWG4で議論（規格案本文中に、日本の「人間中心のAI社会原則」、EUの「AI倫理ガ
イドライン」、OECDの「AI原則」などに準拠したガイダンスとすべき旨が明記されている）。
 AIマネジメント規格（カナダ）：ガバナンス規格が先行したため，当該規格との関係リード等で日本より貢献。

34

Organizations SC42 JNB had F2F meetings, WS, etc.
through multiple layers, such as JISC, and METICEN-CENELEC
BSI

NSAI
JBCEATI DIN ASI
AFNOR
UNI
SII

SCC
SAC KATS
BIS

SJST

ANSI

NIST

SSC
SA

35

欧 AI-ACT への貢献
• ２０２３年５月からは，CEN-CENELEC JTC21 AI の全WGへオブザーバ参加• 世界でEU外で参加できているのは日本のみ• 日本主導の標準も貢献• Human Oversight, Data Quality Measure 等• 更なる貢献が期待されている• JNBへ種々会議への参加要請多数

36

JNB members are happy to find several standards, both in SC42 and EU AI Watch.

Figure from “AI Watch: AI Standardisation Landscape state of play and link to the EC proposal for an AI regulatory framework”, 2021, pp.52
Red Underlines were added by Roy Sugimura37

注目したい動き★

★

★

★

★

38

米 NIST AI-RMFへの貢献• パブリックコメントへ３回投稿• ISO関連成果の取り込み• 記載内容補完等• AI-RMF関連での講演で寄与• WS講演：杉村• NISTとのBilateral の会議２回• ２０１９年，２０２３年

39Standard Diplomacy
An Effective Mindset:
Don't sell what you want to sell. Don't
sell what the customer wants.

Sell what benefits customers(K. Matsushita, the founder of Panasonic)

BSIにて

20230919

ATIにて

Teamwork to understandworldwide stakeholders move,and their social contexts,
to create good standards not
only for JP industries but alsoworldwide industries.

20230920

NISTにて 20230922

40

AI国際標準化
現在の課題
41

ISO/IEC における，社会技術的側面を扱う国際規格“バイアス、公平性、説明責任、説明可能性、監査可能性、透明性、ガバナンス、サイバーセキュリ
ティ、環境への影響“
Bias：バイアス

Fairness：公平性
Accountability：説明責任
Explainability：説明可能性

ISO/IEC TR 24027:2021 Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided
decision making
ISO/IEC AWI TS 12791 Information technology — Artificial intelligence — Treatment of unwanted bias inclassification and regression machine learning tasks
ISO/IEC DTR 24368
Information technology — Artificial intelligence — Overview of ethical and societal concerns
ISO/IEC AWI TS 6254

Auditability：監査可能性
ISO/IEC CD 42001

Information technology — Artificial intelligence — Objectives and approaches for
explainability of ML models and AI systems
Conformity study with ISO’S COMMITTEE ON CONFORMITY ASSESSMENT (CASCO)
is under way at AG3
Information technology — Artificial intelligence — Management system

ISO/IEC AWI 12792

Information technology — Artificial intelligence — Transparency taxonomy of AI systems

Governance：ガバナンス

ISO/IEC 38507:2022
with SC40
ISO/IEC AWI 5259-5

Cyber security：サイバーセ
キュリティ

At SC27 with SC42

Information technology — Governance of IT — Governance implications of the use of
artificial intelligence by organizations
Artificial intelligence — Data quality for analytics and machine learning (ML) — Part 5:
Data quality governance
Cybersecurity -- Artificial Intelligence -- Guidance for addressing security threats andfailures in artificial intelligence systems

Trustworthiness:トラスト
ワージネス

ISO/IEC 24028,
ISO/IEC 5958

Transparency：透明性

Environmental impact：環境への影響

AI Impact Assessment is Under Study by WG1Information technology — Artificial intelligence — Overview of trustworthiness in42
artificial intelligence, etc.

技術者にとって技術で議論できるのか良く分からない概念が標準化の対象となりつつある
科学：反駁可能性（ポパー）
技術：
具体的対象：指し示すものが普遍性を持ち，一貫して同じ，
正確な定義：曖昧さがない
観測可能：誰であれ観測可能，
記述可能：対象を記述できる．対象について，一貫した因果は説明可能
43

例：Explainability：説明可能性

44• ITU• AI Actions (AI for Good WS etc.)

AIのExplainability
グローバル• UNESCO• Recommendation on the ethics of artificial intelligence (Nov.
2021)• OECD• OECD Principles on Artificial Intelligence (May 2019)• ISO/IEC JTC1
• SC42 Artificial Intelligence• Council of Europe• CAHAI• EU• EU Assessment List for Trustworthy Artificial Intelligence(ALTAI) for self-assessment (July 2020)• EU AI Act (Apr. 2021) → CEN-CENELEC JTC 21• AI Watch, AI standardization landscape state of play and linkto the EC proposal for an AI regulatory framework(Jul. 2021)• GPAI• Report on Responsible AI, Data Governance, Future of Work,
Innovation and Commercialization.
• Council of Europe• CAI• WEF:
Hiatchi & METI, Rebuilding trust and governance: Toward data Free
Flow with Trust (DFFT)• Japan• METI Contract Guideline on Utilization of AI and Data Vr. 1.1(Dec. 2019)• METI AI Governance in Japan Ver. 1.1 (July 2021)• QA4AI: Guidelines for Quality Assurance of Machine Learning-based Artificial
Intelligence，• AIST Machine Learning Quality Management Guideline 1.0 (Feb. 2021)• U.S.A• The National Security Commission on AI: Final Report (April 2021)• NIST AI Risk Management Framework (in the request for public comment) (Dec. 2021)• The White House Office of Science and Technology Policy (OSTP): To develop AI
bill of rights, through the bio-metrics focused RFI (by 15 Jan. 2022)• IEEE• UK• P 70xx Projects (Open Community for Ethics in Autonomous and Intelligent
Systems OCEANIS)• Ethically Aligned Design 1st edition (March 2019)• Understanding artificial intelligence ethics and safety (2019)• National AI Strategy (Sep 2021)• Germany• VDE-AR-E 2842 Development and trustworthiness of autonomous/¥cognitive
systems (Jul 2021)• German Standardization Roadmap on Artificial Intelligence (November 2020)• China• Next-generation AI development plan formulation: State Council(*1)• Goal: To reach a world-class level in all AI theory, technology and application by2030(*2)45

UNESCO’s Recommendation on the Ethics
of Artificial Intelligence
KEY CONCEPT
Explainability
The term ‘black box’ has been used todescribe AI wwsystems which are opaqueand difficult to interpret. ‘Explainability’requires that the logic behind algorithmic
decision-making can be fully interpreted byexperts and that this logic can be
explained to users in accessible language.
①「説明可能性」では、アルゴリズムによる意思決定の背後にあるロジックが専門家によって完全に解釈でき、このロジックが理解可能な言葉でユーザーに説明できることが必要です。
②

46

OECD AI Principle

説明できることが重要なポイント

出典：https://oecd.ai/en/ai-principles

47ISO/ITC TS 6254:2023

IT-AI-Objectives and approaches for Explainability of ML
models and AI systems
1 ScopeThis document describes approaches and methods that can beused to achieve explainability objectives of stakeholders withregards to ML models and AI systems’ behaviours, outputs,
and results. Stakeholders include but are not limited to,academia, industry, policy makers, and end users. It provides
guidance concerning the applicability of the described
approaches and methods to the identified objectives
throughout the AI system’s life cycle, as defined in ISO/IEC
22989
この文書では、MLモデルやAIシステムの動作、出力、結果に関して、利害関係者の説明可能性の目標を達成するために使用できるアプローチと方法について説明します。
48

２つの分かりやすさ
②
①

AI

専門家

専門家への説明可能な出力が求められている

一般ユーザ
人間にとって，解るとは？
理解できるとは？
技術の視点から定義が必要

49

Explainability （説明可能性訳語は杉村）
２つの意味① 専門家が，AIが何故，特定の出力を出したのか説明できること② 非専門家へ，AIの出力について分かりやすく説明できること①が出来て，それを元に②の説明が可能．
２０１２年以来，AIのR&Dで課題となっているのは，①．
ただし，標準化やAI関連ポリシー，ガイドラインなどでは，①，②，双方課題として認識されることが多い②を技術的に達成できるかが課題
50

大阪大学

原聡教授
①

②

• 研究成果のポイント• AI が下した判断の根拠を明示する手法として、AI が判断を下すに際して参照した過去の類似事例を人間に提示するアプローチが注目されている。
• 類似事例を見つけるための技術的な方法は複数の提案があるが、人間への説明としてどの方法が適切かはわかっていない。
• 予測根拠として最低限満たすべき要件を定式化したところ、非常に人気の高い手法も含め、既存の手法の多くは要件を満たさないことを指摘した。
• 本研究を足がかりに、人間社会に自然に溶け込むAIの研究開発が加速することが期待される。
出典：https://resou.osaka-u.ac.jp/ja/research/2021/20210427_1
赤字表示は，杉村による

51

解る→人の技術的把握が必要
Resource Situation
インターネット上の行動から推定可能
良く使う単語，文章，良く触れている
物，場所，交流のある友達，社会，
等々

一般ユーザ
人間にとって，分かるとは？
理解できるとは？
技術の視点から定義が必要

Efficiency：聞き手が分かっていることを新しい情報として伝えない．
Effectiveness: 聞き手にとって馴染みのある言
葉や絵，比喩等を用いて，「響く」ように伝える
Attractiveness: 聞き手が好む言葉や絵，比喩等を用いて「好ましく」伝える
上記定義は，杉村自身によるものです．

52

一般人にとって「わかる」とは何か？
• 「人工知能と人間」長尾真，岩波新書, 2017
• 第四章 理解することへの挑戦，• ２ わかるということ説明においてもっと大切なことは次のようなことである．説明する側がいくら詳し
く説明を行ったとしても，それがすなおに聞き手の頭に入り，納得するという状態にならなければ，それは本当の意味での説明にはなっていない．<snip> 相手にわからせるためには，相手に対してその人の知らない新しい情報を送らねばならない．
そのためには相手は何を知っていて何を知らないか，本当に知りたがっていることは何かを知らねばならない．
• ３知識
人工知能の立場は，知識は外界から獲得されるものであり，そのために認識という行動があること，また認識は知識に支えられて行われるものであるという相互依存の関係にあるものである．<snip>われわれが知識と総称しているものはいくつかの性質のちがった知識に区別するのが便利である．まず事実知識と推論知識に分けられる．後者は因果律といってもよいもので， <snip> 事実知識はまた常識的知識と専門的知識に分けられる．
53

専門家にとっての説明とは何か• In 1948, Hempel and Oppenheim proposed the deductive-nomological (D-N) model of
explanation, according to which an explanation is an argument that deduces a description ofa fact to be explained from general laws and descriptions of observed acts (Hempel 1965).
For example, to explain an eclipse of the sun, scientists use laws of planetary motion to
deduce that at a particular time the moon will pass between the earth and the sun, producing
an eclipse. Many artificial intelligence researchers also assume that explanations consist of
deductive proofs (e.g.s, Mitchell, Keller, and Kedar-Cabelli 1986)• 出典: The MIT Encyclopedia of The Cognitive Science, pp.300• 1948年、ヘンペルとオッペンハイムは説明の演繹的命名法（D-N）モデルを提唱した。それによれば、説明とは一般法則と観察された行為の記述から、説明されるべき事実の記述を推論する議論である（Hempel 1965）。例えば、日食を説明するために、科学者は惑星運動の法則を用いて、特定の時刻に月が地球と太陽の間を通り、日食が起こることを推論する。人工知能の研究者の多くも、説明は演繹的証明で構成されると仮定している（Mitchell, Keller, and KedarCabelli 1986など）。

54

日常の一般法則：（実は，部分情報に基づき，暗黙の前提あり）• 雨が降れば傘をさす：一般法則A• 風が強ければ傘はさせない：一般法則B• 風雨の強い時，傘は？ （赤字：隠れた暗黙の前提）• 雨が降り，かつ，風が弱い場合には傘をさす．
• 雨が降り，かつ，風が強い場合には，傘はささない• 法則：Pattern も，普遍性を支える暗黙の前提を持つ．主なものは，
環境要因．それらが成り立つ文脈• 固体対象• 性質• 変化• 因果法則AIシステムの利用環境についても，暗黙の前提を，明示的に記載する方向で
国際標準化では議論が進んでいます （Operational
Design Domain)55

もう一つの課題• 人，人間のチーム，人間社会へ，AIをどう組み込めばよいのか？
• Human Machine Teaming (省３１プロジェクト）, Partnership 等• 例えば，ミッションクリティカルな状況，日常等で，どのような組み合わせが，今，可能で，将来は，どのような形が好ましい（良い結果を出しやすい，人間をスポイルしない，効率は高い，等）のか？
• AIと人間のベストミックスを，科学的・技術的に設計するには，人間についても，技術的に語る必要があるはずだが？！
• 新しいことでは無い！：工場のラインの効率を上げるのに，作業者の工程を詳しく分析して，作業計画を作成している．

• 作業→知的作業も知れないが．

へ範囲が拡大される「だけ」と思うと，簡単か
56

Socio-Technical Nature of AI- Toward understanding ourselves embedded in contexts
I recommend X to
you because XXX

OK! Now I
can do mywork like aguru
In Context A

I can notunderstand WHYIn Context B

AI systems are socio-technical in nature(from NIST AI-RMF Vr2. pp.1)

You left your desk for 243
sec. during your work time.
You are ranked 243/485
today.

Good! Now
no one cancheat
In Context C

Where ismy privacy?
In Context D

AIST must have chance
to lead Standards, and R&D

57

人間中心のAI• 全システム（人間＋AI）のトップに，Human Agency を置く考え方．
• Liberalism• 人権• 選択の自由

• え？

衆知は？

仕組みは？

• 研究がしつくされていない．
• 必要なことは分かっているが，動きながら手探りで設計するしかない状況と思われる

58

課題• AIと人間（チーム，社会を含む）の関係を，
WINWINの形で形成する「合理的」な方法は？

59

実は，Explainability の解決策の延長線上に解決策はありそうですが• Explainability の際は，インターネット上の情報から個々人が，好ましく思い，理解しやすい，情報発信について，評価尺度も作った上で，設計ができそうでした．
• これらは，個々人がどのような「言葉」や「写真」「動画」をインターネットへ発信しているか，を集めた膨大なビッグデー
タから推論して，得られる知見に基づきました．
• では• 個々人が，普段どのような行動を，どのような環境で行っているのか蓄積すれば，個々人の，チームの，行動特性，制限，くせ等が分かり，最適なAIとの組み合わせを設計できる可能性が出てくるかも．

60

ビッグデータ
人間について工学的に把握するとは，• 個々人の言葉使いの特性の分析，把握．
• 手短で簡潔な情報発信• 受け入れてもらい易い情報発信• 理解しやすい情報発信• 個々人の行動特性の分析，把握• 特定の行動目的を達成するための，AIとのベストミックスの設計• 個々人に身体的，精神的に無理をさせない設計• 個々人が，好み，安心できる設計
どこまでが許されるのか，どう考えるべきか，
国際標準化でも議論がなされています61？
何故，このような課題が挙がっているのか？
技術先行のAI62

Chat GPT• The first thing to explain is that what ChatGPT is always fundamentally trying
to do is to produce a “reasonable continuation” of whatever text it’s got so far,where by “reasonable” we mean “what one might expect someone to write
after seeing what people have written on billions of webpages, etc.”
出典: Wolfram, Stephen. What Is ChatGPT Doing ... and Why Does It Work? (English Edition) (p.8).
Wolfram Media, Inc. . Kindle 版.
最初に説明することは、ChatGPT が常に基本的に行おうとしていることは、これまでに取得したテキストの「合理的な継続」を生成することであるということです。 「合理的」とは、「何十億ものウェブページなどに人々が書いたものを見た後、誰かが書くと予想されること」を意味します。
So let’s say we’ve got the text “The best thing about AI is its ability to”.
Wolfram, Stephen. What Is ChatGPT Doing ... and Why Does It Work? (English Edition) (p.8). Wolfram Media, Inc. .
Kindle 版.

63

Chat GPT 「技術先行」• But this is where a bit of voodoo begins to creep in. Because for some reason—that maybe
one day we’ll have a scientific-style understanding of—if we always pick the highestranked word, we’ll typically get a very “flat” essay, that never seems to “show any
creativity” (and even sometimes repeats word for word). But if sometimes (at random) wepick lower-ranked words, we get a “more interesting” essay.
出典：Wolfram, Stephen. What Is ChatGPT Doing ... and Why Does It Work? (English Edition) (p.9). Wolfram Media, Inc. .
Kindle 版.

しかし、ここで少しブードゥー教が忍び込み始めます。
なぜなら、何らかの理由で、いつか科学的な理解が得られるかもしれないのですが、常に最上位の単語を選ぶと、通常、まったく「創造性を示さない」非常に「単調な」エッセイが得られるからです。 」（そして時には一語一語繰り返すことさえあります）。
しかし、時々（ランダムに）ランクの低い単語を選択すると、「より興味深い」エッセイが得られます。
The fact that there’s randomness here means that if we use the same prompt multiple times, we’re likely to
get different essays each time. And, in keeping with the idea of voodoo, there’s a particular so-called“temperature” parameter that determines how often lower-ranked words will be used, and for essay
generation, it turns out that a “temperature” of 0.8 seems best. (It’s worth emphasizing that there’s no“theory” being used here; it’s just a matter of what’s been found to work in practice.
Wolfram, Stephen. What Is ChatGPT Doing ... and Why Does It Work? (English Edition) (pp.9-10). Wolfram
64
Media, Inc. . Kindle 版.

Chat GPTも「技術先行」
The fact that there’s randomness here means that if we use the same prompt multiple times, we’re likely to
get different essays each time. And, in keeping with the idea of voodoo, there’s a particular so-called“temperature” parameter that determines how often lower-ranked words will be used, and for essay
generation, it turns out that a “temperature” of 0.8 seems best. (It’s worth emphasizing that there’s no“theory” being used here; it’s just a matter of what’s been found to work in practice.
Wolfram, Stephen. What Is ChatGPT Doing ... and Why Does It Work? (English Edition) (pp.9-10). Wolfram
Media, Inc. . Kindle 版.
ここでランダム性があるということは、同じプロンプトを複数回使用すると、毎回異なるエッセイが得られる可能性が高いことを意味します。
そして、ブードゥー教の考えに従って、下位の単語がどのくらいの頻度で使用されるかを決定する特定のいわゆる「温度」パラメーターがあり、エッセイの生成には、0.8 の「温度」が最適であることがわかりました。
(ここで使用されているのは「理論」ではないことを強調しておきます。重要なのは、実際に何が機能することが判明したかというだけです。
65

Generative AI は
• ビッグデータの利用を一般に開放したツール
ただし，• 多くの衆知はビッグデータを学習して使っているが，コンセンサスを得たものとは言えない．
• 仕組みであるため，一個人の勝手で出力が決まっている訳では無いが，種々のバイアスから自由ではない
さらに• 人間同士の対話の本質（相手にとって有用最小限の情報を送る：Efficiency，相手が使っている言葉使う: Effectiveness 等)を全く反映していない
66

言語のEfficiency• There is a perspective, two ideas, and a strategy for dealing with the most serious challenge to theperspective. The perspective is that of hard-headed realism, the idea that human language is anatural phenomenon and that we should be able to understand it in realistic terms without appeal
to things like mental representations or other possible worlds. One idea is that understanding what
you dub the “efficiency” of language is crucial to understanding meaning. The other is tounderstand meaning side by side with information by viewing utterances in terms of their ability tocommunicate partial information about the world. The conjunction of these two ideas led to what
you call the “relation theory of meaning” for sentences: meaning as a relation between situations
or events in the real world, the event where an assertion is made, on the one hand, and thesituation described by the assertion, on the other.
• Barwise, Jon; Perry, John. Situations and Attitudes (The David Hume Series) (English
Edition) . CSLI. Kindle 版.
• ある視点、2つの考え方、そしてその視点に対する最も深刻な挑戦に対処するための戦略がある。その視点とは、人間の言語は自然現象であり、心的表象や他の可能世界のようなものに訴えることなく、現実的な用語でそれを理解できるはずだという考えである。ひとつは、言語の「効率性」とでも呼ぶべきものを理解することが、意味を理解する上で極めて重要だという考え方だ。もうひとつは、世界に関する部分的な情報を伝達する能力という観点から発話を見ることで、意味を情報と並行して理解しようというものだ。この2つの考え方の組み合わせによって、あなたが文の「意味の関係理論」と呼ぶものが生まれました。つまり、現実世界における状況や出来事、一方では主張がなされる出来事、他方では主張によって説明される状
況の間の関係としての意味です。
67

Efficiency and Partiality• あの船は？（暗黙の質問背景がある）• 2000t のタンカーです．
• 中東と日本を往復しています．
• 経済摩擦の解決策です．
• パナマ船籍です．

• 太郎の絵は大切だ（「の」の意味に，複数の格関係がある）• 岡本太郎の絵は高価なので大切にしている【描いた（岡本太郎，絵）】• 息子の太郎が幼いときに，親の私を描いてくれた絵なので大切にしている【描いた（息子の太郎，親の私）】• 太郎が収集している絵なので，大切にしている．【収集（太郎，絵）】• 息子の太郎が幼い時に，私が太郎を書いた唯一の絵なので大切にしている【描いた（私，息子の太郎）】• 太郎から預かった絵なので大切だ【預かる（私，太郎，絵）】
• 等々
68

ポイント
• 上手に結果を出すことは可能になって来ている• ただし，• 何故，良い結果が出たのか技術的な説明が出来ているかというと技術先行の実態のため，まだ，必ずしもそうではない．
→ Chat GPT もその側面を持つ→ 数多くの研究が進められている！
• 勿論，AIが何故，このような結果を出したのかを，非専門家へ説明できるには，分かりやすい説明も必要．
• ただ，技術的にどういう説明が良いのか，客観的に比較できる
技術知見は研究対象となっている．が，意外と早く種々の成果が出てくると思われる

69

国際標準化
方向性

70

まず初めに，科学技術とは何だったのかを再認識することが必要

71

技術と科学のサイクル

記録

洞察

観測

理論化
道具

• 観測・センスは目的に応じて対象，粒度等が決まる• 人の場合は，生存が基本的な目
的• 生存に関係ない情報を得る
ように五感は作られていない• 人類は，センスできる対象を拡大してきた• 知見の拡大は，反駁可能な理論に合わない観測事実の把握や，全く異なる領域での発見などが貢献．
• まず，技術で新たな観測の仕組
みを作り観測知見を得た後，理論が知見を整理する場合と，理論で予見して，技術的に新たな機能や観測を得る場合等ある

学習

デジタル
データ

識別

センス

計画
行動
動作

72

科学技術の進展の３つの段階
第一次近似時代
1571.Dec – 1630.Nov

1564.Dec – 1601.Nov
物理的な記録手段

目視観測
膨大な観測データ

ティコ・ブラーエ

ヨハネス・ケプラー

観測家ティコの正確で膨大な観測データ（目視）が理論家ケプラーの手に渡り整理・分析されたことがケプラーの法則発見へとつながり、太陽中心説（地動説）が73強化される大きな転機となった

科学技術の進展の３つの段階
第一次近似時代
正確な観測＋ 観測結果の近代的表現と蓄積＋観測結果間の因果関係の発見と表現
1642.Dec – 1727.Mar

アイザック・ニュートン

ニュートンは、地球と天体の運動を初めて演繹的に示し、太陽系の構造について言及した。また、ケプラーの惑星運動法則を力学的に説明した一人であり、天体の軌道が楕円、双曲線、放物線などの円錐曲線になる事を示した。また、働く力に対する、物体の抵抗度合いの量である慣性質量と、物体に働く万有引力の大きさを決定する、物体固有の量が比例関係にある事を指摘した(これにより、地上の物体の自由落
下で、物体の質量に関わらず加速度が一定になる事を説明できる[注 6])。
『無限級数の解析（De Analysi per Aequationes Numeri Terminorum
Infinitas）』を書いた（刊行1671年）。また論文『流率の級数について（De methodis serierum et fluxionum）』を発表した。これでニュートンは微分積分法について述べているが、ライプニッツもまた独自に、異なった視点から微分積分法を発見しており、のちに微分積
分法の優先権をめぐって二人の間で熾烈な争いが展開された。

74

科学技術の進展の３つの段階
第二次近似時代• 観測事実＋説明可能な数学的枠組み→予測• 光速度相対性＋リーマン幾何学とテンソル解析学→ E = mc2 →原子力

• 科学哲学の進展• 量子力学 v.s. 相対性理論：神はさいころを振らない（アインシュタイン）• 論理実証主義：Σ観測事実 → 帰納 演繹→予想• 反駁可能性• 観察の理論負荷：観察には，必ず視点が伴う

75

科学技術の進展の３つの段階
第二次近似時代
かな漢字変換（江原，相沢）
１００を超える品詞分類
品詞間の接続行列→Type 3 Grammar として整理
76

科学技術の進展の３つの段階
第二次近似時代• 機械翻訳システム（１９８０年代）• 日英・英日機械翻訳システム（例）• 英文構造⇔日本語構造変換：文法構築に８人フルタイム×２年• 英文文法：Longman English Dictionary 分類，Phrase Structure
Grammar(Original)• 日本語文法：形態素（１３０種）＋係り受け関係（係り受けと Phrase Structure
は生成能力は異なる）• Tree to Tree 変換言語（木構造条件記述部＋木構造変換記述部）• 課題→• 長文翻訳• 意味・解釈処理

大量の例文による細かな翻訳処理が必須 however 翻訳例も手作り
77科学技術の進展の３つの段階
第三次近似時代• データに基づく翻訳（長尾，隅田）• Deep Learning (2012 ～)• 新たな取り組み方向• 多モデル思考• Multi Modal AI• Precision Medicine 平均からの旅立ち

78それでも説明が付けられない事実はある

出典：世界は「関係」でできている

美しくも過激な量子論

カルロ・ロヴェッリ

NHK出版

2020

79

AIは科学技術の進展を近似している
論理型推論

事象発生

デジタル計算機

確率・論理 数学

ブール: ブール代数

述語論理

数概念

形式記述

フレーゲ：概念記法 ∀α∃β述語（α、β）

計算言語の安全性

形式記述

無矛盾

ラッセル：Let R = {x |x ∉ x}, then R ∊ R ⇔ R ∉ R

形式記述

自己参照

ゲーデル：数論の不完全性

概念

言語ゲーム

ウィトゲンシュタイン：語り得ぬもの沈黙

事象

限定合理性 サイモン

構造

統語

チョムスキー：チョムスキー階層(Type 0～3

状況

部分状況

バーワイズ・ペリー：STASS

構造

Type 2

ブレスナン、ギャズダー、ポラード：CFG,GPSG, HPSG

構造

Type 1

時枝：係り受け構造

パーザ

コッケヤンガーカザミ、アーリ・プラット、チャート法

AI硬直性

不確実性

Sラッセル：

R&D

Logic Theorist (Heuristics)
General Problem Solver

簡潔なルールを実装

一階述語論理の導出反駁 (Prolog etc. へ）

ルールベース機械翻訳

強化学習
画像・言語処理、ゲーム

三次近似

機械学習, CNN,DNN

細かなルール・モデルを膨大なデータ・試行から自動作成

エキスパートシステム

二次近似

かな漢字変換

簡潔な
ルールと
少ない
データから
人手作成

自然言語処理・構文解析言語

一次近似

ベイズ推論

AI

参考：長尾真<哲学>＜観察対象＞＜近似方法>
議論
論理
アリストテレス:
Syllogism

<AI>

現
実

確率

ベイズ：条件付き確率• 学習結果から、効果的な手順や相関関係、現実に埋もれたバイ
アス、仕様の不完全性さ、などが発見されている• AI のもたらす変化を社会がどう受け止めるべきか、議論が必要になっている80
chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://repository.kulib.kyoto-u.ac.jp/dspace/bitstream/2433/244173/1/Nagao_2019e.pdf

機械学習とは？
データ内のパターンを機械的に見つけし、予測や分析に用いる手法の総称

出典：データサイエンティスト養成読本

機械学習入門編

技術評論社 pp.20

81

パターン
• 絵,柄,像• 家庭内幼児の転倒事故のパターン• 試験問題の出題パターン• 弁護士の弁論パターン• あなたの消費行動パターン• 日本人の行動パターン• 国際企業間の取引パターン82

実世界で使える先進 AI 要素機能モジュール開発事例
実世界⇔観測・データ収集⇔認識・モデル化・予測⇔計測・制御⇔実世界

83

実世界⇔観測・データ収集⇔

認識・モデル化・予測⇔

計測・制御⇔実世界

I,II,III,IV,…,
0,1,2,3,…, 1000,…, 10100∫ dx, df/dx
S = {S | S ∌ S}
統計学, 論理学
Category Theory
AAFAA
因果推論
84

AI システムの進展がもたらしたもの• 感知する，考える，行動する：個人を，人間の集団を超える処理能
力をAIシステムが持ち出した．
→ 知に対する「メタ」レベルの知が必要
すなわち，認知についての知がますます重要• 個々の持つ力を活かす必要性• 平均的大量生産・サービスから個別設計精算・サービスへ→ 平均指向の弊害と，個別評価の有用性• 多モデルによる予測の有用性→ 多様性の有用性（意思決定，創造活動，etc. )85

AIを社会で安心して，効果的に，利用するには，
そろそろ，我々自身についても客観的（技術的）に記述することで，得られるおは大きそう．
ただし，心配事が無い様，国際標準化でも大議論中86そもそも，文明の発達は，普遍性の高い知見の獲得，蓄積，利用によるものと見做せますが，AIは，普遍性の探求に，一肌脱げるはずです87

AI国際標準化
更に先

我々が「知らないことを知らない」普遍性の獲得へ

88Very fundamental strategic aspects of International Standardization of AI
In order to accomplish targets, we need to know what we do not know.

Personal aspects
Stuff you know
You need to pay an effort to learnsomething new, collaborate withothersto learn a variety kind of viewpoints
and new stuff

Stuff youknow you
don’t know

Stuff you believe
you know, but
you don’t know

Stuff you don’t know you don’t know

Roy Sugimura at GPAI November 21, 2022

You need to reflect on
yourself
whether you believe you
know stuff, which actually
you don’t know
There is no school where
you can learn about stuff
you don’t know you don’t
know

Based on “Figure 2-5. What someone knows is technical depth, and how much someone knows is
89
technical breadth Richards, Mark; Ford, Neal. Fundamentals of Software Architecture (p.36). O'Reilly
Media. Kindle Version”, Roy Sugimura added, “staff you believe you know, but you don’t know”.

We need to know more

Mr/Ms A

International Org. D

Roy Sugimura at GPAI November 21, 2022

Company B

Country C

Industrial Consortium E
90Social Aspects
Johari Window Model

Teamwork Aspects
The Nonaka & Takeuchi
Knowledge Spiral Model

From: Blackbyrn, Sai . THE JOHARI WINDOW MODEL
From : https://www.activepeers.com/the-nonaka-and(p.12). .Coach LLC Publishing. Kindle Version
takeuchi-knowledge-spiral-model-susan-hayes-culleton/
91

Roy Sugimura at GPAI November 21, 2022

Known/Unknown × Achieved/Unachieved
Sugimura's Perspective-

Acquired(can be used)
did not get(Not available)

Known

Unknown

Acquired wisdom/knowledge canbe expressed consciously.
I can explain the content.

The acquired wisdom/knowledge
cannot be consciously expressed.
Acquisition process may be explained
How to ride a bicycle. Skilled worker'swork.
How to walkInability to consciously express
unacquired wisdom/knowledge

Own knowledge, wisdom,
experience

Unacquired wisdom/knowledge
can be consciously expressed.
Various specialized knowledge
and know-how of others

出典：Roy Sugimura at GPAI November 21, 202292

説明知/説明不可 × 既取得／未取得
杉村の見方
説明可

説明不可

既取得

(can be used)

自身が意識的に獲得した知識，知見．獲得してはいるが，明示的に説明ができ
国語，算数，理科，社会
ない知見．
専門知識
自転車の乗り方，歩き方，言葉の使い方，
第一世代AI等々

第三世代AI

未取得(Not available)

他人が持っていることは分かってい どこかにある，新しい知識
るが，自信は持っていない知識
科学的発見！
専門知識，地域情報，
イノベーションの元第二世代AI

出典：Roy Sugimura at GPAI November 21, 2022

第四世代AI93課題：新しい知識• 衆知に基づき，• 仕組みにより作られ独善になっておらず，• 反証可能性も残した形で，新しい知識を「説明」できるか？

• 論証の根拠となる前提と，前提と説明の因果関係が，反証可能な形で明示的に与えられているか？

94

常に，知らないことは我々にもある• 常に，学ぶ．

• AIも学び続けてますよ．

• 常に，謙虚に学ぶ• Mutual Respect が Standard Diplomacy の基本• 学ぶ視点は無限（文脈は無限）→• 近年の Operational Design Domain と通じる？

• 仕組みを作り，衆知を集め，合議を尽くす．

• 中世のマインドセットに気づき，余りに俗人的な動きは捨て去りましょう！
• もっと制度，仕組みがどうなっているかに注意しましょう！
95AIは人間についての研究を必要とする
Big Science & Technology• 説明可能なAIを開発する• 人間にとって，理解しやすいAIを，人間に関する技術的な理解に基づいて提供• 人間の認知的な側面に関する知見を，• 理解しやすいAIシステム設計へ反映• AIの能力向上のために利用• AIと人間の生産的関係を形成する• 人間はXXという性質を持っているので，AIはYYという作業をする．

• AIと人間から構成される社会を形成する• 集団としての人間はXXという性質を持っているので，AIはYYという作業をするのが合理的で，社会にとってもメリットをもたらす
96海外渡航も苦労はあります
笑い飛ばして励んでいます！

お客様の荷物やワードローブについては，一切の責任を負いません
荷物やクローゼットはご自身の責任で預けてください

天井から突然，水が落ちてくる 他にも，
• シーツを替えてもらえず，汗臭くて眠れない事件• ドアがロックされないので，家具でドアを塞いだ事件• バスルームの扉の塗料が落ちるる
ので，毎回掃除した事件• 朝食ダイニングには，屈強な入れ墨をいれた軍団が占拠していて，一瞬怯んだ事件• 狭い部屋で，ベッドの上に棚が突き出ていて，ケガをした事件• お湯が出ない，暖房が効かない（部屋の中は１２度），水が流れない，止まらない，等々
種々のアクシデント，困難にも負けず，関係者一同頑張っておりま97
す．

ご静聴，ありがとうございました．

この絵は，Stable Diffusion で「Socrates Bowing」で作画したものです98