2021 年 1 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第5回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 5 回(2020 年 11 月 24 日)では、AI ガバナンスに向けた標準化というテーマのもと、産業技術総合研究所 杉村領一氏、及び情報セキュリティ大学大学院 原田要之助氏の両名より話題提供をいただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI 標準化の現状と、今後の課題
杉村領一氏より「AI 標準化の現状、今後の課題」と題して話題提供いただいた。
AI の国際標準化を巡る動向
AI に対する国際的な関心の高まりの中、ISO や IEEE 等の様々な外部機関にて、AIの倫理問題、信頼性問題等、AI 利用の際に議論に挙がる問題に係る各種論点の業界標準について議論が行われている。その中で、AI に係る国際的なデジュール標準を議論する場として、ISO/IEC JTC11（以下 JTC1）が横断的な役割を担っている。
JTC1 と SC42 について
JTC1 は、1987 年に創設されて以降、情報技術分野の国際標準化を担う組織として、分野毎に Subcommittee (SC) 、Working group (WG)、Special working group (SWG),
Study group (SG)に分かれて活動している。各 SC や WG 等の国際会議は個別開催されているが、JTC1 の総会は毎年 10～11 月頃に主要参加国の持ち回りで開催されてい1

国際標準化機構 (ISO : International Organization for Standardization) と国際電気標準会議 (IEC :International Electrotechnical Commission) が共同で設立した、第一合同技術委員会 (Joint TechnicalCommittee 1)

1

る。SC42 は、中国と米国の AI 覇権争いともいえる状況など、AI に対する急速かつ世界的な関心の高まりを背景に、AI に係る国際標準を議論する場を設けるため、2017 年
10 月の JTC1 総会にて SC の一つとして創設され、過去 6 回、国内外で総会が開催されてきた。SC42 の概要は、下表 1 の通りである。
表 1 SC42 の概要
スコープStandardization in the area of Artificial Intelligence

活動テーマ

⚫

Serve as the focus and proponent for JTC 1's standardization
program on Artificial Intelligence⚫

Provide guidance to JTC 1, IEC, and ISO committees developing
Artificial Intelligence applications

活動体制

⚫

幹事国：米国⚫

参加国（米中欧日の主要国を含む）
Permanent member2/30 ヵ国, Observer member3/12 ヵ国

SC42 内の⚫

組織体制検討テーマ毎に WG（及び JWG）に分かれている
名称

検討テーマ

Convenor

WG1

Foundational standards

カナダ(基礎的標準)WG2

Data (データ)

米国

WG3

Trustworthiness (信頼性)

アイルランドWG4

Use cases and applications

日本(ユースケースと応用)
WG5Computational approaches

中国

and computational characteristicsof AI systems(計算アプローチと計算的特徴)
JWG1

Joint Working Group日本

ISO/IEC JTC1/SC42ISO/IEC JTC1/SC40:
Governance implications of AI(AI のガバナンス)

国内体制

⚫

情報処理学会の傘下にある情報規格調査会内に、SC42 に係る国内委員会として、「情報規格調査会 SC42 専門委員会」を設置⚫

2

参加組織数は 24 団体（参加人員数は 39 名）

略称は P メンバー。全ての事案への投票義務を背負っており、規格開発業務に積極的に参加し、会議に出席するメンバーである。
3

略称は O メンバー。オブザーバーとして、配布文書のコメントの提出と出席の権利を有するメンバーである。

2

SC42 の規格開発の概況
2020 年 10 月 19 日に開催された SC42 の第 6 回総会後の、SC42 の規格開発の概況
は下表 2 の通り。なお、規格開発と並行して、SC42 で取り扱っているテーマ（データ品質、ガバナンス、ライフサイクル、機能安全、等）の関連性の整理を早急に実施する必要があるが、作業量が膨大であり、SC42 として時間も、要員も不足している等の課題がある。JTC1 の企画開発段階のフローを図 1 に、SC42 の企画開発の概況を表 2 に示す。
図 1 JTC1 の規格開発段階フロー及び用語説明4

表 2 SC42 の規格開発の概況
名称

規格開発の概況

WG1

AI や機械学習に関する用語の標準化は整理されてきており、ISO/IEC229895や ISO/IEC 230536が国際規格案（Draft International Standard: DIS）へ移行する直前である。
また、
ISO/IEC の AI 版 Management 標準が ISO/IEC420017として新業務項目提案（New Work Item Proposal: NP/NWIP）登録された。論点が広範囲に及ぶため、技術者以外の有識者との議論が必要とされる。

WG2

ビ ッ グ デ ー タ に 関 す る 規 格 が 、 ISO/IEC 20547 8 と し て 国 際 規 格（International Standard: IS）発行されている。ISO/IEC 20547 は、5 パートで構成されており、構成単位は(1) ビッグデータシステムを展開する際に考慮したい要件、(2) アーキテクチャ、(3) セキュリティとプライバシー、

4

情報企画調査会「2015 年度 専門委員会関係活動報告」付録より抜粋

https://www.itscj.ipsj.or.jp/hyojunka/h_sn_member/h_sn_katsudo/h_sn_katsudo2015/files/Glossary2015.
pdf
5

ISO/IEC 22989「Artificial Intelligence – Concepts and Terminology」

6

ISO/IEC 23053「Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML)」7

ISO/IEC 42001「Artificial intelligence — Management system」

8

ISO/IEC 20547「Big data reference architecture」

3(4) ユースケース、(5) その他考慮事項となっている。また、AI や機械学習のためのデータ品質に関する規格が、ISO/IEC 52599として 4 パート構成で新業務項目提案（NP/NWIP）登録され、議論が進められている10。
WG3

AI の信頼性に関する各種規格の作業原案（Working draft: WD）や委員会原案（Committee draft: CD)を開発中である。AI のリスクマネジメントやバイアス等の難解なテーマを扱っている。

WG4AI システムのライフサイクルに関する規格が、ISO/IEC 533811して新業務項目提案（NP/NWIP）登録され、議論が進められている。また、ユースケース規格が、ISO/IEC TR24030 としてまもなく出版予定である。

WG5

中国による AI コンピューティングデバイスの研究提案がなされたが、内容も曖昧のため、継続議論となっている。

JWG1

組織による AI 使用に伴うガバナンスへの影響について、ISO/IEC 3850712として開発中である。

3.

AI ガバナンスの国際標準化
続いて、原田要之助氏から「AI ガバナンスの国際標準化」と題して、AI ガバナンスの国際標準化にあたり、基礎となる IT ガバナンスの検討背景から話題提供いただいた。
IT ガバナンスを巡る社会の動き
コンピュータは、1960 年以降、ホスト型から分散型、コンピュータ自体の小型化やコンピュータ処理速度の高速化といった技術進歩と、企業経済への導入・普及が行われていった。1990 年以降、IT 革命に代表されるように、企業ビジネスのコンピュータ活用（以下、IT 活用）は進み、経済や社会に大きな変革をもたらした。
一方で、IT 活用が進むにつれ、IT 活用がもたらす弊害が、ビジネス上の問題点として表面化し始め、「2000 年問題」など企業経営に悪影響を及ぼす事例が、広く一般に知れ渡ることとなった。2000 年以降、IT は企業活動において不可欠なインフラとしての位置づけになっていったため、IT 活用がもたらす弊害やリスクについても企業経営上の課題として認識する必要がでてきた。そのため、コーポレート・ガバナンスを機能させる IT の統合的な管理及び評価として、IT に係るガバナンスの態勢構築が必要となった。

9ISO/IEC 5259「Data quality for analytics and machine learning」

10

なお、本規格は米国国立標準研究所（National Institute of Standards and Technology: NIST）の影響を強く受けた形で議論が進められている。
11ISO/IEC 5338「AI system life cycle processes」

12

ISO/IEC 38507「Governance of IT – Governance implications of the use of Artificial Intelligence byorganizations」

4

IT ガバナンスの国際標準
IT ガバナンスの代表的な国際標準として、COBIT13や ISO/IEC 3850014が存在する。
COBIT は、ISACA15及び ISACA の研究機関である ITGI16から 1996 年に初版が発行されて以降、IT 活用の普及とともに COBIT が扱うスコープは、監査、コントロール、マネジメント、IT ガバナンスからさらに事業体の IT ガバナンスへと拡大されている（図 2 参照）。
図 2 COBIT のスコープの広がり17

ISO/IEC 38500 は、2008 年に SC40 から発行された、IT ガバナンスの国際規格である。本規格は、OECD のコーポレート・ガバナンスをルーツとした自主規制の枠組みとして、COBIT 等の IT ガバナンスとコントロールを導入する際のフレームワークを精査する形で、IT ガバナンスを実現するための原理・原則が示されたものである。また本規格は、EDM モデル18を基に、経営者が 6 つの原則（責任、戦略、取得、パフォーマンス、適合、人間行動）を示しに沿って取り組むべきことが示されている。2008 年
13

COBIT（Control Objectives for Information and related Technology）

14

ISO/IEC 38500「Information technology — Governance of IT for the organization」

15

1976 年に米国で設立されて以降、情報システム監査基準の作成、公認情報システム監査人等の資格認定を行い、IT ガバナンス、コントロール、セキュリティ、及び情報システム監査等の領域において、グローバルな指導的役割を担っている。
16

ITGI（IT Governance Institute）：IT ガバナンス協会

17 https://itgi.jp/index.php/cobit5/cobit5

なお、COBIT 5 のアップデート版として、COBIT 2019 が 2018 年 11 月に発行されている。
18

従来のマネジメントモデルである PDCA（Plan / Do /Check / Action）の上位にガバナンスモデルとして EDM（Evaluate / Direct / Monitor）がある、というのが国際標準の考え方となっている。

5の発行以降、IT の利活用から導入前の評価、導入後の枠組みとして、2015 年の改定や、38500 シリーズの開発・発行が順次行われ、IT ガバナンスの国際標準化が発展している。
表 3 ISO/IEC 38500 シリーズの規格開発状況
規格タイトル

開発状況

38500

Information technology — Governance of IT

発行済

for the organization
38501

Information technology — Governance of IT

発行済— Implementation guide
38502

Information technology — Governance of IT

発行済— Framework and model
38503

Information technology — Governance of IT

現在策定中— Assessment of the governance of IT
38505

Information technology — Governance of IT

発行済— Governance of data
38506

Information technology — Governance of IT

発行済— Application of ISO/IEC 38500 to the governance of IT
enabled investments
38507

Governance of IT – Governance implications of the use of

現在策定中

Artificial Intelligence by organizations
IT ガバナンスから AI ガバナンスへ
2010 年以降、関連企業間のデータ連携ビジネスの発展とともに、AI によるビジネスでのデータ利活用（以下、AI 活用）の事例が世界的な広がりを見せている。その一方で、AI 活用時の問題が今までの IT ガバナンスで対処するには難しい点が表面化してきたため、構築が必要となった。しかし、AI は技術的に IT をベースとしていることから、IT ガバナンスの延長として捉え、AI の特徴を加味する形態で AI ガバナンスを構築することになった。
これまでの IT ガバナンスは、経営者の自主規制をベースにした Accountability（説明責任/答責性）と Transparency（透明性）のフレームワークが要求されていた。一方で、AI は、AI の倫理問題等、AI 活用がもたらす問題に対する各国の経済的・文化的背景からくる解釈や見解が異なることから、経営者の Trust（信頼性）を確立するためのフレームワークが求められている。

6ISO/IEC におけるガバナンス関連の活動状況
ISO のガバナンス関連の活動として、現在 26 プロジェクトが動いている。IT ガバナンスや情報セキュリティガバナンス、データガバナンス等の各ガバナンスは、コーポレートガバナスの構成要素の一つという位置づけで規格開発が行われており、AI ガバナンスについても同様である。
直近の大きな活動としては、組織のガバナンスについて、ISO 3700019として 2021 年下半期での規格制定を目指している。ISO 37000 は、下表 4 の通り、３つの成果と 5 つの原則、及び 6 つの拡張原則に従い、組織のガバナンスに関するフレームワークを提供する予定である。また、AI ガバナンスに関する規格開発状況としては、原田氏がConvenor を務める SC42 の JWG1 にて、組織による AI 使用に伴うガバナンスへの影
響について、ISO/IEC 38507 として開発中となっている。
表 4 ISO 37000 の成果と原則
Governance Outcomes

Effective performance(ガバナンスによる成果)

Responsible stewardship
Ethical behavior

Governance Principles

Foundational (基本原則）(ガバナンスの原則)

1. Purpose
2. Value Generation
3. Strategy
4. Oversight
5. Accountability

Enabling (拡張原則)

6. Stakeholder engagement
7. Leadership
8. Data and decisions
9. Risk governance
10. Social responsibility
11. Sustainability

4.

質疑応答での論点
第 5 回研究会では AI と標準化について議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
ISO/IEC における AI ガバナンスの対象となる組織の責任範囲✓

経営者の Accountability（説明責任/答責性）という観点から、まずは現行の社

19 ISO 37000「Guidance for the Governance of Organizations」

7

会的な方法論（契約書による合意等）から組織の責任範囲を検討する。組織責任の明示が難しい場合には、経営者の責任範囲の決定方法を規格として提供する。AI 活用は一企業の枠を超えたサービス形態も考えられるが、現在は AI ガバナンスにおいても企業を単位として責任範囲を考えている。その点で、本研究会が監査や保険なども含めて考える「AI ガバナンス」と範囲は異なっている。ただ将来的には標準化においても企業の垣根を超えて AI を考えていくことが必要になっていくだろう。
AI ガバナンスの標準化規格を開発する上で、参画が必要な人材・組織・団体✓

AI ガバナンスは技術論点に加え、ビジネス等の技術以外の論点の検討も必要となってくる。そのため、様々な学問の有識者や各産業のドメイン知識保有者の参画が必要になってくるが、その中でも、社会全体を広く俯瞰して捉え、既存のステークホルダーや技術者をファシリテートができる人材、AI ガバナンスの国際標準化に大きな影響を受ける組織・団体の参画が必要不可欠である。

AI ガバナンスの標準化規格開発の今後の展望✓

JTCI は技術的な標準化団体であるが、AI ガバナンスは、AI の倫理問題等、AI活用がもたらす社会的な問題に対応するための検討も必要となってくるため、AI ガバナンスの標準化規格を開発する上では、上述で言及した多様な人材の参画が必要になってくるだろう。

✓

日本人は今置かれている現実を真正面から肯定してしまう傾向があるが、AI ガバナンスを検討していく上では、「社会をどう変革し、どのように既存のルールを変容していくか、あるいは新規のルールを形成していくか」という社会インフラ改革の意識を持って取り組む必要があり、標準化規格の開発にも同様のことが言える。
➢AI に関する国家間の技術思想の違い⚫

AI ガバナンスの標準化規格の開発時における、日本と諸外国の取り組み方の違いの一例として、中国はガバナンス＝治理という文言を使用しており、統治に近い発想を持っており、過去の SC42 総会では、国家戦略に合わせたガバナンス案を提示していた。

⚫

欧州では AI の擬人化表現を嫌う節があるため、欧州と AI を議論する
際には、不安を煽らない形で議論を進めていく必要がある。

AI ガバナンス関連の各種ガイドラインに対する向き合い方✓

以下のような観点でガイドラインを紐解くことがポイントと考える。
➢

ステークホルダーを考慮した上で 5～10 年で実現すべきことを整理する。
8

➢✓

企業の社会的責任を果たすために提供できる価値を考える。

ガイドラインはあくまで一つの尺度であり、企業活動を縛るものではない。
OECD のガバナンス関連のガイドラインが自主規制の枠組みとして原則をベース（Comply or Explain：ガイドラインを適用するか、適用しない場合はその理由を説明するか）にしているのも、上記理由からである。

✓

サイバー法学で著名な法学者であるローレンス・レッシグが言及したアーキテ
クチャに関する概念と同様、AI ガバナンスの概念は、ハード・ロー（法律の様な強制力のある制定法）に加えて、ソフト・ロー（AI の技術的制御手段の様な強制力のない国際標準規格、コード）にまで概念を拡大適用していく必要がある。

✓

今後予想される AI の技術革新を鑑みると、現時点で標準化規格の開発を行っても、その規格はすぐに形骸化する可能性が高いことから、現在は静観していた方がいい、という NIST の関係者の意見もある。

AI ガバナンスの標準化規格開発時における国家間の牽制✓

SC42 の場合、ある国が自国内の知財であると疑われるような規格内容の提案がなされた場合、その内容は確実に却下される傾向にある。なお、上記内容が提案された場合、既存の標準規格へのインパクトを含めて、各国が公平に適用可能なのか、という根本的な議論が展開される。

✓「AI ビジネスは horizontal market20ある」という見解を持つ国が多いので、特定の国が優位となり得る施策は、採択されない傾向にある。

AI ガバナンスの標準化規格の最終的な成果✓

規格発行はあくまでスタートラインであり、規格がグローバルで利用されるにつれ、最終的な成果の形は変遷されていくものである。一方でガバナンスは経営者が参照するフレームワークとなることから、結果としてガバナンスの態勢評価が要求されてくる。現在 SC40 では、IT ガバナンスの評価に関する規格開発が行われており、AI ガバナンスについても同様の規格開発の対応が、近い将来に要求されてくると思われる。
➢

以下の評価にあたり、成熟度モデル21を利用することが想定される。
・AI サービスの管理状況
・AI サービスを提供する企業における AI ガバナンス態勢の構築状況➢20

AI に関する標準化規格があれば、事故査定時における参考情報として、標horizontal market（又は horizontal）：水平的市場。自社/自国が進出していない地域で他社/他国と提携するなど、同じ段階の企業/国同士が協力して開拓する新しい市場。
21

標準化の視点で、業務の成熟度を評価するためのフレームワーク

9準化の指針や指標を利用されることが、保険業界では想定される。
➢

AI ガバナンスの評価実務を行う上では、IT と同様、専門部門を設ける企業が増えていくことが想定されるが、AI はビジネスに密接に係わってくるため、評価実務を行う際はビジネス理解も熟知している必要がある。

民間企業等の AI 事例の標準化規格への取り込み✓

AI ガバナンスに関する標準化規格開発に関する検討プロジェクトは動き出したばかりである。今後、サイバーセキュリティの標準化規格の開発時において、保険論点の取り込みのため民間の損害保険会社の意見を収集し整理した様に、民間企業等の AI 事例を標準化規格へ取り込むための検討が、必要になってくる。

次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：齊藤慶太郎）＜第 5 回開催概要＞
日時 ： 11 月 24 日（火）16:30-18:30（Zoom 開催）
内容 ： 話題提供：「AI 標準化の現状と今後の課題」杉村領一氏（産業技術総合研究所）
話題提供：「AI ガバナンスの国際標準化」原田要之助氏（情報セキュリティ大学院大学）
質疑応答・ディスカッション

10