2022 年 10 月
JDLA 事務局「AI ガバナンスとその評価」研究会（第Ⅲ期）第 1 回
開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、信頼される AI 構築へ向けた AI ガバナンスの在り方をテーマとして、2020 年 7 月から活動を継続し、今年は三期目となる。
第Ⅲ期第 1 回（2022 年 9 月 27 日）は、活動紹介を兼ねて一般公開で開催した。これまでの研究会における議論について、本研究会座長の江間有沙氏（東京大学未来ビジョン研究センター准教授、JDLA 理事）より、昨今の AI ガバナンスをめぐる動向等も含めて話題提供された。また、研究会副座長の松本敬史氏（デロイトトーマツグループ
Deloitte AI Institute）から、研究会活動の詳細と今期の進め方について紹介された。
2. 話題提供「研究会第二期までの振り返り」江間有沙氏（東京大学未来ビジョン研究セン
ター 准教授、JDLA 理事）
AI の管理・評価をめぐる議論の潮流
AI のガバナンスの議論は、様々な原則が出されている中で、それらをいかに実践に落とし込むかに関心が集まっている。内閣府が『人間中心の AI 社会原則（2019 年）』において、その定義を「社会情勢や技術の進展に伴い、議論されるべき内容や目的設定は更新し続ける必要があり、そのためには政府、企業、大学、研究機関、一般の人々等、多様なステークホルダーが協働してルール、制度、標準化、行動規範等のガバナンスについて問題を設定し、影響を評価し、意思決定を行うとともに実装できる体制が整っていることが必要」と示しているように、多様なステークホルダーを巻き込みながら、このサイクルをいかに早く的確に回していくかということが重要だと考えている。
AI について倫理等の社会的影響についての議論は、日本では比較的早い 2016 年頃から行われていた（総務省情報通信政策研究所「AI ネットワーク化の影響とリスク」）。
国際的にも同時期から議論が始まり、2019 年にはそれまでの議論がある程度落ち着いた形 で 具体 的な 原 則が 打ち 出 され た（ EU “Trustworthy AI” 、IEEE “Ethically Aligned
Design 1st edition”、OECD “AI Principles”、UNESCO “Recommendation on the ethicsof AI”）、総務省情報通信政策研究所「AI 利活用ガイドライン」、内閣府「人間中心のAI 社会原則」）。現段階は、これらの原則をどのように実践や各セクターに落とし込むかにアジェンダが移っている。
1

またこれらのガイドラインが出された 2019 年当時はソフトロー（民間による自主規制や緩やかな規範等）の考え方が強く、その中でアクターとして個々の企業における役割が期待されていた。日本でも、個々の企業が AI 原則を打ち出す事例は年々増えており、原則で謳われている価値を、自社の業態や事業に組み込んで示している。
日本の産業における JDLA 研究会の役割
これらの課題を JDLA で扱う意義は、スタートアップ等の十分なリソースや体制が確保しづらい、また情報を得る機会が少ない状況にある企業と、国内外や多様なセクターにおける議論の橋渡し役として機能できると考えている点にある。
また日本では、比較的サプライチェーンが長いという、産業構造的な課題もあると認識している。スタートアップや社内ベンチャー等を含めて BtoB 企業が多く、サービスプロバイダーとして複数企業が関わるため、全体像や責任の所在が見えづらい。学習する AI という観点からも、上流から下流までを一つの企業が全て対応するというのは無理だという認識をしており、本研究会では、「AI ガバナンス・エコシステム」という概念を打ち出している。開発・利活用・インシデントの各状況に応じて、企業内ガバナンスだけではなく外部環境における評価基準や体制についても、同時に考えていく必要がある。JDLA 研究会では、これらの外部環境の動向に関しても情報が集まるプラットフォームのような役割が果たせると良いと考えている。
AI ガバナンスをめぐる今後の見通し
今後の議論の大きなテーマとして挙げられることは、まず、ハードロー（法令規制）かソフトローのどちらで行くのか、が議論の大きな分岐点となるであろう。罰則や参入障壁となる規制の動きとどのように向き合うか、またソフトローにおけるインセンティブ設計や、エコシステムというものを打ち出した時に、実際にはどのように連携を図るのかといった課題がある。
また、AI ガバナンスを担う人材像を具体化して、JDLA の人材育成活動へ結びつく方向でも議論ができると良いと思っている。標準化活動への参加者が一部に限定されるのではなく、適切な形で増えていくような体制作りも必要である。さらには、各領域に応用される際に関わってくる実際の利用者は様々あり、それらの多様な価値観や意見が吸い上げられるようなガバナンス体制の構築が必要だと考えている。
AI ガバナンスを考えるときに意識をしていきたい概念として、「コリングリッジのジレンマ（1980）」がある。これは、技術が社会で使われる前にその影響力を予測することは難しい（情報の問題）が、一方で一度普及してしまった技術は制御するのが難しい（力の問題）とするジレンマである。このようなジレンマに対応するためにも、ELSI（Ethical, Legal and Social Implications/Issues）の問題については、出来上がった技術に対して ELSI を考えればよいのではなく、まずどのような社会に住みたいかというビジョンから逆算して、技術の在り方を考えていくことが大事になってくるのだと思う。また、
2

ELSI に代わる議論として 10 年前から「責任あるイノベーション（RRI）」という考え方があり、AI の研究開発にも通じる。これらの観点から AI ガバナンスの問題も議論したいと考えている。
3. 「AI ガバナンスとその評価」研究会の活動紹介と今期の進め方（松本敬史氏/デロイトトーマツグループ Deloitte AI Institute）「AI ガバナンスとその評価」研究会の活動紹介
本研究会では「AI ガバナンス・エコシステム」の概念を打ち出して、AI サービスの提供者だけのみではリスクを抑えきれない部分、また利用する環境に信頼を確保するしくみが必要となる部分等について、外部環境に着目をして議論を進めてきた。AI に関わらず、関連するであろう既存のしくみと、今後 AI を当てはめたときに発生しうる課題等についてテーマに取り上げて、話題提供を構成してきた。第Ⅰ期、第Ⅱ期の報告書はウェブサイトを参照されたい 1。
第Ⅲ期の進め方
今期の活動は、引き続き外部環境に位置付けている各アクターからの話題提供を行うと共に、AI ガバナンス・エコシステムをベースにしたケース検討を行っていく。また、同様の問題意識を持つ、国際機関との知見の交流や今後の連携を目的としたイベントを計画している。
話題提供やケース検討については関心のある方々からのインプットや協力を得ながらなるべくオープンな形で推進したいと考えている。
4. 研究会参加者からの主なコメント
主な質疑やディスカッションの内容を以下に示す。
⮚ 複数の AI が相互に影響しあう部分のガバナンスについて


複数の AI が、組織や国を超えて相互に影響しあうようなケースが今後出てくると、何らかの形で政府が介入する必要があるのでは、というところに問題意識がある。



例えば販促と需要予測の 2 つの AI がある場合に、一企業内であれば、組織の利益最大化のために技術的な最適解を出すような調整は可能となる。それが組織をまたがって利害の相反する組織があるときに、どこかが一方的に莫大な不利益を被るような事象が、高速かつ自動で発生してしまうようなことが危惧される。（例えば株価の「フラッシュ・クラッシュ」の事象）

AI 同士が相互干渉する部分をどのようにガバナンスしていくのかは、興味深い観点である。技術的チャレンジの部分と、社会や消費者の価値をどのように吸い上1

https://www.jdla.org/document/#sg01
3

げるかという観点がある。事例を積み重ねてケースで考えるような作業が研究会の中でもできると良い。
⮚ 議論を先導する国や組織、日本の立場について

欧州と米国と中国でそれぞれの動きがある。欧州は技術面というよりも、規範的な観点から AI 開発はこうあるべきだというリーダー的な地位を示そうとしている。米国は技術的に新しいものがどんどん出ているからこそ、問題も多く発生しており、一番熱い議論が起きている地域だろう。また中国は技術的な進歩が速いことと並行して標準化の活動にも力を入れているように見受けられる。

日本は社会的影響について早い段階から議論をしており、国際的にも発信をしてきたという点で、本分野では他と比較しても健闘している印象がある。

国とは別に、OECD(経済協力開発機構)や GPAI（Global Partnership on AI）、PAI（Partnership on AI）または WEF(世界経済フォーラム)といった、国際的なマルチステークホルダー団体が発言権を持っている。これらの場に入り込んで存在感を出していくということも大事だと考えている。



また中東やアフリカといった新興地域も、今後の AI ガバナンスを考える上で重要であり、着目していくべきである。
以上＜(第Ⅲ期)第 1 回開催概要＞
日時：9 月 27 日（火）13:00-14:00（Zoom 開催）
内容：
・JDLA と研究会活動のご紹介
・「AI ガバナンスとその評価」研究会の紹介
・「研究会第二期までの振り返り」江間有沙氏（東京大学未来ビジョン研究センター准教授、JDLA 理事）
・第Ⅲ期の進め方
・質疑・ディスカッション

4