2020 年 7 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第1回開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
本レポートは研究会参加者のディスカッションを再構成して作成したものである。

2.

日本における AI ガバナンスに係る議論
日本における AI ガバナンスの実施に係る議論
現在、日本では政府や民間企業・業界団体を中心として AI ガバナンスの実現が進められている。政府の委員会等にスタートアップ企業が招かれることも多くなってきてはいる。しかし大企業とは異なり、スタートアップ企業は議論を行うためのリソースや時間に限りがあるため、積極的に参加しにくいのが実状である。また、国内の AI ガバナンスを実現する主体という観点では、政府が単独で実施できるガバナンス政策には限界があるため、業界におけるガバナンスのルールやベストプラクティス集の作成を民間主導にやってもらいたいという要望もある。
そのため日本ディープラーニング協会（以下 JDLA）をはじめとする業界団体には、企業の意見を取りまとめて提言する役割が期待される。JDLA はその企業構成から特にスタートアップ企業がどのような政策を望んでいるかという視点での意見発信を行うことが可能である。本研究会でも AI ガバナンスに係る議論を産官学のステークホルダーを交えて意見交換を行うことを目的とする。
国内企業における AI ガバナンスの実現において、Partnership on AI (PAI)などは国際的な活動を展開しているが、主要企業である GAFA 等が提言する AI ガバナンスを実践することは技術的・経済的に困難な状況にある企業が多い。そのため、JDLA では会
員企業よりスタートアップや中小企業においても実現可能なガバナンスの実施を検討したいという意見が提示された。AI ガバナンスの実現に向けた試みの一例としてシンガポールの Model AI Governance Framework がある。これは AI ガバナンスのアプロ
1

ーチと先行事例を併記する形で公開することで、企業が具体的な実現方法を想定できるようにしている。日本においても AI ガバナンスの実現に向けた事例の蓄積が期待される。JDLA による AI ガバナンスの実施についても、同様の取り組みを行っている他の業界団体と協力して相談窓口の開設や事例集の公開をはじめとする政策提言に留まらない実践的な施策を提示していく予定である。
AI ガバナンスの実施に際して経営者に求められる役割
企業の経営者は AI ガバナンスを実現するためにどのような役割を担うべきか。江間座長は総務省や経済産業省の報告書を参考として、「即座に対応できる」、「常に対話をする姿勢を見せている」、「事件・事故に対して説明できる体制を整えておく」といったことが企業への信頼を増すことになるのではないかと述べた。加えて経営陣が「自分たちがどのような社会に住んでいきたいか」というビジョンや経営理念を改めて考えた上でプラクティスと結び付け、フラットに動きやすい組織を社内に作っていくといった新しい試みが期待される。
AI ガバナンスに係るスコープ
AI ガバナンスの対象分野や範囲については DL 等の特定の手法に限らず、モデルやアルゴリズム、データ出力後のユーザーとのインタラクションといった開発プロセス等複合的な範囲が想定されている。AI サービスの提供者は特定の技術要素に限らず、デジタルガバナンス全般としての答責性（アカウンタビリティ）が求められるため、現状 AI ガバナンスの対象範囲の定義は限定させずに検討を進める。
また対象範囲の定義だけではなく、どの立場に重点をおいて AI ガバナンスを検討するべきかという意見も会員より呈された。現状の AI ガバナンスにおいて、政策やグローバルでの論点と実践的な視点に大きな乖離がある場合（つまり倫理原則の要求事項について、企業での実現可能性があまりに低い場合）に、AI サービスを提供する企業を支援・保護するためのアプローチが求められるのではないかとの意見である。
今年度は研究会の初年度であるため、ガバナンスの範囲や基本理念、日本の社会構造、どのようなアプローチを重要視しているかという俯瞰的な視点での議論を進める。しかし、一方で実践的な視点を欠いたまま議論だけが重なっていくのはあまり好ましくない。そのため可能であれば、年度の最終報告とは別に事例集を公開していきたいと考えており、AI ガバナンスについて類似の検討を行っている国内外の業界団体と協調することを本研究会では視野にいれている。
3.

海外への AI ガバナンス発信に係る議論
海外における AI ガバナンスの動向について目を向けると、現在の AI ガバナンスのルールメイキングは欧米や中国といった特定の国・地域の機関によって先導されてい2

るように思われる。またガバナンスが拠る倫理原則についても、例えばある地域では人種差別のような差別問題が問題として提起されやすく、別の地域では民主主義に対する影響が重要視されやすいといったように国や地域ごとに問題になりやすい事象や価値観は異なることは想像に難くない。
では日本ではどのような価値観が重要視されるのであろうか。上記の状況を踏まえた上で、現在の日本においてはより重要視されやすい価値観はいまだ判然としていないため、議論の上で再定義を行う必要があるのではないかとの疑問が会員から呈された。上記を受けて検討を行った場合、特に日本における企業間取引はいわゆる B2B2Cの構造が多く、AI モデルの開発者／AI システムのインテグレータ／AI サービスの提供者／ビジネス利用者（あるいは消費者）がそれぞれ別の企業体によって成り立つことが多い。このような日本固有の商習慣については海外で策定されるガイドラインや倫理原則では注目されていないため、日本国内での検討を進めた上で国際社会に情報発信することが期待される。実際には各企業で部分的に取組みが行われており、そういった事例を収集してステークホルダーごとの関係性も踏まえて国際的に発信すること期待される。
また本研究会の活動については、最終報告書の英語版の作成や海外研究機関や政策関係者を招聘してのウェビナーや意見交換を通してネットワークを作成し、海外に対して日本固有の価値観を積極的に発信することが検討されている。以上のようにこれらの活動を通じて国際社会での AI ガバナンスにおける日本の存在感を主張していきたいとして研究会は締めくくられた。
4.

おわりに以上の通り、第一回研究会では AI ガバナンスについて今後検討すべき課題の洗い出しや、展望の提示が行われた。次回以降も引き続き、本研究会を通じて日本国内外の AI ガバナンスに係る検討を続ける。
文責：巻口 歩翔（マキグチ アユト）

＜第 1 回開催概要＞
日時 ：2020 年 7 月 31 日（火）16:00-18:00（Zoom 開催）
内容 ： イントロダクション「本研究会の目的と進め方の共有」
話題提供「AI ガバナンスをめぐる国内外の動向」江間有沙氏（東京大学未来ビジョンセンター特任講師、JDLA 理事）
質疑応答/ディスカッション
3