2021 年 6 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第 14 回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 14 回（2021 年 5 月 11 日）では、企業における AI ガバナンスの検討事例というテーマのもと、華為技術日本株式会社（以下ファーウェイ社) 朱厚道氏、株式会社 ABEJA（以下 ABEJA 社) 古川直裕氏より話題提供いただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI ガバナンスの検討事例（ファーウェイ社）
朱氏より「責任ある AI：ファーウェイの AI ガバナンスに対する提案」と題して話題提供いただいた。
ファーウェイ社の AI ガバナンスに対する全体的視点
AI ガバナンスの焦点は、イノベーションを過度に制限することではなく、新しいテクノロジーに対する探究や信頼、コントロールを促進させることにあると考えている。そのため、AI ガバナンスに係るアクター毎に、AI システムにおける様々な役割を定義し、役割に応じた行動計画を策定することで、アクター自身の責任（obligation）を理解・認識させる必要があると考えている。
ファーウェイ社の AI ガバナンスに対する行動提案
信頼できる AI を構築するにあたり、ファーウェイ社の行動提案として、下表 1 の 3点が挙げられる。

1

表 1 ファーウェイ社の AI ガバナンスに対する行動提案1
行動提案 1➢

国際的な AI ガバナンスプラットフォームを構築し、専門的な常設国際ガバナンス組織または非常設国際組織を設立し、各地域の政府系メンバーや企業系メンバーを組み入れることで、官民連携ガバナンス（public-private joint effort）を実現し、各ステークホルダーの協力行動を促進し、公正な秩序に基づいて技術と産業を前進させていく。

行動提案 2➢

階層的な視点から、AI システムの異なる階層のアクターに、それぞれに的を絞ったガバナンス・ガイドラインとベストプラクティスを提供する。

➢

各階層間での AI ガバナンスの「ベストプラクティス」を収集・整理し、各階層におけるガバナンス向けの最低限許容される基準を提供する。

行動提案 3➢

リスクの高いシナリオやアプリケーションについては、必要性と最小化原則に従って、独立した第三者機関により必要な認証を実施する。

➢

リスクの低いシナリオやアプリケーションについては、自主的な認証を適用する。

➢

認可を取得した AI システムは「有限責任原則」を適用する。

➢

既存の従来の ICT 製品の安全・信頼性基準体系と認証メカニズムを参考にし、一部は直接流用する。

➢

AI ガバナンスに対する情報開示メカニズムと評価認証基準を構築し、情報公開に関する基準と範囲を規定する。

行動提案 1 の背景として、民間企業、業界団体、国際機関等、世界中の様々な機関から「AI 倫理ガイドライン・原則」が発表されていることにある。多様な価値観を尊重することは必要な前提条件である一方で、過度に断片化されたガバナンスの枠組みは、イノベーションの発展に支障をもたらし、さらには規制アービトラージ（regulatory arbitrage）2につながるおそれがある。そのため、各国政府や市民社会団体、AI ガバナンスに係るアクターが共同で、国際的な AI ガバナンスシステム（表 2参照）の構築に取り組み、基本的なコンセンサスを形成し、多元的で差異のある部分

1

本研究会公開資料より抜粋

2

規制アービトラージとは、ある管轄権の規制が厳しい場合、より対応が容易な他の管轄権に移動することで規制を回避することをいう。

2

に対して調整・協調することが、方策の一つとして挙げられる。
表 2 国際的な AI ガバナンスシステムの特徴と機能3地域の政府機関に各地域の政府機関は、開発された AI 倫理原則とガバナンよる承認と支援スフレームワークを地域のものとして確立することができる。

官民連携ガバナン技術研究開発や基準制定等、民間の強みとノウハウを活スの推進用し、「官民連携ガバナンス」（public-private jointeffort）を推進する。

国際標準化の推進

標準化機関との連携により、AI 技術分野（安全性、信頼性等）における国際標準と規範を制定し、特に最低限許容されるベースライン規範を制定する。

権威ある認証テス

独立した国際試験機関に認可を与え、統一的な試験仕様

トメカニズムの構に基づいて AI の製品またはサービスの評価試験を行わ築せ、製品またはサービスが市場参入要件を満たしていることを確保する。

技術の実用化促進

市場のニーズや意見に関する情報を収集することで、各業界における AI の活用と発展を推進する。

なお、国際的なガバナンスメカニズムの成功例として、3GPP4が存在する。3GPPのメンバーには、多数の MRP5が参画しており、MRP は技術要求や市場の意見等を提供することで 3GPP の移動体通信技術の合意形成を促進し、グローバルなモバイル通信ネットワークの活用と発展を促す役割を担っている。3GPP は、OP6とともに協力
して 3GPP の全体的な政策と戦略の決定に取り組んでおり、また OP からの委託を受けて共通の技術仕様を作成している。そのため各 OP は、独自の標準を作成する場合、3GPP 関連の標準仕様を参照する必要がある。
行動提案 2 におけるポイントは、AI システムの階層型ガバナンスフレームワーク（以下階層型ガバナンス、表 3 参照）の構築である。階層型ガバナンスは、階層的な視点から、AI システムのガバナンスアーキテクチャをさらに細分化・階層化すること

3

本研究会公開資料より抜粋

43GPP（3rd Generation Partnership Project）は、第 3 世代携帯電話システム（3G）の国際標準仕様を策定することを目的として 1998 年 12 月に設立された共同プロジェクトである。3GPP は、各国・地域の標準化機関から構成されており、現在は移動体通信技術の研究と標準化を促す役割を担っている。
5MRP（Market Representation Partners）：移動体通信技術に係る市場代表パートナー

6OP（Organization Partner）：移動体通信技術に係る標準化機関パートナー

3

で、各階層のアクター（表 4 参照）に係るリスクを特定し、予防措置を取ることを支援する。また階層型ガバナンスは、標準化機関との連携により、異なる階層におけるAI ガバナンスのベストプラクティスについて、グローバルの標準と規範に発展させることを可能にする。階層型ガバナンスはさらに、AI 試験・認証能力を構築する際、AIシステムの異なる階層に基づいて試験を行う階層型試験の能力も構築することを可能にする。そのため、階層型ガバナンスは、AI システムの階層間でのトレーサビリティを容易にし、各階層における責任の決定に役立つと考えている。
表 3 階層型ガバナンス7

7

本研究会公開資料より抜粋

4

表 4 階層型ガバナンスに係るアクターの役割と活動概要8
アクター

役割と活動概要

消費者/顧客AI システムを使用するかどうかを選択する権利がある。AI
技術を悪用して、偽の動画、偽の音声、偽の写真等を作成する等の法律や倫理に違反する目的で AI システムを使用しないように、製品やサービスの説明に従って安全に使用する。

導入者/運用者

AI システムが意図に合致しているかどうかを検収し、有害結果を特定・修正し、導入目的を確実に達成し、導入および運用の過程における AI のセキュリティとプライバシーに関するリスクを効果的に管理・予防する。

ソリューション

AI システム事業機能、信頼性目標の実現を保証し、事前防プロバイダー

御、中間での介入、事後監査評価等の保障手段で、シナリオの安全と倫理要求に合致するソリューションおよび付帯サービスを提供する。

AI アプリケー

AI アルゴリズムにより、セキュリティ基準に適合するクラションプロバイ

ウド、エッジ、デバイス等のコンピューティングプラットフ

ダーォームを利用し、各分野の信頼性要求を満たすサービス、アプリケーション、サブシステム及び付帯の運営維持メカニズ
ムを提供する。

AI アルゴリズ

セキュリティ、堅牢性の基準に合致するモデルとアルゴリズ

ムプロバイダームを開発し、統計分析や論理検証等の方法を用いて、アルゴリズムプログラムが期待通りに動作する能力を継続的に高めていく。

AI コンピュー

情報セキュリティ強化ハードウェア、機械学習向けセキュリ

ティングプラッティチップと防御部品、信頼できる演算子の実現、AI の運トフォームプロ用フレームワークや AI アプリケーションイネーブルメント

バイダー等、信頼性の高いコンピュータプラットフォームを構築し、安全で堅牢な運用環境を提供するとともに、データや実行中のプログラムのトレーサビリティ、プライバシー保護、安全性、堅牢性等を保証する。

8

データの処理者

データの管理と運用が GDPR 等の適用可能な規制要件に完/管理者全に準拠していることを確認する。

本研究会公開資料より抜粋

5行動提案 3 におけるポイントは、リスクシナリオや AI アプリケーションに応じた認証要件を導入することである。EU は 2020 年 2 月に公表した「AI に関する白書9」にて、リスクの高いシナリオや AI アプリケーション10を特定するための基準を明記しているが、義務的な認証制度の導入は、コンプライアンスコストを過度に増加させ、イノベーションと技術の発展を阻害させるおそれがある。そのため、高リスクのシナリオや AI アプリケーションの認定対象のリストと基準については、最小化の原則に従うことがより効果的な方法であると考えている。一方、AI アプリケーションが高リスクシナリオを抱えているケースは、実際には多くはないと考えている。低リスクのシナリオや AI アプリケーションについては、企業の管理レベルと信用度に応じて分類管理を行い、自主的認証プログラムを最適化し、「自己宣言」方式を導入することで、企業の品質向上・高度化を促す仕組みである。
なお、AI アプリケーションの試験・認証能力を構築する際に、既存の ICT 製品の安全・信頼性基準体系と認証メカニズムの一部を、直接流用することが可能であると考えている。従来の ICT 製品システムエンジニアリングは、段階的な試験・認証システムを構築されており、そのプロセスは非常に成熟されている。また、ICT 業界は、標準化団体に加えて、多くの専門的な国際認証機関が存在しており、これらの認証機関では ICT 製品のセキュリティとプライバシー保護について、客観的な評価が可能であると考えている。
3.

AI ガバナンスの検討事例（ABEJA 社）
続いて、古川氏より「AI ガバナンス事例 ABEJA」と題して話題提供いただいた。
ABEJA 社のガバナンス体制➢

AI 倫理の人員及び組織
ABEJA 社は、法務担当者に対して AI 倫理の実務を割り充てている（兼務させている）。同社は 2019 年に AI に関する課題について外部の有識者が倫理、法務的観点から討議する委員会「Ethical Approach to AI（以下 EAA）
」設立11時に、AI 倫理に対する経営者の認識や AI 倫理の重要性を説いている12。

9

https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-

feb2020_en.pdf
10

高リスクシナリオの例示として、医療や輸送、エネルギー等が挙げられている。また、人材採用における AI アプリケーションの活用や、遠隔(リモート）生体認証に使われる AI アプリケーションは、常に「高リスク」とみなされる。
11

https://abejainc.com/ja/news/article/20190725-2522

12https://abejainc.com/ja/news/article/20190821-2542

6

➢AI 倫理ポリシー
ABEJA 社は、具体的な AI 倫理に係るポリシーを制定していない。同社が具体的な AI 倫理ポリシーを制定していない主な理由として、下記 2 点が挙げられる。
1)

現在一般公表されている AI 倫理に係る各種ポリシーを参考にし、自社のポリシーを便宜的に制定することは可能だが、ポリシー自体が社内の倫理的向上をもたらわすわけではなく、具体的なアクションが重要であると考えている。

2)

AI 倫理に対する経営者の認識等は社内に周知されており、また従業員間でもAI 倫理の重要性は共有されている。社内のデータサイエンティストやプロジェクトマネージャー（以下 PM）を中心に、AI 倫理に関する興味を強く持っており、AI 倫理の重要性の意識は従業員間に根付いていると感じている。

➢

AI 倫理に係る課題解決プロセス
ABEJA 社では、プロジェクト初期の契約審査や NDA13締結前に、法務担当者にて AI 倫理に係る課題の識別が行われている。
課題の識別から検討・解決のプロセスは、下記の通り。
1)

法務担当者は、プロジェクト企画書や提案書等から AI 倫理に係る課題の有無を識別し、必要に応じてプロジェクト案件担当者にヒアリングを行う。

2)

AI 倫理に係る課題を識別した場合、法務担当者は担当 PM と打ち合わせを行った後、担当 PM は課題に対する留意点を顧客と協議する。

3)

外部有識者の見解が必要と思われる課題を識別した場合、EAA の討議テーマとして取り扱う。

なお同社は、顧客やその先のエンドユーザーが望んでいるものをサービス提供できるか否かというスタンスで、課題解決に取り組んでいる。
➢

従業員に対する AI 倫理の情報共有・教育
ABEJA 社では、AI 倫理に係るニュースが Slack14で日常的に情報共有・議論されており、EAA での検討内容や AI 倫理の社会動向を共有・発表する社内勉強会が年に数回行われている。

Ethical Approach to AI（EAA）における討議テーマ
EAA は、ABEJA 社のコンプライアンスに係るテーマの内、「AI の法務・倫理」に

13

NDA（Non-Disclosure Agreement）：秘密保持契約14

Slack とは、Slack Technologies 社が開発・提供しているビジネスチャットツールのことである。

7

係る事項に関して議論している。EAA は、客観性、独立性を担保するため外部識者（以下 EAA 委員）で構成されており、同社からは代表取締役社長 CEO や社内事務局、討議テーマによりプロジェクト案件担当者が EAA の討議に参加している。
EAA の主な討議テーマは、下記の通り。
1)

ABEJA 社の個別案件への助言や提言
ABEJA 社の業務で直面する AI と倫理に関連した課題や案件について都度討議、業務の実現や改善につながるような建設的な助言・提言を示す。

2)

ABEJA 社内の AI 利用原則・行動指針の策定
日本、EU 等の AI 倫理指針等の動向や社内メンバーの意見を反映させつつ、ABEJA 社内で共有されるべき AI の利用原則と行動指針の策定を促す。策定にあたっては、現場の従業員と EAA 委員が意見を交わす機会を設ける。

3)

出席者による知見の共有
ガイドライン作りや個別案件の協議に際し、海外の政策・法務の動向、専門の知見に基づき踏まえておくべき視点等について、EAA 委員が情報を共有し、議論のきっかけや判断の参考とする。

なお、ABEJA 社の個別案件に係る AI 倫理課題を EAA の討議テーマに上程する際は、顧客との NDA 等を考慮し、討議テーマを一般化する等の対応を行っている。
AI 倫理ポリシーの策定状況から見る問題意識
現在一般公表されている AI 倫理に係る各種ポリシーの策定状況から、ビジネスモデルが BtoB の企業やスタートアップ企業、AI ベンダーにおける AI ガバナンスは不透明な状況にあると感じており、またこの状況は偶発的なものではないと見ている。
➢BtoB 企業の観点から見た問題意識
欧米の AI 倫理のガイドラインの内容は、BtoC 企業を前提にした内容が反映されているように感じている。これは、自社開発をメインに行っている企業（BtoC 企業）が欧米に多いため、BtoB 企業におけるプラクティスの研究が国際的にはなされていないことが影響していると思われる。また BtoB 企業は、サービス提供する顧客自体に AI 倫理に係る問題意識がないと、BtoB 企業から AI 倫理の話を進めることは難しい。そのため BtoB 企業は、BtoB 企業の方から顧客や社会に対し、AI倫理の問題を提起する、自社の AI ガバナンスの取り組みを情報共有・公開する等の行動をしていく必要があると考えている。

➢

スタートアップ企業の観点から見た問題意識
現在一般公表されている AI 倫理に係る各種ポリシーは、スタートアップ企業を想定してないように思われる。スタートアップ企業は、小規模でかつ人員や資金といったリソースに余裕がない一方で、暗黙の価値の共有や柔軟かつ迅速な対応は可8能な環境にある。そのため、AI 倫理の組織作りや担当者の設置、社内教育等を通して、AI 倫理の重要性を意識付ける取り組みが必要と考えている。
➢AI ベンダーの観点から見た問題意識
上述で触れた通り、欧米は自社開発が多いため、AI 領域で中心的な役割を担っているのは、GAFA15等の自社開発企業である（AI ベンダーではない）。AI ベンダーは、多種多様な AI 開発に携わり、またプロジェクト案件毎（顧客毎）にステークホルダーや業種固有の文化が大きく異なることから、考慮する倫理的価値も多種多様である。そのような環境下のため、実務的知見は蓄積される一方、知見を抽象化したプラクティスの構築は非常に難しいと考えている。

4.

質疑応答での論点
第 14 回研究会では、企業における AI ガバナンスの検討事例について議論が行われた。話題提供を踏まえて、以下のような質疑応答が行われた。
AI ガバナンスに係る論点の中で最優先に取り組むべき事項✓ファーウェイ社は、各国の規制・認証制度対応で発生するコンプライアンスコストを一番意識している。そのため、AI 開発コストを抑えるにあたり、国際的な標準化規格や認証制度があることが望まれる。また、ビジネス（AI 開発）に集中して取り組みたいため、AI ガバナンスの透明性を担保する仕組みや認証制度の構築が望まれる。

✓ABEJA 社として、優劣をつけて取り組んでいることは特にない。一方で ABEJA社の顧客は、プライバシー（データの収集方法や取扱い）に係る照会を受けることが多く、AI が提供するサービス内容にもよるが公平性や安全性はあまり議論に挙がらない。

リスクアセスメントを担うアクターについて✓

ファーウェイ社が階層型ガバナンスで提示した「導入者／運営者」、「ソリューションプロバイダー」の双方ともリスクアセスメントを行うことが望ましいが、「消費者/顧客」と直接的にインターフェースされている「導入者／運営者」が、主体的に重要なリスクを識別し、アセスメントすべきと考えている。そのためには、「導入者／運営者」は、AI 導入・運営する上で満たすべき技術仕様要件やセキュリティ要件を、「ソリューションプロバイダー」に対して提示する義務があると考えている。

15

GAFA とは、米国の大手 IT 関連企業 4 社（Google, Apple, Facebook, Amazon）の頭文字をとって名付けられた造語である。

9✓

ファーウェイ社は BtoB 企業であり、広義の位置付けは「ソリューションプロバイダー」になる。
「導入者／運営者」にリスクアセスメント能力が高い場合は、「導入者／運営者」が主体的にリスクアセスメントを行うことが望まれる。一方で、「導入者／運営者」にリスクアセスメント能力が低い又は欠如している場
合、「ソリューションプロバイダー」は、「導入者／運営者」と契約等によりリスクアセスメント範囲を明確にした上で、「導入者／運営者」と共にリスクアセスメントの支援を行う必要があると考えている。

✓ABEJA 社では、潜在的リスクの確認は ABEJA 社から提起することが多いが、AI倫理に係るリスクのみに捉われず、ビジネスリスクについても顧客と検討している。ただし、具体的なリスク調査やアセスメントの最終判断は顧客が行っている。

セキュリティ観点における AI 技術仕様の情報開示の程度について✓

AI 技術仕様全ての情報開示は、セキュリティリスクにさらされる可能性が高くなるため一般的ではないが、事故が発生した場合、事故原因の究明のために設置される第三者委員会等に対しては、一部の技術仕様の情報開示が必要になると考えている。

AI サービスの契約不適合責任（旧瑕疵担保責任）について✓

AI 開発は準委任契約が多いので、その場合は契約不適合責任が問われることはな
いが、AI ベンダー等の事業者が開発・納品した AI に契約内容と異なる点が存在することが判明した際には、開発・納品した事業者は何かしら対応を取る必要があると考えている。
次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：齊藤慶太郎）＜第 14 回開催概要＞
日時 ： 5 月 11 日（火）17:00-19:00（Zoom 開催）
内容 ： 話題提供：「責任ある AI：ファーウェイの AI ガバナンスに対する提案」
朱 厚道氏（華為技術日本株式会社）
話題提供：「AI ガバナンス事例 ABEJA」
古川 直裕氏（株式会社 ABEJA）
質疑応答・ディスカッション
10