2021 年 6 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第 15 回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 15 回（2021 年 5 月 26 日）では、企業における AI ガバナンスの検討状況というテーマのもと、有限責任監査法人トーマツ 松本清一氏より話題提供いただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI ガバナンスサーベイ
松本氏より「AI ガバナンスサーベイ 2020」と題して話題提供いただいた。
AI ガバナンスサーベイの概要
デロイトトーマツグループは、2019 年度から年に 1 度、AI ガバナンスサーベイ（以下サーベイ）と題して、日本に拠点を置く全業種の全部門に対して AI の利活用やリスク識別・コントロール状況に関するアンケート調査を実施し、集計した結果をレポートにまとめている。
2020 年度に実施したサーベイ1では、COVID-19 によるデジタル化等の影響から昨年度と状況が大きく異なることを想定して、AI 利活用状況や AI 投資状況の変化について、アンケート調査を実施した。その結果、AI の利活用状況や AI 投資状況について、以下の傾向が見られた。
➢

昨年度に比べ、AI の利活用の割合が大きく増えた。昨年度は Proof ofConcept （以下、PoC）止まりの傾向があったが、今年度は PoC に留まら1

「AI ガバナンスサーベイ 2020」

https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-governance-survey-2020.html

1ず本番運用のケースが増加した。
➢AI の投資目的として、昨年度はコスト削減、業務効率化が多かったが、新規ビジネス創出に対する AI 投資の割合も増加した。

➢AI 利活用は進んでいるものの組織的な活動は不十分な体制となっている。

➢AI 利活用時のリスクの存在に気付いているが、その対処方法について各企業は課題を抱えている。

AI の利活用状況
サーベイの結果、AI を利活用している企業の割合は、アンケート回答者数の 85％であった（図 1 参照）。昨年度は 56％だったことから、大幅に増加していることが判明した。また、昨年度は AI を利活用している回答者のうち PoC まで至っているとの回答は 47％であり、利活用から PoC が進まないという問題があったが、今年度は70％以上が PoC を実施しているとの回答を得た。さらに、PoC を実施した回答者のうち本番運用まで至っているという回答について、今年度は 81％であり、昨年度の77%から大きく変わっていない。
上記から、PoC の実施まで進めば、本番運用にまで至るハードルは低いということが見受けられる。
図 1 AI 利活用の取り組み状況と、取り組み段階別回答者割合2

またサーベイの結果、AI 利活用の目的として、昨年度と比べて、新規ビジネス創出や既存ビジネス売上拡大の割合が大きくなってきている（図 2 参照）。
上記から、新しいビジネスでの AI 活用が広がってきていることが明らかになった。

2「AI ガバナンスサーベイ 2020」（5 頁）から一部抜粋

2

図 2 AI 利活用目的3

AI の利活用の進める上での課題
AI の利活用を進める上での課題について、IDO4というフレームワークを利用し、サーベイを実施した。サーベイの結果、戦略の観点では、AI の利活用は進んでいるものの、継続的なイノベーションの文化が組織に組み込まれていないという問題、また、人材が足りないことが浮き彫りになった。プロセスの観点では、アナリティクスや AI を活用するためのアジャイルなプロセスがない、確立されていない点が問題となっている。これは、PoC の実施が進んだことから浮き彫りとなったと考えられる。
データの観点では、データの品質管理や整備がされていない、データの所在が散らばっている、データ加工・集計に係るツール・環境がない等、組織の体系立てや品質管理のプロセスの整備等に課題感を持っている企業が多い。テクノロジーの観点では、内製化で取り組むべき範囲が明確になっていない点が問題となっている。
上記から、AI の利活用は進んでいるものの、組織的な活動は不十分であることが明らかになった。
AI 利活用時のリスク識別・コントロール状況
AI 利活用が進んだ先に待ち受けるおそれのある AI の代表的なリスク項目（図 3 参照）を挙げ、AI 利活用時のリスク識別・コントロール状況について、サーベイを実施した。

3「AI ガバナンスサーベイ 2020」（6 頁）から一部抜粋

4

IDO（Insight Driven Organization）は、デロイトトーマツグループで利用している AI や分析の組織を成熟されるためのフレームワークのことである。当フレームワークは、戦略・人材・プロセス・データ・テクノロジーの観点から気を付けるポイントを示している。
https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/solutions/insight-driven-organizationpeople.html

3

図 3 AI 利活用時のリスク一覧5

サーベイの結果、リスクを認識しているが対処方法がわからないという回答が、どのリスク項目にも 20％程度存在した。PoC が進んだことによりリスクの認識は進んでいるものの、一方で、リスクへの対処方法について課題を抱えていることが浮き彫りとなった。
MLOps
AI の利活用を進めていく中で、機械学習の開発から運用保守の標準化・自動化と開発部門と運用保守部門の連携強化により、開発ライフサイクルを短縮、効率化を可能にする点で、MLOps6が注目されている。
また近年では MLOps のプラットフォームが公開されてきている。MLOps のプラ
ットフォーム化は、説明責任や精度劣化のモニタリング等も含め、開発からモニタリングまでの一連の流れを簡易化することが可能である。MLOps のプラットフォーム化の流れは加速してくると考えられる。

5「AI ガバナンスサーベイ 2020」（11 頁）から一部抜粋

6DevOps をベースとしており、機械学習モデルの開発と運用を一体化し、開発から運用まで一連のライフサイクルを管理する手法のことである。

4

3.

質疑応答での論点
第 15 回研究会では、企業における AI ガバナンスの検討状況について議論が行われた。話題提供を踏まえて、以下のような質疑応答が行われた。
AI がバンスサーベイについて✓

AI 利活用時のリスク一覧に関する項目（図 3 参照）をイメージして、AI ガバナンスという言葉を使用している。昨年度の AI ガバナンスサーベイでは、AI 利活用時のリスクに関する内容について、サーベイを実施した。その中で、企業関係者から AI の利活用に関するお問い合わせをいただくことが多かったため、今年度のサーベイ前半部分に、AI 利活用に関するサーベイ結果を掲載している。

✓

アンケート回答企業の業種は、製造、商社、金融、ライフサイエンスが多く、AIの開発企業というより、AI のユーザ企業が多い。

今後の AI ガバナンスサーベイの内容について✓

AI ガバナンスサーベイは、今後も実施する予定である。リスクのアンケート項目は毎回ある程度固定の内容とする方針ではあるものの、社会状況に応じて、企業がイメージしやすいトピックも追加することを検討している。

✓

海外では、チーフ・エシックス・オフィサー等 AI ガバナンスの組織体制の構築方法について議論が起きている。AI ガバナンスを担う人材を育成するという空気感が醸成されているのかという点について、今後行うサーベイの観点として検討したい。

✓

AI 利活用時のリスクを担当する部署は、大企業とベンチャー企業では異なることが想定される。リスクを担当する部署について、新しい部門を創設するのか、従来の組織のまま AI の利活用を進めているのかについてのサーベイ実施は、海外への発信にもつながる。

✓

現状、ベンチャー企業に対して AI ガバナンスサーベイのような調査を実施していないため、ベンチャー企業における AI 利活用状況や AI 投資状況情報は保持していない。今後はベンチャー企業と大企業の比較といったサーベイも検討したい。
（文責：清見友来）＜第 15 回開催概要＞
日時 ：5 月 26 日（水）18:00-19:00（Zoom 開催）
内容 ：話題提供：「AI ガバナンスサーベイ 2020」
松本 清一氏（有限責任監査法人トーマツ）
質疑応答・ディスカッション
5