2021 年 6 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第 13 回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7 月から立ち上げ、1 年間の検討を行う。
研究会第 13 回（2021 年 4 月 27 日）では、企業における AI ガバナンスの検討事例というテーマのもと、世界経済フォーラム（以下 WEF1）及び日本電気株式会社（以下 NEC）秋元一郎氏、ソニーグループ株式会社（以下ソニー）今田俊一氏より話題提供いただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI ガバナンスの検討事例（WEF／NEC）
秋元氏より「顔認証技術の責任ある利用のためのフレームワーク策定の取組」と題して話題提供いただいた。
➢WEF の AI に関連する取り組み
WEF が 2017 年 3 月にサンフランシスコに設立した第四次産業革命センター（以下C4IR2）は、世界各国に拠点を置く、テクノロジーを統御し社会課題の解決を企図したグローバルなルール作りと実証を推進するための機構である。取り組みとしては特に、「データポリシー」や「IoT・ロボティクス・スマートシティ」、「人工知能・機械学習」、「ブロックチェーン・分散台帳技術」に対する規制改革を実施している。AI に関する取り組みについては、日本拠点ではあまり行われておらず、サンフランシスコやフランスのチームが AI に関連する活動を行っている。
C4IR の取り組みのうち、AI に関するテーマとしては、「Enabling Frameworks」、

1

WEF：World Economic Forum2

C4IR：Centre for the Fourth Industrial Revolution1

「High-Risk Use Cases」、「Leapfrog Opportunities」の観点で、ルール形成が国際的に進められていない部分に焦点を当てた取り組みが、多岐にわたって行われている。
今回テーマとして取り上げられた「顔認証技術の責任ある利用」（以下顔認証技術ガイドライン）は、「High-Risk Use Cases」の観点に当たるものである。今回、同ガイ
ドラインでは、顔認証技術の中でも特に空港におけるウォークスルー・マネジメントに焦点が当てられている。これは 9.113以後、空港のセキュリティ問題が重要視されるようになった中で、問題提起されるようになったものがプライバシーの問題であるためであり、同ガイドラインは、セキュリティ対策の中で発生するプライバシーの問題に対して起案されたものになる。
この顔認証技術ガイドラインは、ホワイトペーパーを第一版・第二版と出していくステップ・バイ・ステップのスキームで作成されており、同ガイドラインの第一版のホワイトペーパー作成に際して、パートナーとなったのはフランスのシャルル・ド・ゴール空港や SNCF4、AFNOR5等の企業となっている。しかし、新型コロナウイルスの世界的流行の影響で、本来企図していたフランスの空港でのユースケースの実証は断念した。そのため、既に国土交通省のガイドラインに準じた形での顔認証のウォークスルー・マネジメントの導入が決定していた成田空港、及び顔認証技術を提供している NEC をパートナーとして、実証を行うこととなった。
➢WEF における AI ガバナンス策定
WEF では顔認証技術ガイドラインの策定において、マルチステークホルダーでコンセンサスを形成したガイドラインを策定するために、フローマネジメント形式のプロセス（表 1 参照）をとっている。
表 1 顔認証技術ガイドラインの策定プロセス

1

フェーズ

実施内容

Scoping フェーズ

・プロジェクトの範囲決定
・ともに行うパートナーの策定

2

Drafting フェーズ

・ホワイトペーパーのドラフト作成

3

Testing フェーズ

・Drafting フェーズで作成されたホワイトペーパーが機能するか、実ケースを利用して検証・検証結果を受けてホワイトペーパーの改稿を作
成3

2001 年 9 月 11 日アメリカ同時多発テロ事件

4SNCF（Société Nationale des Chemins de fer Français）：フランス国有鉄道

5AFNOR（Association Française de Normalisation）：フランス標準化協会

24Deployment フェーズ

・ウェビナーや ISO、IEEE を利用することで策定したガイドラインを展開

現在の WEF では、ルール策定に貢献できる人間が率先して上述の 4 フェーズを実施し、ガイドライン策定等を整備するプロセスとなっている。今後、日本がグローバ
ルにおいてルール策定を行っていきたいのであれば積極的に手を挙げて貢献していく必要がある。
フレームワーク策定に向けた methodology(方法論)は 1.対象となる事象の定義(Define ステップ)、2.ベストプラクティス(Design ステップ)、3.Assessment
Questionnaires と呼ばれるチェック項目(Assess ステップ)、4.Audit と呼ばれる第三者機関でのチェック・監査(Validate ステップ)により構成される。この中で、Audit は第三者機関が AI やシステム実装が正しく行われているかをチェックすることであり、その重要度は日本と海外とで大きく異なる。日本の場合は Audit のプロセスはあまり重視されておらず、システムの運用者によって適切にシステムが動いていることをチェックすることで稼働が承認されるが、海外では第三者機関による Audit が実施される必要がある。今回の顔認証技術ガイドラインについて Audit は実施されず、Auditに際して第三者機関が何を実施するかという枠組みのみが発表されることとなった。
➢Testing フェーズの事例（成田空港ユースケース）
ガイドライン起案のフローのうち、Testing フェーズにはオリンピックに向けた顔認証システム6の実証が決定していた NEC と成田空港が参加し、ホワイトペーパーの検証を実施した。今回の検証結果、ホワイトペーパーに記載されていたチェック項目の修正が発生した。チェック項目は Drafting フェーズ時点で成田空港のようなウォークスルー・マネジメントの事例は想定されていなかったために、成田空港で実際に検証を行う際に不要となった項目が複数あったためである7。そのため、成田空港を対象とした Testing フェーズ開始時のホワイトペーパーには 11 カテゴリ 63 項目の質問があったが、Testing フェーズ終了時には 10 カテゴリ 61 項目の質問へと修正されて発表されることとなった。

6https://www.narita-airport.jp/jp/faceexpress/
https://jpn.nec.com/safercities/transportation/fasttravel/narita.html

7

今回の事例ではウォークスルー・マネジメントの事例を取り扱っているが、海外の空港においては未だ事例が少ない。また海外では取得された写真は空港側が保持しているモデルが多く、質問リストについても当初はこのモデルを前提として写真を消す権利などの記載もされていた。しかし成田空港のモデルでは空港側の写真の保持は 1 日限定とされていて且つ外への持ち出しも不可となっているため、ユーザーの消す権利については考慮が不要となっている。結果として質問リストで記載された質問が成田空港のモデル
では不成立となる場合があり、カテゴリや項目の増減につながった。

3

当該ガイドラインについては日英仏の三か国語版が用意されており、今後 WEF によるウェビナーを利用した Deployment フェーズへ進むことになっている。
3.

AI ガバナンスの検討事例（ソニー）
続いて、今田氏より「Sony Group AI Ethics Activity」と題して話題提供いただいた。
➢ソニーの AI 倫理ガイドラインの運用
ソニーの AI 倫理ガイドライン「ソニーグループ AI 倫理ガイドライン（以下 AI ガイドライン）」は、2018 年 9 月にリリースされ、ソニーの Purpose & Values を受けて2019 年 3 月に更新されている。AI ガイドラインは、設立意見書や、ミッションビジョン、ソニーグループ行動規範といったソニーグループが目指す「あるべき姿」を理念としている。その上で、社外の AI 関連指針等を参考文献に整合性をとったものとなっている。AI ガイドラインの構成は、「法令、ソニーの規則・方針の順守及び誠実で倫理的な事業活動」を行動規範としてソニーの AI 利用の目的に「豊かな生活とより良い社会の実現」を置いている。これらの実現のために「社会に対して責任を果たす、信頼を得る」と共に「信頼・サービスを作る」、「AI 時代の人材育成とイノベーション創出」があるという構成になっている(図 1 参照)。
図 1 AI ガイドラインの構成

ソニーにおける AI ガバナンスは、AI 倫理委員会の主導で取り組まれている。このAI 倫理委員会は 3 レイヤーで体制が構成されている(図 2 参照)。
ステアリングコミッティは、CEO の指名した委員長と委員長が任命した委員で構成され、CEO より委員長に権限が委譲され、委員長が CEO に報告を挙げる形となって4いる。ステアリングコミッティの下に、実務委員及び Working Groups8が存在する。
そして各 Business Unit や間接部門に対して、施策が実施される構成となっている。
図 2 AI 倫理委員会の構成
権限移譲

ステアリングコミッティ

CEO委員長

委員
報告
事務局

実務委員が運営する WGｓ（AI 倫理室）

実務委員

Working Groups

各 BU、間接部門

ソニー内での AI ガバナンスの主な取り組みとして、教育と啓発が挙げられる。まずグループ社員向けに AI 倫理とはなにか、ソニーグループ AI 倫理ガイドライン概略、データコンプライアンス概略といった eLearning を配信し、AI 倫理の定着を図っている。また社内ポータルによる情報共有や情報発信、様々な分野の専門家による講演会などを通じて啓発を行うと共に、コーポレート Web9による発信と外部コラボレーションも実施している。
➢ソニーのアセスメント
ソニーが AI Ethics by Design のコンセプトを掲げるアセスメントでは、ガイドラインに定められる原則に反するインシデントの発生等による、社会的な非難や訴訟、及びブランド棄損のリスクを早期に特定し、リスク対応計画及び実施がなされる。 また、ソニーにおける AI 倫理のアセスメントプロセスは、ソニーのエレクトロニクス製品・サービスにおける商品化プロセスにおいて AI 倫理ガイドラインに基づく遵守事項を定めた社内文書、アセスメント用ツール等と合わせて整備されている。これらによりソニーの既存の規約やアセスメントと連携して、ソニーグループ AI 倫理ガイ

8実際の課題解決を行う。

9

https://www.sony.com/ja/SonyInfo/sony_ai/guidelines.html

5ドラインのポリシーに則った AI 倫理アセスメントがなされていることの確認が行われている。
上述の取り組みは、ソニーのエレクトロニクス系事業から展開され、将来的には金融やエンターテイメント系の事業にも展開される方針となっている。
4.

質疑応答での論点
第 13 回研究会では、企業における AI ガバナンスの検討事例について議論が行われた。話題提供を踏まえて、以下のような質疑応答が行われた。
WEF で作成されたフレームワークの実運用について✓

ホワイトペーパー記載のチェック項目についてはベンダー向けではなく、実ユーザー向けの観点が多い。そのためチェック項目の切り口は、実際に空港が顔認証システムを導入する際の留意点が着眼となっている。

✓

一般的に海外ではフレームワークの策定に対して、第三者機関による Audit が実施される。しかしながら今回の取り組みにおいてはコロナの影響もあり第三者機関による Audit はできておらず、Audit の実施方法がレポートに記載されているのみとなっている。そのため、今回の取り組みにおいてはフレームワークに対する Audit の仕組みが作成されたという段階に留まる。成田空港で実施された顔認証のモデルと海外の空港で現在使われているモデルについては大きく異なる部分が多く、今後 Audit の仕組みについても第二版・第三版として出していくことによってブラッシュアップが図られると思われる。

アセスメントの実施範囲について✓

WEF のチェック項目で取り扱う観点については、Scoping フェーズで範囲が決定され、Drafting フェーズで実際に具体化されていく。技術面の観点については、
NEC の AI の検証を行った NIST10が設定していた指標が該当している。

✓

ソニーでは現在 AI 倫理アセスメント項目の全件実施ができないため、リスク評価を適切に行って優先順位をつけ、パイロット的に順次実施していく状態となっている。

ソニーの AI 開発者としての立場でのガバナンスについて✓Transparency Report といった形で、ユーザーに何がリスクになるかを提示していく必要がある。また Transparency Report も AI 等にアップデートが入った時点でアップデートしていく必要があると考える。

10NIST（National Institute of Standards and Technology）：米国標準技術研究所

6✓

製品の再学習やデータ追加、アップデートがなされる際には、商品化プロセスの企画フェーズを通し、そこでモニタリングやアセスメントを行う考え方を持っている。

✓

開発物に対する Audit 部分については課題として残っている。

ソニーの AI 利用者としての立場でのガバナンスについて✓他社の認識器などを利用するパターンについては、最終製品としてテストできるようなものがあればテストを実施の上、提供元のベンダーにフィードバックを行って改善要求を実施する方針である。

✓

上記が困難である場合は、顧客に製品のリスクに係る AI 機能の限界などを説明するべきと考える。

✓

利用している AI が保有する潜在的なリスクが、結果的に社内のガバナンス方針から逸脱することへの対策は、ソニー内で議論を始めている。

ソニーでの AI ガイドライン策定で重要視した観点について✓

AI 倫理を重要視するとともに、イノベーションの創出を阻害しないようにするという考え方を重要視して策定した。

✓

アセスメントという形での業務負荷が重くなりすぎないように工夫を行っている。

✓

今までの活動が抑えられるというのではなく、新しいビジネスチャンスであるという考え方も社内に広めている。

✓

AI 倫理に対する社会の要請が高まってきているということを、従業員に認識してもらうことにも留意している。

EU によって作成された AI 規制法案11について✓

ヨーロッパの動きは世界的に伝播しやすいと感じているため、日本でも（全ての規制内容を取り込むわけではなくても）段階的に規制内容の検討準備を進め、規制内容をカバーする取り組みをしていかなければいけない可能性がある。

✓

過剰な規制をせずに、AI 規制案の一側面を利用しつついかに産業やイノベーションのために規制案を緩和していくか、という観点がある。またそのために事例の蓄積によって説得力のある緩和の働きかけができるか、という観点がある。
次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスにかかる検討を続ける。

11

https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682

7

（文責：巻口歩翔）＜第 13 回開催概要＞
日時 ：4 月 27 日（火）17:00-19:00（Zoom 開催）
内容 ：話題提供：「顔認証技術の責任ある利用のためのフレームワーク策定の取組」
秋元 一郎氏（世界経済フォーラム／日本電気株式会社）
話題提供：「Sony Group AI Ethics Activity」
今田 俊一氏（ソニーグループ株式会社）
質疑応答・ディスカッション

8