2020 年 12 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第4回開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7 月から立ち上げ、1 年間の検討を行う。
研究会第 4 回においては、前半の部では損害保険ジャパン株式会社の風間啓氏及びSOMPO 未来研究所の入谷浩之氏より「AI と保険について スマートファクトリーと利活用」、後半の部では東京海上日動火災保険株式会社の永野智也氏より「AI ガバナンスに向けた保険」と題して話題提供が行われた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。
2. AI と保険について スマートファクトリーと利活用
前半の部では損害保険ジャパン株式会社の風間啓氏及び SOMPO 未来研究所の入谷浩之氏から「AI と保険について スマートファクトリーと利活用」と題して話題提供を頂いた。
テクノロジーと保険保険商品は製品やサービスと一体化された形で提供されるなど、様々な形態が存在する。また、新たなテクノロジーが生まれることによって出てくる新たなリスク事象に対応する形で拡充される。
近年の IT 化という技術の発展の中でも特にデジタル化によってリスクを定量化する難易度が低下するほか、リスクの見える化によってリスク予防や予兆を把握しやすくさせることで保険サービスの開発の効率化や最適化に大きく貢献している。一方でデジタル化は新たなリスクの創出を引き起こしている。
これらのことを踏まえると近年技術発展及び社会への普及がめざましい AI に関しても、デジタル化の場合と同様に新しいリスクの観点を生み、保険やサービスを開発していくことが必要と考えられる。
1

AI はビジネス事業者からしてみれば今後本業に組み込まれていく要素であり、ビジネスとは不可分になっていく。このような状況へと変化していく中で、ビジネス利用者から見た AI に関わるリスクを「経営戦略に関わるリスク」、「開発フェーズに内在するリスク」、「実装利用におけるリスク」の 3 つに区分してみた。今回は、このうち「実装利用におけるリスク」について、AI を社会実装していくにつれて新たに生まれたリス
クに対して保険がどのような対応を行うことが可能になるのか、どの範囲が保険によって補償されるかを検討するために参考となる情報を紹介する。
生産物賠償責任保険と AI
生産物賠償責任保険（PL 保険）とは製品の欠陥によってユーザー等に身体障害が生じたり、もしくは物損が発生した場合にメーカーが製造物責任法（PL 法）等に則って被る損害賠償や訴訟のための費用を保険会社が補償する保険である。
AI を組み込んだ製品に対して PL 保険はどのような補償が可能であるか。日本において AI 自身は無体物であるため PL 法の対象には当たらない。しかし AI を組み込んだ製品は有体物であるため製造物責任法の対象となる。製品の欠陥は、「製造上の欠陥」、「設計上の欠陥」および「指示・警告上の欠陥」の 3 種類に分類される。AI に欠陥があった場合はその内の「設計上の欠陥」及び「指示・警告上の欠陥」に分類される。しかし、AI は未知のデータに対して不確実性や不透明性があるという性質を持っている。
この不確実性や不透明性を「欠陥」と判断するかは難しい。また製品出荷後も学習を続ける場合、どこでどのような場合に欠陥が生じたかを検証することも難しい。そのため従来の PL 保険の枠組みでは、AI 製品による被害の原因が AI の欠陥であるとして認定され、事業者が法的責任を負う場合は補償機能を果たすが、事業者が無責だった場合速やかな被害者救済が行われないという課題が存在する。
これに対し、被害者救済を迅速に行うために、一定の事故の場合にビジネス利用者の法的責任の有無に関わらず、ビジネス利用者が予め定めた約定により、被害者に補償することが考えられる。この場合におけるビジネスユーザーの経済的負担は、オーダーメイドの保険で補償することができる。
サイバー保険と AI
サイバー保険とは、サイバー攻撃、個人情報の漏洩やプライバシーの侵害、システムの不具合やネットワークの停止等による損害を対象とする保険である。
AI の利用に関わる事故も一定範囲でサイバー保険の対象となるが、どこまで AI による事故をサイバー保険の枠組みで補償できるかは個別事例に依っており、一般化は難しい。例えば AI の処理に起因して発生する不当な差別や、AI の精度を保証することによって生じた加重された責任等は一般的には補償の対象外となってしまう。またビジネス利用者が構築しているシステムのプログラムにおける著作権の侵害は一定の範囲
2

で補償の対象になるが、AI によって作成された文章や画像が他の製作者のものと類似している場合に著作権侵害として補償の対象になるのかといった論点も存在する。
以上の通り、AI のリスクを既存のサイバー保険の枠組みで対応できるかどうかは現時点では統一的な基準を作ることが難しく、個別事例に依るため利用・実装の段階に応じて補償の対象となるかどうか整理していく必要がある。また同時に補償の対象の状態も事例によって変わってくるため、事業者と保険会社が話し合って内容を確認していく必要がある。
AI 開発ベンダーとの保険検討
事例を通して紹介してきたように、PL 保険やサイバー保険など、既存の保険枠組みの中で AI リスクを一定程度カバーはできる。しかし既存の保険では対応できない AIに関わるリスクもある。
そのため新たに AI 開発ベンダー向けの保険が検討されている。
AI 開発ベンダー向けの保険については検討の途上であり、未確定の部分が多く、リスクの洗い出しや想定される精度といった保険マーケットでのデータ収集を行って事例一つ一つに対してジャッジを行っていく必要がある。そのため、どうしても個別事例ごとの判断が必要となり、AI 開発ベンダー向けの保険については共通化した基本的な補償内容を用意しつつも、個別事例ごとにオーダーメイドしていく必要がある。
3. AI ガバナンスに向けた保険
後半の部では東京海上日動火災保険株式会社の永野智也氏から「AI ガバナンスに向けた保険」をテーマとして、「信頼できる AI を実装していくためには保険というアプローチが必要ではないか」という観点から開発中の商品について話題提供を頂いた。この中で、保険の立ち位置として「AI の普及を支援するための保険」と「AI にまつわるトラブルに対応するための保険」の 2 種類の立ち位置が提示された。
AI の普及を支援するための保険
日本では法的な拘束力ではなく非拘束なガイドラインによって AI の品質保証が行われると想定されている。そこで、ビジネス事業者が AI の品質保証に関するガイドラインや基準を守るインセンティブを創出することで AI の普及を支援することができると考えられている。この保険は B2B を想定している。
ガイドラインや基準を守るインセンティブとして、品質保証責任保険の活用が考えられる。AI 事業者が、当該 AI サービスが一定の品質基準にあることを保証し、当該基準に満たない場合にはサービス料金の一部を利用者に返還することを約することを前提とし、この返還分の損失を保険会社が AI 事業者に補償するというものである。品質保証の基準を決めるにあたっては、監査機関や第三者機関の役割が重要になってくる。
監査機関や、第三者機関が作成した品質基準を満たす良質な AI に対して、保険サービ
3スを提供することが効果的である。
このことで不確実性が高い AI を利用するサービスにおいても AI 事業者と AI 利用者が安心して AI を利用することができる。これが結果として AI の普及を支援すると考えられる。AI の品質の定義については、現時点では議論されている段階であるが、いずれは AI ガイドラインに併せる形で保険商品の開発を進めていくことが想定されている。
AI にまつわるトラブルに対応した保険
AI に限らず、保険には(1) 火災保険や傷害保険のように自分を守るために支払われるファーストパーティの保険と、(2) 賠償責任保険や瑕疵保証責任保険のように自分が加害者となった際の被害者救済費用を保険会社が払うサードパーティの保険と、(3)自動車保険のように自分自身を守ることと被害者救済の両方を行う上記の組み合わせの三種類ある。AI による事故に対する保険は(2) のサードパーティの保険に類するものとなる。
AI は自動化されている部分も多いため、AI 利用者の過失による事故なのか、AI の設計上の過失によるものなのかといった責任の所在が不明になると想定される。このような状況では、既存の保険枠組みでは賠償責任の請求が難しくなり、被害者救済に時間がかかる。このような状況に対応するため、賠償責任が認められない場合でも保険会社が間接的に利用者を保険で支援することによって利用者がサービスを利用できるような安心を提供する保険商品が検討されている。
例えば、既存の保険枠組みで一定の対応がとられているのが自動車保険である。既存の自動車保険では、AI による自動運転を視野に入れて既に賠償責任の有無にかかわらず保険会社が保険金を支払う仕組みが採用されている。自動車保険の例のように「AI にまつわるトラブルに対応した保険」のコンセプトとしては、既存の事業者向けの保険に被害者救済費用補償というコンセプトで新しい補償を組み込んでいくことが現時点では検討されており、これは、AI を搭載したサービスを使って、自分たちのサービスを提供する介護施設や病院などでも今後使われていく可能性がある。
4. 主催者側からのまとめと研究会参加者からの主なコメント
第 4 回では AI と保険について議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
損保ジャパン株式会社様「AI と保険について スマートファクトリーと利活用」に係る議論➢

AI におけるリスク全般✓

AI に関わるリスクや課題には保険で対応できないものも多い。例えば AI に係
4

るリスクの中でも経営戦略に関するリスクについては保険では対応できない。
保険で対象とするリスクとしては、製品に関わる欠陥や業務遂行上の偶然な事故など。また、例えば雇用上の差別を対象とする保険などでは、AI により過去の差別的取り扱いが再現された場合などをどのように取り扱っていくかなど、今までなかった論点もあり、関係者と意見交換しながら検討していく必要があると考えられる。
➢AI 利用における人間の責任✓

多くの場合、AI は最適化や効率化のツールとして導入されているため、現在は個人や法人が最終判断を行っている。AI による自動化がさらに進んだとしても、今後、法改正などによって AI が人格をもって責任をとれるなどと変化しない限りは、最終的に責任を負うのは個人や法人であることに変わりはない。ビジネス利用者の業務上の賠償責任を補償する保険では、業務の一部が AIに置きかわったとしても、リスクの内容は変わるもののビジネス利用者が負う責任を補償する機能は基本的に変わらない。

➢AI ベンダー保険の個別性✓

AI ベンダー向けの保険は個別ベンダーに対してではなく、幅広く基本となる保険を用意する形になると考えられる。現在は典型的な事例が固まっている状態ではないため、先行事例をもとにある程度基本的な部分からベンダープラクティスに沿う形にしていくことが考えられる。

➢AI ベンダー保険のリスク算出方法✓

AI ベンダー向けの保険について、保険料の算出基準としてどういったリスクを考慮するかは現状定まっていない。重要なリスクを検討し、AI に求められる予測性能を加味して保険料算出の基準が決定されると考えられる。

➢

どのような企業が AI 保険を検討するか✓

AI の開発に関わるリスクについては個別性が高いため、個別事例ごとに保険を設計することになる。当面は、汎用性が高いレディメイドの保険を作ることは難しいと考えられる。個別の保険設計では、企業に設計に必要な情報を提供していただく必要があり、保険会社と一緒に作り上げていくこととなる。また、不確実性が高い場合は相応に保険料が高くなる場合がある。

✓

個別設計の保険というと大企業向けのイメージがあるかもしれないが、リスク許容度が大きい大企業に比べてスタートアップベンダーは相対的にリスク耐性が小さく、保険を使ってリスクを平準化する要請があると考えられる。
しかし AI の性質上、保険会社としても 100%の補償は難しいこともある。コストと補償を天秤にかけて、保険を検討するものの保険契約はしないという決断になることも十分に考えられる。

5

東京海上日動火災保険株式会社様「AI ガバナンスに向けた保険」に係る議論➢

保険会社とクライテリア✓

AI の品質基準が無い状態で、品質保証に関する保険を作ることは難しいため、省庁や業界団体等とコミュニケーションを取ってガイドラインや基準と併せて保険を普及させるモデルを検討する必要があると考えている。

➢「AI の普及を支援するための保険」と類似の枠組み✓

現時点で品質保証の枠組みで保険を提供している事例はないものの、参考事
例として、住宅瑕疵の制度として国交省と連携して行われている保証制度が存在している。こちらは住宅の品質の監査を行う機関による監査を通過した住宅に国が保証制度を用意するというもので、その枠組みの中で各保険会社が関わるというものである。品質に関する監査を行った上で保証を提供する仕組みという観点で、「AI の普及を支援するための保険」と考え方は同じあると考えられる。

➢ハードウェア込みでサービスとする場合とソフトウェアのみを提供する場合の保険における論点の違い✓

ハードウェアを利用している場合とソフトウェアのみの場合においては保険を検討する際の観点に大きな違いは存在しない。しかしハードウェアがある場合の方が、従来の保険の補償範囲に近いため、AI に関する保険についても、検討が行いやすいという面があると考えられる。

➢

保険の立場から見た事故調査✓

AI に特化した保険商品は現時点ではなく、AI 固有の事故事例も少ないため、
AI による事故の原因調査については、具体的な研究は進んでいない。一般的にはインシデントを第三者に提供することに対してインセンティブが存在しないが、保険に関してはその限りではないため、保険会社側で AI による事故情報をナレッジ化したうえで品質基準に反映させるというプロセスが存在す
れば、業界を問うことなく AI の水準を向上させることが可能ではないかと考えられる。

➢

AI の人権侵害に対するに対する保険✓

人権侵害の中でも、人格権侵害のような案件は従来の保険で一部カバーをすることは可能であるものの、AI 固有の問題にかかわる名誉棄損や公平性へのリスクといった問題についてはニーズがあるものの研究が進められていないことが実態である。これらの問題に対する対応についてはガイドラインに基づきそれぞれの事故に対応していく形になると考えられる。

➢

保険商品化のハードル✓

個別性が強い業界では補償内容の一般化が難しく保険商品化がうまくいかないことがある。例えば、品質保証に関する保険でいえば、SLA で求める基準が6

案件毎に異なる場合には、保険商品化が難しい。加えて商品化を行う為には、ある程度のマーケット規模が必要となる等のハードルも存在する。
次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：巻口歩翔）＜第 4 回開催概要＞
日時 ：10 月 26 日（月）17:00-19:00（Zoom 開催）
内容 ：(前半)
話題提供「AI と保険について スマートファクトリーにおける保険活用」
風間啓氏（損害保険ジャパン株式会社）
入谷浩之氏（SOMPO 未来研究所）
質疑応答/ディスカッション（後半）
話題提供「AI の社会実装を支援する観点での保険の可能性について」
永野智也氏（東京海上日動火災保険株式会社）
質疑応答/ディスカッション

7