2021 年 2 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第6回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 6 回(2020 年 12 月 9 日)では、AI ガバナンスに向けた内部通報・消費者保護というテーマのもと、消費者庁消費者制度課 神田哲也氏、及び同庁消費者安全課落合英紀氏の両名より話題提供をいただいた。なお、両名の説明等のうち、見解にわたる部分等は、あくまでも個人的なものである。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

内部通報制度の仕組み
神田哲也氏より「内部通報制度と公益通報者保護法-現状と今後-」と題して話題提供いただいた。
企業経営における内部通報制度
内部通報制度とは、企業内部の問題を知る従業員から、経営上のリスクに係る情報を可及的速やかに入手し、情報提供者の保護を徹底しつつ、未然・早期に問題把握と是正を図り、より良い製品サービスを提供していくための仕組みである。当制度は、自浄作用の発揮とコンプライアンス経営を推進し、安全・安心な製品・役務の提供と企業価値の維持・向上を図ることを目的としている。
企業は内部通報制度を導入することで、企業内部の様々な問題のパターン（表 1 参照）に対し、複数の内部通報経路を用意することが可能となる（図 1 参照）。

1

表 1 内部通報のパターン1
問題の例

取り得る通報パターン例

不正を検知したが、上司に理解があると社員・派遣労働者等は限らず、不正に手を染めている可能性⇒ 社内窓口⇒経営幹部（社長、取締役、監がある。

査役等）

社内の上司や窓口に通報すると通報者社員・派遣労働者等に不利益が生じる可能性がある。

⇒ 社外の窓口2（弁護士事務所等）

図 1 内部通報制度のイメージ3

企業としてはまず社内の内部通報制度の中で、企業内部の問題や経営リスクに係る情報を把握したいと考えているものの、容易に発覚し難い不正も多く、企業体質によっては必ずしも不正が是正されるわけではない。場合によっては、従業員から内部通報制度外の外部機関（行政機関、報道機関、消費者団体、等）へ直接通報されることも想定される。その場合、外部機関へ不正を通報された企業は、行政処分の対象となる可能性やレピュテーションリスクが発生するおそれがある。そのため企業は、自社の内部通報制度自体の信頼を高め、内部通報制度の利用促進に努めることが重要である。

1 図 1 及び発表内容より作成
2 弁護士事務所等の社外窓口が通報を受けた場合、社外窓口は通報内容を社内のコンプライアンス担当部署に伝えるが、通報者の詳細(氏名、部署等)は必ずしも共有しないとの運用がされるケースを想定。
3

消費者庁「内部通報制度の実効性向上の必要性」より抜粋

https://www.caa.go.jp/policies/policy/consumer_system/whisleblower_protection_system/pr/pdf/pr_1910
18_0003.pdf

2内部通報制度の効果
企業における内部通報制度の実態調査4の結果、不正発見の経緯の約 6 割が内部通報であり、内部監査5による不正発覚の約 1.5 倍になっている。内部通報による不正発見の割合が最も高い理由として、職制ルート6による不正発見が有効に機能していない、もしくは職制ルートより先に内部通報がなされることが、一因として考えられる。
また同調査結果から、違反行為への抑止や自浄作用の向上という点に、内部通報制度の導入効果や価値を置いている企業が多いことが明らかになっている。
公益通報者保護法の制定の経緯
2000 年代前半に、自動車会社によるリコール隠し7、食品会社による産地偽装等の不祥事が、事業者内部から外部機関への通報を契機として相次いで明らかとなった。当時から内部通報制度は存在していたものの、正常に機能していないことが明らかになった。
企業の法令違反、特に大企業（消費財を提供している事業者）の不正は、国民の消費生活への安全、安心へのダメージにつながる。そのため国は、事業者の法令遵守を推進し、国民の安全・安心を確保するため、事業者内部の違法行為について通報を行った労働者に対する解雇等の禁止や、公益通報に関し事業者がとるべき措置等を定めた「公益通報者保護法」を制定8した。
公益通報者保護法の概要
立場の弱い従業員が、不正の利益を得る目的や他人に損害を加えるなどの目的ではなく、労働提供先(勤務先)について通報対象事実9が生じ又は生じようとする旨を所定の通報先に通報した場合、当該従業員の通報は公益通報の対象となる。公益通報を行った場合、解雇等の通報者に不利益な事項を無効にすることができる。
所定の通報先として、企業の中で通報する(内部通報)ことに加えて、処分の権限を有する行政機関、報道機関、消費者団体等(被害の発生・防止等のために必要と認められ4

消費者庁「平成 28 年度 民間事業者における内部通報制度の実態調査報告書」p58.

https://warp.da.ndl.go.jp/info:ndljp/pid/10993152/www.caa.go.jp/planning/koueki/chosakenkyu/files/chosa_kenkyu_chosa_170104_0002.pdf
5

脚注 4 の報告書では、内部監査について、組織内部の監査部門による監査、と定義している。

6

脚注 4 の報告書では、職制ルートについて、上司による日常的な業務のチェック、従業員からの業務報告等、と定義している。

7 監督当局へのリコール届出をすることなく、不具合のある部品の回収・修理を実施すること
8 平成 16 年 6 月公布、平成 18 年 4 月施行
9 通報対象事実とは、刑法、食品衛生法、金融商品取引法、ＪＡＳ法、大気汚染防止法、廃棄物処理法、個人情報保護法、その他政令で定める対象法律（令和２年 10 月１日現在 471 法律）に規定する刑罰規定違反を指す。法律が新しく策定されたり、改正されたりする都度、政府による指定がなされる。

3る者)が設定されている。また公益通報者の保護要件が定められており、内部通報、行政機関、その他外部への通報の順に、保護要件が厳しくなっている。そのため、内部通報が促されることになる。例えば、内部通報の保護要件は、通報対象事実が生じる、又は生じるおそれがある場合、通報者は通報した時点で保護される。それに対して、行政機関への通報の保護要件は、通報者の通報内容に真実相当性があることが保護要件として加えられている。
しかしながら、近年に至るまで事業者の不祥事が後を絶たず、企業の中で内部通報制度が整備されていないことから、早期是正による被害防止を図るため、2020 年 6 月に改正法が成立した。
改正公益通報者保護法と今後の展開公益通報者保護法の一部を改正する法律が、2020 年 6 月 12 日に公布された（表 2 参照）。消費者庁は、事業者が公益通報に応じ、通報に対応するために必要な体制の整備やその他の必要な措置に関するガイドラインの作成を予定している。また同庁は、2020年 10 月から検討会を開催し、ガイドラインの内容について議論を行っている。
表 2 公益通報者保護法の改正内容
目的

改正内容

事業者自ら不正を是正しや✓事業者に対し、内部通報に適切に対応するためすくするとともに、安心しに必要な体制の整備等（窓口設定、調査、是正て通報を行いやすくする措置等）を義務付け※中小事業者（従業員数 300 人以下）は努力義
務✓その実効性確保のために行政措置（助言・指導、勧告及び勧告に従わない場合の公表）を導入✓

内部調査等に従事する者に対し、通報者を特定させる情報の守秘を義務付け（同義務違反に対する刑事罰を導入）

行政機関等へ外部通報を行✓

いやすくする

権限を有する行政機関への通報の条件として、氏名等を記載した書面を提出する場合の通報を追加✓

報道機関等への通報の条件として、以下を追加⚫

財産に対する損害（回復困難又は重大なもの）⚫

通報者を特定させる情報が洩れる可能性が高い場合

4

✓

権限を有する行政機関における交易通報に適せるに対応するために必要な体制の整備等

通報者がより保護されやす✓

くする

保護される対象者に退職者（退職後１年以内）や、役員（原則として調査是正の取組を前置）を追加✓保護される通報の対象に行政罰を追加✓

保護の内容に通報に伴う損害賠償責任の免除を追加

内部通報制度及び公益通報者保護法の観点から見る AI の論点
神田氏は以下の 3 つの論点を指摘した。
１つ目の論点は、通報対象事実についてである。公益通報者保護法は、最終的に刑事罰の対象となる法令違反行為が通報の対象となっている。刑事罰の対象となる違反行為は人間が行うことが日本の法律の前提となっているため、アルゴリズムを想定した場合に当てはまらないものがあり得る。違法行為を行うことについて「故意」が存在しない限り刑事罰で処罰されないが、違法行為の「故意」は AI のアルゴリズムを作った人にあればいいのか、AI のアルゴリズムの中に違法行為の「故意」を特定できればいいのか、という問題がある。例えば、カルテルがあった場合、日本の法律では刑事罰の対象となり得る。しかし、AI のアルゴリズム同士が連絡を取って金額を引き上げた場合、刑事罰となるのかには議論の余地があるパターンがあり得るだろう。また、現行法では対象となっていないものであっても、AI に関する倫理上の問題や不法行為も企業の内部通報の取り扱いとして今後は対象とすべきなのか、という問題もある。
2 つ目の論点は、紙で管理されている資料の持ち出しについてである。行政機関による処分や、捜査機関による取締りの際には証拠が必要となる。しかし業務のデジタル化に伴い、資料の持ち出しが難しくなっている。仮に資料を提供された場合でも、AI のアルゴリズムを行政機関が閲覧し、違反であることを観測可能なのか、また AI のアルゴリズムに問題がなくても、学習結果による違反の場合、アルゴリズムだけ見ても判断ができないという問題が出てくる。
3 つ目の論点は、通報に頼らないガバナンスについてである。内部通報制度はコーポレート・ガバナンスの一つの手段である。公益通報者保護法は人間が何らかの悪事を働くことを念頭に作られているため、AI については通報制度だけに頼らないモニタリング等のガバナンスも今後議論していく必要がある。
3.

製品事故における消費者安全確保の仕組み
続いて、落合英紀氏から「消費者安全の確保の取組」と題して、話題提供いただいた。

5

製造物責任法が規定する責任関係
民法の不法行為法の場合、損害賠償を請求する場合、相手の過失を立証する必要がある。しかし、過失の立証は難しく、必ずしも容易ではない場合がある。そこで、製造物の欠陥により損害が起きた場合に、損害賠償請求を可能とする製造物責任法が規定された。立証すべき要件は、製造業者等が引き渡した製造物の欠陥により他人の生命、身体又は財産を侵害したか否かである。
「製造業者等」とは「当該製造物を業として製造、加工又は輸入した者、当該製造物に製造業者と誤認させるような氏名等の表示をした者」等、「製造物」とは「製造又は加工された動産」（無体物・不動産を除く）、「欠陥」とは「当該製造物が通常有すべき安全性を欠いていること」である。
自動運転車の場合、関係省庁や自動車業界の関係者は製造物責任法が自動運転車にどのように適用されるのか議論している。製造物責任法が適用される要件として無体物が除かれていることがポイントであり、自動運転車の購入者への引き渡し時に自動運転プログラムに欠陥があれば、製造物責任法の「欠陥」に該当する。しかし、プログラムの更新により欠陥が含まれた場合、該当プログラムを含む部品を丸ごと交換しなければ製造物責任法の適用要件に当てはまらないのではないかという指摘がでている。
製造物責任法の立案時、コンピュータの更新やプログラムの欠陥について議論がなされたが、ストーブの火災やテレビの爆発等による製造物の欠陥の様に、対象が限定されたものとなった。しかし、裁判所で判断されるルールであるため、以下のような訴訟で製造物責任法に基づく損害賠償が認められた。
✓

通常、生ものの料理は製造物責任法の対象ではないと考えられていたが、イシガ
キダイ料理食中毒事件ではイシガキダイに手を加え、客に料理として提供できる程度に調理した行為は、原材料に人の手を加えて新しい属性ないし価値を加えたものとして、法にいう「加工」に該当するとみなされた。そのため、当該食品に通常有すべき安全性を欠いていることから、製造物の欠陥に当たるとして損害が認められた10。

✓携帯電話低温やけど事件やエアコン室外機発火事件では、諸事情を総合考慮した結果、本事案は製造物に起因すると推認され、当該製造物の通常有すべき安全性を欠いていることから、製造物の欠陥に当たるとして損害が認められた11。

製造物責任法は、基本的には製造又は加工された動産を念頭に置いた法律ではあるものの、上述の判例12の様に、事案の内容を鑑み、柔軟に適用されつつあるように見受けられる。
なお、民法の不法行為法は今後見直されるとみられているが、その中でも製造物責任10

東京高裁判決（平成 17 年１月 26 日）

11仙台高裁判決（平成 22 年４月 22 日）

12 製造物責任法の判例は、消費者庁の Web サイトに掲載されている。

https://www.caa.go.jp/policies/policy/consumer_safety/other/product_liability_act/6

法は特別法として残すとする考え方がある。一方、現行の製造物責任法は条文数が少ないため柔軟な解釈が可能だが、条文内容自体が実態に即していないのではないか等の議論もあり、見直し時に内容を精査していく必要がある。
事故情報の集約・発信
消費者庁は取引、表示、安全を下支える等の業務を行うため、2009 年に新設された庁舎であり、事故情報を集約し、消費者にいち早く事故情報を届け、注意喚起し、事故を防止するという理念に基づいて設置された。
消費者庁設置の発端となったのは、中国産冷凍餃子にメタミドホスという農薬が混入していた事故やシンドラー社製エレベータの事故である。これらの事故情報は、所管の都道府県の保健所や建築局内に留まっており、一元的に情報集約されていなかったために被害が広がった。そのため、国は再発防止のために、消費者安全法に基づく通知制度として、関係省庁や地方公共団体等で消費者事故を把握した場合、内閣総理大臣（消費者庁）への事故情報の通知を義務付けた (図 2 参照)。
図 2 消費者庁の事故情報の収集・活用の全体像13

なお、消費者安全法における消費者事故には、幾つかの分類がある(図 3 参照)。重大事故等の場合には、直ちに、内閣総理大臣に対し、当該重大事故等の概要を通知しなけ
13「消費者安全法の通知制度について」より抜粋

https://www8.cao.go.jp/shoushi/shinseido/meeting/kyouiku_hoiku/k_3/pdf/s3.pdf

7

ればならない。
図 3 消費者事故等と重大事故等の関係14

実際に重大事故等として通知されているものは火災が多い。また、商品の他に役務(サービス)による重大事故も通知されており、サービスの提供等（遊園地での遊具の利用、エステの施術等）がある。
消費者庁は、消費者事故等の通知を、通知主体となる関係機関に依頼している。現状、地方公共団体によって通知数に差がある部分は否定できず、消費者庁は特に地方公共団体に対して事故通知を促している。また消費者庁は、年間三千件近くの消費者事故の通知を受領しているが、火災、誤飲、転落転倒の通知が多い傾向にあることが明らかになっている。高齢者の事故も多いことから、このような事故を未然に防止していくことが、消費者生活の安心安全の確保の近道になると考えられる。
4.

質疑応答での論点
第 6 回研究会では AI と内部通報・消費者保護について議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
内部通報制度の定着✓

2000 年代前半、内部通報制度は諸外国の制度であり、和を尊ぶ日本の文化には

14「消費者安全法に基づく 事故情報通知制度等について」より抜粋

https://www.caa.go.jp/policies/policy/consumer_safety/other/other_001/meeting/pdf/100802kouka
nkai_4.pdf

8

合わないという意見があったが、今では当該制度は必要ないというような意見はなくなった。企業内で通報されている正確な件数は不明だが、大企業、上場企業では年間数十件～数千件程度、内部通報が発生していると思われる。行政には年間数万件規模で内部通報が発生しており、年々増加傾向にあるため、当該制度は浸透されてきていると思われる。
✓

企業に常駐している従業員からの通報もある。なお、企業に直接雇用されていない従業員も、公益通報者保護法の保護の対象となっている。

海外の内部通報制度について✓

公益通報者保護法が、刑事罰に限定している点は日本の特徴であるが、先進諸国の中には内部通報に関する法律自体がない国もある。例えばドイツでは、密告自体が社会的に受け入れられていないため、内部通報に関する法律は存在しない。一方で、イギリスでは広範な通報を受け付けている。また EU では、加盟国に対し、内部通報制度の法律の整備（条文化）を求めている。アメリカは体系的な法律はなく、州ごとに州法として通報制度を定めている。

✓AI のアルゴリズムは国をまたぐこと(他国に販売、利用すること)もあり、ボーダーレスな部分がある。内部通報制度については各国で考えるだけではなく、国際的に考えていく必要がある。

新技術に対する消費者保護目的の通報について✓金融取引だと HFT15のような高速取引、消費者取引関係ではパーソナライズドプライシング16が行われており、これらは AI に関連した案件となる。現時点では広告は刑事法の対象にはならないが、特定の事実があった場合に、どの法律の条文に当てはめるかを検討することになる。今後新たな技術が生まれるたびに、同様の議論を行っていく必要がある。

通報制度と他の制度との連携✓

企業の社員のメール、チャットのコミュニケーションを監視（モニタリング）し、贈賄、カルテルの兆候を察知する動きが出てきている。その際に、モニタリングの情報と通報内容等を統合的に組み合わせることが重要である。また技術の進歩により、企業の枠にとどまらず、行政機関、捜査機関等にモニタリングの情報と通報内容等が共有されることが可能になれば、有効な調査が可能となる。一方で資料が電子情報の場合、改ざんされる可能性もある。

15

HFT（High Frequency Trading）とは、取引手順などを組み込んだプログラムに従って高速、高頻度で自動売買を繰り返す取引のことである。
16

消費者個人のプロファイリングに基づく価格表示。

9✓

内部通報制度に限って言えば、企業内の通報制度はコーポレート・ガバナンスの一つである。また外部通報も情報取得の一つである。司法取引の制度等も構築されたことで、企業内部の問題や経営上のリスクに係る情報を取得する手段が増えてきており、当該情報を取得する手段を体系化する必要が出てきている。これは企業内でも、違反行為を察知するべき行政機関、捜査機関でも同じ問題である。現時点では内通通報制度、司法取引制度がそれぞれ独立して発展しているので、それらを統合して考えるまでには至っていない。

✓

通報して終わりではなく、通報後に調査、是正が必要になるため、調査で使用する資料の妥当性を確かめることも重要となる。企業のコーポレート・ガバナンスと絡めて考えることが重要である。

AI をツールとして利用したことによる問題✓

名誉棄損は刑事罰の対象である。メディアは、AI を利用した個人の特性分析や個人の特性の公表、政治家の批判をすることがある。しかし、これらを取り締まる場合、言論の自由に抵触する恐れもある。この問題は、AI やアルゴリズムがあるから起こる問題というわけではない（言論の自由と公表する批判の緊張関係という意味では既存の問題である）。一方で、AI を利用して情報を収集することが問題となることもある。例えば、フランスでは AI を利用して裁判事例を収集することは禁止されている。また、アメリカでは量刑を AI に判断させた事案を取り締まるべきだという議論もある。

公益通報者保護法の範囲✓

公益通報者保護法の対象外となっている重要な通報は、数多く存在する。公益通報者保護法は刑事罰や法律違反に限定していることとも関連するが、企業には本来、企業自治がある。違法行為は避けるべきではあるが、倫理等既存の概念にとらわれずに事業を行っていくことも企業自治であり、また企業の事業活動に伴う破壊的創造は、経済活動の活力の源でもある。他方で、企業の事業活動の中で露呈した倫理的配慮を欠いた行為に対して、国が一律禁止或いは規制するということは慎重であるべきだという意見もある。しかし、企業自治に一任していいのかというと、商品やサービスを世の中に提供している企業が消費者を中心としたステークホルダーから信頼されるかどうかということを勘案して一定の統制をきかせていく、という考えや議論が大半ではある。

✓

公益通報者保護法の対象外となっている重要な通報について社会的コンセンサスがとれてくると、政府として、法律や制度の対象として検討していくことになる可能性はあるが、積極的に検討していくか否かについては、様々な意見がある。
10

消費者事故と AI の関連✓

消費者事故にはヒューマンエラーによるものが多いが、AI を活用することによって事故を未然に防止できる可能性が高くなると期待されている。

✓AI の定義にもよるが、小規模なものでは人工知能ロボットについて消費者事故の報告がすでに 2016 年にある17。大規模なものでは自動運転のような製品があるが報告はされていない。しかし、アメリカでは 2018 年 3 月に自動運転車が道路を横断していた歩行者を轢いたという大規模な事案が出てきている。

✓

消費者庁でも、自動運転車の消費者事故に対する対応に関する議論はなされている。今後、デジタル庁ができた際に、AI に関する消費者事故を扱うかは不明である。しかし、自動運転車に限らず AI を利用している製品について消費者庁でも注意喚起はしていく方向である。

製造物責任法の範囲✓

製造物責任法は、消費者の財産的、身体的被害を念頭に置いており、精神的な部分の被害には至っていない。また同法は、現代に適応していない部分も多くあるため、精神的な被害についても対象とするべきという意見もある。諸外国の同様の法律には、無体物を含んでいることが多い。日本では民法を柔軟に解釈して対応している。

✓

ヒューマンエラーによる被害であっても、製造物に欠陥があれば、製造物責任法の対象となる。消費者が通常の利用方法をしていない場合は、本人の過失となる。製造物にどれだけ欠陥があるかが論点である。

製造物責任法の今後の検討✓

製造物責任法は 1994 年にできた法律であり、施行以降、民法の不法行為について見直されないまま現在に至っている。そのため、現代社会に適応できるよう見直しが必要である。見直しの際には、サービス、精神的な被害についても条文に記載できる範囲で明文化していく必要がある。ただし同法の改正は、現行の取引全般に大きな影響を及ぼすため、製造物責任法として残すのか、民法に統合するのか、議論の余地がある。

消費者安全法の範囲✓

消費者安全法は財産の被害も含んでいる。消費者センターには定期購入等により意図せずに購入が続いてしまうという相談が多く寄せられている。サブスク
リプションサービス等による意図しない定期購入については、特定商取引法に

17

http://www.jikojoho.go.jp/ai_national/search/detail.do?id=0000278899

11

よる消費者保護が適用される可能性がある。
通信販売等では契約の申込み時、本来は申込みと承諾が合致している必要があるが、明確に承諾されていないサービスがあるのではという指摘がある。また民法の債権法に関して、定型約款が規定された。今後、通信販売の契約確認が厳格化され、契約の意思が明確になった段階で契約が成立することとなる。
通信販売と同様、サブスクリプションサービスについても申込みと承諾が明確に取られていないのではないかという指摘がある。
現代は取引が複雑化しており、論点は様々あるが、消費者安全法の範囲は、本人の意思、同意を明確にする必要があるという方向に、議論は進んでいくと思われる。
✓ディープフェイクの被害は消費者事故として報告されていないが、サービス利用中に物理的に損害があれば報告される。しかし、事故情報からディープフェイクが関連していることを把握・判断することは難しい。

消費者事故情報の公開✓

消費者は、事故情報データバンクシステム18を利用することで、事故情報を閲覧することができる。また、より詳細な事故情報が必要となった場合は、情報公開請求を行うことで、より詳細な情報を得られる。

✓

事故情報データバンクには、消費者生活センターに寄せられた情報が多く、主に返金要望の内容が多い。当該情報の内容は、消費者本人の申告ベースであり、科学的な調査結果の情報ではない。

✓

建築物は国土交通省、自動車は経済産業省が事故情報を保持しているが、消費者庁も横断的に保持している。国際的にみると、事故情報を収集、発信することを法律で定めている国は少ない。

消費者庁と関係省庁、企業の連携✓

消費者庁は事故情報の内容に応じて、関係省庁と連携して事故発生未然防止の注意喚起している（例えば、住宅の転倒事故は国土交通省の住宅局、というような連携を行っている）。霞が関に関係省庁が集約している理由は、各省庁間の連携を容易にするためである。

✓

消費者事故情報は、同業他社に当てはまる部分もあるが、企業には営業秘密や財産権もあることから、同様の消費者事故の再発防止のために詳細な事故情報を一般公開することは難しい部分もある。一方で、例えばこんにゃくゼリーの様な、製造業者が限られているような業界は、使用方法や飲食方法等、共通し

18 http://www.jikojoho.go.jp/ai_national/

12

た事故発生未然防止策の教育・啓発活動が行われている。
✓100 円ショップの会社から、製品の開発段階で消費者庁に相談が寄せられることもある。その際は、業務上差し支えない範囲でサジェスチョンしている。

✓企業として事故情報の管理は、苦情、相談と製品開発を情報連携させていく方がよいと思われる。

✓

消費生活用製品安全法に基づいて報告をする主体は事業者である。そのため、消費者庁から企業に対して主体的に報告するようお願いしている。また、スタートアップ企業の様に苦情を受け入れる体制が整っていない会社や、個人のアプリ開発者の様に報告の体制自体がない人を保護するため、消費者安全法に基づく報告がある。両者が補い合って事故情報を把握していく必要がある。

製造物責任法、消費者安全法に係るリスク✓

製造物責任法、消費者安全法における欠陥の定義は「通常有するべき安全性を欠いていること」である。裁判規範、要請規範の中で横断的に適用されるが、適用される世界において「通常」が定義される。通常有すべき安全性を兼ね備えていないという部分がリスクと捉えることができる。

消費者保護の観点での AI に関する消費者への説明✓

製品やサービスの内容と AI との関連性について、消費者保護の観点で考えていく必要がある。重要なのは生命、身体事故を発生しないような AI の使い方や、消費者が AI を利用していると気づかないような点があれば、消費者に対して製品やサービスの内容と AI との関連性を十分に伝えることが肝要である。

✓

消費者に AI 製品やサービスを説明するにあたって難しい点は、製品説明内容と AI モデルの学習結果に差異がでた場合、説明内容が虚偽表示による行政処分、刑罰の対象になる可能性が挙げられることである。一方で、積極的に多くの情報を説明記載した結果、逆に損失を被る可能性もあるため、説明の記載レベルには留意が必要である。

次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：清見友来）13

＜第 6 回開催概要＞
日時 ： 12 月 9 日（水）16:00-18:00（Zoom 開催）
内容 ： 話題提供：「内部通報制度と公益通報者保護法 -現状と今後-」
神田哲也氏（消費者庁消費者制度課）
話題提供：「消費者安全の確保の取組」
落合英紀氏（消費者庁消費者安全課）
質疑応答・ディスカッション

14