情報法制学会 第5回研究大会「AI・ロボット・自動運転をめぐる事故の民事訴訟上の課題」
2021年12月11日
帝京大学 長島光一

報告内容 今後、AI・ロボット・自動運転などにより、どのような事故が起こりうるのか。

 →民事訴訟においてどのような問題が発生するのかを検討。
 ※社会的受容性の観点…事故の問題から逆算し、どのような法的な対応（情報法制）が必要かを明らかにすることで、事前の対応を促す。 １、はじめにーAI・ロボット・自動運転をめぐる議論
２、想定される事故とその特徴
３、民事訴訟で想定される論点とその立証
４、AI・ロボット・自動運転をめぐる事故に対する電子証拠の取扱いの問題（訴訟法上の問題）
５、AI・ロボット・自動運転に対する開発途上の技術をめぐる紛争とその解決（実体法上の問題）
５、おわりに―技術と社会の一致に向けて１、はじめにーAI・ロボット・自動運転をめぐる議論
 （１）これまでの議論と視点
 ①責任論と社会実装・社会的受容性にあたっての制度論
 例：既存法令下における責任の所在の検討（不法行為責任、契約責任、製造物責任）、AIの法人格
 ②実体法的対応：一方当事者の責任集中…専門的知見を有する者への責任と権限の集中による事故予防 例：専門家（医師等）への責任集中…開発者やメーカーの責任は？
 ③手続法的対応：情報の偏在…AIやロボットの場合の情報へのアクセス困難 例：AIのブラックボックス…誰も情報を持っていないは？

（２）問題意識
 ①訴訟における責任問題を明らかにすることで、その実装時の問題回避主体と対応が検討できるようになる。
 例：自動運転の責任主体の明確化→保険による現実的な対応
 ②具体的な訴訟時における課題提示により、実践的な紛争解決システムを検討する。
 例：手続の視点からの被害者救済（紛争解決の窓口など）
 ③社会における新技術の導入の意義をふまえた課題克服志向で、紛争解決に向けた訴訟上の取扱い方を探る。
 例：AIやロボットの導入は不可避⇔事故による思考停止（研究の停止や商品の市場からの脱退）…訴訟でこうした問題にどのように対処するか。

２、想定される事故とその特徴
 （１）情報の取得、情報の保有、情報の利用を通したサービスとその利用における各段階での事故
利用者情報

外部情報との関係

情報取得時のトラブル

情報取得の合意の有無

情報保有時のトラブル

不正アクセス
情報の漏洩
更新によるアップデートし忘れによる情報の陳腐化
不完全な情報に基づく利用 想定外の出来事への対応とそれによる事故
誤まった情報の提供

情報利用時のトラブル

事故の顕在化

権利侵害データの混入事故の発生要因※情報利用者は、利用時の事故ではじめて、取得や保有の問題を把握

（２）一般的に想定される事故
 ①AIによる事故…機械学習・ディープラーニングなどの情報の取扱いとシステムの問題

情報収集

情報保有
情報利用
実装場面での問題

AIの学習の偏りが生じたことによる不利益
意図しない個人情報の収集によるプライバシー侵害
AIが学習する際の著作権侵害
AIによる営業秘密の取得と学習によるコンタミネーション
AIの学習データへの不正アクセス等による情報漏洩
AIが作成した成果物による他者への権利侵害（例：著作権侵害、肖像権侵害、プライバシー侵害）※AIへの偏った知識に基づく判断
AIによる名誉毀損、信用毀損
AIによる営業秘密の不正開示
AIの管理するシステムの事故による損害（例：自動運転車）

補足
 ①一方で、AIの保護の問題もあり
 例：AIによる生成物の帰属＝AIの作った物の所有権

 例：AIと業法の関係＝特定の資格を持つ者のみが行うことができた分野をAIが行う可能性
 ②紛争処理に当たって：
 ⇒AIの開発者とAIの利用者、AI利用によって不利益を受ける者（第三者）の区別（利害関係者多数）
 ディープラーニングによる開発者が予見しないレベルにAIが成長した場合にその責任主体が不在 ②（対話型）ロボットによる事故…取得した情報に基づく実社会での活動そのものの問題

情報収集
情報保有
情報利用
実装場面での問題

ロボットによるプライバシー侵害…対話による情報の蓄積→その内容を他の者に話した場合（秘密の暴露）※人間は「忘れる」が、ロボットは「忘れない」
ロボットによる名誉毀損…ロボットによる発言→事実であっても、それによって人間が傷ついた場合※人間は「悪気がある」が、ロボットは「悪気がない」
ロボットの暴走による被害…ロボットの挙動による影響（物的被害、人的被害）

補足
 ①ロボットの操作など裏側に人間が関与していた場合には、その者の責任も生じうる。
（アバター型）←見分けがつかない問題
 ②一方で、ロボットの保護の問題もあり（ロボット破壊・ロボット虐待の問題）
 ③紛争処理に当たって：
 ⇒ロボットの開発者の責任…ロボットに責任がない以上、それを開発した者の責任になる可能性
 ※開発後の事情の責任を負うとなると、研究開発上の問題が発生（リスク負担が重いと、研究すること自体がリスクになる）

 ③自動運転による事故…交通事故に自動運転が関わることで責任者不在の問題→損害の公平な分担
情報収集
情報保有
情報利用 自動運転車による交通事故被害
・アップデートをしなかった場合の事故・サイバー攻撃により自動車の制御がきかず暴走
実装場面で衝突した事故の問題
・運転者の運転の特性を学習したAIによる事故
・人工知能により情報を収集・分析する途中にバグが発生し起こった事故→判断の遅延、人命被害の程度、トロッコ問題などの態様で異なる

補足
 ①事故に当たっての遠隔監視、集中監視システムがある場合、その管理システムの稼働に関与した者の責任も生じうる。

 ②紛争処理に当たって： ⇒既存の事故に自動運転が巻き込まれることで、既存の紛争処理システムをそのまま利用できるかという問
題発生

＜参考＞自動運転をめぐる事故
 ア、海外での事例

 ・2016年2月14日：Googleの自動運転車が路線バスと衝突
 ・2016年5月7日：テスラ車で部分自動運転モード中に死亡事故
 ・2018年3月18日：ウーバー車が自動運転中に歩行者と死亡事故

 ・2018年3月23日：テスラEVが2件目の自動運転モード中の死亡事故
 イ、国内での事例
 ・2019年8月26日：名古屋大学が所有する「ゆっくり自動運転」車両が接触事故

 ・2020年3月10日：BOLDLYの自動運転バスが都内で物損事故
 ・2020年8月30日：産総研の実証実験で接触事案、運転手の判断ミスが要因
 ・2020年12月14日：再起動忘れが原因で自動運転バスがガードレールに接触

④整理
 AIを情報収集・情報保有のシステムと関係するとなると、情報取得・情報保有時に不備が生じることで、実装されたロボットや自動運転車による情報利用時に事故が生じる。

 そのシステムを実装した場合に、ロボットによる事故（ロボットそのもの原因）

自動運転による事故（交通事故への関与）が起こりうる。

不備

不備

事故

情報の取得

情報の保有

情報の利用

（３）誤作動による事故と誤った情報に基づく作動による事故の区別
 ①誤作動＝機械そのものの欠陥の場合…完成品の市場への供給が前提（例：完全な自動運転、完全なロボットの供給）

※むしろ、そこで用いられるデータ（変更性）が重要

 ②誤った情報に基づく作動＝通信を用いることによるデータの誤り、通信遮断、ハッキングなどによる場合…AIそのものの問題ではなく、情報の扱い方の問題
 ③整理…一回的給付の問題から継続的取引の問題へ （情報の利用に当たって、アップデートとメンテナンスの繰り返しが必要であり、保守点検も重要な要素）

（４）紛争処理にあたっての特徴
 ①人による事故の多様性
 ア、事故を起こされる側として、事故を起こす側として
 （多様なステークホルダーを想定＝多数の事故当事者・事故関与者を想定する必要）
 イ、製造者側として、利用者側として、第三者として

 …情報の取得・保有・利用という視点からは、その事故（権利侵害）の範囲が広がり、知らない間に事故と関係性を持つ可能性もある。
事故に当たって関与する者の属性によって紛争形態が異なる点

②相手方選択の多様化…事故類型の多様さ＝責任の追及主体の多様さ→訴訟の乱立の可能性
事案に応じて当事者関係が複雑になる点＜例：自動運転の場合＞
責任主体
運転者
販売店

責任
被害者に対する運行供用者責任
被害者に対する不法行為責任
所有者に対する債務不履行責任

自動車メーカー
被害者に対する製造物責任
部品メーカー（例：センサー、カメラ） 被害者に対する製造物責任
ソフトウェア開発者
被害者に対する不法行為責任
自動車メーカーに対する債務不履行責任
国内企業に限らず→国際民事訴訟の外部データ提供者
被害者に対する不法行為責任可能性
自動車メーカーに対する債務不履行責任
ユーザーに対する債務不履行責任
道路管理者
被害者に対する営造物責任

③科学的不確実性とブラックボックス問題
 →多様な情報が関係…専門的知見の必要性と立証困難
 例：不正アクセス・ハッキングの可能性とその証拠
 →AIのブラックボックス問題は、必要な情報がない（見れない）ことから、真偽不明、証明責任の問題へ

 →紛争の長期化のおそれ（被害者救済のおくれ） cf.専門訴訟である医療過誤訴訟は平均でも2年程度の審理期間証明困難である点

④情報偏在から調査コスト偏在へ →情報があるとしても、情報を取り出すための技術・費用に偏在あり
 →コスト負担の課題（例：デジタルフォレンジック）…調査自体コストがかかるため、その負担から訴訟提起が困難になる可能性もある

コスト負担の問題がある点

⑤再発防止との関係訴訟が再発防止につながるのか不明な点

 →今後の再発防止のためには、情報開示と分析が必要
 →不利な情報である可能性があるにもかかわらず、その開示と分析を一方が負担する必要があるのかという問題あり（例：事故調査報告書の法的性格と文書提出命令）

 ※協力義務・事案解明義務との関係事案解明義務：証明責任を負う当事者が自己の主張につき一応もっともだと思わせる手がかりを示せば、容易に事実を主張し証拠を提出しうる証明責任を負わない当事者が事案の解明に協力すべき義務を負い、この義務に違反すれば、真実擬制という重大な不利益を課せられるというもの

３、民事訴訟で想定される論点とその立証
 （１）当事者選択・訴訟選択の問題
 …被告の特定と被告の選択の負担 ①当事者の属性として、利用者・不利益を被る者が個人の場合、処分権主義に基づき、相手方や請求を明確にする必要

 ※消費者法類似の当事者構造：専門的知識なし、事故に対する調査の方法を知らないなど、当事者間の格差あり

 ②既存紛争解決制度として、訴訟とADRの選択
 ※AI、ロボット、自動運転事故の専門の窓口がない

（２）事故発生場所とその管轄…専門的知見を有する事案の管轄集中
 ①自動運転車やロボットは、過疎地での利用や各家庭での利用が見込まれる …そこで発生した事故は不法行為地（民訴法5条9号）として事故発生地の裁判所管轄になる可能性
 ②専門的知見を有する事案である一方、どこでも起こりうる事故としてあらゆる裁判地の可能性（国際民事訴訟も含む）
 Cf.システム開発紛争は東京地裁で数多く提起され蓄積があるが、旭川医科大学事件では旭川地裁管轄であった。（東京地裁と異なる判断）

（３）電子データの証拠収集
 ①データが残ることが前提となると、そのデータを解析することで事実認定が可能になるが、法廷での再現性等の問題もある。
 ②データがない・データに不備がある場合のその情報の取り扱いをどうするか。（過失・因果関係の認定との関係）
cf.カルテ改ざんによる医療過誤の認定と類似
 ③第三者による介入（不正アクセス等）による事故の場合の証拠の問題あり。（立証困難）

（４）証拠の偏在・証拠の解析
 ①データ解析の専門家の問題
 （例：被告企業しか情報解析ができない場合もあり←専

門分野であればあるほど解析できる者が限られる） ※専門委員、鑑定の役割（(2)の管轄の問題と関連）
 ②相手方の協力義務・事案解明義務的発想の必要

（５）責任判断にあたっての考慮要素
 ①過失責任の場合、分野ごとに責任判断の蓄積あり
 （例：医療訴訟における注意義務判断）
 ②契約訴訟における主張立証の構造と専門訴訟における主張立証の構造の区別 ※システムの問題では、利用当初の契約・合意の問題に収れんされる可能性→AIやロボットも同様か？
 cf.電子カルテのシステム開発の場合、契約の観点から判断（医療現場の事案という特質を無視）
 ③事故の責任を考えるにあたって、情報の更新・アップデートの必要性という観点からの分析も必要（当事者双方の帰責）
 ※AIやロボット、自動運転の場合、「完成品の利用」の問題に限られない点に注意４、AI・ロボット・自動運転をめぐる事故に対する電子証拠の取扱いの問題（訴訟法上の問題）
 （１）裁判における電子証拠の証拠収集

 （例：自動運転におけるEDR＝作動状態記録装置）
 ①記録するデータについて一致した見解なし。
 ⇒制度的な担保がないと、どのような内容のデータが残るのか、そのデータを見ることができるのは誰か等、訴訟での取り扱いが不明確。
 ※現状は、EDRはメーカーが回収。専門の機械でないと情報を取得できない。（見読可能性の問題）
 ②自動運転車には必ず搭載するとしても、情報の開示方法についての議論不十分。
 ⇒自動運転事故の場合に、欠陥があったかどうかを判断する前に搭載EDRが回収されてしまった場合に、消費者の立証が困難になる。
 ※データに対するアクセスができないことで、事故の解析不可能。

最近の制度改正
 国土交通省は、自動車のアクセルとブレーキがどう操作されたかを詳細に記録する装置「イベント・データ・レコーダー（ＥＤＲ）」を、２０２２年７月から新車に搭載するように義務づける検討に入った。今秋にも道路運送車両法の関連規定を改正する。車の暴走事故の際、運転ミスと車の不具合のどちらが原因か、正確に検証しやすくする。（2021年6月29日報道）

 ★暴走運転対策・あおり運転対策⇒実質的には自動運転対策にもなる。

（２）電子証拠の改変可能性
 ①ログによる真正性の担保…改変の防止措置（後から手を加えることのできないシステムによる真正の担保）が必要

 例：更新履歴の保存（例：タイムスタンプによる後日の改変防止のシステム） ⇒システム上の利用権限の制限など、制度的措置をとっていた場合は、真正性が推定される。
 ②情報の解析の負担…管理責任者など権限のある者による書き換え、第三者による不正介入の可能性がある場合、デジタルフォレンジック等の技術による解析等をする必要 ⇒証明責任がある者の証明負担になるが、費用負担が過大になるおそれ ③第三者による改変可能性主張…どこまでの証明を求めるのかという立証の負担の問題が発生（サイバー攻撃の場合、特定困難） ⇒適切な措置をとることで、真正性が推定
 ※制度的担保の充足により原則真正性の推定があるとすると、例外の証明はより高度になる可能性

（３）証拠が改変されていた場合の評価
 ①改変が認定されるための立証負担
 →故意または過失によりデータの改変をしたかどうかの立証は、原則的には原告であるため、証拠の偏在や立証の困難さを考慮することが必要な場面もある。
 ②改変が立証された場合における、事故原因の問題（過失や因果関係）と改変そのものの区別
 →医療過誤訴訟では、証拠の改変によって直接過失や因果関係を認定することは少ない。（証明妨害などによる裁判官の自由心証主義。別の不法行為として評価するにとどまる。）

（４）訴訟における紛争類型による解決の必要性…立証の問題と契約類型の限界
 ①システムの問題として、契約の問題の範疇による解決によると、システムが現場に適さないものになってしまうことへの危惧。
 ②契約類型の問題だけでなく、例えば、医事法等の問題である場合、医療安全の視点を考慮に入れることなど必要。
 ※分野に応じた立証負担・適用の可否等を考える
必要５、AI・ロボット・自動運転に対する開発途上の技術をめぐる紛争とその解決（実体法上の問題）
 （１）課題としての結果責任 …完成品を前提とした責任構造の限界
 →（問題提起）AI・ロボット・自動運転車の社会実装にあたり、完全な製品でない限り、市場に出すべきではないのか？

 →（要請）研究開発が滞ることがないような形での、事故が発生した場合の法的責任を考える必要

（２）今日の開発途上の技術の社会実装のあり方…市場の中でバグを修正して、製品の向上の努める方向性
 →チエンソーの使用による振動障害の罹患につき、安全配慮義務違反が問われた事案（最判平成2年4月20日判決集民159号485頁）

 「戦後における科学技術の著しい発達に伴い、往時とは比較にならぬほど種々の形態の機械器具が開発、利用され、そのため我々の社会、経済生活を営む上で各種の利便ないし利益を享受してきたが、それによってもたらされる危険もまた否定し得ない。社会、経済の進歩発展のため必要性、有益性が認められるがあるいは危険の可能性を内包するかもしれない機械器
具については、その使用を禁止するのではなく、その使用を前提として、その使用から生ずる危険、損害の発生の可能性の有無に留意し、その発生を防止するための相当の手段方法を講ずることが要請されているというべきであるが、社会通念に照らし相当と評価される措置を講じたにもかかわらずなおかつ損害の発生をみるに至った場合には、結果回避義務に欠けるものとはいえないというべきである」（下線著者）として、責任を否定。

（３）分野と対象に応じた責任分担の在り方 ※前掲判例の「相当の手段方法を講ずること」
 →システムの制約条件との関係で、開発者側の立場を理解し、一定の手段方法（対応）を講じていれば免責とする考え方

 →しかし、利用者側の譲れない法益や権利保護場面もあり 例：医療、自動運転車における生命・健康・財産の保護の重要性 ⇒分野と対象に応じた責任分担を考える必要

６、おわりに―技術と社会の一致に向けて （１）解なし問題の責任判断…自由心証主義、証明責任による解決の限界（民事訴訟＝原告の立証困難は敗訴を意味） （２）実体法依存による被害者救済の限界…法的な責任主体の確定の必要性とそこに到達するための立証の乖離（立証負担も責任判断に影響＝訴訟法の視点も必要）
 （３）技術の導入という社会的要請との関係…法的責任と技術導入による利便性・社会への利益のバランス（紛争解決に当たって、訴訟内外における電子証拠への双方からのアクセス・解析が可能となる情報法制の必要） ※今後の課題：電子証拠については、アメリカやドイツで対応規定あり。日本において、どのような規律が必要かを議論する必要あり。