AIと賠償責任に対するヨーロッパの視点

2022年夏以降、欧州、米国、英国はそれぞれ、AIと責任、 AIの開発と展開を形成するための[原則と実践](https://www.whitehouse.gov/ostp/ai-bill-of-rights/)、そして[AI規制への前向きなアプローチ](https://www.gov.uk/government/publications/establishing-a-pro-innovation-approach-to-regulating-ai/establishing-a-pro-innovation-approach-to-regulating-ai-policy-statement)をまたがるAIに関する新しい政策と規制の提案を行っています。 

本ブログでは、欧州委員会がAIを活用した製品やサービスの欠陥や不具合が被害をもたらし、個人が責任追及として提起する可能性がある場合に、個人や組織への期待を示した「AI Liability Directive (AI賠償責任指示書案)」を公表したことについてお話しします。

*なぜこれが重要なのか:* 欧州委員会の提案は、消費者向けの製品やサービスにAIを活用する組織に対する期待を示しています。そして、このシグナリングは、強力なAIガバナンスの実践を開発し、実施するための有用な推進力となります。

## 欧州における賠償責任と AI
2020年にAIと賠償責任に関する複数の報告書が発表されたことを受け、2021年に欧州委員会は、「Product Liability Directive 1985 (製造物責任指示書1985)」がAIのような新しい技術に適していないことを示す[パブリックコンサルテーション](https://digital-strategy.ec.europa.eu/en/news/commission-collects-views-making-liability-rules-fit-digital-age-artificial-intelligence-and)を発表しました。2022年9月末、欧州委員会は「AIに関する各国の責任規定の調和を図り、AI関連の損害の被害者が補償を受けやすくする」ことを目標とした指示書案を発表しました。範囲としては、この指示書案は、契約上の過失によらない民法上の請求（AIシステムによる欠陥による個人への被害）に関する共通ルールの確立に関わるものです。この指示書の主な特徴は以下の通りです。

1. 請求者が金請求を立証するための高リスクAIシステムに関する証拠の開示について
2. 開示される情報に対する期待と条件
3. 損害賠償請求のための国内裁判所への提訴における立証責任について

AIを活用した消費者向け製品やサービスを持つ企業にとって、個人による賠償請求がどのように行われるかという条件は重要です。現段階では、企業に何が期待されているのか、そしてその期待が提案されているAI法とどのように合致するのかを理解することが、同法と指示書の両方に対する将来のコンプライアンスをサポートするベストプラクティスを組織が準備するのに役立つ可能性があります。

*重要な注意事項：筆者は責任法や政策の専門家ではないので、このブログは、なぜ、何を、どのように（あるいは法的メカニズム）理解したい読者に最も適した内容となっています。*


#### その理由:
EU全域でこれらの規則を調和させることには、個人の権利と請求能力の一貫性を確保すると同時に、EU内で事業を行う企業全体への期待という点での一貫性を確保するという、2つの戦略的ゴールが存在します。前者については、AIと賠償責任に関する2021年のパブリックコンサルテーションで、個人がAIシステムに関する十分な情報を持ち、主張を立証できるようにする能力など、困難な領域が明らかになりました。

この指示書は、欧州における一貫した規制の枠組みを構築するための重要なステップで、提案されているAI法を基礎とし、市民の信頼とそれによるAIの取り込みについて「AIに関する協調行動計画 (Coordinated Action Plan on AI)」の戦略的ゴールをサポートしようとするものです。AI法の製品安全アプローチによる規制は、高リスクのAIカテゴリーに新たな要件を関連付けるリスクベースのシステムを構築していますが、損害や被害が生じた場合の個人の権利については触れていません。提案されているAI賠償責任指示書案は、このギャップを埋めるのです。

#### 何が：
AI賠償責任指示書は、AI法のリスクベースのアプローチではリスクや被害を実際に根絶できない部分を補うものです。そうすることで、AI法にある高リスクのAIシステムに関連する要件の施行メカニズムとして見ることができます。この関係は、コメンテーターがAIを活用する一部の組織を混乱させると指摘している第3条と第4条を見直すと、より深くなります。

要するに、証拠の開示と立証責任に関して、この指示書は、個人が申し立てを行った場合、いつ、どのように、そしてどのような情報を共有すべきかについての期待を定めているのです。*第3条：証拠の開示と非準拠の反証可能な推定：*

1. 主張する個人が組織から証拠を集めようとしたが受け取れなかった場合、裁判所はその証拠を要求するために介入することができます。
2. このような介入を行うには、個人は主張を裏付ける事実と証拠を提示しなければなりません。
3. このような要求が裁判所によって行われる場合、組織の特権情報に関していくつかのセーフガードと、必要かつ主張の内容に見合った証拠に関する制限が設けられることになります。

これらの介入は、2021年のコンサルテーションで提起された疑問点に対応するものです。これには、一部のAIシステムがもたらす課題が含まれ、特に「ブラックボックス効果」は、個人が過失と因果関係（経験した被害がAIシステムのせいであることの別名）を証明することを困難にすると指摘されました。

#### その（表面的な）方法
*第4条：過失の場合における因果関係の反証可能な推定*では、被告組織の過失が判断されるシナリオが検討されています。これらのシナリオのうち2つは、本指示書の戦略的成果、すなわち欧州におけるAIに関する首尾一貫した規制エコシステムを構築することと共鳴します。

この2つのシナリオのうちの1つは、裁判所が証拠開示の命令を出しても応じない場合に、被告組織の過失を推定できる場合を指します（上記のとおり）。 

もう1つのシナリオは、組織の高リスクAIシステム（AI法によって判断される）が、AI法に定められた義務を完全に遵守して配備された場合を指します。このシナリオでは、被告は、個人が行った主張を証明するために十分な証拠と専門知識が合理的にアクセス可能であることを証明することができます。欧州委員会は、このシナリオを、AI法が施行された後にそれを遵守するインセンティブになると考えています。

高リスクでないAIシステム（AI法上の高リスクシステムとは異なる）については、システムの不具合と損害の関係を証明することが極めて困難であると認められる場合、裁判所は、両者の因果関係を推定することができます。

#### 振り返り
AI法が発表された当時、より広いAIエコシステムの隅々では、なぜ賠償責任が省かれたのかと問う声が聞かれました。にもかかわらず、我々は、提案された指示書から、欧州委員会が、個人の責任主張を立証するための有意義な権限を与えつつ、その戦略的成果（冒頭で述べた）を達成する方法を模索していることを受け止めることができます。

消費者向けAIを活用する組織の観点から、注意してください（より良い方法は、法務チームに注意するよう依頼することです）。ここでの提案は、個人による請求を調査するためにAIシステムに関する重要な情報を要求する、各国の裁判所の潜在的な将来の権限を示しています。この指示書によると、AI法の高リスク要件に準拠することで、組織がその情報を容易に入手できるようになることが期待されます。

顧客向けAIが高リスク要件への準拠を命じられていない組織の場合、顧客に危害を与えるかもしれないリスクは、賭けをヘッジするために高リスク要件への準拠を正当化するものなのかが社内で問われることになるかもしれません。あるいは、このような質問は、指示書の管轄下で行われる将来の主張を確実に実現する方法を視野に入れ、優れたAIガバナンスとは一般的にどのようなものかに焦点を当てることになるでしょう。


## AIガバナンスと規制についてさらに詳しく知りたいですか？
AIガバナンスが実際にどのようなものであるか、世界の規制の状況を包括的な状況などについて、[こちら](https://pages.dataiku.com/ai-governance)をご覧ください。


原文：[*A European Perspective: AI and Liability*](https://blog.dataiku.com/a-european-perspective-ai-and-liability)