AV’s Design Defect in Trolley Problem Derivatives
Focusing upon Dilemma Situations

1

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

2

R.M.B. ;-)2017年11月 弘文堂

増補版 2019年10月 弘文堂

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

3

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
コーネル大学[法科]大学院留学• 1989-91
1989-90: 修士課程
1990-91: 研究生（『CORNELL INT’L LAWJOURNAL』編集員）• 2011-12: 客員研究員

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

4

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
1990-91: 研究生 （『CORNELL INT’L LAW JOURNAL』編集員）

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

5

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉

１９９２年１２月『NBL』
欠陥基準が、主に３種に分類される案を日本に紹介。

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

6

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉

1. 製造上の欠陥 (無過失責任)
2. 設計上の欠陥
3. 指示警告上の欠陥_______________________________________________.

-その他； e.g., ↓res ipsa loquitur
per se defectfood products

RESTATEMENT (THIRD) OF TORTS: PROD. LIAB. §§2-4, 7 (AM L. INST. 1998).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

7

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
設計上の欠陥基準
A product is defective when, at the time of sale or distribution, it
contains a manufacturing defect, is defective in design, or is defective
because of inadequate instructions or warnings. A product:(a) . . . ;(b) is defective in design when the foreseeable risks of harm
posed by the product could have been reduced or avoided by
the adoption of a reasonable alternative design by the seller
or other distributor, or a predecessor in the commercial chainof distribution, and the omission of the alternative design
renders the product not reasonably safe;(c) . . . .
RESTATEMENT (THIRD) OF TORTS: PROD. LIAB. §2 (AM. L. INST. 1998)[hereinafter referred to as “PROD. LIAB. RESTATEMENT”].
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

8

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉“RAD ”(*) would reduce/avoid the risks of harm+) omission of the RAD renders the Product not reasonably safe
(ラッド)____________________________________________________________________________“dual requirement”(*) Reasonable Alternative Design

起源は、過失責任時代の「採用し損ねた予防策」“Untaken Precautions”
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

9

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
Section 2(b) requires not only proof of the availability of areasonable alternative design, but also a finding that thefailure to adopt a reasonable alternative renders the productnot reasonably safe. The dual requirement was included tohighlight the point that an alternative design may deprive theproduct as manufactured by the defendant of importantfeatures which make it desirable and attractive to many
consumers. The mere availability of a safer design does
not, ipo facto, mean that the actual design is defective.
James A. Henderson, Jr. & Aaron D. Twerski, Essay: Intuition and Technology in
Product Design Litigation: An Essay on Proximate Causation , 88 GEO. L.J., 659,666 n.40 (2000)(emphasis added).

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

10

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
d. Design defects: general considerations. . . . .

....
Assessment of a product design in most instances
requires a comparison between an alternative
design and the product design that caused the injury,
undertaken from the viewpoint of a reasonable
person. That approach is also used in administering
the traditional reasonableness standard innegligence.
PROD. LIAB. RESTATEMENT §2 cmt. d (emphasis added).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

11

PROD. LIAB. RESTATEMENT §2 cmt. f
When evaluating the reasonableness of adesign alternative, the overall safety ofthe product must be considered. It is not
sufficient that the alternative design would
have reduced or prevented the harmsuffered by the plaintiff if it would also
have introduced into the product otherdangers of equal or greater magnitude.
(emphasis added).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

12

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
James A. Henderson, Jr.
and Aaron D. Twerski,What Europe, Japan, andOther Countries Can
Learn from the American
Restatement of Products
Liability, 34 TEX. INT’L L.J.
1 (1999).

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

13

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉

製造物責任法の三極比
１９６５年 2d Rest.§402A

１９９８年 3d Rest. Prod. Liab.

US“consumer expectation test”“deviation-from-the-norm test”“RAD + cost-benefit-analysis test”

EU
１９８５年 Product Liability Directive“[a product does] not provide the safety which a person is entitled to expect”

JPN
See id.

１９９４年 製造物責任法「通常人」の基準 ／ 「通常有すべき安全性を欠く」

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

14

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉
2011-12: Cornell L. Sch.
客員研究員

平野晋 「製造物責任法リステ
イトメント起草者との対話：日本の裁判例にみられる代替設計『RADラッド』の欠陥基準」『NBL』 1014号40頁(2013年12月1日, 商事法務).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

15

直伝： 第三次リステイトメント製造物責任共同起草者の説く〈設計上の欠陥〉「採用し損ねた予防策」

平野 「起草者との対話」 supra, at 44-45.
.

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

16

直伝： 第三次リステイトメント製造物責任共同起草者の説く〈設計上の欠陥〉「採用し損ねた予防策」

Id. at 45.
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

17

直伝： 第三次リステイトメント製造物責任
共同起草者の説く〈設計上の欠陥〉

主な裁判例• フードパック• こんにゃくゼリー• McMahon v. Bun-O-Matic Corp., 150 F.3d 651 (7thCir. 1998)(Easterbrook, J.)• 名古屋空港エアバス中華航空機落着事故• Dawson v. Chrysler Corp., 630 F.2d 950 (3rd Cir.
1980)(dictum).
• THIRD RESTATEMENT PROD. LIAB.§2 cmt. f.
See id. at 45-47; 平野晋 「イースターブルック判事の法廷意見と『法と行動科学(認知心理学)』――ホット・ドリンク火傷訴訟『Liebeck』事件に於いて高額評決が付与されたのは何故か 」 『小島武司先生古稀祝賀・民事司法の法理と政策(下巻)』 213～54頁(2008)(「McMahon事件」を紹介分析); 平野晋『ロボット法：ＡＩとヒトの共生に向けて(増補版)』（弘文堂, 2019）; JAMES A. HENDERSON, JR. & AARON D.
TWERSKI, PRODUCTS LIABILITY: PROBLEMS AND PROCESS 257-66 (7th Ed., 2011)(「Dawson事件」を紹介分析).

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

18

Dawson v. Chrysler Corp.

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

19

此処からトロッコ問題

2018年11月
OECDAI専門家会合@パリ16区

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

20

Trolley Problem Derivatives

平野晋 「ロボット法と派生型トロッコ問題：主要論点の整理と、AIネッ
トワークシステム研究開発８原則」『NBL』1083号 29, 34-35頁(2016年10月1日, 商事法務).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

21

Trolley Problem Derivatives↑
2016年11月
OECD パリ16区→
2017年10月
OECD パリ16区↑
2017年01月
カーネギー平和財団
D.C.

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

22Trolley Problem / Dilemma Situation
Judith Jarvis Thomson, The Trolley Problem,
94 YALE L.J. 1395 (1985).

“The founding mother of the trolley
problem”

Bystander at the Switch

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

23

Bridge Problem
bridge rail

center line(1)

w. 1 occupant(2)

bridge rail

Drawn by Hirano based upon hypos. in Clive Thompson, Relying on Algorithms and Bots Can Be Really, Really
Dangerous, WIRED, Mar. 25, 2013, available at https://www.wired.com/2013/03/clive-thompson-2104/ (last visited Oct.
25, 2016) (originally in Gary Marcus, Moral Machines, New Yorker Blogs, No. 27, 2012, available at
http://www.newyorker.com/news/news-desk/moral-machines (last visited Oct. 25, 2016)); Jeffrey K. Gurney, Crashinginto the Unknown: An Examination of Crash-Optimization Algorithms through the Two Lanes of Ethics and Law, 79 ALB.
L. REV. 183, 261 (2015-2016).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

24

Bridge Problem• Suppose that a school bus suddenly enters theAV’s lane.
• Suppose that the AV has only two options;(1) to go straight and kill 30 children and one driver inthe school bus; or(2) to turn right and kill the occupant of the AV.

• The manufacturer might prefer (1), while
utilitarians might recommend (2).

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

25

Application / Analysis

AIGO’s 2nd meeting at OECDin Paris, Nov. 12, 2018

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

26

Application / Analysis••••

設計選択―design choice―の問題。
すなわち、〈典型的な設計上の欠陥―classical designdefect―〉の問題。
メーカの⊿が、(1)スクール・バスに衝突する進路という設計を選択していた場合、バスの遺族πは、RADとして(2) AVが欄干から谷底に落ちる選択をすれば学童が死なずに助かったと主張し、そのRADのメーカ⊿による不採用がAVを理不尽に危険にさせた、と主張する。
他方、メーカ⊿が、(2)欄干から谷底に落ちる進路という設計を選択していた場合、AV乗員の遺族πは、RADとして(1)スクール・バスに衝突する進路という設計を選択すればAV乗員が死なずに助かったと主張し、そのRADのメーカ⊿による不採用がAVを理不尽に危険にさせた、と主張する。

AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

27

Application / Analysis• 功利主義的な基準であると解釈すれば、メーカ⊿による、欄干から落下する進路(2)の選択は、一人のAV乗員の犠牲によって多数の学童を救うから、reasonableであって設計上の欠陥ではない。
• 逆に云えば、スクール・バスに衝突する進路(1)の選択は、多数の学童の犠牲の下に一人のAV乗員しか助からないから、not reasonablesafeであって設計上の欠陥である。
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

28

Application / Analysis• [絶対的]義務論的な基準であると解釈すれば(*)、多数の命を救う為に少数の命を〈道具〉として犠牲にすることが一切許されない。
• ∴ 欄干からAVが落下する進路(2)は、AV乗員の命を、スクール・バスの多数の学童の命を救う為の〈道具〉として扱うから、not reasonable safeであり設計上の欠陥。
• しかし、スクール・バスに衝突する進路(1)も、学童の命を、AV乗員の命を救う為の〈道具〉として扱うから、notreasonable safeであり、やはり設計上の欠陥になってしまうのではないか . . . 。
(*) W. Bradley Wendelは、義務論的な基準であるという解釈が妨げられていないから、義務論を採用する陪審員が評議すれば、多数の学童を救う為にAV乗員を犠牲にする設計が欠陥であると評決され得ると主張している。 W.
Bradley Wendel, Economic Rationality and Ethical Values in Design-Defect Analysis: The Trolley
Problem and Autonomous Vehicles, 55 CAL. WESTERN L. REV. 129 (2018).
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations

29

Application / Analysis• [絶対的]義務論的な解釈は、機能しないのではないか。
• 機能するのは寧ろ、功利主義的な解釈かもしれない。
• そもそも功利主義的な解釈の方が、素直なのではないか。
• reasonableness ≈ B<PL→Negligence• Mark A. Geistfeld, A Road Map for Autonomous

Vehicles: State Tort Liability, Automobile Insurance,and Federal Safety Regulations, 105 CAL L. REV. 1611,

1647-50 & n.150 (2017).
• 前掲PROD. LIAB. RESTATEMENT§2 cmt. f.

• しかし、消費者期待には反するかも . . . 。

• Jean Fançois Bonnefon et al., The Social Dilemma of Autonomous
Vehicles, SCIENCE, Vol.352, Issue 6293, 1573 (June 2016)論文.

• 他方、いわばbystandersであるスクール・バス側の期待も、消費者期待と同様に考慮すべきかも . . .
AV’s Design Defect in Trolley Problem Derivatives Focusing upo Dilemma Situations30

2017 German Ethics Commission Report
ドイツの自動運転の倫理規範は、義務論を採用している。

(emphasis added)

https://www.bmvi.de/SharedDocs/EN/p
ublications/report-ethicscommission.pdf?__blob=publicationFile(last visited Nov. 22, 2021).
2017 German Ethics Commission Report on Automated and Connected Driving

31

2017 German Ethics Commission Report(emphasis added)

2017 German Ethics Commission Report on Automated and Connected Driving

32

2017 German Ethics Commission Report(emphasis added)

2017 German Ethics Commission Report on Automated and Connected Driving33

Criticism of the 2017 German Ethics Commission Report『NATURE』誌のMoral Machine Experiment論文も、2017 German Ethics Commission Reportと大衆嗜好との齟齬を以下のように指摘：

Consider, as a case in point, the ethical rules proposed in 2017 by the German Ethics
Commission on Automated and Connected Driving []. This report represents the firstand only attempt so far to provide official guidelines for the ethical choices ofautonomous vehicles. As such, it provides an important context for interpreting ourfindings and their relevance to other countries that might attempt to follow theGerman example in the future. . . . . On the other hand, German Ethical Rulenumber 9 does not take a clear stance on whether and when autonomous vehicles
should be programmed to sacrifice the few to spare the many, but leaves thispossibility open: it is important, thus, to know that there would be strong public
agreement with such programming, even if it is not mandated through regulation.
Jean François Bonnefon et al., The Moral Machine Experiment, 563 NATURE 59, 60 (Nov. 1, 2018)(emphasisadded).

2017 German Ethics Commission Report on Automated and Connected Driving

34

Thank You

国際情報学部 | 中央大学 (chuo-u.ac.jp)

35