自律型兵器久木田水生1

参考• 久木田他、『ロボットからの倫理学入門』、第 7 章「良いも悪いもリモコン次第？」。
• 川口礼人「今後の軍事科学技術の進展と軍備管理等に係る一考察：自律型致死兵器システム（LAWS）の規制等について」、『防衛研究所紀要』、19(1), 213-231,
2016 年 12 月。
• 岩本誠吾、「ＡＩ兵器をどう規制するか」、『世界』、第 925 号、2019 年。
• 久木田水生、「ロボット兵器の倫理的問題：殺人の自動化というテクノロジー」、『世界』、第 925 号、pp. 123-130、2019 年。

2

致死的自律型兵器システム
Lethal Autonomous Weapons Systems、略して LAWS と呼ばれる。標的の選定から致死的攻撃を加えるまでを自動的に遂行する兵器システム。
Human Right Watch、The Campaign Against Killer Robot、Future of Life Institute な
どの NGO が反対している。
政府間レベルの議論としては、2013 年にジュネーヴの国連オフィスで自律型兵器に関する政府間協議が行われた。2014 年以降、CCW の枠組みで議論が継続され、2017年からは「LAWS に関する政府専門家会合」が開催されている。これは 2020-21 年にも継続して開催されることが決定されている。自律型兵器の問題は 2019 年 9 月-10 月には国連総会でも取り上げられた。
しかし、何をもって自律型兵器システムとするかの定義そのものが難しく、議論はなかなか進んでいない。
3

なぜ定義がむずかしいのか

特定の原理、技術、効果によって定義されているのではなく、「自律性」によって定義されている。
自律性は 0 か 1 ではなく、様々な程度を持つ。

4

参考：自動運転車（autonomous vehicles）のレベル

レベル 0

すべての操作を人間が行う

レベル 1

スピード調節、あるいはステアリングのどちらかをシステムが制御する

レベル 2

スピード調節とステアリングの両方をシステムが制御する

レベル 3

全ての運転タスクをシステムが制御するが、必要な時は人間が介入する

レベル 4

特定条件下ですべての運転タスクをシステムが制御する

レベル 5

常にすべての運転タスクをシステムが制御する

5

自律型兵器のレベル

自律型兵器についての議論では、その運用において「人間がループの中にいるhuman-in-the-loop」状態と「人間がループの上にいる human-on-the-loop」状態と「人間がループの外にいる」状態が区別される。
意思決定の部分で人間が介入しなければならないのが「人間がループの中にいる」状態である。「人間がループの上にいる」状態では、全ての段階が機械によって自動的に遂行され、人間はそれを監督し、必要な時には介入するだけでよい。「人間がループの外にいる状態」では兵器システムの運用において人間は全く介入しない。

6

7

IAI 製の滞空弾薬 Harop。半自律モードでも完全自律モードでも運用できる。Julian Herzog 撮
影。CC-BY 4.0 https://creativecommons.org/licenses/by/4.0/deed.ja。Wikimedia
Commons（https://commons.wikimedia.org/wiki/File:IAI_Harop_PAS_2013_01.jpg）
よりダウンロード。

8各国の姿勢2020 年 3 月の時点で公に自律型兵器の禁止を求めている国は 30ヵ国に上る。その多くは非同盟運動参加国（22ヵ国）である。OECD 加盟国では唯一、オーストリアが禁止を求めている。中国は自律型兵器の使用の禁止を求めているが、開発あるいは生産は禁止するべきではないという立場である。これに対して、自律型兵器に関する条約を制定する交渉にはっきりと反対を表明している国は、オーストラリア、フランス、イスラエル、韓国、ロシア、トルコ、米国、英国である。
Cf. Campaign to Stop Killer Robot “Country views on killer robots”, March 11, 2020.
https://www.stopkillerrobots.org/publications/）。

9日本の姿勢

日本は自律型兵器の開発は行わないと表明しているが、その一方で人間による有意味な制御を伴う自律型兵器については「ヒューマンエラーの減少や，省力化・省人化といった安全保障上の意義がある」としており、致死性のない、あるいは人間による有意味な制御を伴う自律的兵器システムの研究開発は、規制されるべきではない、としている。

Cf. 外務省、「自律型致死兵器システム（LAWS）に関する政府専門家会合に対する日本政府の作業文書の提出」、2019 年 3 月 22 日。
https://www.mofa.go.jp/mofaj/press/release/press4_007229.html

10暫定的な総括

これまでの議論の一つの総括として出された 2019 年の政府専門家会合の報告書では、「指導原則（the guiding principles）」として、自律型兵器の開発・使用にも国際人道法が完全に適用されること、文民に対するリスクが十分に考慮されるべきこと、開発や使用に関する答責性（accountability）が保証されなければいけないということなどが明記されると同時に、「自律的テクノロジーに研究開発が、兵器システムに利用できるという理由だけから制限されるべきではない」ということも主張されている。

Cf. CCW/GGE “Report of the 2019 session of the Group of Governmental Experts on
Emerging Technologies in the Area of Lethal Autonomous Weapons Systems”,
September 25, 2019. https://undocs.org/en/CCW/GGE.1/2019/3

11

開発の現状現在、自律型兵器の開発を推進していると考えられている国は米国、ロシア、中国、イギリス、イスラエル、韓国などである（ただし完全自律型の兵器を持っていると明言している国はない）。それ以外の国においても兵器の自律性を高める研究は進められている。
米国の例を挙げると、米防省は 2000 年代の初頭から戦場の無人化を推進せよという議会からのプレッシャーを受けて、遠隔操作されるロボットによる爆発物の除去、無人飛行機（UAV；ドローン）による偵察、情報の収集、爆撃などを行なってきた。もはやこういったロボットやドローンなしでの作戦はありえないと軍関係者は評価する。

12

開発の現状
その一方で米軍は、人間の監督と命令なしに致死的行動をとるような完全自律型兵器についてはそれほど前向きではない。ポール・シャーレによれば「米軍の風土には、無人システムに作戦任務を委ねることに強い反発がある」という（Cf. ポール・シャーレ、『無人の兵団』、p. 99）。作戦行動を主導するのはあくまでも人間で、兵器システムはそれをサポートするもの、ということだ。とは言うものの国防高等研究計画局（DARPA）の中では自律型兵器システムに応用できるテクノロジーの研究開発が進められている。DARPA の役割は、その創設以来、米国がテクノロジーにおいて他の国に不意打ちされること――スプートニク・ショックの再来――を防ぐことである。自律型兵器システムの開発においても、米国が他の国に後れを取ることがあってはならない。DARPA では自律型兵器システムにとって中核となる機能である目標自動識別の性能を上げるために深層学習を利用することが試みられている（シャーレ、上掲書、第 5 章）。
13

開発の現状

上述したように米国防省は、こういったテクノロジーを完全自律型兵器システムに応用して戦場で使うことにそれほど積極的ではない。米国防総省副長官のロバート・
ワークは．米軍は「致死的行動を取るという判脈を下す権威を機械に委譲しない」と主張しながら、しかし競争相手がそうするつもりである場合には「どうすれば最もよく対抗できるか決めなければならない」と述べている。この言葉の背景にはロシアや中国が自律型兵器の開発を急ピッチに進めていることがある。

Cf. Guizzo, E. and Ackerman, E. “Do we want robot warriors to decide who lives ordies?”, IEEE Spectrum, May 31, 2016.
http://spectrum.ieee.org/robotics/military-robots/
do-we-want-robot-warriors-to-decide-who-lives-or-dies14

自律型兵器に対するよくある批判• 戦争法に反する。
• 責任の所在が不明確になる。
• 戦争へのハードルが下がる。

15

国際人道法に反する？

• 自律型兵器に国際人道法を守らせることが出来るか。
• 兵器そのものに関する法：不必要な苦痛を与える兵器（例：ダムダム弾）、無差別的性質を持つ兵器（例：生物兵器、核兵器、化学兵器）、環境破壊兵器（例：枯葉剤）は禁止されている。
• 兵器使用に関する法：区別原則（戦闘員と非戦闘員などの区別をしなければならない）、比例原則（大きすぎる付随的損害を引き起こしてはいけない）、予防原則（文民被害を最小限にする予防措置を実施し、かつ同じ効果なら文民被害を最小にする手段を選択しなければいけない）。

16区別原則、比例原則、予防原則を守れるか• 技術的水準の問題で、人工知能が原理的にこれらを人間レベルで守れないという理由はない。
• 恐怖や憎しみによって判断を狂わされることがない人工知能・ロボットの方が倫理的に行動できる、と考える論者もいる。

17

責任の所在• 自律型兵器はそれを操作している人間がいないので、自律型兵器によって戦争犯罪に当たるようなことが行われたときに誰が責任を取るべきかが不明になる、と言われる。
• しかし自律型兵器に関しては、責任を取る主体をあらかじめ決めておけば良いと思われる。
• 自律型兵器といっても勝手に飛んで行って戦闘を行うわけではない。
• 責任の所在をあらかじめ明確にしておくことは必要だが、責任とれる人間がいないと悩む必要はない。

18

戦争へのハードルが下がる• この可能性は十分にある。
• 現在、アメリカが使用している遠隔操作される無人爆撃機（ドローン）による戦争の実態を見れば、その危惧は現実的である。

19

ドローンの戦争

Cf. Scahill, The Assassination Complex: Inside the US Government’s Secret Drone
Warfare Programme, Simon & Schuster, 2017.

• オペレーターはアメリカ国内の基地からドローンを操縦する。
• オペレーターは攻撃される心配がない。
• ドローンは標的を常時監視している。
• ドローンが配備されている基地はしばしば攻撃が行われる場所から何百キロも離れている。

20

ドローンの戦争• ドローンによる攻撃は交戦地域の外で行なわれ、標的以外の多くの民間人を巻き添えにしている。
• 標的は、テロリストであることが確定している相手ばかりではなく、「生活パターン」や社会的ネットワークからの推測によって行なわれている。

21

ドローンの戦争から自律型兵器の戦争へ• ドローンはすでに戦争の戦い方を大きく変えている。
• ドローンは味方の兵士をリスクに曝す必要性をなくす代わりに、敵側の民間人に犠牲を強いている。
• このことは戦争倫理に反している。
• 自律型兵器はこの傾向をさらに推し進める可能性が大きい。

22

ドローンの戦争

アメリカやイスラエルはドローンによる攻撃は従来の航空戦力での攻撃に比べて精密であり、それゆえ民間人の犠牲を少なくすることができる、と宣伝している。しかし実際のところ、ドローン攻撃は期待に反して多くの民間人の犠牲者を出している。例
えばアメリカによって 2004 年から 2013 年の間にパキスタンで行なわれた 401 回のドローン攻撃によって、およそ 400 人から 950 人の民間人が殺されたと見積もられている。

Ann Rogers, “Investigating the relationship between drone warfare and civilian
casualties in Gaza”, Journal of Strategic Security, 7(4), pp. 93-107, 2014.

23

ドローンの戦争

2012 年 5 月から 9 か月にわたってアフガニスタンで遂行された「ヘイメイカー」作
戦では、ドローン攻撃によって殺された標的 19 人に対して標的以外の人間は 155 人も殺されていた。その一方でドローンを使わない作戦では標的 13 人に対して、標的以外は 2 人しか殺していない。
Jeremy Scahill and the Staﬀ of The Intercept, The Assassination Complex: Inside theGovernment’s Secret Drone Warfare Program, Simon & Schuster Paperbacks, 2017.

24

軍事技術における革命

Future of Life Institute, “Autonomous weapons: An open letter from AI & robotics
researchers”, https://futureoflife.org/open-letter-autonomous-weapons/• 人工知能研究者のスチュワート・ラッセルらは、自律型兵器が火薬、核兵器に次ぐ、軍事技術における「第三の革命」を引き起こす、と警鐘をならす。
• 新しい軍事技術は戦争の戦われ方、国際政治経済におけるパワーバランスを変化させ、予測のできない影響をもたらしうる。
• それゆえそのような技術に対しては慎重である必要があるだろう。

25