日本軍縮学会
CCW-LAWS-GGE に向けて：2019-2020 の国際社会の議論と論点整理～キラーロボット反対キャンペーンと世界の動き～

特定非営利活動法人難民を助ける会
キラーロボット反対キャンペーン運営委員
櫻井 佑樹

キラーロボット反対キャンペーン
• 2012年10月19日にNYで設立され、2013年4月にロンドンで正式に発足。
• 運営委員会は11団体で構成されており、団体名は以下のとおり。
• 現在65ヵ国164団体が加入。（ICBL55ヵ国、CMC80ヵ国、ICAN101ヵ国）
ヒューマンライツウォッチ、アムネスティーインターナショナル、Article 36、難民を助ける会（AARJapan）、国際ロボット兵器規制委員会（ICRAC）、
Mines Action Canada、Nobel Women’s Initiative、PAX (formerly known as IKV Pax Christi)、科学と世界の諸問題に関するパグウォッシュ会議、Seguridad Humana en América Latinayel Caribe(SEHLAC) 婦人国際平和自由連盟（WILPF）

キラーロボット反対キャンペーン
グローバル・コーディネーター
メアリー・ウェアハム氏ヒューマンライツウォッチ武器局ディレク
ター、2006から08年まではOxfam NewZealandディレクターとしてクラスター爆弾禁止に取り組む。1996・97年はICBLでジョディ・ウィリアムズ氏を補佐。

キャンペーンの目標➢ 法的拘束力のある条約を策定• 武力行使において武器の人間の制御を確保し、• 自律型致死兵器システムの開発・製造・移転を禁止

自律型致死兵器システムがもたらしうる課題• 法律の側面（Legal Argument）• 安全保障の側面（Global Security）• 兵器システムの人間の制御（Human Control of Weapons System)• ジェンダーとバイアスからの視点（Gender and Bias)• 交差性と人種差別（Intersectionality and Racism)交差性と人種差別• 人工知能バイアス問題• 誤爆のリスク• 兵器使用に伴う責任問題• 倫理的問題キャンペーンが求めていること• 武力行使における人間による制御（Human Control）の保持
1. 意思決定面での要素（Decision Making Component）
2. 技術面での要素（Technological Components）
3. 運用面での要素（Operational Components）

キャンペーンが求めていること• 規範的な枠組み（Normative Framework）の必要性
1. 一般的義務（General Obligations）：
2. 禁止（Prohibitions）：

3. 積極的義務（Positive Obligations）：

日本政府への期待• 日本で開催される国際会議において、LAWSの主要論点を取り上げ、その中でも、人間の制御（Human Control）をさらに深掘り。
• 市民社会の同会議への参加。
• 日本のリーダーシップ。

GGEでの議論• 法的規制• 政治宣言• 現状追認

世界の世論（2018年）• 欧米を含む調査した26カ国中、61％が自律型致死兵器システムについては反対。（2017年は53％が反対）• 日本：48％反対、14％賛成【国連安全保障理事会 常任理事国（P5）】
米：52％反対、24％賛成 露：59％反対、18％賛成
中：60％反対、32％賛成 仏：59％反対、16％賛成
英：54％反対、21％賛成• 反対の理由として65％が「道徳的な一線を越えてしまう。なぜならば、機械は人を殺すべきではないから」を選択している。

市民社会の動き• 2013年11月 「殺人ロボットの禁止に向けて」＠東京• 2016年3月 「ロボットが人を殺す未来」＠東京• 2019年2月 「キラーロボットのない世界にむけて」＠東京
中満泉国連事務次長兼軍縮担当上級代表からのビデオメッセージ• 2019年2月 第1回キラーロボット反対キャンペーン アジア・太平洋地域会合＠東京• 2019年3月 第1回キラーロボット反対キャンペーン グローバル会議＠ベルリン• 2019年4月 キラーロボット反対キャンペーン 中央アジア地域会合＠アスタナ• 2019年6月 キラーロボット反対キャンペーン 東南アジア地域会合＠マニラ• 2019年9月 ジュネーブ諸条約70周年記念 国際人道法シンポジウム「自律型兵器システムに対する人間の関与のあり方」＠東京• 2020年2月 第2回キラーロボット反対キャンペーン グローバル会議＠ブエノスアイレス• 2020年7月 オンラインシンポジウム科学技術とリスクコミュニケーション ＠東京

アジア・太平洋地域会合 報告書（成果物）

国会議員との勉強会• 2018年4月 第1回「キラーロボットのない世界にむけた日本の役割を考える勉強会」• 2018年11月第2回「キラーロボットのない世界にむけた日本の役割を考える勉強会」• 2019年2月14日 「自律型致死兵器システム開発規制に関する検討プロジェクトチーム」

https://www.komei.or.jp/komeinews/p22205/• 2019年2月20日 「自律型致死兵器システム開発規制に関する検討プロジェクトチーム」

国連の動き・ 2013年5月 国連人権理事会における「ヘインズ報告」 致死性無人ロボット兵器（Lethal Autonomous Robots）が議題に・ 2013年11月 特定通常兵器使用禁止制限条約（CCW）＊締約国会議 LAWS非公式専門家会合の開催を決定
・ 2014年5月 CCW第1回LAWS非公式専門家会合
・ 2015年5月 CCW第2回LAWS非公式専門家会合
・ 2016年5月 CCW第3回LAWS非公式専門家会合
・ 2016年12月 CCW第5回検討会議→LAWS公式政府専門家会議発足へ
・ 2017年11月 CCW第1回LAWS公式専門家会合
・ 2018年4月 CCW第2回LAWS公式専門家会合
・ 2018年5月 UNSG「軍縮アジェンダ」発表
・ 2018年8月 CCW第2回LAWS公式専門家会合
・ 2019年8月 CCW第3回LAWS公式専門家会合11の「指導原則（Guiding Principal）」を採択
・ 2020年5月 UNSG安全保障理事会のウェブ会議で自律型致死兵器システムを国際法で禁止すべきと訴え。※※CCWでは、多くの国が、武器の使用にあたってはなんからの人間の介在が必要であることで合意

締約国の動き・ 2018年3月 アフリカ連合：LAWSの規制について国を越えて協力するためのセミナーを開催
・ 2018年7月 ベルギー：議会の国防委員会がキラーロボット禁止勧告
・ 2018年9月 欧州連合：議会は自律型致死兵器システムを禁止を求める採択を決議
・ 2019年5月 オランダ：新しい武器の技術の規制に向けて勧告を採択
・ 2019年7月 欧州安全保障協力機構：LAWS禁止の規則作りの交渉開始を支持
・ 2020年2月 ドイツ：議会で自律型致死兵器システムを禁止を求める採択を否決
・ 2020年2月 ブラジル：自律型致死兵器システムに関するセミナー（リオセミナー）・ 2020年2月 アメリカ：軍事におけるAIの倫理的活用のガイドライン発表
・ 2020年2月 ローマ教皇庁：AI利用の倫理ガイドライン
・ 2020年2月 メキシコ：人工知能の将来セミナー
・ 2020年4月 ドイツ：（オンライン）自律型致死兵器システムに関する国際会議（ベルリンフォーラム）ハイコ・マース独外相「人間の生死をロボット兵器自身の判断で決める自律型殺傷兵器は、我々の倫理と人間の尊重の観点から超えてはならないレッドラインである」

民間企業・研究者の動き
・ 2015年7月 FLI：人工知能とロボット工学者からの公開質問状
・ 2017年1月 FLI：アシロマAI23原則
・ 2017年2月 日本人工知能学会：倫理指針
・ 2018年3月 トビー・ウォルッシュ教授らが韓国科学技術院（KAIST）に対して抗議
・ 2019年4月 KAIST：キラーロボットは開発しないと発表
・ 2019年6月 グーグル：AI利用に関する原則を発表
・ 2020年1月 インド工科大学＆ICRC：人道主義とプラットフォームを設立
・ 2020年6月 グーグル：米国国防総省のプロジェクトメイブンを更新しないと発表

国連事務総長の報告（安全保障理事会）“37. It is also important to move expeditiously to addressconcerns over the implications of developments in thearea of lethal autonomous weapon systems. Autonomous
weapons are generally considered to be systems that areenabled to select and attack a target, whether a person oran object, without human intervention. While lethal
autonomous weapon systems are not specificallyregulated by international humanitarian law treaties, it isundisputed that any autonomous weapon system must becapable of being used, and must be used, in accordancewith international humanitarian law. There are, however,important doubts on how lethal autonomous weapon
systems can be used to carry out attacks in a way that
conforms with international humanitarian law. There arealso fundamental moral and ethical issues in allowing
technology to decide whether to take a human life.”

2020年のGGEで議論してほしいこと• 兵器システムおよび武力行使において、求められる人間の制御の質および範囲を決定するのに必要な要因を特定する。
• 法的拘束力のある禁止であろうとその他の形の規制であろうと、各国政府がよいと考えている規範的枠組みおよびその基本的な内容を明らかにする。

まとめ• キャンペーンは、人工知能等の最先端技術の開発や利用の否定しているのではなく、あくまでも軍事利用されて、「機械が人を殺傷する判断・実行をしてよいのか」という点を懸念をしている。
• キャンペーンは、2021年の第6回CCW運用検討会議にて一定の結論がでることを期待している。

関連書籍
参考：長さんと土井さんの対談

2019年7月

2019年9月

関連書籍

議員との勉強会に出席した専門家の著書
2019年9月

出版物等• 「この世界に『人を殺すロボット』はいらない！」• AARはキラーロボット（殺傷ロボット）反対キャンペーンに参加しています（2013年11月13日当会ウェブサイト掲載）

http://www.aarjapan.gr.jp/about/news/2013/1113_1385.html• 「キラーロボットのない世界に向けて」国際会議とシンポジウムを開催しました(2019年3月29日当会ウェブサイト掲載)
https://www.aarjapan.gr.jp/activity/report/2019/0329_2726.html等

関連動画■キャンペーンYouTubeチャンネル
https://www.youtube.com/user/StopKillerRobots■No Country would be safe
https://vimeo.com/281450726■TEDTalk Jody Williams Killer Robots & Human Security (16分)
https://www.youtube.com/watch?v=BbsXjkmvB5I■キラーロボット禁止を求める茂木健一郎氏ビデオメッセージ（2分）
https://www.youtube.com/watch?v=A4-3i2oAzTM■Why We Should Ban Lethal Autonomous Weapons
https://www.youtube.com/watch?v=LVwD-IZosJE

ありがとうございました。

■連絡先：ご意見・ご質問や取材は下記までご連絡ください。
Email：advocacy@aarjapan.gr.jp, yuki.sakurai@aarjapan.gr.jp
電話:03-5423-4511 携帯：080-4753-8384