⽇本軍縮学会 2024 年度研究⼤会
2024 年 5 ⽉ 11 ⽇（⼟）
・慶應義塾⼤学三⽥キャンパス
部会「新興技術と軍備管理・軍縮」「AI の軍事利⽤と通常兵器規制について：AI 意思決定⽀援システムと LAWS/AWS1」
京都産業⼤学・岩本誠吾
１．はじめに―考察の前提(1)兵器の国際法規制：戦時の兵器使⽤の禁⽌・制限に関する⼈道法
平時の兵器開発・製造・保有の禁⽌・制限・管理に関する軍縮法⇒⼈道法と軍縮法の混同は議論の阻害要因(2)兵器の規制⽅法：
・現存兵器の現実的被害の拡⼤を防⽌するために事後に法規制（従来の兵器）・未来兵器の仮想的被害の発⽣を予防するために事前に法規制審議（LAWS/AWS）⇒未来兵器の定義や共通認識のコンセンサス形成は⾮常に困難⇒議論の膠着化⇒開発状況に合わせて新興技術に基づく兵器システム規制の漸進的議論の推進(3)会議体の⼿続き規則：・コンセンサス⽅式（CCW）、多数決（国連総会）、有志連合⽅式⇒軍事⼤国を含む実効性か or 規制レベルの厳格性か、重点の置き⽅が問題(4)兵器規制の様態：国際的なソフト・ローからハード・ローまでのグラデーション・倫理原則・⾏動準則・指針・政治宣⾔・（ソフト・ロー）：政治的コミットメント
・条約（ハード・ロー） ：国際法上の法的義務の発⽣
・先端科学技術領域（宇宙・サイバー・AI）：軍事⼤国間・軍事⼤国と⼩国の対⽴⇒宇宙関連規制はソフト・ロー（総会決議原則・指針）で実務を運⽤⇒サイバー領域規制は有志諸国⾃主作成の軍事教範で実務に対応⇒新興技術規制は０か 100 でなく０から 100 まで多様な次元で状況に応じた対処
２．⺠⽣⽤ AI の規制問題：AI・⾃律技術の領域と規制プロセス(1)三領域の AI 規制（①包括的な⺠⽣⽤、②間接的な軍事⽤、③直接的な AI 兵器）
共通点：⼈と AI の共存・共⽣、⻑所の活⽤・短所の規制、⼈間中⼼の位置付け(2)⺠⽣⽤ AI の規制動向【年表 1 参照】
1

LAWS は Lethal Autonomous Weapons Systems の略で、⾃律型致死兵器システム。
AWS は Autonomous Weapons Systems の略で⾃律型兵器システム。
1

⇒G7、G20、OECD 参加国 56 か国が「⼈間中⼼アプローチ」を⽀持⇒AI 倫理原則・⾏動規範（ソフト・ロー）から AI 法規則（ハード・ロー）へ
・2023/12/06：G7 広島プロセスの最終合意（広島プロセス国際指針・⾏動規範）・2024/03/13：欧州議会が AI 規制法可決(リスク・ベース・アプローチ2、禁⽌と規制)【図１：AI 利⽤領域と規制状況】
⺠⽣⽤ AI：国内⾯・国際⾯で倫理原則・⾏動規範（ソフト・ロー）から法規範（ハード・ロー）へ（ EU の AI 規制法可決）
軍事⽤ AI：軍事利⽤政治宣⾔（ソフト・ロー）＊⼈間中⼼主義＊リスク・ベース・アプローチ

AI ⾃律兵器：無規制状態（禁⽌と規制）＊CCW・国連総会で審議中＊⼈的制御・判断・関与必須＊2 層アプローチ（禁⽌と規制）

３．軍事⽤ AI の規制問題(1)AI 意思決定⽀援システム(AI-Decision Support System, AI-DSS)の活⽤
・露・宇戦争で宇軍が活⽤のパランティア・テクノロジーズ「ゴッサム、Gotham3」
・以・ハマス戦争で以軍が活⽤の対物破壊⽤「ハブソラ、Habsora (The Gospel)4」
対⼈殺傷⽤「ラベンダー、Lavender5」・AI-DSS 利⽤による⽂⺠被害の顕在化（以・ハマス戦争）
軍の将校は根拠となる⽣の情報データを調査せず、ハブソラやラベンダーの破壊殺害リストを全⾯的に承認し、⼈間が AI システム決定にゴム印(rubber stamp)(2)軍事⽤ AI の規制動向【年表 2 参照】 ⾮法的⽂書（ソフト・ロー）⽅式採⽤
2023/2/16：「軍事領域での責任ある AI ⾏動要請」60→57 か国賛同
・前提：軍事領域の AI 活⽤の国際法遵守（前⽂ 5 項）
、潜在的能⼒を認める（2 項）

2

容認できないリスク（使⽤禁⽌）、⾼リスク（厳格な条件付き使⽤）、限定リスク（透明性要件のみ）、最⼩リスク（条件なし）のように、リスクに対応して禁⽌・規制をする。
3
偵察衛星・偵察機・⼀般⼈の SNS からの敵情報・被害状況など膨⼤な情報を収集・分析し、1 ⽇に 300 の攻撃⽬標（敵の位置・部隊規模）を特定し、⾃軍の位置・兵⼒・保有武器の認識や敵の進軍⽅向の予測を含めて、効率的な攻撃法を⽴案・提⾔する意思決定⽀援システム。軍司令官は複数の軍事作戦案の中から選択し、前線の将校に命令を送信する。
4
テロリストのアセットを構成する標的（個⼈住宅、公共施設、インフラ、⾼層ビルなど）を「power target」と定義し、それらをリスト化する AI 標的設定システム。
5
SNS、ドローン映像、携帯電話のデータの監視からハマスやパレスチナ・イスラム聖戦の戦闘員と「看做す」⼈物のプロフィールを作成するシステム。AI は殺害標的である戦闘員の可能性の程度を 1 から 100 までで評価する。
2

・軍事領域の AI 活⽤の利益・リスク・限界の理解を深める必要性（4 項）
・⼈間が軍事領域での AI 利⽤時の決定の責任を負う（6 項）・AI 利⽤の適切な安全措置と⼈間による監視の確保の重要性（12 項）
・グッド・プラクティスや教訓の交換の奨励（14 項）
2023/2/16：⽶主導「AI・⾃律性の責任ある軍事利⽤政治宣⾔」構想 52→54 か国賛同
・責任ある軍事 AI 利⽤の国際的コンセンサス形成、その開発・配備・使⽤の指針化、ベスト・プラクティスの情報交換の基盤・武⼒紛争での AI 利⽤に国際法遵守（序⽂）・軍事 AI 能⼒の利⽤の適切な措置（法的審査、法違反報告制度、法教育）（B 項）
・意図せざるバイアスの最⼩化（D 項）
・システムの能⼒と限界の⼗分な理解が必要、⾃動化バイアスの軽減化（G 項）
・リスクや機能不全を考慮して、実験や保証の厳格性（I 項）・機能不全リスク軽減の安全措置（機能不全の検知・回避解除・不活性化）（J 項）
４．AI ⾃律兵器の規制問題(1) AI ⾃律兵器(LAWS/AWS)規制動向【年表 3 参照】
・追加不要派・政治宣⾔派・法⽂書派の三つ巴⇒後者 2 派対⽴（規制⽅向に軸移動）・禁⽌と規制の 2 層アプローチ、⼈的関与の必要性、合法兵器の詳細な要件化に合意⇒CCW と UN の 2 系統の相乗効果と議論の期限設定（2026）により、議論の推進化(2) 規制議論と技術開発に関する動向の不⼀致
・規制議論の動向：LAWS（対⼈)⇒AWS（対⼈と対物)⇒軍事⽤ AI（意思決定⽀援）「殺⼈ロボ」の印象や「⼈の⽣死を機械に委ねない」との倫理から LAWS 議論先⾏・AI ⾃律技術開発の展開：⺠⽣利⽤→軍事転⽤→兵器応⽤（対物⽤⇒対⼈⽤）
AI 搭載兵器の運⽤領域：海中戦＞海上戦＞空中戦＞地上戦
５．まとめにかえて(1) 3 系統の AI 規制動向の中での LAWS・AWS 規制の位置付け(2)CCW 議論と同時並⾏的に、実戦運⽤中の軍事 AI（AI-DSS）規制議論の進展が必要
軍事⼤国を含む、合法的使⽤の詳細なソフト・ロー化⇒ハード・ロー化(3)近未来兵器の AWS の禁⽌・規制（合法的使⽤条件の明確化）について
CCW 枠内で軍事⼤国を含むソフト・ローからハード・ローへ、⼈道法から軍縮法へ【年表 1：⺠⽣⽤ AI 規制動向】
年⽉ ⽇

⽇本、国際機構、国際会議および各国の⼀般的な AI 関連事項

3

2019

3/29

⽇本・内閣府「⼈間中⼼の AI 社会原則」

4/8

EU「信頼できる AI 倫理指針」

5/22

OECD「AI に関する理事会勧告」の OECD 原則

6/17

中国「次世代 AI ガバナンス原則」公表

6/29

G20 ⼤阪⾸脳宣⾔(G20AI 原則)

10/10

ロシア「2030 年までの AI 開発国家戦略」発表

10/20

欧州議会 AI 倫理枠組み決議

10/20

G20 リヤド⾸脳宣⾔（G20 AI 原則推進国内政策例）

4/21

EU 欧州委員会が「AI 規制法案」公表

9/25

中国「次世代 AI 倫理規範」公表

10/26

ロシア「AI 倫理準則」策定

11/23

UNESCO「AI 倫理勧告」採択

2022

11/30

オープン AI がチャット GPT（⽣成 AI）公表

2023

4/30

G7 デジタル・技術相会合閣僚宣⾔（AI 利⽤ 5 原則合意）

5/20

G7 広島⾸脳コミュニケ（広島 AI プロセス）

6/14

欧州議会が AI 規則法案採択

8

中国が⽣成 AI サービス管理暫定弁法を施⾏

10

国連が諮問機関設⽴（39 名）

10/30

⽶国の AI 規制に関する⼤統領令

10/30

G7 の⾸脳声明、AI 開発者向け広島プロセス国際指針・⾏動規範を公表

11/1,2

英国で AI 安全サミット開催（11/2 に 28＋EU がブレッチリー宣⾔）

2020
2021

⽶国が AI 安全研究所設⽴の表明(11/1)
2024

12/6

G7 が広島 AI プロセスに最終合意（初の包括的国際ルール）

3/13

欧州議会が⽣成 AI を含む AI 規制法を可決（523：46：49）
5 ⽉に EU 加盟国が正式承認、2025 年早期に発効、26 年から施⾏⾒通し【年表 2：軍事⽤ AI 規制動向】
年⽉ ⽇

軍事⽤ AI 関連の国家、国際機構、国際会議

2020

2/24

⽶国防総省「AI 倫理原則」採択

2021

10/22

NATO 国防相理事会「AI 戦略（防衛 AI 責任ある使⽤原則）」合意

2023

2/15,16 オランダ・韓国共催 REAIM サミット(ハーグ)⽶国提唱の「AI・⾃律性の責任ある軍事利⽤政治宣⾔」構想公表「軍事領域での責任ある AI ⾏動要請」(60 か国賛同)
11/9

⽶国作成「AI・⾃律性の責任ある軍事利⽤政治宣⾔」（51 か国賛同）

11/13

⽶国提唱の AI・⾃律性軍事利⽤政治宣⾔の初会合（ニューヨーク）4

12/4,52024

国連・韓国共催「第 22 回軍縮・不拡散合同会議」

2/26,27 REAIM 地域（アジア）協議（シンガポール）
3/19,20 AI・⾃律性の責任ある軍事利⽤政治宣⾔第 1 回全体会議
9/9,10

第 2 回 REAIM サミット(ソウル)予定【年表 3：LAWS/AWS 規制動向】
年⽉ ⽇

LAWS・AWS 関連の CCW、UN、地域会議

2023

2/20

CCW・GGE オンライン⾮公式協議

2/23,24

コスタリカ主催の CELAC 地域会議：33 か国の「ベレン共同声明」

3/6~10

CCW・GGE 第 1 会期（5 つの作業⽂書の提出）

4/20

CCW/GGE 第 1 回会期間オンライン⾮公式協議

4/25,26

ルクセンブルグ主催国際会議

5/2

CCW/GGE 第 2 回会期間オンライン⾮公式協議

5/15~19

CCW・GGE 第 2 会期(GGE 報告書 CCW/GGE.1/2023/2)

7/22

事務総⻑「我々の共通の課題：政策概要 9 平和のための新課題」

9/5,6

トリニダード・トバゴ主催地域会議(CARICOM 宣⾔)15 か国・地域

10/5

国連事務総⻑と ICRC 総裁の共同要請（2026 年までに法⽂書）

11/1

国連総会第 1 委員会で LAWS 決議採択(164：5：8）

11/15~17 CCW 締約国会議

2024

2025

12/22

国連総会で LAWS 決議採択(152:4:11)

3/4~8

CCW・GGE 第 1 会期

8/26~30

CCW・GGE 第 2 会期

9事務総⻑の LAWS 報告書を国連総会に提出？

国連総会第 1 委で議題「LAWS」議論

11/13-15

CCW 締約国会議

12/?

国連総会での議論および決議採択？
CCW・GGE の 10 ⽇間開催（可能な限り年末までに報告書作成）
CCW 締約国会議

2026

CCW・GGE の 10 ⽇間開催
CCW 第 7 回再検討会議

5