H31-487
人工知能の軍事技術への導入に関する調査： 市民社会と科学技術政策からの分析
明治大学専任教授

勝田忠広

1. 調査研究の⽬的
殺⼈ロボット兵器とも呼ばれる⾃律型致死兵器システム(Lethal Autonomous Weapon System:LAWS)は、本当に恐怖すべき対象なのだろうか。本研究では、LAWS を巡る国際的な議論について、科学的な根拠に基づく独⽴した⽴場からの分析を通して、新しい科学技術に翻弄されない市⺠社会の在り⽅を求めることを⽬的とする。まず LAWS に関する国内の利害関係者への意識調査と最新の技術動向を調査し、⼈⼯知能(Artificial Intelligence: AI)技術への社会⼀般の懸念と技術的な現状との間にある、現状認識の差を明らかにする。続いて、実際に海外の技術動向の把握、及び実際の技術的な検証を⾏い、技術的知⾒からこの問題の課題を明らかにする。以上から、将来の⽇本社会における AI 技術について市⺠社会の望ましい対峙の仕⽅を求める。

2. 調査研究の⽅法
本研究では、まず LAWS 問題について国際的な動向を整理し、その上で国際的な議論に参加する利害関係者や関連する専⾨家へのインタビューを⾏う。続いて防衛装備品の展⽰会への調査を通じて、技術開発の動向調査、さらに⺠⽣⽤技術を対象に独⾃に技術的な検証を⾏う。さらに⽇本のLAWS 問題のさらなる遠因を調査するため国内の AI と市⺠社会について調査を⾏う。以上の結果を⽤いて総合的に分析を⾏う。

3. 調査研究の結果(1) LAWS に関する国際社会と市⺠社会の動向
LAWS 問題は市⺠社会の動きが国際政治の舞台よりも早く⼈道的⽴場で警鐘をならしている。
それに答えるように国連は動くものの、議論は決して進展していない。海外の NGO は従来通りの規制を求める主張について妥協しておらず、積極的に報告書や独⾃の分析を進め普及啓発に努めている。⽇本について、政府は国際社会の中で中⽴を保ってはいるもののリーダーシップをとっているようにはみえない。国内の市⺠団体も海外 NGO の後追いをしているのみで存在感は薄い。このような状況もあり、国内の⼀般社会では LAWS 問題の関⼼は決して⾼くない。
(2) 主要な利害関係者への取材とその課題各利害関係者への取材の結果、そのほとんどが、AI 技術について具体的な利⽤経験がないまま LAWS の議論に関わっているということが明らかになった。さらにこの議論に参加する関係者には、⾃分の仕事のポジションを維持するために LAWS の議論に関わっている場合も多いことが明らかになった。これは必ずしも悪いことではないものの、⼀般の市⺠社会が想像する状況とは違うため市⺠社会からの賛同を得られにくい可能性がある。さらにこの状況は、諸問題－1－

に対し⾃ら主体的かつ積極的に関わるインセンティブが働きにくいものとなる。実際に⽇本の対応は LAWS 問題に対し受動的であるようにみえる。
(3) 防衛装備に関する展⽰会の調査
展⽰会で調査した結果、⾃律性の向上、処理速度の性能向上をうたう展⽰はあったものの、いわゆる LAWS を想起させる技術開発の展⽰は確認できなかった。その⼀⽅で GPU(GraphicProcessing Unit)の重要性が明らかになった。軍事利⽤の場合においても⺠⽣⽤の GPU が同じ型番のままで、しかも最新型では無く数世代前の GPU が積極的に使⽤されており、その使⽤⽅法も⺠⽣⽤途と同様にカメラやセンサーからの画像処理⽤であった。軍事⽤途としては数世代前の⽅が⻑期間の使⽤実績があるため信頼性が⾼く、最先端のものはむしろリスクが⾼く敬遠されているという事実は、⼀般的なイメージ ̶軍事⽤ではより⾼性能で特別な AI 機器を使⽤し、またその使⽤⽅法も特殊である̶と異なるものである。つまり LAWS 問題で考えれば、先進的な技術で LAWS が作られるために予想も出来ない暴⾛が起きてしまう、という NGO の主張は、AI 機器の根幹が GPU である限り、技術的妥当性は低いことが⽰された。
(4) ⺠⽣⽤技術を対象に独⾃に技術的な検証市販されているコンピュータ、特に GPU を搭載したコンピュータであれば、デスクトップパソコンはもちろん、数万円程度のコンピュータであっても無料のソフトウェアを⽤いて画像認証は可能であることが分かった。さらに⾃動補正照準器も製作が可能であることも確認した。
安価かつ⼊⼿しやすい機器により、⼈間の能⼒を補助するシステムを構築出来ることは困難ではなく、テロリストが利⽤する可能性がある⼀⽅、国内では銃⽕器の使⽤が許された職業 (猟師、警察官、⾃衛官等) への応⽤への可能性も分かった。さらに軍⺠両⽤技術としての GPU への認識の必要性が課題として挙げられた。NVIDIA の GPU である Jetson シリーズは「⼤量破壊兵器及びそれに関わる機材への使⽤は禁⽌されている」ことに⾔及する注意事項が記載された書類が添付される。これは本検証の妥当性を補⾜する⼀つの事実であるが、このような危険性を持つ技術について⼀般社会ではあまり注意が払われておらず、特に LAWS 問題の議論においては、その利害関係者はだれも⾔及してはいないことが分かった。
(5) AI の⺠⽣利⽤の状況について調査
国や⾏政を巻き込んだ AI 教育の取り組みは、その科学的・技術的妥当性の検証̶特に第三者による検証̶もないまま、AI という⾔葉の魅⼒に翻弄されている状況が⽰された。⼀⽅、テクノロジーの⺠主化についてもその必要性が⽰された。AI 技術について本質的な意義を明らかにし、その視点で有効な活⽤⽅法を考察する研究や分析はいまだ⾏われていない。たとえば AI 技術の本質的な意味とは、誰にでも開かれたオープンサイエンス的な技術であること、そして有効な活⽤とは、広く社会の発展のために使われるものである、と考えられる。その視点にたて－2－

ば、AI に勝つ・負けるといった恐怖のもとに⼀部の組織が利益を得るのでは無く、互いに協⼒しながら AI 技術を利⽤し、AI 技術を育てながら社会をよりよくすることがよりふさわしいと考えられる。
4. 考察
上記の結果について横断的な分析を⾏った。関係者について⼀部は真摯に問題を捉えているものの、ほとんどは問題意識の浅薄さや内向きさが⾒出される(表 1 参照)。その背景や根本原因として、利害関係者は「AI 技術を知らない」という状況にあることが第⼀に挙げられる。但し⺠間企業は、AI 技術を⼗分把握しているものの、その政策的位置づけについては関係なく商業的な動きをしている。
各々の関係者の位置関係について、⼦供を含む市⺠社会は AI 技術に直接接してはおらず、LAWS や AI 教育に関わる NGO や組織を通じて間接的に接している。そしてその接触する⼈々はそれらの組織により不安を引き起こされている。また政府は関係する NGO や組織に関わるものの、AI 技術だけでなく市⺠社会にも直接的に影響を与えることが出来ていない。そして軍事利⽤と⺠⽣利⽤を扱う各々の政府・研究機関等は互いに交わることは無く、軍⺠両⽤技術に起因する課題であることの視点はない(図 1 参照)。
表1

LAWS 問題における利害関係者の対応と背景

社会的課題
技術的課題
政策的課題

LAWS 問題への対応

背景

市⺠の不安

AI の低い技術的知⾒

NGO の扇動AI の低い技術的知⾒研究機関の不正AI の低い技術的知⾒

⺠間企業の無関⼼AI の低い政策的知⾒

政府機関の無知AI の低い技術的知⾒－3－

図 1 AI 技術の軍事利⽤(LAWS)及び⺠⽣利⽤についての利害関係者の関係性以上から、市⺠社会は現状の LAWS 問題の解決のため、AI 技術を直接的に体験することが必要と思われる。その際、敵対視するような⾒⽅では無く、AI 技術の本質的な意味を考え、誰にでも開かれたオープンサイエンス的な技術であること、そして有効な活⽤とは、広く社会の発展のために使われるものであるという視点にたつ、という AI 技術への対峙の仕⽅が必要である。

－4－