Alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla Þingsályktunartillaga - þingskjal nr. 68

145. löggjafarþing 2015–2016.

Þingskjal 68 - 68. mál.

Tillaga til þingsályktunar um stuðning Íslands við að koma á alþjóðlegu banni við framleiðslu

og beitingu sjálfvirkra og sjálfstýrðra vígvéla.

Flm.: Katrín Jakobsdóttir, Bjarkey Olsen Gunnarsdóttir,

Steinunn Þóra Árnadóttir, Svandís Svavarsdóttir.

Alþingi ályktar að lýsa stuðningi við áform um alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla og felur ríkisstjórninni að vinna að framgangi þess á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við.

Greinargerð.

Á undanförnum árum hafa verið þróaðar ómannaðar sjálfvirkar og sjálfstýrðar vígvélar (e. killer robots) sem útbúnar eru með gervigreind og eru því færar um að ráðast að fólki og deyða það á grundvelli eigin ákvarðana og án atbeina mannlegrar dómgreindar. Hröð þróun hefur átt sér stað í gerð og framleiðslu slíkra sjálfvirkra drápstóla undanfarið og eru þær taldar munu breyta hernaði og vígbúnaði í grundvallaratriðum, breiðist þær út og verði algengar.

Sjálfstýrðum flygildum – drónum – sem bera sprengjur og skotvopn hefur verið beitt í hernaði víða um heim og notast er við margvísleg sjálfvirk eftirlits- og viðvörunarkerfi sem þó hlíta fyrirskipunum manna. Sjálfstýrðar vélar – vélmenni eða vitvélar – eru því vissulega ekki nein nýlunda en þar sem þróunin á sviði gervigreindar og sjálfvirkni gengur hratt fyrir sig um þessar mundir hafa þegar verið þróuð vopn og vígtól sem búin eru eiginleikum sem ekki hafa áður sést í vopnabúrum hervelda heimsins.

Enda þótt tækniþróun sjálfvirkra og sjálfstýrðra vítisvéla hafi fleygt fram undanfarið hefur lítil sem engin almenn umræða farið fram um þennan mjög svo umdeilanlega þátt nútíma vígbúnaðar sem vekur upp fjölda siðfræðilegra og lagalegra álitamála. Eins og svo oft áður hafa hergagnaframleiðendur og herstjórar leikið lausum hala og almenningur stendur frammi fyrir gerðum hlut þegar nýjustu drápstólin koma í ljós við færibandaenda hergagnaverksmiðjanna. Upp á síðkastið hefur þó gætt vaxandi andstöðu við þróun og framleiðslu sjálfvirkra og sjálfstýrðra vígvéla og þær hugmyndir sem að baki slíkri iðju liggja. Meðal annars hafa kunnir vísinda- og tæknimenn vakið athygli á þeirri öfugþróun sem felst í framleiðslu sjálfvirku vígtólanna þar sem nytsamlegri tækni er beitt í þágu háskalegra sjónarmiða og lagt til að alþjóðlegt samkomulag verði gert um að stöðva frekari þróun þeirra og banna framleiðslu. Í þessum hópi eru meðal annarra eðlisfræðingurinn Stephen Hawking og einnig Steve Wozniak, meðstofnandi Apple-tæknivöruframleiðandans, og á alþjóðlegri ráðstefnu um gervigreind, sem haldin var í Buenos Aires í lok júlí 2015, kom fjöldi þekktra vísinda- og tæknimanna af báðum kynjum og frá ýmsum löndum heims sér saman um texta opins bréfs 1 þar sem skorað er á þjóðir heims að banna þróun og framleiðslu sjálfstýrðra og sjálfvirkra vígvéla. Fjöldi vísinda- og fræðimanna víðs vegar um heiminn hefur síðan gengið til liðs við þessa hreyfingu 2 með því að undirrita texta áskorunarinnar.

Af hálfu þeirra sem vilja koma í veg fyrir að vandi heimsins aukist með tilkomu sjálfvirkra og sjálfstýrðra drápstóla er bent á að hin nýja tækni muni hafa svo gagnger áhrif á vígbúnað hervelda heimsins að allar líkur séu á því að hún færi með sér nýtt vígbúnaðarkapphlaup nema gripið verði í taumana. Að mati þeirra stendur heimurinn nú frammi fyrir gjörbyltingu í hernaðartækni á borð við þá sem varð þegar tekið var að nota púður til skotfæragerðar og þróun kjarnorkusprengjunnar mörgum öldum síðar. Þessi bylting er ekki lengur í vændum, að mati vísinda- og tæknifólksins sem andmælir sjálfstýrðu og sjálfvirku vígvélunum, hún er þegar hafin en er á byrjunarstigi og því er enn unnt að hemja framrás hennar. Minnt er á að fátt sé líklegra en að hin nýju vopn lendi fyrr en varir í höndum uppreisnar- og hryðjuverkahópa af ýmsu tagi, sem ekki skirrast við stríðsglæpi á borð við þjóðernishreinsanir, og glæpamanna sem ekki hafa önnur markmið með athæfi sínu en að skara eld að sinni köku með öllum tiltækum ráðum. Það megi þannig ganga að því sem vísu að sjálfstýrð og sjálfvirk vopn verði fyrr en nokkurn varir í eigu fjölda aðila sem ekki tengjast ríkjum eða ríkisstjórnum, eru á þeirra ábyrgð eða lúta valdi þeirra. Þá er bent á að ekki sé þörf á dýrum eða torfengnum efnum til framleiðslu á sjálfstýrðum og sjálfvirkum vopnum, eins og t.d. er raunin þegar kjarnorkuvopn eiga í hlut, og því megi ætla að gerð þessara vopna verði á færi margra framleiðenda og yrði það enn til að hraða útbreiðslu þeirra.

Úrtölumenn halda því fram að tilgangslaust muni reynast að hefta framrás hinnar sjálfvirku og sjálfstýrðu hernaðartækni og leiða líkur að því að hún finni sér leið að vígvöllum heimsins. Aðstandendur og fylgjendur áskorunarinnar frá Buenos Aires benda hins vegar á þann árangur sem náðst hefur með banni við framleiðslu og beitingu efnavopna og einnig tókst, með atbeina Sameinuðu þjóðanna, samkomulag um að hindra þróun og framleiðslu leysigeislavopna sem ætlað var að blinda andstæðinginn. Þótt vissulega væri óskandi að víðtækara samkomulag ríkti meðal þjóða heimsins um bönn og takmarkanir við framleiðslu og beitingu vígvéla af öllu tagi heldur en raun ber vitni skal hér tekið undir það að mikilsverður árangur hefur þrátt fyrir allt náðst á mörgum mikilvægum sviðum í þessum málaflokki sem gefur til kynna að barátta fyrir betri skipan mála á þessum vettvangi er alls ekki þýðingarlaus eða fyrir fram töpuð.

Unnt er að þróa og framleiða sjálfvirkar og sjálfstýrðar vélar sem búnar eru gervigreind og eru þær af ýmsu tagi. Sumar eru vopn ætluð til manndrápa en með öðrum má koma góðu til leiðar. Slíkar vélar geta því vel átt rétt á sér en í þessum efnum er einkar mikilvægt að viðbrögð við hinum tæknilegu viðfangsefnum einkennist fremur af gagnrýnni hugsun og markmiðum um mannúðlegri og öruggari heim heldur en sjálfstýringu og sjálfvirkni þar sem öllum tækninýjungum er tekið gagnrýnislaust og án þess að skeyta um afleiðingar þeirra. Þar ber að beita dómgreind mannsins en varast vélræna gervigreind.