Dodelike outonome wapenstelsel

[duimnael|Serwiese Land Rover Defender sleepwa met "Miloš" gevegsrobot op ‘n [rusperband.]]
‘n **Dodelike outonome wapen** (**DOW**) is 'n tipe outonome militêre stelsel wat onafhanklik na teikens kan soek en aanval op grond van geprogrammeerde beperkings en beskrywings. DOW's staan ook bekend as **dodelike wapenstelsels** ('''DOW's**), **outonome wapenstelsels** (**OW's**), **robotwapens** of **moordrobotte'''. DOW's kan in die lug, op land, op water, onder water of in die ruimte werk. Die outonomie van stelsels was vanaf 2018 beperk in die sin dat 'n mens die finale bevel gee om aan te val,  hoewel daar uitsonderings is met sekere "verdedigende" stelsels.

## Om outonoom te wees as 'n wapen
Om "outonoom" te wees, het verskillende betekenisse in verskillende studierigtings. In terme van militêre wapenontwikkeling is die identifisering van 'n wapen as outonoom nie so duidelik soos in ander gebiede nie.  Die spesifieke standaard wat by die konsep van outonoom betrokke is, kan geweldig wissel tussen verskillende geleerdes, state en organisasies.

Die amptelike beleid van die Verenigde State se Departement van Verdediging oor outonomie in wapenstelsels definieer 'n outonome wapenstelsel as: "'n Wapenstelsel wat, sodra dit geaktiveer is, teikens kan kies en aanval sonder verdere ingryping deur 'n menslike operateur." Heather Roff, 'n skrywer vir die Case Western Reserve-universiteit se Regskool, beskryf outonome wapenstelsels as "gewapende wapenstelsels, in staat om hul 'funksionering in reaksie op veranderende omstandighede in die omgewing waarin [hulle] ontplooi word,' te leer en aan te pas, sowel as in staat om self besluite oor vuur te neem."

Die Britse Ministerie van Verdediging definieer outonome wapenstelsels as "stelsels wat in staat is om hoër vlak van bedoeling en rigting te verstaan. Vanuit hierdie begrip en sy persepsie van sy omgewing, is so 'n stelsel in staat om gepaste stappe te neem om 'n verlangde toestand te bewerkstellig. Dit is in staat om 'n plan van aksie te besluit, uit 'n aantal alternatiewe, sonder om op menslike toesig en beheer staat te maak - sulke menslike betrokkenheid by die stelsel kan steeds teenwoordig wees. Terwyl die algehele aktiwiteit van 'n outonome onbemande vliegtuig voorspelbaar sal wees, is individuele aksies dalk nie."

ŉ Kunsmatige agent wat, ten minste, in staat is om sy eie interne toestande te verander om 'n gegewe doelwit, of stel doelwitte, binne sy dinamiese bedryfsomgewing en sonder die direkte ingryping van 'n ander agent te bereik, en wat ook toegerus kan wees met 'n paar vermoëns om sy eie oorgangsreëls te verander sonder die ingryping van 'n ander agent, en wat ontplooi word met die doel om kinetiese krag teen 'n fisiese entiteit (hetsy 'n voorwerp of 'n mens) uit te oefen en tot hierdie doel in staat is om die teiken te identifiseer, te selekteer of aan te val sonder die ingryping van 'n ander agent, is 'n OWS. Sodra dit ontplooi is, kan 'n OWS met of sonder een of ander vorm van menslike beheer (binne, op of buite die lus) bedryf word. 'n Dodelike OWS is 'n spesifieke deelversameling van 'n OWS met die doel om kinetiese krag teen mense uit te oefen.

Geleerdes soos Peter Asaro en Mark Gubrud glo dat enige wapenstelsel wat in staat is om 'n dodelike krag vry te stel sonder die operasie, besluit of bevestiging van 'n menslike toesighouer as outonoom beskou kan word.

Gevolglik vereis die samestelling van 'n verdrag tussen state 'n algemeen aanvaarde etikettering van wat presies 'n outonome wapen uitmaak.

## Outomatiese verdedigingstelsels
Die oudste outomaties-geaktiveerde dodelike wapen is die landmyn, wat sedert ten minste die 1600's gebruik word, en vlootmyne, wat sedert ten minste die 1700's gebruik word. Antipersoneelmyne word in baie lande deur die Ottawa-verdrag van 1997 verbied, met uitsondering van die Verenigde State, Rusland en 'n groot deel van Asië en die Midde-Ooste.
[duimnael|Die [Goalkeeper CIWS kanon van HMS Invincible vuur op 'n teiken in die Engelse Kanaal.]]
'n Paar huidige voorbeelde van DOW's is outomatiese "*hardkill*" aktiewe beskermingstelsels, soos radar-geleide nabyverdediginingwapenstelsel (Engels: *Close In Weapon System* - CIWS) wat gebruik word om skepe te verdedig wat sedert die 1970's in gebruik is (bv. die Nederlandse Goalkeeper CIWS). Sulke stelsels kan outonoom aankomende missiele, vuurpyle, artillerievuur, vliegtuie en oppervlakvaartuie identifiseer en aanval volgens kriteria wat deur die menslike operateur gestel word. Soortgelyke stelsels bestaan vir tenks, soos die Russiese Arena, die Israeliese Trofee en die Duitse AMAP-ADS. Verskeie tipes stilstaande waggewere, wat op mense en voertuie kan vuur, word in Suid-Korea en Israel gebruik. Baie missielverdedigingstelsels, soos die Iron Dome, het ook outonome teikenvermoëns.

Die hoofrede waarom daar nie 'n "mens in die lus" in hierdie stelsels is nie, is die behoefte aan vinnige reaksie. Hulle is oor die algemeen gebruik om personeel en installasies teen inkomende projektiele te beskerm.

## Outonome aanvallende stelsels
Volgens The Economist, soos tegnologie vorder, kan toekomstige toepassings van onbemande onderseese voertuie, mynopruiming, mynlegging, anti-duikboot sensornetwerke in betwiste waters, patrollering met aktiewe sonar, hervoorsiening van bemande duikbote, en die ontwikkeling van laekoste-missielplatforms insluit. In 2018 het die Amerikaanse Nuclear Posture Review beweer dat Rusland 'n "nuwe interkontinentale, kernwapen-aangedrewe, kernaangedrewe, onderseese outonome torpedo" ontwikkel met die naam "Status 6".

Die Russiese Federasie ontwikkel kunsmatige intelligente missiele, hommeltuie, onbemande voertuie, militêre robotte en mediese robotte.

Die Israeliese minister Ayoob Kara het in 2017 verklaar dat Israel militêre robotte ontwikkel, insluitend robotte so klein soos vlieë.

In Oktober 2018 het Zeng Yi, 'n senior uitvoerende beampte by die Chinese verdedigingsfirma Norinco, 'n toespraak gehou waarin hy gesê het dat "In toekomstige slagvelde sal daar geen mense wees wat veg nie", en dat die gebruik van dodelike outonome wapens in oorlogvoering "onvermydelik" is. In 2019 het die Amerikaanse minister van verdediging, Mark Esper, China gekritiseer omdat hulle hommeltuie verkoop het wat lewens kan neem sonder menslike toesig.

Die Britse Leër het in 2019 nuwe onbemande voertuie en militêre robotte ontplooi. 

Die Amerikaanse Vloot ontwikkel "spook"-vlote van onbemande skepe.
[duimnael|Die [STM Kargu-hommeltuig.]]
In 2020 het 'n Kargu 2-hommeltuig 'n menslike teiken in Libië gevolg en aangeval, volgens 'n verslag van die VN-Veiligheidsraad se Paneel van Kenners oor Libië, wat in Maart 2021 gepubliseer is. Dit was moontlik die eerste keer dat 'n outonome moordenaarrobot, gewapen met dodelike wapens, mense aangeval het.

In Mei 2021 het Israel 'n KI-geleide gevegshommeltuig-swermaanval in Gasa uitgevoer.

Sedertdien was daar talle berigte van swerms en ander outonome wapenstelsels wat op slagvelde regoor die wêreld gebruik word.

Daarbenewens werk DARPA daaraan om swerms van 250 outonome dodelike hommeltuie beskikbaar te stel aan die Amerikaanse weermag.

## Etiese en wetlike kwessies
### Graad van menslike beheer 
Drie klassifikasies van die mate van menslike beheer oor outonome wapenstelsels is deur Bonnie Docherty in 'n 2012 Human Rights Watch-verslag uiteengesit.

*mens-in-die-lus: 'n mens moet die aksie van die wapen aanhits (met ander woorde nie ten volle outonoom nie).
*mens-op-die-lus: 'n mens kan 'n aksie staak.
*mens-buite-die-lus: geen menslike aksie is betrokke nie.

### Standaard wat in VSA-beleid gebruik word
Huidige Amerikaanse beleid lui: "Outonome ... wapenstelsels moet ontwerp word om bevelvoerders en operateurs toe te laat om gepaste vlakke van menslike oordeel oor die gebruik van geweld uit te oefen." Die beleid vereis egter dat outonome wapenstelsels wat mense doodmaak of kinetiese krag gebruik, teikens selekteer en aanval sonder verdere menslike ingryping, gesertifiseer moet word as voldoenend aan "gepaste vlakke" en ander standaarde, nie dat sulke wapenstelsels nie aan hierdie standaarde kan voldoen nie en dus verbode is. "Semi-outonome" jagter-moordenaars wat outonoom teikens identifiseer en aanval, vereis nie eers sertifisering nie.[29] Adjunk-minister van Verdediging, Robert O. Work, het in 2016 gesê dat die Departement van Verdediging "nie dodelike gesag aan 'n masjien sou delegeer om 'n besluit te neem nie", maar dit dalk moet heroorweeg aangesien "outoritêre regimes" dit mag doen. In Oktober 2016 het president Barack Obama gesê dat hy vroeg in sy loopbaan versigtig was vir 'n toekoms waarin 'n Amerikaanse president wat van hommeltuigoorlogvoering gebruik maak, "ewigdurende oorloë oor die hele wêreld kon voer, en baie daarvan in die geheim, sonder enige verantwoordbaarheid of demokratiese debat". In die VSA val sekuriteitsverwante KI sedert 2018 onder die bevoegdheid van die Nasionale Veiligheidskommissie oor Kunsmatige Intelligensie.Op 31 Oktober 2019 het die Verenigde State se Departement van Verdediging se Verdedigingsinnovasieraad die konsepverslag gepubliseer wat vyf beginsels vir bewapende KI uiteensit en 12 aanbevelings maak vir die etiese gebruik van kunsmatige intelligensie deur die Departement van Verdediging wat sou verseker dat 'n menslike operateur altyd in die 'swart boks' sou kon kyk en die doodmaakkettingproses sou kon verstaan. 'n Groot bekommernis is hoe die verslag geïmplementeer sal word.

### Moontlike oortredings van etiek en internasionale wette
Stuart Russell, professor in rekenaarwetenskap van die Universiteit van Kalifornië, Berkeley, het gesê dat sy kommer oor wette oneties en onmenslik is. Die hoofprobleem met hierdie stelsel is dat dit moeilik is om te onderskei tussen vegters en nie-vegters.

Daar is kommer onder sommige ekonome en regsgeleerdes oor die vraag of DOW 's internasionale humanitêre reg sou skend, veral die beginsel van onderskeiding, wat die vermoë vereis om vegters van nie-vegters te onderskei, en die beginsel van proporsionaliteit, wat vereis dat skade aan burgerlikes proporsioneel moet wees tot die militêre doel.  Hierdie kommer word dikwels aangevoer as 'n rede om "moordenaarrobotte" heeltemal te verbied - maar dit is twyfelagtig dat hierdie kommer 'n argument kan wees teen DOW 's  wat nie Internasionale Humanitêre Reg skend nie.

'n Verslag van die Amerikaanse Kongresnavorsingsdiens in 2021 verklaar dat "daar geen binnelandse of internasionale wetlike verbod op die ontwikkeling van die gebruik van DOW 's   is nie," hoewel dit voortgesette gesprekke by die VN-konvensie oor sekere konvensionele wapens (CCW) erken.

Sommige mense sê dat DOW's die grense van wie verantwoordelik is vir 'n spesifieke doodslag vervaag. Thomas Simpson en Vincent Müller voer aan dat hulle dit makliker kan maak om aan te teken wie watter bevel gegee het. Potensiële IHR-oortredings deur DOW's is – per definisie – slegs van toepassing in konfliksituasies wat die behoefte behels om tussen vegters en burgerlikes te onderskei. As sodanig sal enige konflikscenario sonder burgerlikes se teenwoordigheid – d.w.s. in die ruimte of die diepsee – nie die struikelblokke wat deur IHR veroorsaak word, teëkom nie.

### Veldtogte om DOW's te verbied
links|duimnael|Betoging op die trappe van die San Francisco-stadsaal teen 'n stemming om die polisie se gebruik van DOW’s te magtig.
Die moontlikheid van DOW's het aansienlike debat ontketen, veral oor die risiko van "moordenaarrobotte" wat die aarde rondloop - in die nabye of verre toekoms. Die groep Campaign to Stop Killer Robots is in 2013 gestig. In Julie 2015 het meer as 1 000 kenners in kunsmatige intelligensie 'n brief onderteken wat waarsku teen die bedreiging van 'n kunsmatige intelligensie-wapenwedloop en 'n verbod op outonome wapens eis. Die brief is in Buenos Aires by die 24ste Internasionale Gesamentlike Konferensie oor Kunsmatige Intelligensie (IJCAI-15) aangebied en is mede-onderteken deur Stephen Hawking, Elon Musk, Steve Wozniak, Noam Chomsky, Skype-medestigter Jaan Tallinn en Google DeepMind-medestigter Demis Hassabis, onder andere.

Volgens PAX For Peace (een van die stigtersorganisasies van die Campaign to Stop Killer Robots), sal volledig outomatiese wapens (VOW's) die drumpel van oorlogvoering verlaag namate soldate van die slagveld verwyder word en die publiek gedistansieer word van oorlogvoering, wat politici en ander besluitnemers meer ruimte gee om te besluit wanneer en hoe om oorlog toe te gaan.  Hulle waarsku dat DOW’s, sodra hulle ontplooi is, demokratiese beheer van oorlog moeiliker sal maak, iets waaroor die skrywer van *Kill Decision* (’n roman oor die onderwerp) en IT-spesialis Daniel Suarez ook gewaarsku het: volgens hom kan dit mag in baie min hande hersentraliseer deur baie min mense te vereis om oorlog toe te gaan.

Die Heilige Stoel het die internasionale gemeenskap by verskeie geleenthede versoek om die gebruik van DOW's te verbied. In November 2018 het Aartsbiskop Ivan Jurkovic, die permanente waarnemer van die Heilige Stoel by die Verenigde Nasies, verklaar dat "Om 'n wapenwedloop en die toename in ongelykhede en onstabiliteit te voorkom, is dit 'n noodsaaklike plig om vinnig op te tree: nou is die tyd om te verhoed dat DOW's die werklikheid van môre se oorlogvoering word." Die Kerk is bekommerd dat hierdie wapenstelsels die vermoë het om die aard van oorlogvoering onomkeerbaar te verander, losmaking van menslike agentskap te skep en die menslikheid van samelewings in twyfel te trek.

Vanaf 29 Maart 2019 het die meerderheid van die regerings wat by 'n VN-vergadering verteenwoordig is om die saak te bespreek, het hulself ten gunste van 'n verbod op DOW's uitgespreek. 'n Minderheid van regerings, insluitend dié van Australië, Israel, Rusland, die Verenigde Koninkryk en die VSA, het 'n verbod teengestaan.

In Desember 2022 het 'n stemming van die San Francisco-raad van toesighouers om die San Francisco-polisiedepartement se gebruik van DOW's te magtig, nasionale aandag en protes getrek.  Die Raad het hierdie stemming in 'n daaropvolgende vergadering omgekeer.

### Geen verbod nie, maar regulering
'n Derde benadering fokus op die regulering van die gebruik van outonome wapenstelsels in plaas van 'n verbod.  Militêre KI-wapenbeheer sal waarskynlik die institusionalisering van nuwe internasionale norme vereis wat beliggaam word in effektiewe tegniese spesifikasies gekombineer met aktiewe monitering en informele ('Spoor II') diplomasie deur gemeenskappe van kundiges, tesame met 'n wetlike en politieke verifikasieproses. In 2021 het die Verenigde State se Departement van Verdediging 'n dialoog met die Chinese Volksbevrydingsleër oor KI-geaktiveerde outonome wapens versoek, maar is geweier. 

'n Spitsberaad van 60 lande is in 2023 gehou oor die verantwoordelike gebruik van KI in die weermag.

Op 22 Desember 2023 is 'n resolusie van die Verenigde Nasies se Algemene Vergadering aangeneem om internasionale bespreking rakende kommer oor DOW’s te ondersteun. Die stemming was 152 ten gunste, vier daarteen en 11 onthoudings.

## Verwysings