Flieks soos 2001: A Space Odyssey, Blade Runner en Terminator het rogue robots en rekenaarstelsels na ons bioskermskerms gebring. Maar sulke klassieke science fiction bril lyk nie so ver van die werklikheid af nie.
Ons leef, werk en speel toenemend met rekenkundige tegnologie wat outonoom en intelligent is. Hierdie stelsels sluit in sagteware en hardeware met die vermoë om onafhanklike redenasie en besluitneming te maak. Hulle werk vir ons op die fabrieksvloer; hulle besluit of ons 'n verband kan kry; hulle volg en meet ons aktiwiteit en fiksheidsvlakke; hulle maak ons ​​woonkamervloere skoon en sny ons grasperke.
Outonome en intelligente stelsels het die potensiaal om byna elke aspek van ons sosiale, ekonomiese, politieke en privaat lewens te beïnvloed, insluitende alledaagse aspekte. Baie hiervan lyk onskuldig, maar daar is rede tot kommer. Rekenaar tegnologie het 'n impak op elke menseregte, van reg op lewe tot reg op privaatheid, vryheid van uitdrukking tot sosiale en ekonomiese regte. So hoe kan ons menseregte verdedig in 'n tegnologiese landskap wat toenemend gevorm word deur robotika en kunsmatige intelligensie (AI)?
AI en menseregte
Eerstens is daar 'n ware vrees dat verhoogde outonomie van die masjien die status van mense sal ondermyn. Hierdie vrees word vererger deur 'n gebrek aan duidelikheid oor wie in 'n wettige of morele sin gehou sal word wanneer intelligente masjiene skade doen. Maar ek is nie seker dat die fokus van ons besorgdheid vir menseregte regtig moet wees nie bedrieglike robotte, soos dit tans voorkom. Ons moet eerder bekommerd wees oor die menslike gebruik van robotte en kunsmatige intelligensie en hul ontplooiing in onregverdige en ongelyke politieke, militêre, ekonomiese en sosiale kontekste.
Hierdie bekommernis is veral relevant ten opsigte van dodelike outonome wapensisteme (LAWS), wat dikwels as moordenaarrobotte beskryf word. Soos ons beweeg na 'n AI-wapenwedloop, menseregte geleerdes en veldtogte soos Christof Heyns, die voormalige VN se spesiale rapporteur vir buite-geregtelike, opsommende of willekeurige afdankings, vrees dat die gebruik van wetgewing outonome robotstelsels sal plaas in beheer van lewens- en doodbesluite, met beperkte of geen menslike beheer nie.
AI herleef ook die skakel tussen oorlogvoering en toesigspraktyke. Groepe soos die Internasionale Komitee vir Wapenbeheer (ICRAC) het onlangs hul teenkanting teenoor Google se deelname in Projek Maven, 'n militêre program wat masjienleer gebruik om drone surveillance footage te analiseer, wat gebruik kan word vir buite geregtelike moorde. ICRAC 'n beroep aan Google om te verseker dat die data wat dit op sy gebruikers insamel, nooit vir militêre doeleindes gebruik word nie, en by protes deur Google-werknemers aangaan oor die maatskappy se betrokkenheid by die projek. Google het onlangs aangekondig dat dit sal nie hernu word nie sy kontrak.
In 2013 is die omvang van toesigspraktyke uitgelig deur Edward Snowden onthullings. Dit het ons baie geleer oor die bedreiging vir die reg op privaatheid en die deel van data tussen intelligensiedienste, regeringsinstansies en private korporasies. Die onlangse kontroversie rondom Cambridge AnalyticaDie oes van persoonlike data via die gebruik van sosiale media-platforms soos Facebook, veroorsaak steeds ernstige vrees, hierdie keer oor manipulasie en inmenging in demokratiese verkiesings wat die reg op vryheid van uitdrukking beskadig.
Intussen daag kritieke data-ontleders uit diskriminerende praktyke wat verband hou met wat hulle AI se "wit ouprobleem" noem. Dit is die bekommernis dat AI-stelsels wat op bestaande data opgelei is, bestaande rasse- en geslagsstereotipes herhaal wat diskriminerende praktyke in gebiede soos polisiëring, geregtelike besluite of indiensneming voortduur.
AI kan stereotipes repliseer en verstewig. Ollyy / Shutterstock.com
Die potensiële bedreiging van rekenaar tegnologie vir menseregte en fisiese, politieke en digitale sekuriteit is uitgelig in 'n onlangs gepubliseerde studie oor Die kwaadwillige gebruik van kunsmatige intelligensie. Die kommer wat in hierdie verslag van die Universiteit van Cambridge uitgedruk word, moet ernstig geneem word. Maar hoe moet ons hierdie bedreigings hanteer? Is menseregte reg vir die era van robotika en AI?
Daar is voortdurende pogings om bestaande menseregtebeginsels vir hierdie era op te dateer. Dit sluit in die VN-raamwerk en riglyne vir besigheid en menseregte, poog om 'n Magna Carta vir die digitale era en die toekoms van die lewe instituut se Asilomar AI Beginsels, wat riglyne vir etiese navorsing identifiseer, waardes nakom en 'n verbintenis tot die langtermyn-voordelige ontwikkeling van AI.
Hierdie pogings is lofwaardig maar nie voldoende nie. Regerings en regeringsagentskappe, politieke partye en private korporasies, veral die toonaangewende tegnologie-maatskappye, moet verbind tot die etiese gebruike van AI. Ons het ook effektiewe en afdwingbare wetlike beheer nodig.
Ongeag watter nuwe maatreëls ons stel, is dit belangrik om te erken dat ons lewens toenemend verstrengel raak met outonome masjiene en intelligente stelsels. Hierdie verstrengeling verhoog menslike welsyn op gebiede soos mediese navorsing en behandeling, in ons vervoerstelsel, in maatskaplike sorginstellings en in pogings om die omgewing te beskerm.
Maar op ander gebiede gooi hierdie verstrengeling kommerwekkende vooruitsigte op. Rekenaartegnologieë word gebruik om ons aksies en gedrag te monitor en op te spoor, ons stappe, ons ligging, ons gesondheid, ons smaak en ons vriendskappe te spoor. Hierdie stelsels vorm menslike gedrag en verwek ons ​​tot selfbeheersingspraktyke wat ons vryheid beperk en die idees en idees van menseregte ondermyn.
En hierin lê die kern: die kapasiteit vir dubbele gebruik van rekenkundige tegnologie vervals die lyn tussen weldadige en kwaadwillige praktyke. Daarbenewens word rekenaar tegnologieë diep betrokke by die ongelyke kragverhoudings tussen individuele burgers, die staat en sy agentskappe, en private korporasies. As ons nie van effektiewe nasionale en internasionale stelsels van tjeks en saldo's hou nie, is dit 'n ware en kommerwekkende bedreiging vir ons menseregte.
Birgit Schippers, Besoekende Navorsingsgenoot, Senator George J Mitchell Instituut vir Globale Vrede, Veiligheid en Justisie, Koningin se Universiteit Belfast