Adimen artifizialaren segurtasuna

Adimen artifizialaren segurtasuna diziplina anitzeko eremua da, adimen artifizialeko (AA) sistemen erabilerak eragin ditzakeen istripuak, erabilera desegokiak edo beste ondorio kaltegarri batzuk saihestu nahi dituena. Arlo honek barne hartzen ditu AAren lerrokadura (sistemek nahi bezala joka dezaten ziurtatzeko helburua duena), arriskuak detektatzeko sistemen gainbegiratzea eta horien sendotasuna hobetzea. AA aurreratuen bidez sor litezkeen arrisku existentzialez arduratzen da. Arrisku horien adibide batzuk gizakien iraungipena, AA agenteen gaineko kontrola galtzea edo plangintza faltagatik ustekabeko jokabideak egotea dira.

 Arrazoiak 
AA adituek AAren segurtasunari buruzko iritzi desberdinak dituzte; inkesta batzuetatik abiatuta ondoriozta daiteke adituek seriotasunez hartzen dituztela ondorio nabarmenak dituzten arriskuak.  AAko ikertzaileei zuzendutako bi inkestatan, inkestatuak optimistak ziren orokorrean, baina emaitza katastrofiko bat egoteko (adibidez, gizakien iraungipena) %5eko arriskua dagoela adierazi zuten.

2022an hizkuntzaren prozesamenduko (HP) komunitatean egindako inkesta batean, %37ek uste zuten AAren erabakiek “benetako gerra nuklear baten adinako edo are suntsipen handiagoko hondamendia” eragin lezaketela. Une honetan, adituek hainbat arriskuri buruz eztabaidatzen du: sistema kritikoetan gertatzen diren hutsegiteak, alborapenetiketa AA bidezko zaintzatik eratorritako arriskuak, langabezia teknologikoaren ondorioz sortzen ari diren arriskuak, manipulazio digitalak, armen arloko arriskuak eta etorkizuneko adimen artifizial orokorreko (AAO) agenteen kontrola galtzearekin lotutako arrisku espekulatiboak. 

Arrisku horietako batzuk euskarazko hedabide eta dibulgazio-lanetan ere aztertu dira, adibidez AAren alborapenak, erabilera desegokia eta manipulazio digital azpimarratzen dituzten artikuluetan.

 Historia 
Sistema autonomoen arriskuei buruzko lehen ohartarazpenak 1949an egin zituen Norbert Wienerrek. Gero, denbora luzean gaiari arreta gutxi eskaini zitzaion, baina 2008 eta 2009 urteetan AAAIk (ingelesez American Association for Artificial Intelligence, euskaraz Adimen Artifizialaren Amerikako Elkartea) onartu zuen sistema konplexuek ustekabeko jokabideak izan ditzaketela eta horri buruz gehiago ikertu behar zela. 2011n, Roman Yampolskiy-k “AA segurtasun ingeniaritza” izena proposatu zuen diziplina gisa.

Gaiaren inguruko kezka nabarmen zabaldu zen 2014an Nick Bostromek Superintelligence: Paths, Dangers, Strategies (euskaraz, Superadimena: Bideak, Arrikuak, Estrategiak) liburua argitaratu zuenean, AAOk eragin ditzakeen arriskuak eztabaida publiko eta politikoan sartuta. 2015ean arloa finkatzen hasi zen: adituen gutun irekia, Gizakiekin Bateragarria den AA Zentroaren sorrera Berkeley Unibertsitatean eta segurtasunari buruzko ikerketa finantzaketa handitua. 2016an kaleratu zen Concrete Problemas in AI safety (euskaraz AA Segurtasuneko Arazo Zehatzak), lehen agenda tekniko eragingarrienetako bat.

2017tik aurrera ikuspegia sendotu egin zen Asilomar Printzipioei eta DeepMind Safety bezalako taldeen lanari esker; horiek, gaur egungo ildo tekniko nagusiak landu zituzten: sendotasuna, zehaztapena eta fidagarritasuna. 2021ean, gai horiek Unsolved Problems in ML Safety (euskaraz Ikasketa Atomatikoaren Segurtasuneko Konpondu Gabeko Arazoak) lanean bildu ziren. 2023an, eztabaidak jauzi politikoa eman zuen, Erresuma Batuak AA segurtasunari buruzko lehen goi-bilera globala antolatu zuenean.

 Ikerketa-arloak 
AA segurtasuneko ikerketa-arloen artean sendotasuna, gainbegiratzea eta lerrokatzea daude.  Sendotasunaren jomuga da sistemak oso fidagarriak izatea; gainbegiratzearena, akatsak aurreikustea eta erabilera okerrak detektatzea; eta lerrokatzearena, helburu onuragarriak lortzen dituztela ziurtatzea.

 Sendotasuna 
Sendotasunaren azterketaren helburua da AA sistemek egoera ezberdinetan aurreikusitako moduan jardungo dutela ziurtatzea. Horrek, besteak beste, bi alderdi ditu:

 Beltxarga beltzekiko sendotasuna: sistemek aurrekusi bezala jokatzea, baita egoera arraroetan ere.
 Sendotasun antagonikoa: sistemak diseinatzea, nahita huts egiteko aukeratutako datu-sarrerekiko erresilienteak izan daitezen.

 Gainbegiratzea 
Gainbegiratzeak AA sistemen akatsak aurreikusi nahi ditu, horiek saihesteko edo kudeatzeko. Bigarren mailako gainbegiratze-arazoen artean daude sistema fidagarriak ez direnak detektatzea, erabilera gaiztoak identifikatzea, kutxa beltzeko AA sistemen barne-funtzionamendua ulertzea eta eragile gaiztoek sortutako funtzio ezkutuak identifikatzea.

 Lerrokatzea 
Lerrokatzearen helburua da sistemek diseinatzaileen nahiak betetzea. Sistema bat gai bada, baina aurreikusi gabeko helburuak baditu, deslerrokatutzat jotzen da.

Kasu honetan, arazo nagusiak hauek dira: zaila dela nahi diren portaerak guztiz zehaztea, tarteko helburuek albo-ondorioak sortzen dituztela, sari-tranpak, botere gosea eta egoera berrietan agertzen diren helburu berriak. Arazo horiek robotei, hizkuntza-ereduei, ibilgailu autonomoei eta gomendio-sistemei  eragiten diete; sistemek zenbat eta gaitasun handiagoa eduki, orduan eta handiagoak dira arazoak.
Lerrokatzea AAren segurtasunaren parte da eta irtenbide tekniko eta politikoak behar ditu. Ikerketa-lerro nagusiak honakoak dira: giza balioak ikastea, AA zintzoa sortzea, sistemei jarraitzea, ereduak ulertzea eta portaera emergenteak saihestea. Arlo horiekin lotuta daude: interpretagarritasuna, sendotasuna, anomalien detekzioa, egiaztapen formala, jokoen teoria, algoritmoen ekitatea eta gizarte-zientziak.

 Erreferentziak