Adimen artifizialaren segurtasuna

**Adimen artifizialaren segurtasuna** diziplina anitzeko eremua da, adimen artifizialeko (AA) sistemen erabilerak eragin ditzakeen istripuak, erabilera desegokiak edo beste ondorio kaltegarri batzuk saihestu nahi dituena. Arlo honek barne hartzen ditu AAren lerrokadura (sistemek nahi bezala joka dezaten ziurtatzeko helburua duena), arriskuak detektatzeko sistemen gainbegiratzea eta horien sendotasuna hobetzea. AA aurreratuen bidez sor litezkeen arrisku existentzialez arduratzen da. Arrisku horien adibide batzuk gizakien iraungipena, AA agenteen gaineko kontrola galtzea edo plangintza faltagatik ustekabeko jokabideak egotea dira.

## Arrazoiak 
AA adituek AAren segurtasunari buruzko iritzi desberdinak dituzte; inkesta batzuetatik abiatuta ondoriozta daiteke adituek seriotasunez hartzen dituztela ondorio nabarmenak dituzten arriskuak.  AAko ikertzaileei zuzendutako bi inkestatan, inkestatuak optimistak ziren orokorrean, baina emaitza katastrofiko bat egoteko (adibidez, gizakien iraungipena) %5eko arriskua dagoela adierazi zuten. Une honetan, adituek hainbat arriskuri buruz eztabaidatzen du: sistema kritikoetan gertatzen diren hutsegiteak, alborapenetiketa AA bidezko zaintzatik eratorritako arriskuak, langabezia teknologikoaren ondorioz sortzen ari diren arriskuak, manipulazio digitalak, armen arloko arriskuak eta etorkizuneko adimen artifizial orokorreko (AAO) agenteen kontrola galtzearekin lotutako arrisku espekulatiboak. 

Arrisku horietako batzuk euskarazko hedabide eta dibulgazio-lanetan ere aztertu dira, adibidez AAren alborapenak, erabilera desegokia eta manipulazio digital azpimarratzen dituzten artikuluetan.

## Historia 
Sistema autonomoen arriskuei buruzko lehen ohartarazpenak 1949an egin zituen Norbert Wienerrek. Gero, denbora luzean gaiari arreta gutxi eskaini zitzaion, baina 2008 eta 2009 urteetan AAAIk (ingelesez *American Association for Artificial Intelligence*, euskaraz *Adimen Artifizialaren Amerikako Elkartea)* onartu zuen sistema konplexuek ustekabeko jokabideak izan ditzaketela eta horri buruz gehiago ikertu behar zela.

Gaiaren inguruko kezka nabarmen zabaldu zen 2014an Nick Bostromek *Superintelligence: Paths, Dangers, Strategies* (euskaraz, *Superadimena: Bideak, Arrikuak, Estrategiak*) liburua argitaratu zuenean, AAOk eragin ditzakeen arriskuak eztabaida publiko eta politikoan sartuta. 2015ean arloa finkatzen hasi zen: adituen gutun irekia, Gizakiekin Bateragarria den AA Zentroaren sorrera Berkeley Unibertsitatean eta segurtasunari buruzko ikerketa finantzaketa handitua. 2016an kaleratu zen *Concrete Problemas in AI safety (*euskaraz *AA Segurtasuneko Arazo Zehatzak)*, lehen agenda tekniko eragingarrienetako bat.

2017tik aurrera ikuspegia sendotu egin zen Asilomar Printzipioei eta DeepMind Safety bezalako taldeen lanari esker; horiek, gaur egungo ildo tekniko nagusiak landu zituzten: sendotasuna, zehaztapena eta fidagarritasuna. 2021ean, gai horiek *Unsolved Problems in ML Safety* (euskaraz *Ikasketa Atomatikoaren Segurtasuneko Konpondu Gabeko Arazoak*) lanean bildu ziren. 2023an, eztabaidak jauzi politikoa eman zuen, Erresuma Batuak AA segurtasunari buruzko lehen goi-bilera globala antolatu zuenean.

## Ikerketa-arloak 
AA segurtasuneko ikerketa-arloen artean sendotasuna, gainbegiratzea eta lerrokatzea daude, hizkuntza-ereduei, ibilgailu autonomoei eta gomendio-sistemei  eragiten diete; sistemek zenbat eta gaitasun handiagoa eduki, orduan eta handiagoak dira arazoak, sendotasuna, jokoen teoria, algoritmoen ekitatea eta gizarte-zientziak.

## Erreferentziak