Արհեստական ​​բանականության անվտանգություն

**Արհեստական ​​բանականության** (ԱԲ) անվտանգությունը միջառարկայական ոլորտ է, որը կենտրոնացած է արհեստական ​​բանականության (ԱԲ) համակարգերից բխող վթարների, չարաշահման կամ այլ վնասակար հետևանքների կանխարգելման վրա: Այն ներառում է ԱԲ-ի համապատասխանեցումը (որի նպատակն է ապահովել, որ ԱԲ համակարգերը գործեն նախատեսվածի պես), ԱԲ համակարգերի ռիսկերի մոնիթորինգը և դրանց կայունության բարձրացումը: Այդ ոլորտը հատկապես մտահոգված է առաջադեմ ԱԲ մոդելների կողմից առաջացող գոյաբանական ռիսկերով։

Տեխնիկական հետազոտություններից զատ, արհեստական ​​բանականության անվտանգությունը ներառում է անվտանգությունը խթանող նորմերի և քաղաքականության մշակում: Այն զգալի ժողովրդականություն է ձեռք բերեց 2023 թվականին՝ գեներատիվ արհեստական ​​բանականության արագ առաջընթացի և հետազոտողների ու գործադիր տնօրենների կողմից հնարավոր վտանգների վերաբերյալ հանրային մտահոգությունների բարձրացման շնորհիվ: 2023 թվականի արհեստական ​​բանականության անվտանգության գագաթնաժողովի ժամանակ Միացյալ Նահանգները և Միացյալ Թագավորությունը ստեղծել են իրենց սեփական արհեստական ​​բանականության անվտանգության ինստիտուտը։ Այնուամենայնիվ, հետազոտողները մտահոգություն են հայտնել, որ արհեստական ​​բանականության անվտանգության միջոցառումները չեն համընթաց արհեստական ​​բանականության կարողությունների արագ զարգացմանը։

## Մոտիվացիաներ
Գիտնականները քննարկում են կարևորագույն համակարգերի խափանումներից բխող ներկայիս ռիսկերը, կողմնակալությունը,և արհեստական ​​բանականության միջոցով հսկողությունը, ինչպես նաև ի հայտ եկող ռիսկեր, ինչպիսիք են տեխնոլոգիական գործազրկությունը, թվային մանիպուլյացիան, զենքի օգտագործումը, Արհեստական ​​բանականության միջոցով իրականացվող կիբեռհարձակումները և բիոահաբեկչությունը։ Նրանք նաև քննարկում են ապագա արհեստական ​​ընդհանուր ինտելեկտի (AGI) գործակալների նկատմամբ վերահսկողությունը կորցնելու հետ կապված սպեկուլյատիվ ռիսկերը, կամ Արհեստական ​​բանականությունից, որը հնարավորություն է տալիս ստեղծել հավերժ կայուն բռնապետություններ։

### Գոյաբանական անվտանգություն

Ոմանք քննադատել են բնական գազային ինտելեկտի վերաբերյալ մտահոգությունները, ինչպես օրինակ՝ Էնդրյու Նգը, որը 2015 թվականին դրանք համեմատել է «Մարսի գերբնակեցման մասին մտահոգությունների» հետ, երբ մենք դեռ ոտք չենք դրել այդ մոլորակի վրա։ Մյուս կողմից, Ստյուարտ Ջ. Ռասելը կոչ է անում զգույշ լինել՝ պնդելով, որ «ավելի լավ է կանխատեսել մարդկային հնարամտությունը, քան թերագնահատել այն»։

Արհեստական ​​​​ինտելեկտի հետազոտողները լայնորեն տարբեր կարծիքներ ունեն արհեստական ​​​​ինտելեկտի տեխնոլոգիայի կողմից առաջացող ռիսկի լրջության և հիմնական աղբյուրների վերաբերյալ – չնայած հարցումները ցույց են տալիս, որ մասնագետները լուրջ են վերաբերվում բարձր հետևանքների ռիսկերին: Արհեստական ​​բանականության հետազոտողների երկու հարցումներում միջին հարցվածները լավատեսորեն էին տրամադրված արհեստական ​​բանականության նկատմամբ ընդհանուր առմամբ, բայց զարգացած արհեստական ​​բանականության «ծայրահեղ վատ (օրինակ՝ մարդկության ոչնչացում)» արդյունքի 5% հավանականություն էին տալիս։ Բնական լեզվի մշակման համայնքի 2022 թվականի հարցման արդյունքում, հարցվածների 37%-ը համաձայն էր կամ թույլ համաձայն էր այն մտքի հետ, որ արհեստական ​​բանականության որոշումները կարող են հանգեցնել աղետի, որը «առնվազն նույնքան վատ է, որքան լիակատար միջուկային պատերազմը»։

## Պատմություն
Արհեստական ​​բանականության ռիսկերը սկսել են լրջորեն քննարկվել համակարգչային դարաշրջանի սկզբում․

1988 թվականին Բլեյ Ուիթբին հրատարակել է մի գիրք, որում ուրվագծվում էր արհեստական ​​բանականության զարգացման անհրաժեշտությունը՝ էթիկական և սոցիալապես պատասխանատու սկզբունքներով։ 
 
2008-ից 2009 թվականներին Արհեստական ​​բանականության զարգացման ասոցիացիան (AAAI) պատվիրել է ուսումնասիրություն՝ արհեստական ​​բանականության հետազոտությունների և զարգացման հնարավոր երկարաժամկետ հասարակական ազդեցությունները ուսումնասիրելու և լուծելու համար: Հանձնաժողովը, ընդհանուր առմամբ, կասկածանքով էր վերաբերվում գիտաֆանտաստիկ գրողների արտահայտած արմատական ​​տեսակետներին, բայց համաձայն էր, որ «լրացուցիչ հետազոտությունները արժեքավոր կլինեն բարդ հաշվողական համակարգերի վարքագծի շրջանակը հասկանալու և ստուգելու մեթոդների վերաբերյալ՝ անսպասելի արդյունքները նվազագույնի հասցնելու համար»։

2011 թվականին Ռոման Յամպոլսկին ներկայացրել է «Արհեստական ​​բանականության անվտանգության ճարտարագիտություն» տերմինը Արհեստական ​​բանականության փիլիսոփայության և տեսության համաժողովում, թվարկելով արհեստական ​​ինտելեկտի համակարգերի նախկին խափանումները և պնդելով, որ «նման իրադարձությունների հաճախականությունն ու լրջությունը կայուն կերպով կաճի, քանի որ արհեստական ​​ինտելեկտն ավելի կարողունակ կդառնա»։

2014 թվականին փիլիսոփա Նիք Բոստրոմը հրատարակել է «Սուպերինտելեկտ. Ուղիներ, վտանգներ, ռազմավարություններ» գիրքը: Նա կարծում է, որ արհեստական ​​ինտելեկտի (ԱԻ) աճը կարող է առաջացնել տարբեր հասարակական խնդիրներ՝ սկսած աշխատուժի տեղահանումից արհեստական ​​ինտելեկտի միջոցով, քաղաքական և ռազմական կառույցների մանիպուլյացիաներից մինչև նույնիսկ մարդկության ոչնչացման հնարավորություն։ Նրա այն փաստարկը, որ ապագայի առաջադեմ համակարգերը կարող են սպառնալիք ներկայացնել մարդկության գոյության համար, դրդել է Իլոն Մասկին, Բիլ Գեյթսին, և Սթիվեն Հոքինգին նմանատիպ մտահոգություններ հայտնելու համար։

2015 թվականին արհեստական ​​բանականության տասնյակ մասնագետներ ստորագրել են արհեստական ​​բանականության վերաբերյալ բաց նամակ՝ կոչ անելով հետազոտություններ անցկացնել արհեստական ​​բանականության հասարակական ազդեցության վերաբերյալ և ուրվագծելով կոնկրետ ուղղություններ։ Մինչ օրս նամակը ստորագրել է ավելի քան 8000 մարդ, այդ թվում՝ Յան Լեկունը, Շեյն Լեգը, Յոշուա Բենջիոն և Ստյուարտ Ռասելը։

Նույն թվականին պրոֆեսոր Ստյուարտ Ջ. Ռասելի գլխավորած գիտնականների մի խումբ հիմնադրել է «Մարդու հետ համատեղելի արհեստական ​​բանականության կենտրոնը» Կալիֆոռնիայի Բերկլիի համալսարանում, իսկ «Կյանքի ապագայի ինստիտուտը» 6.5 միլիոն դոլարի դրամաշնորհներ տրամադրել է «արհեստական ​​բանականության (ԱԲ) անվտանգ, էթիկական և օգտակար մնալու ապահովման» նպատակով իրականացվող հետազոտությունների համար։

2016 թվականին Սպիտակ տան գիտության և տեխնոլոգիաների քաղաքականության գրասենյակը և Քարնեգի Մելոն համալսարանը հայտարարել են արհեստական ​​​​բանականության անվտանգության և վերահսկողության վերաբերյալ հանրային սեմինարի մասին, որը Սպիտակ տանը կազմակերպված չորս սեմինարներից մեկն էր, որոնք ուղղված էին արհեստական ​​բանականության «առավելություններն ու թերությունները» ուսումնասիրելուն։ Նույն թվականին հրատարակվել է «Արհեստական ​​բանականության անվտանգության կոնկրետ խնդիրները» գիրքը, որը Արհեստական ​​բանականության անվտանգության վերաբերյալ առաջին և ամենաազդեցիկ տեխնիկական օրակարգերից մեկն էր։

2017 թվականին «Կյանքի ապագայի ինստիտուտը» հովանավորել է «Ասիլոմար» օգտակար արհեստական ​​ինտելեկտին նվիրված կոնֆերանսը, որտեղ ավելի քան 100 մտքի առաջնորդներ ձևակերպել են օգտակար արհեստական ​​ինտելեկտի սկզբունքներ, այդ թվում՝ «Ռասայից խուսափում. արհեստական ​​ինտելեկտի համակարգեր մշակող թիմերը պետք է ակտիվորեն համագործակցեն՝ անվտանգության չափանիշների խախտումներից խուսափելու համար»։

2018 թվականին DeepMind Safety թիմը ուրվագծել է արհեստական ​​բանականության անվտանգության խնդիրները՝ կապված տեխնիկական բնութագրերի, կայունության, և երաշխիքի հետ։ Հաջորդ տարի հետազոտողները ICLR-ում կազմակերպել են սեմինար, որը կենտրոնացած էր այդ խնդրահարույց ոլորտների վրա։

2021 թվականին հրատարակվել է «Մանկական ուսուցման անվտանգության չլուծված խնդիրները» գիրքը, որը ուրվագծում էր կայունության, մոնիթորինգի, համաձայնեցման և համակարգային անվտանգության վերաբերյալ հետազոտական ​​ուղղությունները։

2023 թվականին Ռիշի Սունակն ասել է, որ ցանկանում է, որ Միացյալ Թագավորությունը լինի «գլոբալ արհեստական ​​ինտելեկտի անվտանգության կարգավորման աշխարհագրական օջախը» և հյուրընկալի արհեստական ​​ինտելեկտի անվտանգությանը նվիրված առաջին համաշխարհային գագաթնաժողովը։ Արհեստական ​​​​բանականության անվտանգության գագաթնաժողովը տեղի է ունեցել 2023 թվականի նոյեմբերին և կենտրոնացել է առաջնային արհեստական ​​​​ինտելեկտի մոդելների հետ կապված չարաշահման և վերահսկողության կորստի ռիսկերի վրա։ Գագաթնաժողովի ընթացքում հայտարարվել է առաջադեմ արհեստական ​​բանականության անվտանգության վերաբերյալ միջազգային գիտական ​​զեկույց ստեղծելու մտադրության մասին։

2024 թվականին ԱՄՆ-ն և Մեծ Բրիտանիան նոր գործընկերություն հաստատել են արհեստական բանականության անվտանգության գիտության ոլորտում: Փոխըմբռնման հուշագիրը ստորագրվել է 2024 թվականի ապրիլի 1-ին ԱՄՆ առևտրի նախարար Ջինա Ռայմոնդոյի և Մեծ Բրիտանիայի տեխնոլոգիական նախարար Միշել Դոնելանի կողմից՝ համատեղ մշակելու արհեստական ​​ինտելեկտի առաջադեմ մոդելների թեստավորում՝ նոյեմբերին Բլեչլի Պարկում կայացած արհեստական ​​ինտելեկտի անվտանգության գագաթնաժողովում հայտարարված պարտավորություններից հետո։

2025 թվականին Յոշուա Բենջիոյի գլխավորությամբ 96 փորձագետներից բաղկացած միջազգային թիմը հրապարակել է արհեստական ​​բանականության անվտանգության առաջին միջազգային զեկույցը: 30 երկրների և Միավորված Ազգերի Կազմակերպության պատվերով կազմված զեկույցը ներկայացնում է առաջադեմ արհեստական ​​բանականության հետ կապված հնարավոր ռիսկերի առաջին համաշխարհային գիտական ​​​​վերլուծությունը: Այն մանրամասն նկարագրում է չարաշահումից, անսարքությունից և հասարակական խաթարումից բխող հնարավոր սպառնալիքները՝ ապացույցների վրա հիմնված եզրակացությունների միջոցով քաղաքականությունը հիմնավորելու նպատակով՝ առանց կոնկրետ առաջարկություններ տալու։

## Հետազոտության ուղղվածություն

Արհեստական ​​​​բանականության անվտանգության հետազոտական ​​​​ոլորտները ներառում են կայունություն, մոնիթորինգ և համաձայնեցում։

### Հզորություն
#### Հակառակորդական կայունություն
Արհեստական բանականության համակարգերը հաճախ խոցելի են հակառակորդական օրինակների կամ «մեքենայական ուսուցման (ML) մոդելների մուտքային տվյալների նկատմամբ, որոնք հարձակվողը դիտավորյալ նախագծել է մոդելի սխալ թույլ տալու համար»։ Օրինակ, 2013 թվականին Սեգեդին և այլք հայտնաբերել են, որ պատկերին որոշակի աննկատելի խանգարումներ ավելացնելը կարող է հանգեցնել դրա բարձր վստահությամբ սխալ դասակարգմանը։ Դա շարունակում էր խնդիր մնալ նեյրոնային ցանցերի հետ, չնայած վերջին աշխատանքներում խախտումները սովորաբար բավականաչափ մեծ են՝ նկատելի լինելու համար։

Աջ կողմում պատկերը կանխատեսվում է որպես ջայլամ՝ պերտուրբացիայի կիրառումից հետո: (Ձախ)-ն ճիշտ կանխատեսված նմուշ է, (կենտրոնում) պերտուրբացիայի կիրառումը՝ 10x մեծացված, (աջ)՝ հակառակորդական օրինակ։

Հակառակորդի կայունությունը հաճախ կապված է անվտանգության հետ։ Հետազոտողները ցույց են տվել, որ աուդիո ազդանշանը կարող է աննկատելիորեն փոփոխվել այնպես, որ խոսքը տեքստի վերածող համակարգերը այն տառադարձեն հարձակվողի ընտրած ցանկացած հաղորդագրության։ Ցանցի ներխուժման և վնասակար ծրագրերի հայտնաբերման համակարգերը պետք է նաև լինեին թշնամաբար դիմացկուն, քանի որ հարձակվողները կարող են նախագծել իրենց հարձակումները՝ դետեկտորներին խաբելու համար։

Նպատակներ ներկայացնող մոդելները (պարգևատրման մոդելները) պետք է նաև լինեն հակադրաբար կայուն։ Օրինակ, պարգևատրման մոդելը կարող է գնահատել, թե որքան օգտակար է տեքստային պատասխանը, և լեզվական մոդելը կարող է մարզվել այդ միավորը մեծացնելու համար։ Հետազոտողները ցույց են տվել, որ եթե լեզվական մոդելը բավականաչափ երկար է մարզվում, այն կօգտագործի պարգևատրման մոդելի խոցելիությունները՝ ավելի լավ միավոր ստանալու և նախատեսված առաջադրանքը ավելի վատ կատարելու համար։ Այդ խնդիրը կարող է լուծվել՝ բարելավելով պարգևատրման մոդելի հակառակորդական կայունությունը։ Ավելի ընդհանուր առմամբ, ցանկացած արհեստական ​​բանականության համակարգ, որն օգտագործվում է մեկ այլ արհեստական ​​բանականության համակարգ գնահատելու համար, պետք է լինի մրցակցային առումով կայուն։ Դա կարող է ներառել նաև մոնիթորինգի գործիքներ, քանի որ դրանք նույնպես կարող են կեղծվել՝ ավելի բարձր պարգև ստանալու համար։

### Մոնիթորինգ
#### Անորոշության գնահատում
Մարդ օպերատորների համար հաճախ կարևոր է գնահատել, թե որքանով պետք է վստահեն արհեստական ​​բանականության համակարգին, հատկապես բարձր ռիսկայնության պայմաններում, ինչպիսին է բժշկական ախտորոշումը։ ML մոդելները սովորաբար վստահություն են արտահայտում՝ հավանականություններ արտածելով, սակայն դրանք հաճախ չափազանց վստահ են, հատկապես այն իրավիճակներում, որոնք տարբերվում են այն մնացածից, որոնցում նրանք մարզված են եղել։ Կալիբրացման հետազոտությունը նպատակ ունի մոդելի հավանականությունները հնարավորինս մոտեցնել մոդելի ճիշտության իրական համամասնությանը։

Նմանապես, անոմալիաների հայտնաբերումը կամ բաշխումից դուրս (OOD) հայտնաբերումը նպատակ ունի պարզել, թե երբ է արհեստական ​​բանականության համակարգը գտնվում անսովոր իրավիճակում: Օրինակ, եթե ինքնավար մեքենայի սենսորը խափանվում է կամ այն ​​հանդիպում է դժվարանցանելի տեղանքի, այն պետք է զգուշացնի վարորդին՝ վերահսկողությունը ստանձնելու կամ կանգ առնելու համար։ Անոմալիայի հայտնաբերումը իրականացվել է պարզապես դասակարգիչին մարզելով՝ անոմալ և ոչ անոմալ մուտքային տվյալները տարբերակելու համար, չնայած օգտագործվում են մի շարք լրացուցիչ տեխնիկաներ։

#### Չար նպատակներով օգտագործման հայտնաբերում
Գիտնականներն ու պետական ​​​​մարմինները մտահոգություն են հայտնել, որ արհեստական բանականության համակարգերը կարող են օգտագործվել չարամիտ գործողներին զենքեր ստեղծելու, հասարակական կարծիքը մանիպուլյացիայի ենթարկելու, կամ կիբեռհարձակումները ավտոմատացնելու համար։ Այդ մտահոգությունները գործնականում մտահոգիչ են OpenAI-ի նման ընկերությունների համար, որոնք առցանց տեղադրում են հզոր արհեստական ​​բանականության գործիքներ։ Չարաշահումը կանխելու համար OpenAI-ը ստեղծել է հայտնաբերման համակարգեր, որոնք նշում կամ սահմանափակում են օգտատերերին՝ հիմնվելով նրանց գործունեության վրա։

#### Թափանցիկություն
Նեյրոնային ցանցերը հաճախ նկարագրվում են որպես սև արկղեր, ինչը նշանակում է, որ դժվար է հասկանալ, թե ինչու են նրանք կայացնում այդ որոշումները՝ հաշվի առնելով իրենց կատարած հաշվարկների հսկայական քանակը։ Դա դժվարացնում է խափանումները կանխատեսելը։ 2018 թվականին ինքնավար մեքենան վրայերթի է ենթարկել մի հետիոտնի՝ նրան չճանաչելու համար։ Արհեստական ​​բանականության ծրագրային ապահովման սև արկղի բնույթի պատճառով խափանման պատճառը մնում է անհայտ։ Այն նաև քննարկումներ է առաջացնում առողջապահության ոլորտում այն ​​​​մասին, թե արդյոք պետք է օգտագործվեն վիճակագրորեն արդյունավետ, բայց անթափանց մոդելներ։

Թափանցիկության կարևոր առավելություններից մեկը բացատրելիությունն է։ Երբեմն արդարությունն ապահովելու համար իրավական պահանջ է բացատրություն տալ, թե ինչու է կայացվել որոշումը, օրինակ՝ աշխատանքի դիմումները ավտոմատ կերպով զտելու կամ վարկային միավորների շնորհման համար։

Մեկ այլ առավելություն է ձախողման պատճառը բացահայտելը։ 2020 թվականի COVID-19 համավարակի սկզբում հետազոտողները օգտագործել են թափանցիկության գործիքներ՝ ցույց տալու համար, որ բժշկական պատկերների դասակարգիչները «ուշադրություն են դարձնում» հիվանդանոցային անտեղի պիտակներին։

Թափանցիկության տեխնիկաները կարող են օգտագործվել նաև սխալները շտկելու համար: Օրինակ՝ «Փաստական ​​ասոցիացիաների տեղորոշումը և խմբագրումը GPT-ում» հոդվածում հեղինակները կարողացել են բացահայտել մոդելի պարամետրեր, որոնք ազդել են Էյֆելյան աշտարակի գտնվելու վայրի վերաբերյալ հարցերին դրա պատասխանների վրա: Այնուհետև նրանք կարողացել են «խմբագրել» այդ գիտելիքները, որպեսզի մոդելը պատասխանի հարցերին այնպես, կարծես, թե աշտարակը գտնվում է Հռոմում, այլ ոչ թե Ֆրանսիայում։ Չնայած այդ դեպքում հեղինակները սխալ են թույլ տվել, այդ մեթոդները կարող են օգտագործվել դրանք արդյունավետորեն շտկելու համար: Մոդելի խմբագրման տեխնիկաներ գոյություն ունեն նաև համակարգչային տեսողության մեջ։

Վերջապես, ոմանք պնդում են, որ արհեստական ​​բանականության համակարգերի անթափանցիկությունը ռիսկի զգալի աղբյուր է, և դրանց գործունեության ավելի լավ ըմբռնումը կարող է կանխել ապագայում բարձր հետևանքներով խափանումները։ «Ներքին» մեկնաբանելիության հետազոտությունը նպատակ ունի մեքենայական ուսուցման մոդելները դարձնել ավելի քիչ անթափանցիկ։ Այդ հետազոտության նպատակներից մեկն է պարզել, թե ինչ են ներկայացնում ներքին նեյրոնային ակտիվացումները։ Օրինակ՝ հետազոտողները CLIP արհեստական ​​ինտելեկտի համակարգում հայտնաբերել են մի նեյրոն, որը արձագանքում է Սարդ-մարդու զգեստներով մարդկանց պատկերներին, Սարդ-մարդու էսքիզներին և «սարդ» բառին։ Այն նաև ներառում է այդ նեյրոնների կամ «շղթաների» միջև կապերի բացատրությունը։ Օրինակ, հետազոտողները տրանսֆորմատորային ուշադրության մեջ հայտնաբերել են օրինաչափությունների համապատասխանեցման մեխանիզմներ, որոնք կարող են դեր խաղալ նրանում, թե ինչպես են լեզվական մոդելները սովորում իրենց համատեքստից։ «Ներքին մեկնաբանելիությունը» համեմատվել է նյարդաբանության հետ։ Երկու դեպքում էլ նպատակն է հասկանալ, թե ինչ է կատարվում բարդ համակարգում, չնայած մեքենայական բժշկության հետազոտողներն ունեն այն առավելությունը, որ կարող են կատարել կատարյալ չափումներ և կատարել կամայական աբլյացիաներ։

#### Տրոյանների հայտնաբերում
Մեքենայական ուսուցման մոդելները կարող են պարունակել «տրոյականներ» կամ «հետին դռներ». խոցելիություններ, որոնք չարամիտ գործողները չարամիտ կերպով ներկառուցում են արհեստական ​​բանականության համակարգի մեջ: Օրինակ, տրոյականներով վարակված դեմքի ճանաչման համակարգը կարող է մուտք գործել, երբ տեսադաշտում է որոշակի զարդ, կամ տրոյական համակարգով վարակված ինքնավար մեքենան կարող է նորմալ գործել մինչև որոշակի ազդանշանի տեսանելի դառնալը։ Դա կարող է դժվար չլինել որոշ խոշոր մոդելների դեպքում, ինչպիսիք են CLIP-ը կամ GPT-3-ը, քանի որ դրանք մարզվում են հանրությանը հասանելի ինտերնետային տվյալների վրա։ Հետազոտողները կարողացել են տրոյական վիրուս տեղադրել պատկերների դասակարգիչում՝ փոխելով 3 միլիոն ուսումնական պատկերներից ընդամենը 300-ը։ Անվտանգության ռիսկ ներկայացնելուց բացի, հետազոտողները պնդում են, որ տրոյական վիրուսները կոնկրետ միջավայր են ստեղծում ավելի լավ մոնիթորինգի գործիքների փորձարկման և մշակման համար։

Anthropic-ի 2024 թվականին հրապարակած հետազոտական ​​աշխատանքը ցույց է տվել, որ մեծ լեզվական մոդելները կարող են մարզվել մշտական ​​հետին դռներով։ Այդ «քնած գործակալների» մոդելները կարող են ծրագրավորվել որոշակի ամսաթվից հետո վնասակար արդյունքներ (օրինակ՝ խոցելի կոդ) ստեղծելու համար, մինչդեռ նախապես նորմալ են գործում։ Արհեստական ​​բանականության ստանդարտ անվտանգության միջոցառումները, ինչպիսիք են վերահսկվող նուրբ կարգավորումը, ուժեղացված ուսուցումը և հակառակորդական մարզումը, չեն կարողացել վերացնել այդ հետին դռները։

### Հավասարեցում
### Համակարգային անվտանգություն և սոցիալ-տեխնիկական գործոններ
Արհեստական ​​բանականության ռիսկերը (և ավելի ընդհանուր առմամբ տեխնոլոգիական ռիսկերը) սովորական է դասակարգել որպես *չարաշահում կամ վթարներ*։ Որոշ գիտնականներ ենթադրել են, որ այդ շրջանակը թերի է։ Օրինակ, Կուբայի հրթիռային ճգնաժամը միանշանակ պատահականություն կամ տեխնոլոգիայի չարաշահում չէր։ Քաղաքականության վերլուծաբաններ Զվետսլուտը և Դեֆոն գրել են. «Չարաշահման և վթարի տեսանկյունները հակված են կենտրոնանալ միայն վնասին հանգեցնող պատճառահետևանքային շղթայի վերջին քայլի վրա. այսինքն՝ այն անձի, ով չարաշահել է տեխնոլոգիան կամ համակարգի, որը գործել է չնախատեսված ձևերով... Սակայն հաճախ համապատասխան պատճառահետևանքային շղթան շատ ավելի երկար է»։ Ռիսկերը հաճախ առաջանում են «կառուցվածքային» կամ «համակարգային» գործոններից, ինչպիսիք են մրցակցային ճնշումները, վնասների տարածումը, արագ զարգացումը, անորոշության բարձր մակարդակը և անվտանգության անբավարար մշակույթը։ Անվտանգության ճարտարագիտության ավելի լայն համատեքստում, կառուցվածքային գործոններ, ինչպիսին է «կազմակերպչական անվտանգության մշակույթը», կենտրոնական դեր են խաղում STAMP-ի ռիսկերի վերլուծության հայտնի շրջանակում։

Կառուցվածքային տեսանկյունից ոգեշնչված՝ որոշ հետազոտողներ ընդգծել են մեքենայական ուսուցման օգտագործման կարևորությունը սոցիալ-տեխնիկական անվտանգության գործոնները բարելավելու համար, օրինակ՝ մեքենայական ուսուցման օգտագործումը կիբերպաշտպանության, ինստիտուցիոնալ որոշումների կայացման բարելավման և համագործակցության խթանման համար։ Մյուսները շեշտել են նախագծման գործընթացում ինչպես արհեստական ​​բանականության մասնագետների, այնպես էլ ոլորտի փորձագետների ներգրավման կարևորությունը՝ կառուցվածքային խոցելիությունները հաղթահարելու համար։

#### Կիբերպաշտպանություն
Որոշ գիտնականներ մտահոգված են, որ արհեստական ​​բանականությունը կսրի կիբերհարձակվողների և կիբերպաշտպանների միջև արդեն իսկ անհավասարակշիռ խաղը։ Դա կբարձրացնի «առաջին հարվածի» խթանները և կարող է հանգեցնել ավելի ագրեսիվ և անկայունացնող հարձակումների: Այդ ռիսկը մեղմելու համար ոմանք պաշտպանում են կիբերպաշտպանությանը մեծ շեշտադրումը: Բացի այդ, ծրագրային ապահովման անվտանգությունը կարևոր է հզոր արհեստական ​​բանականության մոդելների գողությունը և չարաշահումը կանխելու համար։ Վերջերս կատարված ուսումնասիրությունները ցույց են տվել, որ արհեստական ​​բանականությունը կարող է զգալիորեն բարելավել ինչպես տեխնիկական, այնպես էլ կառավարչական կիբերանվտանգության խնդիրները՝ ավտոմատացնելով առօրյա առաջադրանքները և բարելավելով ընդհանուր արդյունավետությունը։

#### Ինստիտուցիոնալ որոշումների կայացման բարելավում
Արհեստական ​​բանականության զարգացումը տնտեսական և ռազմական ոլորտներում կարող է հանգեցնել աննախադեպ քաղաքական մարտահրավերների, որոշ գիտնականներ արհեստական ​​բանականության ռասայի դինամիկան համեմատել են սառը պատերազմի հետ, որտեղ որոշում կայացնողների փոքրաթիվ զգույշ դատողությունն էր հաճախ որոշում կայունությունն ու աղետը։ Արհեստական բանականության հետազոտողները պնդում են, որ արհեստական ​​​​ինտելեկտի տեխնոլոգիաները կարող են օգտագործվել նաև որոշումների կայացմանը նպաստելու համար։ Օրինակ, հետազոտողները սկսում են մշակել արհեստական ​​բանականության կանխատեսումներ և խորհրդատվական համակարգեր։

#### Համագործակցության խթանում
Աշխարհի ամենամեծ սպառնալիքներից շատերը (միջուկային պատերազմ, կլիմայի փոփոխություն և այլն) ձևակերպվել են որպես համագործակցության մարտահրավերներ: Ինչպես հայտնի «բանտարկյալի դիլեմայի» սցենարում, որոշ դինամիկաներ կարող են հանգեցնել վատ արդյունքների բոլոր խաղացողների համար, նույնիսկ երբ նրանք օպտիմալ կերպով գործում են իրենց անձնական շահերից ելնելով: Օրինակ, ոչ մի առանձին գործող կողմ չունի ուժեղ խթաններ կլիմայի փոփոխության դեմ պայքարելու համար, նույնիսկ եթե հետևանքները կարող են զգալի լինել, եթե ոչ ոք չմիջամտի:

Արհեստական ​​​​ինտելեկտի համագործակցության կարևոր մարտահրավերներից մեկը «մինչև հատակը մրցավազքից» խուսափելն է։ Այդ սցենարում երկրները կամ ընկերությունները մրցում են ավելի հզոր արհեստական ​​բանականության համակարգեր կառուցելու համար և անտեսում են անվտանգությունը, ինչը հանգեցնում է աղետալի վթարի, որը վնասում է բոլոր ներգրավվածներին։ Այդպիսի սցենարների վերաբերյալ մտահոգությունները ոգեշնչել են ինչպես քաղաքական, այնպես էլ տեխնիկական ջանքեր՝ մարդկանց և, հնարավոր է, նաև արհեստական ​​բանականության համակարգերի միջև համագործակցությունը խթանելու համար: Արհեստական ​​բանականության վերաբերյալ հետազոտությունների մեծ մասը կենտրոնանում է առանձին գործակալների նախագծման վրա՝ մեկուսացված գործառույթներ սպասարկելու համար (հաճախ «միաօգտատեր» խաղերում): Գիտնականները ենթադրում են, որ քանի որ արհեստական ​​բանականության համակարգերը դառնում են ավելի ինքնավար, կարող է անհրաժեշտ դառնալ ուսումնասիրել և ձևավորել դրանց փոխազդեցության եղանակը։

#### Մեծ լեզվական մոդելների մարտահրավերները
Վերջին տարիներին արհեստական ​​բանականության անվտանգության ոլորտում մեծ լեզվական մոդելների (LLM) մշակումը առաջացրել է եզակի մտահոգություններ: Հետազոտողներ Բենդերը, Գեբրուն և այլք ընդգծել են այդ մոդելների վերապատրաստման հետ կապված բնապահպանական և ֆինանսական ծախսերը՝ ընդգծելով, որ «Տրանսֆորմեր» մոդելների նման վերապատրաստման ընթացակարգերի էներգիայի սպառումը և ածխածնային հետքը կարող են զգալի լինել: Ավելին, այդ մոդելները հաճախ հենվում են ինտերնետային հսկայական, չմշակված տվյալների բազաների վրա, որոնք կարող են կոդավորել գերիշխող և կողմնակալ տեսակետներ՝ ավելի շատ մարգինալացնելով թերներկայացված խմբերը: Մեծածավալ վերապատրաստման տվյալները, թեև հսկայական են, չեն երաշխավորում բազմազանություն և հաճախ արտացոլում են արտոնյալ ժողովրդագրական խմբերի աշխարհայացքները, ինչը հանգեցնում է մոդելների ստեղծմանը, որոնք հավերժացնում են առկա կողմնակալություններն ու կարծրատիպերը: Այդ իրավիճակը սրվում է այդ մոդելների՝ թվացյալ համահունչ և սահուն տեքստ ստեղծելու հակումով, որը կարող է մոլորեցնել օգտատերերին՝ իմաստ և մտադրություն վերագրելով այնտեղ, որտեղ այն գոյություն չունի, մի երևույթ, որը նկարագրվում է որպես «ստոխաստիկ թութակներ»: Հետևաբար, այդ մոդելները ռիսկեր են պարունակում՝ ուժեղացնելու հասարակական կողմնակալությունները, տարածելու ապատեղեկատվություն և օգտագործվելու չարամիտ նպատակներով, ինչպիսիք են ծայրահեղական քարոզչությունը կամ խորը կեղծիքները: Այդ մարտահրավերները լուծելու համար հետազոտողները պաշտպանում են տվյալների հավաքածուների ստեղծման և համակարգերի մշակման ավելի ուշադիր պլանավորումը՝ ընդգծելով այնպիսի հետազոտական ​​նախագծերի անհրաժեշտությունը, որոնք դրականորեն են նպաստում արդար տեխնոլոգիական էկոհամակարգի ստեղծմանը։

Իրավագիտության մագիստրոսների կողմից առաջադրվող եզակի մարտահրավերները տարածվում են նաև անվտանգության խոցելիությունների վրա։ Դրանք ներառում են տարբեր մանիպուլյացիոն տեխնիկաներ, ինչպիսիք են արագ ներարկումը, սխալ տեղեկատվության ստեղծումը և մոդելի գողությունը, որոնք կարող են շահագործվել իրենց նախատեսված գործառույթը խաթարելու համար: Դա կարող է թույլ տալ հարձակվողներին շրջանցել անվտանգության միջոցառումները և առաջացնել չնախատեսված արձագանքներ:

## Կառավարման մեջ

Արհեստական ​​​​բանականության կառավարումը լայնորեն վերաբերում է արհեստական ​​​​ինտելեկտի համակարգերի օգտագործումը և զարգացումը ուղղորդող նորմերի, չափորոշիչների և կանոնակարգերի ստեղծմանը։

### Հետազոտություն
Արհեստական բանականության անվտանգության կառավարման հետազոտությունները տատանվում են արհեստական ​​​​ինտելեկտի հնարավոր ազդեցության հիմնարար հետազոտություններից մինչև կոնկրետ կիրառություններ: Հիմնարար առումով, հետազոտողները պնդում են, որ արհեստական ​​​​ինտելեկտը կարող է վերափոխել հասարակության բազմաթիվ ասպեկտներ իր լայն կիրառելիության շնորհիվ՝ համեմատելով այն էլեկտրաէներգիայի և գոլորշու շարժիչի հետ։ Որոշ աշխատանքներ կենտրոնացել են այդ ազդեցություններից առաջացող կոնկրետ ռիսկերի կանխատեսման վրա, օրինակ՝ զանգվածային գործազրկության, զենքի կիրառման, ապատեղեկատվության, հսկողության և իշխանության կենտրոնացման ռիսկերը։ Այլ աշխատանքներ ուսումնասիրում են թաքնված ռիսկի գործոնները, ինչպիսիք են արագ զարգացող արհեստական ​​բանականության արդյունաբերության մոնիթորինգի դժվարությունը, արհեստական ​​բանականության մոդելների առկայությունը, և «մարտավաճառություն դեպի ներքև» դինամիկան, Ալան Դեֆոն՝ DeepMind-ի երկարաժամկետ կառավարման և ռազմավարության ղեկավարը, ընդգծել է մրցարշավի վտանգները և համագործակցության հնարավոր անհրաժեշտությունը. «Արհեստական ​​բանականության անվտանգության և համաձայնեցվածության համար անհրաժեշտ և բավարար պայման կարող է լինել բարձր աստիճանի զգուշություն ցուցաբերել առաջադեմ հզոր համակարգեր տեղակայելուց առաջ։ Սակայն, եթե գործող անձինք մրցում են այնպիսի ոլորտում, որտեղ առաջինը հայտնվողները մեծ եկամուտներ ունեն կամ համեմատական ​​առավելություն ունեն, ապա նրանք ստիպված կլինեն ընտրել զգուշության ոչ օպտիմալ մակարդակ»։ Հետազոտական ​​հոսքը կենտրոնանում է արհեստական ​​բանականության հաշվետվողականությունը գնահատելու մոտեցումների, շրջանակների և մեթոդների մշակման, արհեստական ​​բանականության վրա հիմնված համակարգերի աուդիտների ուղղորդման և խթանման վրա։ Այդ մոտեցումների հիմնական մարտահրավերներից մեկը լայնորեն ընդունված ստանդարտների բացակայությունն է և մեթոդների պահանջների վերաբերյալ անորոշությունը, ինչպես նաև ոլորտում անվտանգության մշակույթի բացակայությունը։

Արհեստական ​​​​ինտելեկտի անվտանգությունը բարձրացնելու ջանքերը ներառում են շրջանակներ, որոնք մշակված են արհեստական ​​​​ինտելեկտի արդյունքները էթիկական ուղեցույցներին համապատասխանեցնելու և չարաշահման և տվյալների արտահոսքի նման ռիսկերը նվազեցնելու համար։ Գործիքներ, ինչպիսիք են Nvidia-ի Guardrails-ը, Llama Guard-ը, Preamble-ի կարգավորելի Guardrails-ը և Կլոդի Սահմանադրությունը մեղմացնում են խոցելիությունները, ինչպիսիք են արագ ներարկումը, և ապահովում են, որ արդյունքները համապատասխանեն նախապես սահմանված սկզբունքներին: Այդ շրջանակները հաճախ ինտեգրվում են արհեստական ​​բանականության համակարգերի մեջ՝ անվտանգությունն ու հուսալիությունը բարելավելու համար։

### Փիլիսոփայական տեսանկյուններ
Արհեստական ​​​​ինտելեկտի անվտանգության ոլորտը խորապես միահյուսված է փիլիսոփայական նկատառումների հետ, մասնավորապես՝ էթիկայի ոլորտում: Դեոնտոլոգիական էթիկան, որը շեշտը դնում է բարոյական կանոնների պահպանման վրա, առաջարկվել է որպես արհեստական ​​​​ինտելեկտի համակարգերը մարդկային արժեքներին համապատասխանեցնելու շրջանակ: Ոմանք ենթադրել են, որ դեոնտոլոգիական սկզբունքներ ներդնելով, արհեստական ​​բանականության համակարգերը կարող են ուղղորդվել խուսափելու վնաս պատճառող գործողություններից՝ ապահովելով, որ դրանց գործունեությունը մնա էթիկական սահմանների սահմաններում, սակայն այդ առաջարկները կասկածի տակ են դրվել, և առաջարկվել են ավելի խոստումնալից այլընտրանքներ։

Ընդհանուր ինտելեկտի OAGI օնտոգենետիկ ճարտարապետության շրջանակը ներառում է նախագծման միջոցով էթիկայի և կառավարման հստակ մեխանիզմներ (օրինակ՝ մարդկային վերահսկողական «պահապաններ» և պարտադիր «կանգնեցնելու և վերանայելու» ստուգիչ կետեր զարգացման հիմնական փուլերում) և, հետևաբար, գրականության մեջ քննարկվել է որպես ճարտարապետությանը կողմնորոշված ​​փորձ՝ անվտանգության երաշխիքները AGI նախագծման մեջ ինտեգրելու համար։

### Տեղական միջոցառումների մասշտաբավորում գլոբալ լուծումների համար
Արհեստական ​​բանականության անվտանգության խնդիրը լուծելիս կարևոր է ընդգծել տեղական և գլոբալ լուծումների միջև եղած տարբերությունը: Տեղական լուծումները կենտրոնանում են առանձին արհեստական ​​բանականության համակարգերի վրա՝ ապահովելով դրանց անվտանգությունն ու օգտակարությունը, մինչդեռ գլոբալ լուծումները ձգտում են անվտանգության միջոցառումներ իրականացնել բոլոր արհեստական ​​բանականության համակարգերի համար՝ տարբեր իրավասություններում: Որոշ հետազոտողներ պնդում են տեղական անվտանգության միջոցառումները գլոբալ մակարդակի հասցնելու անհրաժեշտության մասին՝ առաջարկելով դասակարգում այդ գլոբալ լուծումների համար: Այդ մոտեցումը ընդգծում է արհեստական ​​բանականության անվտանգության միջազգային կառավարման գործում համագործակցային ջանքերի կարևորությունը՝ ընդգծելով, որ ոչ մի առանձին կազմակերպություն չի կարող արդյունավետորեն կառավարել արհեստական ​​բանականության տեխնոլոգիաների հետ կապված ռիսկերը: Այդ հեռանկարը համահունչ է միջազգային քաղաքականության մշակման և կարգավորող շրջանակների շարունակական ջանքերին, որոնք նպատակ ունեն լուծելու ամբողջ աշխարհում առաջադեմ արհեստական ​​բանականության համակարգերի կողմից առաջ քաշված բարդ մարտահրավերները։

### Կառավարության գործողություններ
Որոշ փորձագետներ պնդում են, որ դեռ շատ վաղ է կարգավորել արհեստական ​​ինտելեկտը՝ մտահոգություն հայտնելով, որ կարգավորումները կխոչընդոտեն նորարարությանը, և հիմարություն կլինի «շտապել կարգավորել անտեղյակության մեջ»։ Մյուսները, ինչպիսին է բիզնես մագնատ Իլոն Մասկը, կոչ են անում կանխարգելիչ գործողություններ ձեռնարկել՝ աղետալի ռիսկերը մեղմելու համար։

Պաշտոնական օրենսդրությունից դուրս, պետական ​​​​մարմինները ներկայացրել են էթիկական և անվտանգության առաջարկություններ: 2021 թվականի մարտին ԱՄՆ-ի Արհեստական ​​​​բանականության ազգային անվտանգության հանձնաժողովը հայտնել է, որ արհեստական ​​​​բանականության ոլորտում առաջընթացը կարող է ավելի ու ավելի կարևոր դարձնել «համակարգերի համապատասխանության ապահովումը նպատակներին և արժեքներին, ներառյալ անվտանգությունը, կայունությունը և վստահելիությունը»։ Հետագայում, Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտը մշակել է արհեստական ​​ինտելեկտի ռիսկերի կառավարման շրջանակ, որը խորհուրդ է տալիս, որ «աղետալի ռիսկերի առկայության դեպքում մշակումն ու տեղակայումը պետք է դադարեցվել են անվտանգ եղանակով, մինչև ռիսկերը բավարար կերպով կառավարվեն»։

2021 թվականի սեպտեմբերին Չինաստանի Ժողովրդական Հանրապետությունը (ՉԺՀ) հրապարակել է Չինաստանում արհեստական ​​բանականության օգտագործման էթիկական ուղեցույցներ՝ ընդգծելով, որ արհեստական ​​բանականության վերաբերյալ որոշումները պետք է մնան մարդկային վերահսկողության ներքո և կոչ անելով պատասխանատվության մեխանիզմների: Նույն ամսին Միացյալ Թագավորությունը հրապարակել է իր 10-ամյա ազգային արհեստական ​​բանականության ռազմավարությունը, որում նշվում է, որ բրիտանական կառավարությունը «լուրջ է վերաբերվում չմիավորված արհեստական ​​ընդհանուր ինտելեկտի երկարաժամկետ ռիսկին և այն անկանխատեսելի փոփոխություններին, որոնք դա կարող է նշանակել ... աշխարհի համար»։ Ռազմավարությունը նկարագրում է արհեստական ​​բանականության երկարաժամկետ ռիսկերը, այդ թվում՝ աղետալի ռիսկերը գնահատելու գործողություններ։ Մեծ Բրիտանիայի կառավարությունը անցկացրել է արհեստական ​​բանականության անվտանգությանը նվիրված առաջին խոշոր գլոբալ գագաթնաժողովը։ Այն տեղի է ունեցել 2023 թվականի նոյեմբերի 1-ին և 2-ին և նկարագրվել է որպես «հնարավորություն քաղաքականության մշակողների և համաշխարհային առաջնորդների համար՝ քննարկելու արհեստական ​​բանականության անմիջական և ապագա ռիսկերը և այն, թե ինչպես կարելի է մեղմել այդ ռիսկերը համաշխարհային համակարգված մոտեցման միջոցով»։ «Չինաստանի մեդիա նախագիծը» հայտարարել է, որ «իր մոտեցման հիմնական ասպեկտները մնում են հիմնարարորեն անվտանգ չհամարվող՝ համաշխարհային ժողովրդավարական հասարակությունների չափանիշներով», պնդելով, որ Չինաստանի արհեստական ​​բանականության անվտանգության մոտեցման մի մասը կենտրոնացած է ՉԿԿ-ի տեղեկատվական վերահսկողության ամրապնդման վրա։

Կառավարական կազմակերպությունները, մասնավորապես Միացյալ Նահանգներում, նույնպես խրախուսել են արհեստական ​​բանականության անվտանգության տեխնիկական հետազոտությունների զարգացումը: «Հետախուզության առաջադեմ հետազոտական ​​նախագծերի գործունեությունը» նախաձեռնել է TrojAI նախագիծը՝ արհեստական ​​բանականության համակարգերի վրա տրոյական հարձակումները բացահայտելու և դրանցից պաշտպանվելու համար։ DARPA-ն զբաղվում է բացատրելի արհեստական ​​​​բանականության հետազոտություններով և թշնամական հարձակումների դեմ դիմադրության բարելավմամբ։ Եվ Ազգային գիտական ​​հիմնադրամը աջակցում է Հուսալի մեքենայական ուսուցման կենտրոնին և միլիոնավոր դոլարներ է տրամադրում արհեստական ​​բանականության անվտանգության փորձարարական հետազոտությունների համար։

2024 թվականին Միավորված ազգերի կազմակերպության գլխավոր ասամբլեան ընդունել է «անվտանգ, պաշտպանված և վստահելի» արհեստական ​​բանականության համակարգերի խթանման վերաբերյալ առաջին գլոբալ բանաձևը, որը շեշտը դնում էր մարդու իրավունքների հարգանքի, պաշտպանության և խթանման վրա արհեստական ​​բանականության նախագծման, մշակման, տեղակայման և օգտագործման գործում։

2024 թվականի մայիսին Գիտության, նորարարության և տեխնոլոգիաների նախարարությունը (DSIT) հայտարարել է արհեստական ​​բանականության անվտանգության հետազոտությունների համար 8.5 միլիոն ֆունտ ստեռլինգի ֆինանսավորման մասին՝ «Համակարգային արհեստական ​​բանականության անվտանգության արագ դրամաշնորհներ» ծրագրի շրջանակներում, որը գլխավորում էին Քրիստոֆեր Սամերֆիլդը և Շահար Ավինը արհեստական ​​բանականության անվտանգության ինստիտուտից՝ Մեծ Բրիտանիայի հետազոտությունների և նորարարության հետ համատեղ: Տեխնոլոգիաների նախարար Միշել Դոնելանը հայտարարել է ծրագրի մասին Սեուլի արհեստական ​​բանականության գագաթնաժողովում՝ նշելով, որ նպատակն է արհեստական ​​բանականությունը անվտանգ դարձնել հասարակության համար, և որ խոստումնալից առաջարկները կարող են լրացուցիչ ֆինանսավորում ստանալ: Մեծ Բրիտանիան նաև համաձայնագիր է ստորագրել 10 այլ երկրների և ԵՄ-ի հետ՝ արհեստական ​​բանականության անվտանգության ինստիտուտների միջազգային ցանց ստեղծելու համար՝ համագործակցությունը խթանելու և տեղեկատվություն ու ռեսուրսներ փոխանակելու համար: Բացի այդ, Մեծ Բրիտանիայի արհեստական ​​բանականության անվտանգության ինստիտուտը նախատեսում էր գրասենյակ բացել Սան Ֆրանցիսկոյում։

### Կորպորատիվ ինքնակարգավորում
Արհեստական ​​​​բանականության լաբորատորիաներն ու ընկերությունները, որպես կանոն, հետևում են անվտանգության պրակտիկային և նորմերին, որոնք դուրս են պաշտոնական օրենսդրությունից։ Կառավարման հետազոտողների նպատակներից մեկը այդ նորմերի ձևավորումն է: Գրականության մեջ հանդիպող անվտանգության առաջարկությունների օրինակներից են երրորդ կողմի աուդիտի իրականացումը, առաջարկելով պարգևատրումներ խափանումներ հայտնաբերելո ւ, արհեստական ​​բանականության միջադեպերի մասին տեղեկություններ տրամադրելու համար (այդ նպատակով ստեղծվել է արհեստական ​​բանականության միջադեպերի տվյալների բազա), հետևելով ուղեցույցներին՝ որոշելու համար, թե հրապարակել հետազոտություններ, թե մոդելներ, և բարելավելով տեղեկատվությունն ու կիբերանվտանգությունը արհեստական ​​բանականության լաբորատորիաներում։

Ընկերությունները նույնպես պարտավորություններ են ստանձնել: Cohere-ը, OpenAI-ը և AI21-ը առաջարկել և համաձայնության են եկել «լեզվական մոդելների տեղակայման լավագույն փորձի» շուրջ՝ կենտրոնանալով չարաշահման նվազեցման վրա։ Մրցարշավային դինամիկային նպաստելուց խուսափելու համար OpenAI-ը իր կանոնադրության մեջ նաև նշել է, որ «եթե արժեքային, անվտանգությանը գիտակցող որևէ նախագիծ մոտենա բնական գազային ինդուկտիվ համակարգի կառուցմանը մեզանից առաջ, մենք պարտավորվում ենք դադարեցնել մրցակցությունը և սկսել աջակցել այդ նախագծին»։ Բացի այդ, ոլորտի առաջատարներ, ինչպիսիք են DeepMind-ի գործադիր տնօրեն Դեմիս Հասաբիսը, Facebook-ի արհեստական ​​բանականության տնօրեն Յան ԼեԿունը, ստորագրել են բաց նամակներ, ինչպիսիք են Ասիլոմարի սկզբունքները և ինքնավար զենքերի բաց նամակը։

## Տես նաև
* ԱԲ համահնչեցում

## Ծանոթագրություններ

## Արտաքին հղումներ
* 
* 
* 
* AI Accidents: Աճող սպառնալիք
* Ավելի անվտանգ աշխարհի նախագծում

Կատեգորիա:Արհեստական բանականություն
Կատեգորիա:Կիբեռնետիկա