ԱԲ գործակալներ

**ԱԲ գործակալներ**, գեներատիվ արհեստական ​​բանականության համատեքստում, գործակալների մի դաս (նաև կոչվում են միավորված **ԱԲ համակարգեր** կամ **գործակալային ԱԲ**), որոնք առանձնանում են ինքնավար գործելու իրենց ունակությամբ: Գործակալական ԱԲ-ի գործիքները որոշումների կայացումը գերադասում են բովանդակության ստեղծումից և չեն պահանջում մարդկային հրահանգներ կամ շարունակական վերահսկողություն։

## Ընդհանուր ակնարկ
Արհեստական ​​​​բանականության գործակալներն ունեն մի քանի հիմնական հատկանիշներ, այդ թվում՝ բարդ նպատակային կառուցվածքներ, բնական լեզվի ինտերֆեյսներ, օգտատիրոջ վերահսկողությունից անկախ գործելու կարողություն և ծրագրային գործիքների կամ պլանավորման համակարգերի ինտեգրում: Նրանց կառավարման հոսքը հաճախ պայմանավորված է խոշոր լեզվական մոդելներով (ԽԼՄ)։ Գործակալները ներառում են նաև հիշողության համակարգեր՝ նախորդ օգտատեր-գործակալ փոխազդեցությունները հիշելու համար, և գործիքավորման ծրագրակազմ՝ գործակալի բաղադրիչները կազմակերպելու համար։

Հետազոտողներն ու մեկնաբանները նշել են, որ արհեստական ​​բանականության գործակալները չունեն ստանդարտ սահմանում։ Գործակալական արհեստական ​​բանականության հայեցակարգը համեմատվել է հորինված կերպար Ջ.Ա.Ռ.Վ.Ի.Ս.-ի հետ։

Արհեստական ​​​​ինտելեկտի գործակալների տարածված կիրառություններից մեկը առաջադրանքների ավտոմատացումն է, օրինակ՝ ճանապարհորդական ծրագրերի ամրագրումը՝ օգտատիրոջ հարցման հիման վրա։ Ակնառու օրինակներից են Devin AI-ը, AutoGPT-ը և SIMA-ն։ 2025 թվականից ի վեր թողարկված գործակալների այլ օրինակներից են OpenAI Operator-ը, ChatGPT Deep Research-ը, Manus-ը, Quark-ը (հիմնված Qwen-ի վրա), AutoGLM Rumination-ը և Coze-ը (ByteDance-ի կողմից)։ Արհեստական ​​բանականության գործակալներ ստեղծելու համար նախատեսված շրջանակները ներառում են LangChain-ը, ինչպես նաև այնպիսի գործիքներ, ինչպիսիք են CAMEL-ը, Microsoft AutoGen-ը և OpenAI Swarm-ը։

Google-ի, Microsoft-ի և Amazon Web Services-ի նման ընկերություններն առաջարկել են հարթակներ նախապես կառուցված արհեստական ​​բանականության գործակալներ տեղակայելու համար։

Միջգործակալային հաղորդակցության ստանդարտացման համար առաջարկվող արձանագրությունների թվում են՝ Agent Protocol-ը (LangChain-ի կողմից), Model Context Protocol-ը (Anthropic-ի կողմից), AGNTCY-ը, Gibberlink, Internet of Agents-ը, Agent2Agent (Google-ի կողմից), և Agent Network Protocol-ը։ Այս հավելվածներից մի քանիսը նաև օգտագործվում են գործակալները արտաքին ծրագրերի հետ կապելու համար։ Գործակալների հուսալիությունը լուծելու ծրագրային շրջանակները ներառում են AgentSpec, ToolEmu, GuardAgent, Agentic Evaluations և H2O.ai-ի կանխատեսողական մոդելները։

2025 թվականի փետրվարին Hugging Face-ը թողարկել է Open Deep Research-ը՝ OpenAI Deep Research-ի բաց կոդով տարբերակը։ Hugging Face-ը նաև թողարկել է անվճար վեբ դիտարկչի գործակալ, որը նման է OpenAI Operator-ին։ Galileo AI-ը Hugging Face-ում հրապարակել է գործակալների համար նախատեսված առաջատարների ցանկ, որը դասակարգում է նրանց աշխատանքը՝ հիմնվելով իրենց հիմքում ընկած ԽԼՄ-ների վրա։

Գործակալիների հիշողության համակարգերը ներառում են Mem0, MemGPT և MemOS։

## Պատմություն
Արհեստական ​​​​ինտելեկտի գործակալների գոյության հետքերը հայտնաբերվել են դեռևս 1990-ականների հետազոտություններում, Հարվարդի պրոֆեսոր Միլինդ Թամբեն նշել է, որ այդ ժամանակ արհեստական ​​​​ինտելեկտի գործակալի սահմանումը նույնպես պարզ չէր: Հետազոտող Էնդրյու Նգը համարվում է «գործակալ» տերմինը ավելի լայն լսարանի շրջանում տարածողը 2024 թվականին։

## Ուսուցում և թեստավորում
Հետազոտողները փորձել են կառուցել աշխարհի մոդելներ և ամրապնդվող ուսուցման միջավայրեր՝ արհեստական ​​ինտելեկտի գործակալներին մարզելու կամ գնահատելու համար: Օրինակ՝ արհեստական ​​ինտելեկտի գործակալներին մարզելու համար օգտագործվել են նաև Minecraft-ի և No Man's Sky-ի նման տեսախաղեր, ինչպես նաև ընկերությունների կայքերի կրկնօրինակներ։

## Ինքնավար հնարավորություններ
*[[Financial Times]]*-ը համեմատել է արհեստական ​​ինտելեկտի գործակալների ինքնավար մեքենաների SAE դասակարգման հետ՝ համեմատելով կիրառությունների մեծ մասը 2-րդ կամ 3-րդ մակարդակի հետ, որտեղ որոշները հասել են 4-րդ մակարդակի բարձր մասնագիտացված համակարգում, իսկ 5-րդ մակարդակը՝ տեսականորեն։

## Ճարտարապետական ​​​​նախշեր
Գործակալների համար տարածված ճարտարապետական ​​​​նախագծման ձևերը ներառում են.

* Վերականգնման-ընդլայնված ստեղծում,
* ReAct (Reason + Act), մտքի շղթայի ընդլայնում, որը որևէ գործողություն կատարելուց առաջ հարցնում է հիմքում ընկած մոդելին՝ բացատրելու դրա դատողությունը,
* Reflexion, որը օգտագործում է ԽԼՄ՝ գործակալի գործողությունների պլանի վերաբերյալ հետադարձ կապ ստեղծելու համար և պահպանում է այդ հետադարձ կապը հիշողության քեշում,
* Գործիք/գործակալների ռեգիստր, որն օգտագործվում է ծրագրային գործառույթների կամ այլ գործակալների կազմակերպման համար, որոնցից գործակալը կարող է օգտվել,
* Միանվագ մոդելային հարցում, որը մոդելին մեկ անգամ հարցում է կատարում՝ գործողությունների պլան ստեղծելու համար։

## Բազմամոդալ արհեստական ​​բանականության գործակալներ
Բացի խոշոր լեզվական մոդելներից (ԽԼՄ), գործակալների համար որպես հիմք կարող են օգտագործվել տեսողական լեզվի մոդելները (ՏԼՄ) և բազմամոդալ հիմքային մոդելները: 2024 թվականի սեպտեմբերին Ալլենի արհեստական ​​ինտելեկտի ինստիտուտը թողարկել է բաց կոդով տեսողական լեզվի մոդել, որը, *Wired*-ի կարծիքով, կարող է արհեստական ​​ինտելեկտի գործակալներին տալ բարդ համակարգչային առաջադրանքներ կատարելու հնարավորություն, այդ թվում՝ ավտոմատ համակարգչային հաքերային հարձակման հնարավորությունը։ Nvidia-ն թողարկել է մի շրջանակ, որը թույլ է տալիս մշակողներին օգտագործել ՏԼՄ-ներ, ԽԼՄ-ներ և վերականգնման-ընդլայնված սերնդի մեթոդներ՝ արհեստական ​​բանականության գործակալներ ստեղծելու համար, որոնք կարող են վերլուծել պատկերներ և տեսանյութեր, ներառյալ տեսանյութերի որոնումը և տեսանյութերի ամփոփումը։ Microsoft-ը թողարկել է բազմամոդալ գործակալի մոդել՝ պատրաստված պատկերների, տեսանյութերի, ծրագրային ապահովման օգտագործողի ինտերֆեյսի փոխազդեցությունների և ռոբոտատեխնիկայի տվյալների վրա, որը, ըստ ընկերության, կարող է մանիպուլյացիաներ անել ծրագրային ապահովման և ռոբոտների հետ։

## Կիրառություն
''Associated Press''-ի տվյալներով՝ 2025 թվականի ապրիլի դրությամբ արհեստական ​​բանականության գործակալների իրական աշխարհում կիրառությունները քիչ են։ *[[Fortune (ամսագիր)|Fortune]]*-ի տվյալներով՝ 2025 թվականի հունիսի դրությամբ շատ ընկերություններ հիմնականում փորձարկումներ են անում արհեստական ​​բանականության գործակալների հետ։

Կառավարության արդյունավետության դեպարտամենտի հավաքագրողներից մեկը 2025 թվականի ապրիլին առաջարկել է օգտագործել արհեստական ​​բանականության գործակալներ՝ մոտ 70,000 ԱՄՆ դաշնային կառավարության աշխատակիցների աշխատանքը ավտոմատացնելու համար՝ որպես OpenAI-ի ֆինանսավորմամբ և Palantir-ի հետ գործընկերային համաձայնագրով ստարտափի մաս: Այս առաջարկը քննադատության է արժանացել փորձագետների կողմից՝ իր անիրագործելիության, եթե ոչ անհնարինության, և բիզնեսների կողմից համապատասխան լայնորեն կիրառման բացակայության համար։

*Information*-ը արհեստական ​​բանականության գործակալներին բաժանել է յոթ նախատիպերի՝ բիզնես-առաջադրանքների գործակալներ՝ ձեռնարկության ծրագրային ապահովման շրջանակներում գործելու համար, խոսակցական գործակալներ, որոնք գործում են որպես չատբոտեր հաճախորդների աջակցության համար, հետազոտական ​​գործակալներ՝ տեղեկատվություն հարցումներ կատարելու և վերլուծելու համար (օրինակ՝ OpenAI Deep Research), վերլուծական գործակալներ՝ հաշվետվություններ ստեղծելու համար տվյալներ վերլուծելու համար, ծրագրային ապահովման մշակողի կամ կոդավորող գործակալներ (օրինակ՝ Cursor), տիրույթին հատուկ գործակալներ, որոնք ներառում են որոշակի թեմատիկ գիտելիքներ, և վեբ դիտարկչի գործակալներ (օրինակ՝ OpenAI Operator)։

2025 թվականի կեսերին արհեստական ​​բանականության գործակալներն օգտագործվել են տեսախաղերի մշակման, խաղամոլության (ներառյալ սպորտային խաղադրույքները) և կրիպտոարժույթային դրամապանակների (ներառյալ կրիպտոարժույթային առևտուրը և մեմ մետաղադրամները) ոլորտներում: 2025 թվականի օգոստոսին *[[New York Magazine]]*-ը ծրագրային ապահովման մշակումը նկարագրել է որպես արհեստական ​​բանականության գործակալների ամենաճշգրիտ օգտագործման դեպք: Նմանապես, 2025 թվականի հոկտեմբերին, նշելով սպասումների անկում, The Information-ը նշել է արհեստական ​​բանականության կոդավորող գործակալներին և հաճախորդների աջակցությանը որպես բիզնեսների կողմից հիմնական օգտագործման դեպքեր։

Արհեստական ​​բանականության գործակալները նույնպես ինտեգրվել են օպերացիոն համակարգերում: *The Economist*-ում գրելով՝ Signal-ի նախագահ Մերեդիթ Ուիթաքերը նշել է, որ գործակալները ներառվել են Microsoft-ի, Apple-ի և Google-ի կողմից մշակված օպերացիոն համակարգերում։ 2025 թվականի նոյեմբերին Microsoft-ը թողարկել է Windows 11-ի փորձնական ծրագրային տարբերակը, որը ներառում էր ֆոնային առաջադրանքներ կատարելու համար նախատեսված գործակալներ՝ անձնական ֆայլեր կարդալու և գրելու հնարավորությամբ։

2025 թվականի նոյեմբերին *The Wall Street Journal*-ը հաղորդել է, որ արհեստական ​​ինտելեկտի գործակալներ տեղակայած քիչ ընկերություններ են ներդրումներից շահույթ ստացել։

2025 թվականի նոյեմբերին Ներքին եկամուտների ծառայությունը հայտարարել է, որ կօգտագործի Agentforce-ին՝ Salesforce-ի արհեստական ​​բանականության գործակալներին, գլխավոր խորհրդականի գրասենյակի, հարկ վճարողների իրավունքների պաշտպանության ծառայությունների և վերաքննիչ բողոքարկման գրասենյակի համար։ Նույն ամսին Ստաֆորդշիրի ոստիկանությունը հայտարարել է, որ 2026 թվականից սկսած Միացյալ Թագավորությունում դատելու են Agentforce-ի գործակալներին՝ 101 ոչ արտակարգ զանգերը կատարելու համար։

### Վեբ դիտարկում
Ինտեգրված արհեստական ​​բանականության գործակալներով վեբ դիտարկիչներին երբեմն անվանում են գործակալական դիտարկիչներ: Նման գործակալները կարող են կատարել փոքր ձանձրալի առաջադրանքներ վեբ զննարկման ընթացքում և հնարավոր է՝ նույնիսկ կատարել դիտարկչի գործողություններ օգտատիրոջ անունից: OpenAI Operator-ի և Perplexity Comet-ի նման արտադրանքները ինտեգրում են արհեստական ​​բանականության հնարավորությունների լայն շրջանակ, այդ թվում՝ վեբում զննարկելու, կայքերի հետ փոխազդելու և օգտատիրոջ անունից գործողություններ կատարելու հնարավորությունը։ 2025 թվականին Microsoft-ը թողարկել է NLWeb-ը՝ գործակալային վեբ որոնման փոխարինող, որը թույլ կտար կայքերին օգտագործել գործակալներ՝ կայքերից բովանդակություն որոնելու համար՝ օգտագործելով RSS-անման ինտերֆեյսներ, որոնք թույլ են տալիս որոնել և իմաստաբանական վերականգնում կատարել բովանդակության մեջ։ Գործակալային վեբ հնարավորությունները ինտեգրող արտադրանքները քննադատության են ենթարկվել իրենց օգտատերերի մասին տեղեկատվությունը երրորդ կողմի սերվերներ արտահոսելու և անվտանգության հետ կապված խնդիրներ բացահայտելու համար, քանի որ գործակալների հաղորդակցման եղանակը հաճախ տեղի է ունենում ոչ ստանդարտ արձանագրությունների միջոցով։

### Գովազդ
ԱԲ գործակալներն օգտագործվում են գովազդի և վաճառքի գործընթացում ամբողջական առաջադրանքներ կատարելու համար։ Նրանք կարող են օպտիմալացնել գովազդի գնագոյացումը, առաջ մղել հավանական հաճախորդները, անհատականացնել առաջարկները և թարմացնել ստեղծագործությունները։ Գովազդի գնման և օպտիմալացման համար գործակալական արհեստական ​​բանականության օգտագործումը արդեն դարձել է արդյունաբերական նորմ այնպիսի խոշոր ընկերությունների համար, ինչպիսիք են Google-ը և Amazon-ը։ Որպեսզի արհեստական ​​բանականության գործակալները կարողանան արդյունավետորեն շփվել ամբողջ էկոհամակարգում, մի խումբ ընկերությունների (ներառյալ PubMatic-ը, ebiquity-ն և Yahoo-ն) միավորվել են գովազդային համատեքստի արձանագրություն (AdCP) ստեղծելու համար: AdCP-ն նպատակ ունի ստեղծել ստանդարտ արձանագրություններ արհեստական ​​բանականության գործակալների համար՝ մեդիա արշավներ բանակցելու, պլանավորելու և իրականացնելու համար։

## Առաջարկվող օգուտներ
Կողմնակիցները պնդում են, որ արհեստական ​​բանականության գործակալները կարող են բարձրացնել անձնական և տնտեսական արտադրողականությունը, խթանել ավելի մեծ նորարարությունը և ազատել օգտատերերին միապաղաղ առաջադրանքներից։ *Bloomberg*-ում Պարմի Օլսոնի հոդվածում պնդվում էր, որ գործակալներն առավել հարմար են նեղ, կրկնվող և ցածր ռիսկ ունեցող առաջադրանքների համար։ Մյուս կողմից, հետազոտողները ենթադրում են, որ գործակալները կարող են կիրառվել հաշմանդամություն ունեցող անձանց համար վեբ հասանելիության ապահովման համար, իսկ Hugging Face-ի հետազոտողները ենթադրում են, որ գործակալները կարող են օգտագործվել ռեսուրսները համակարգելու համար, օրինակ՝ աղետներին արձագանքման ժամանակ։ *[[BBC]]*-ի հետազոտությունների և զարգացման խորհրդատվական թիմը արհեստական ​​բանականության գործակալներին համարում է առավել օգտակար, երբ նրանց նշանակված նպատակը անորոշ է։ Էրիկ Բրինյոլֆսոնը ենթադրում է, որ արհեստական ​​բանականության գործակալներն ավելի արժեքավոր են, երբ նրանք ավելի շատ նպաստում են մարդկանց զարգացմանը, այլ ոչ թե փոխարինմանը։

## Մտահոգություններ
Մտահոգություններից են պատասխանատվության հնարավոր հարցերը, կիբերհանցագործության ռիսկի աճը էթիկական մարտահրավերները, ինչպես նաև արհեստական ​​ինտելեկտի անվտանգության և ԱԲ-ի համահնչեցման հետ կապված խնդիրները։ Այլ խնդիրներ են տվյալների գաղտնիությունը, մարդկային վերահսկողության թուլացումը, երաշխավորված կրկնելիության բացակայությունը, պարգևատրման հաքերային հարձակումը, ալգորիթմական կողմնակալությունը, ծրագրային սխալների բարդացումը, գործակալների որոշումների բացատրելիության բացակայությունը, անվտանգության խոցելիությունները, մրցակցության դժվարությունները, թերզբաղվածության հետ կապված խնդիրները, աշխատատեղերի տեղաշարժը, ճանաչողական բեռնաթափումը, և օգտագործողի մանիպուլյացիայի հնարավորությունը, սխալ տեղեկատվությունը։ Դրանք կարող են նաև բարդացնել իրավական շրջանակները և ռիսկերի գնահատումները, խթանել հալյուցինացիաները, խոչընդոտել չարամիտ գործակալների դեմ հակազդեցություններին և տառապել ստանդարտացված գնահատման մեթոդների բացակայությունից։ Դրանք նաև քննադատության են ենթարկվել թանկ լինելու և ինտերնետային երթևեկության վրա բացասական ազդեցություն ունենալու, ինչպես նաև հնարավոր է՝ շրջակա միջավայրի վրա՝ էներգիայի բարձր սպառման պատճառով։ Nvidia-ի գործադիր տնօրեն Ջենսեն Հուանգի գնահատականի համաձայն, արհեստական ​​բանականության գործակալներին կպահանջվի 100 անգամ ավելի շատ հաշվողական հզորություն, քան ԽԼՄ-ին։ Կա նաև քաղաքական առաջնորդների կողմից իշխանության կենտրոնացման աճի ռիսկ, քանի որ արհեստական ​​բանականության գործակալները կարող են չկասկածել հրահանգներին այնպես, ինչպես մարդիկ կանեին։

Լրագրողները արհեստական ​​ինտելեկտի գործակալներին նկարագրել են որպես խոշոր տեխնոլոգիական ընկերությունների կողմից «ամեն ինչ ավտոմատացնելու» ջանքերի մի մաս։ Այդ ընկերությունների մի քանի գործադիր տնօրեններ 2025 թվականի սկզբին հայտարարել են, որ ակնկալում են, որ արհեստական ​​բանականության գործակալները ի վերջո «կմիանան աշխատուժին»։ Սակայն, նախնական տպագրության ուսումնասիրության մեջ Կարնեգի Մելոն համալսարանի հետազոտողները փորձարկել են գործակալների վարքագիծը սիմուլյացիոն ծրագրային ապահովման ընկերությունում և պարզել, որ գործակալներից ոչ մեկը չի կարողացել կատարել հանձնարարված առաջադրանքների մեծ մասը։ Այլ հետազոտողներ նմանատիպ եզրակացություններ են արել Devin AI-ի և այլ գործակալների հետ, որոնք աշխատում են բիզնես միջավայրում և ազատ աշխատանքում։ *CNN*-ը պնդում էր, որ գործադիր տնօրենների հայտարարությունները իրենց աշխատակիցներին արհեստական ​​ինտելեկտի գործակալներով փոխարինելու հնարավորության մասին ռազմավարություն էին «աշխատողներին աշխատեցնելու համար՝ նրանց աշխատանքը կորցնելուց վախեցնելով»։ Տեխնոլոգիական ընկերությունները ճնշում են գործադրել աշխատակիցների վրա՝ իրենց աշխատանքում օգտագործելու գեներատիվ արհեստական ​​բանականության մոդելներ, այդ թվում՝ արհեստական ​​բանականության կոդավորող գործակալների վրա: Coinbase-ի գործադիր տնօրեն Բրայան Արմսթրոնգը աշխատանքից ազատել է մի քանի աշխատակիցների, ովքեր դա չեն արել։ Որոշ բիզնես ղեկավարներ իրենց որոշ աշխատակիցներին փոխարինել են գործակալներով, սակայն նշել են, որ գործակալներն ավելի մեծ վերահսկողության կարիք կունենան, քան այդ աշխատակիցները։ *Futurism*-ը կասկածի տակ է դրել, թե արդյոք Amazon-ի նախկինում հայտարարված ջանքերը՝ իր աշխատուժի մի մասը գեներատիվ արհեստական ​​ինտելեկտով և արհեստական ​​ինտելեկտի գործակալներով փոխարինելու, կարող էին հանգեցրել Amazon Web Services-ի 2025 թվականի հոկտեմբերին անջատմանը։

Յոշուա Բենջիոն 2025 թվականի Համաշխարհային տնտեսական ֆորումում զգուշացրել է, որ «Սովորական ինտելեկտի կամ գերինտելեկտի հետ կապված բոլոր աղետալի սցենարները տեղի են ունենում, եթե մենք գործակալներ ունենք»։

2025 թվականի մարտին, Scale AI-ն ստորագրել է պայմանագիր Միացյալ Նահանգների Պաշտպանության նախարարության հետ՝ համագործակցելով Anduril Industries-ի և Microsoft-ի հետ, մշակելու և տեղակայելու արհեստական ​​բանականության գործակալներ՝ զինվորականներին «գործառնական որոշումների կայացման» հարցում օգնելու նպատակով։ 2025 թվականի հուլիսին Fox Business-ը հաղորդել է, որ EdgeRunner AI ընկերությունը ստեղծել է ռազմական տեղեկատվության վրա սեղմված և ճշգրտված օֆլայն գործակալ, որի գործադիր տնօրենը ավելի տարածված իրավաբանության մագիստրատուրաները համարում է «ձախակողմյան խիստ քաղաքականացված»։ Այդ ժամանակվանից ի վեր ընկերության մոդելն օգտագործվում է Միացյալ Նահանգների հատուկ գործողությունների հրամանատարության կողմից արտասահմանյան տեղակայման ժամանակ։ Հետազոտողները մտահոգություն են հայտնել, որ գործակալները և նրանց կողմից հիմնված մեծ լեզվական մոդելները կարող են կողմնակալ լինել ագրեսիվ արտաքին քաղաքականության որոշումների նկատմամբ։

Հետազոտական ​​​​կենտրոնացած գործակալները ունեն կոնսենսուսի և լուսաբանման կողմնակալության ռիսկ՝ հանրային ինտերնետում հասանելի տեղեկատվություն հավաքելու պատճառով։ *[[New York Magazine|NY Mag]]*-ը անբարենպաստ կերպով համեմատել է գործակալների վրա հիմնված վեբ զննարկիչների օգտատիրոջ աշխատանքային հոսքը Amazon Alexa-ի հետ, որը «ծրագրային ապահովում էր, որը խոսում էր ծրագրի հետ, այլ ոչ թե մարդիկ, որոնք խոսում էին ծրագրի հետ, ձևացնելով, թե մարդիկ են՝ ծրագիրն օգտագործելու համար»։

Գործակալները կապվել են «մեռած ինտերնետի» տեսության հետ՝ առցանց բովանդակություն հրապարակելու և դրանով զբաղվելու իրենց ունակության պատճառով։

Գործակալները կարող են խրվել անվերջ ցիկլերի մեջ։

Քանի որ խոշոր տեխնոլոգիական ընկերությունների կողմից մշակվում են բազմաթիվ միջգործակալային արձանագրություններ, կան մտավախություններ, որ այդ ընկերությունները կարող են օգտագործել այդ արձանագրությունները սեփական օգուտի համար։

2025 թվականի հունիսի Gartner-ի զեկույցում գործակալական արհեստական ​​ինտելեկտի նման նկարագրված շատ նախագծեր մեղադրվել են նախկինում թողարկված արտադրանքի վերաբրենդավորման մեջ՝ այդ երևույթը անվանելով «գործակալների լվացում»։

Հետազոտողները զգուշացրել են արհեստական ​​բանականության գործակալներին կրիպտոարժույթին և խելացի պայմանագրերին հասանելիություն տրամադրելու ազդեցության մասին։

Վայբ կոդինգի փորձի ժամանակ Replit-ի կոդավորող գործակալը կոդի սառեցման ժամանակ ջնջել է արտադրական տվյալների բազան, «ծածկել է սխալներն ու խնդիրները՝ ստեղծելով կեղծ տվյալներ ու հաշվետվություններ» և պատասխանել է կեղծ տեղեկատվությամբ։

2025 թվականի հուլիսին PauseAI-ը OpenAI-ի դեմ գործով դիմել է Ավստրալիայի դաշնային ոստիկանությանը՝ մեղադրելով ընկերությանը ChatGPT գործակալի միջոցով Ավստրալիայի օրենքները խախտելու մեջ՝ կենսաբանական զենքի մշակմանը նպաստելու ռիսկի պատճառով։

Բազմագործակալ համակարգերի հետ կապված խնդիրներից են բաղադրիչ գործակալների միջև համակարգման քիչ արձանագրությունները, անհամապատասխան աշխատանքը և վրիպազերծման դժվարությունները։

2025 թվականի նոյեմբերին Anthropic-ը պնդում էր, որ Չինաստանի կողմից հովանավորվող հաքերների խումբը փորձել է կիբերհարձակում իրականացնել առնվազն 30 կազմակերպությունների դեմ՝ գործակալական աշխատանքային հոսքում օգտագործելով Claude Code-ը, և որ այդ ներթափանցումներից մի քանիսը հաջողությամբ են պսակվել։ Այնուամենայնիվ, կիբերանվտանգության անկախ հետազոտողները կասկածի տակ են դրել Anthropic-ի արդյունքների կարևորությունը։

Ուիթաքերը պնդել է, որ խոշոր տեխնոլոգիական ընկերությունների կողմից արհեստական ​​ինտելեկտի գործակալներ տեղակայելու ճնշումը վտանգում է ինտերնետում անվտանգության խոցելիությունները։

### Հնարավոր մեղմացում
Զիկո Կոլտերը նշել է գործակալների միջև փոխազդեցությունների արդյունքում առաջացող վարքագծի հնարավորությունը և առաջարկել է խաղերի տեսության ոլորտում հետազոտություններ՝ այդ փոխազդեցությունների ռիսկերը մոդելավորելու համար։

Սխալները նվազեցնելուն նպաստելու համար առաջարկվել են պաշտպանիչ սահմանափակումներ, որոնք *[[Business Insider]]*-ը սահմանում է որպես «անստույգ բովանդակությունը նույնականացնելու և հեռացնելու համար օգտագործվող ֆիլտրեր, կանոններ և գործիքներ»։

Տվյալների հասանելիության հետ կապված անվտանգության խոցելիությունները լուծելու համար լեզվական մոդելները կարող են վերաձևավորվել՝ հրահանգները և տվյալները առանձնացնելու համար, կամ գործակալական ծրագրերից կարող է պահանջվել ներառել պաշտպանիչ սահմանափակումներ: Այս գաղափարները առաջարկվել են ի պատասխան Microsoft 365 Copilot-ին ազդող զրոյական էքսպլոիտի։ Գաղտնի հաշվարկները առաջարկվել են արհեստական ​​ինտելեկտի գործակալների և գեներատիվ արհեստական ​​ինտելեկտի հետ կապված նախագծերում տվյալների անվտանգությունը պաշտպանելու համար։

Nvidia-ի հետազոտողների նախնական հրապարակման մեջ արհեստական ​​բանականության գործակալների համար ԽԼՄ-ների այլընտրանքային տարբերակ են առաջարկվել փոքր լեզվական մոդելները (ՓԼՄ), պնդելով, որ ԽԼՄ-ները ավելի էժան են և ավելի էներգաարդյունավետ։

The Economist-ն առաջարկել է խուսափել այն, ինչ Սայմոն Վիլիսոնը բնութագրել է որպես ԱԲ գործակալների և ԽԼՄ-ների «մահացու եռյակ». «արտաքին բովանդակության ազդեցություն, անձնական տվյալների հասանելիություն և արտաքին աշխարհի հետ հաղորդակցություն»։

## Ծանոթագրություններ

Կատեգորիա:Արհեստական բանականություն