Խոշոր լեզվական մոդել

**Խոշոր լեզվական մոդել** (ԽԼՄ) կամ **Մեծ լեզվական մոդել** (), լեզվական մոդել, որը մարզվում է ինքնաղեկավարվող մեքենայական ուսուցման մեթոդի կիրառմամբ՝ ահռելի ծավալի տեքստի վրա։ Խոշոր լեզվական մոդելները նախատեսված են լեզվի բնական մշակման խնդիրների, մասնավորապես՝ տեքստի գեներացման համար։

Ամենածավալուն և արդյունավետ ԽԼՄ-ներն են ստեղծարար նախապես ուսուցանված տրանսֆորմատորները (GPT), որոնք լայնորեն կիրառվում են ստեղծարար չաթբոտներում, ինչպիսիք են ChatGPT-ն, Gemini-ն կամ Claude-ը։ Խոշոր լեզվական մոդելները կարող են նուրբ-կարգավորվել՝ հարմարեցվելով որոշակի առաջադրանքների համար, կամ ուղղորդվել հրահանգների ինժեներիայի միջոցով։ Այս մոդելները ձեռք են բերում մարդու տեքստի կորպուսներին հարիր շարահյուսության, իմաստաբանության և գոյաբանություն՝ ժառանգելով նաև մարդկային գործոնի անճշտություններ և կողմնապահություններ՝ ելնելով մարզման համար նախատեսված տվյալներից:

## Պատմություն
մինի|FLOP-ներում նշանակալի խոշոր մոդելների մարզման հաշվարկը՝ հրապարակման ամսաթվի համեմատ, 2010-2024 թվականների ժամանակահատվածում։ Ընդհանուր առմամբ նշանակալի մոդելների համար (վերևի ձախ կողմում), առաջնային մոդելների (վերևի աջ կողմում), լավագույն լեզվական մոդելների (ներքևի ձախ կողմում) և առաջատար ընկերությունների լավագույն մոդելների համար (ներքևի աջ կողմում): Այս մոդելների մեծ մասը լեզվական մոդելներ են։
մինի|FLOP-ներում նշանակալի խոշոր արհեստական ինտելեկտի մոդելների մարզման հաշվարկը՝ հրապարակման ամսաթվի համեմատ, 2017–2024 թվականների ժամանակահատվածում։ Մեծ մոդելների մեծ մասը լեզվական մոդելներ կամ լեզվական կարողություններով բազմամոդալ մոդելներ են։
Նախքան տրանսֆորմատորների վրա հիմնված մոդելների ստեղծումը 2017 թվականին, որոշ լեզվական մոդելներ նույնպես անվանվում էին խոշոր՝ կախված ժամանակակից հաշվողական և տվյալային սահմանափակումների հետ։ 1990-ական թվականների սկզբին IBM-ի վիճակագրական մոդելները ազդարարեցին մեքենայական թարգմանության կիրառումը բառերի դասավորության տեխնիկայում՝ հիմք դնելով կորպուսային լեզվական մոդելավորման համար։ 2001 թվականին մշակված n-գրամի հարթեցված մոդելը, ինչպիսին է Կնեսեր-Նեյի հարթեցումը կիրառող մոդելը՝ մարզված 300 միլիոն բառի վրա, այդ ժամանակվա չափորոշիչ թեստերում հասել է ժամանակակից շփոթության: 2000-ականներին, համացանցի լայն հասանելիացման հետ մեկտեղ, հետազոտողները սկսեցին համացանցից հավաքել հսկայական տեքստային տվյալների հավաքածուներ («վեբը որպես կորպուս» )՝ վիճակագրական լեզվական մոդելներ մշակելու համար։

Պատկերների դասակարգման մեջ խոր ուսուցման առաջամարտից հետո՝ 2012 թվականից ի վեր նույնանման համակարգեր հարմարեցվեցին լեզվական խնդիրների համար։ Այս տեղաշարժը նշանավորվեց բառերի վեկտորական պատկերման (օրինակ՝ Միկոլովի Word2Vec-ը 2013 թվականին) և երկար կարճաժամկետ հիշողության կիրառմամբ շղթայական (seq2seq) մոդելների մշակմամբ։ 2016 թվականին Google-ը իր թարգմանչական ծրագիրը անցկացրեց մի նոր՝ նեյրոնային մեքենայական թարգմանության (NMT)՝ վիճակագրական արտահայտությունների վրա հիմնված մոդելները փոխարինելով խորը կրկնվող նեյրոնային ցանցերով։ Այս վաղ NMT համակարգերը օգտագործում էին LSTM-ի վրա հիմնված կոդավորիչ-ապակոդավորիչ համակարգեր՝ որոնք նախորդում էին տրանսֆորմատորներին։
մինի|Տրանսֆորմատորի մոդելի հիմնական բաղադրիչների նկարազարդում բնօրինակ աշխատանքից, որտեղ շերտերը նորմալացվել են բազմագլուխ ուշադրությունից հետո (այլ ոչ թե նախքան)
2017 թվականին կայացած NeurIPS կոնֆերանսում Google-ի ինժեներները աշխարհին ներկայացրին տրանսֆորմատորային արֆիտեկտուրան՝ իրենց «Ուշադրությունն այն է, ինչ քեզ պետք է» նշանակալի հոդվածում։ Հոդվածի նպատակն էր բարելավել 2014 թվականին ստեղծված seq2seq շղթայական տեխնոլոգիան, և հիմնականում հիմնված էր Բահդանաուի և այլոց կողմից 2014 թվականին մշակված ուշադրության մեխանիզմի վրա։ Հաջորդ տարի՝ 2018 թվականին, BERT-ը ներկայացվեց՝ արագ դառնալով «ամենուրեք տարածված»։ Չնայած սկզբնական տրանսֆորմատորն ունի և՛ կոդավորիչ, և՛ դեկոդերի բլոկներ, BERT-ը միայն կոդավորիչով մոդել է։ BERT-ի ակադեմիական և հետազոտական օգտագործումը սկսեց նվազել 2023 թվականին՝ միայն դեկոդերային մոդելների (օրինակ՝ GPT-ի) կողմից հուշումների միջոցով խնդիրները լուծելու կարողությունների արագ բարելավումներից հետո:

Չնայած միայն դեկոդերով աշխատող GPT-1-ը ներկայացվել է 2018 թվականին, 2019 արդեն հանրության ուշադրության կենտրոնում թվականին GPT-2-ն էր, որի վերաբերյալ OpenAI-ը պնդում էր, որ սկզբում այն չափազանց հզոր էր համարել՝ հրապարակայնորեն թողարկելու համար, քանի որ վախենում էին չարամիտ օգտագործումից։ GPT-3-ը 2020 թվականին մեկ քայլ առաջ գնաց, իսկ 2025թ․ դրությամբ հասանելի է միայն API-ի միջոցով՝ առանց մոդելը լոկալ օգտագործման համար ներբեռնելու առաջարկի։ 2022 թվականին հասարակ սպառողի համար նախատեսված ChatGPT չաթբոտը որը լայնորեն լուսաբանվեց լրատվամիջոցներում և հանրային ուշադրության արժանացավ, իսկ 2023 թվականի GPT-4ը գովաբանվեց իր բարձրացված ճշգրտության և բազմամոդալ հնարավորությունների համար որպես «սուրբ գավաթի» համար։ OpenAI-ը չի բացահայտել GPT-4-ի բարձր մակարդակի ճարտարապետությունը և պարամետրերի քանակը։ ChatGPT-ի թողարկումը հանգեցրեց LLM-ի օգտագործման աճի համակարգչային գիտության մի քանի հետազոտական ենթաոլորտներում, ներառյալ ռոբոտաշինությունը, ծրագրային ապահովման ճարտարագիտությունը և հասարակական ազդեցության վրա հիմնված աշխատանքը: 2024 թվականին OpenAI-ը թողարկեց OpenAI o1 դատողության մոդելը, որը վերջնական պատասխանը վերադարձնելուց առաջ ստեղծում է մտքերի երկար շղթաներ։ Մշակվել են բազմաթիվ իրավունքի կառավարման ծրագրեր (LLM)՝ OpenAI-ի GPT շարքի պարամետրերի քանակով համեմատելի պարամետրերի քանակով։ 2022 թվականից ի վեր, աղբյուրից հասանելի մոդելները ձեռք են բերում ժողովրդականություն, հատկապես սկզբում BLOOM-ը և LLaMA-ն, չնայած երկուսն էլ սահմանափակումներ ունեն օգտագործման ոլորտում։ Mistral AI- ի Mistral 7B և Mixtral 8x7b մոդելներն ունեն ավելի թույլատրելի Apache լիցենզիա։ 2025 թվականի հունվարին DeepSeek-ը թողարկեց DeepSeek R1-ը՝ 671 միլիարդ պարամետր ունեցող բաց քաշ ունեցող մոդել, որը համեմատելի է OpenAI o1-ի հետ, բայց շատ ավելի ցածր գնով։

2023 թվականից ի վեր, շատ իրավաբանների իրավունքի մասնագետներ վերապատրաստվել են մուլտիմոդալ աշխատելու համար՝ ունենալով նաև այլ տեսակի տվյալներ, ինչպիսիք են պատկերները կամ աուդիոն, մշակելու կամ ստեղծելու կարողություն։ Այս LLM-ները կոչվում են նաև մեծ բազմամոդալ մոդելներ (LMM): 2024 թվականի դրությամբ ամենամեծ և ամենաարդյունավետ մոդելները բոլորը հիմնված են տրանսֆորմատորային ճարտարապետության վրա։ Վերջերս կատարված որոշ իրականացումներ հիմնված են այլ ճարտարապետությունների վրա, ինչպիսիք են կրկնվող նեյրոնային ցանցի տարբերակները և Mamba-ն ( վիճակային տարածության մոդել):

## Տվյալների նախնական մշակում
### Տոկենիզացիա
Քանի որ մեքենայական ուսուցման մոդելները աշխատում են թվերի հետ, ոչ թե ուղղակի տեքստի, նախ տեքստը պետք է փոխարկվի թվային ձևաչափի։ Սկզբում կազմվում է բառապաշար, որի յուրաքանչյուր բառին կամ նիշին հատկացվում է եզակի ամբողջ թվային ինդեքս։ Այնուհետև այդ ինդեքսներն օգտագործվում են ներդրված թվային ներկայացումներ ստեղծելու համար, որոնք հասկանալի են ալգորիթմների համար։ Տեքստը թվերի վերափոխելու համար հաճախ կիրառվում են մեթոդներ, ինչպիսիք են Byte Pair Encoding (BPE) և WordPiece։

Բացի սովորական բառերից, օգտագործվում են նաև հատուկ նշաններ՝ մոդելի աշխատանքը կարգավորելու նպատակով։ Օրինակ՝ [MASK]-ը կիրառվում է փակված բառերի փոխարեն, ինչպիսին է BERT մոդելում, իսկ [UNK]-ը ցույց է տալիս անհայտ կամ բառապաշարում չգտնվող միավորներ։ Որոշ մոդելներ նաև հատուկ նշաններ են օգտագործում ձևաչափման համար. օրինակ՝ GPT և RoBERTa մոդելներում «Ġ»-ը նշում է, որ տվյալ բառին նախորդել է բացատ, իսկ BERT-ում «##»-ը ցույց է տալիս, որ միավորը շարունակությունն է նախորդ բառի։

GPT-3 (Legacy)-ի կողմից օգտագործվող BPE տոկենիզատորը բաժանում է հետևյալ կերպ․ `tokenizer: texts -> series of numerical "tokens"` ՝ որպես

Տոկենիզացիան միևնույն ժամանակ նպաստում է տվյալների հավաքածուների սեղմմանը։ Քանի որ լայնածավալ լեզվային մոդելները (LLM-ներ) սովորաբար պահանջում են, որ մուտքային տվյալները ներկայացվեն հաստատուն երկարությամբ զանգվածներով (ոչ ատամնավոր կառուցվածքով), կարճ տեքստերը լրացվում են հատուկ «padding» թոքեններով՝ համապատասխանեցնելով ամենաերկար հաջորդականությանը։ Թոքենների միջին քանակը մեկ բառի համար տատանվում է՝ կախված տվյալների բազմության լեզվից. որոշ լեզուներ ավելի «տոկենածանր» են, քան մյուսները։

#### BPE
Օրինակ՝ եթե դիտարկենք բայթ-զույգ կոդավորմամբ (Byte Pair Encoding, BPE) աշխատող տոկենիզատորը, դրա աշխատանքը սկսվում է բոլոր եզակի նիշերից (ներառյալ բացատներն ու կետադրությունը), որոնք դիտարկվում են որպես սկզբնական միագրամների հավաքածու։ Այնուհետև ամենահաճախ հանդիպող հարակից նիշերի զույգը միաձուլվում է նոր բիգրամի (երկնիշ միավորի) մեջ, և այդ զույգի բոլոր դրսևորումները փոխարինվում են այդ նոր ձևավորված միավորով։

Այս գործընթացը շարունակվում է՝ ամեն քայլում միաձուլելով ամենահաճախ հանդիպող հարակից n-գրամները (արդեն միավորված զույգեր կամ ավելի երկար շղթաներ), մինչև բառապաշարի սահմանված չափը հասնի ցանկալի մակարդակին։ GPT-3-ի դեպքում, օրինակ, վերջնական բառապաշարի չափը կազմում է 50257 միավոր։

Երբ տոկենիզատորը պատրաստ է (մարզված է), այն կարող է կիրառվել ցանկացած նոր տեքստի վրա՝ պայմանով, որ այդ տեքստում չլինեն նիշեր, որոնք բացակայում են միագրամների սկզբնական բազմությունից։

#### Խնդիրներ
Նշանաբանների (թոքենների) բառապաշարը, որը սովորաբար ձևավորվում է անգլերեն կորպուսների հիման վրա, օպտիմալ է աշխատում հենց անգլերենի համար՝ օգտագործելով հնարավորինս քիչ թոքեններ մեկ բառի համար։ Սակայն, երբ այդ նույն թոքենայզերը կիրառվում են այլ լեզուների վրա, հատկապես եթե դրանք տարբերվում են կառուցվածքով կամ այբուբենով, արդյունքը դառնում է ոչ օպտիմալ։

Օրինակ՝ GPT-2-ի թոքենիզատորը Մյանմայի Շան լեզվի մեկ բառը կարող է բաժանել մինչև 15 թոքենի, մինչդեռ անգլերեն բառերը հաճախ ներկայացվում են 1 կամ 2 թոքենով։ Ավելի լայն տարածում ունեցող լեզուները, ինչպիսիք են պորտուգալերենը կամ գերմաներենը, նույնպես ունեն թոքենային «հավելավճար»՝ միջինը մոտ 50% ավել թոքեն՝ համեմատած անգլերենի հետ։

Սա կարևոր է հաշվի առնելու մոդելի արդյունավետությունը տարբեր լեզուներով աշխատելիս, քանի որ ավելորդ թոքենները հանգեցնում են ավելի մեծ մուտքային ծավալների, և, որպես արդյունք, ավելի մեծ հաշվարկային ծախսերի։

Ժլատ տոկենիզացիան նաև խնդիրներ է առաջացնում տեքստի լրացման հետ կապված։

### Տվյալների հավաքածուի մաքրում
Իրավագիտության բակալավրիատի (LLM) մոդելների վերապատրաստման գործընթացում սովորաբար օգտագործվում է նախապես մաքրված տվյալների բազմություն։ Այս մաքրումն ներառում է ցածրորակ, կրկնվող կամ «թունավոր» (անբարո, վնասաբեր կամ ապատեղեկատվական) բովանդակության հեռացումը՝ ապահովելու համար, որ մոդելը սովորի միայն արժեքավոր և վստահելի աղբյուրներից։

Մաքրված տվյալների կիրառումը զգալիորեն բարձրացնում է ուսուցման արդյունավետությունը և բարելավում է մոդելի հետագա ցուցանիշները՝ ինչպես ընկալման, այնպես էլ տեքստի գեներացման որակի առումով։

Հետաքրքիր է նաև, որ արդեն վերապատրաստված LLM-ը կարող է ինքնին օգտագործվել որպես գործիք՝ հետագա տվյալների հավաքածուները մաքրելու համար։ Այս մոտեցումը ձևավորում է փակ ցիկլ, որտեղ մեկ LLM-ն օգնում է պատրաստել ավելի մաքուր տվյալներ՝ հաջորդ մոդելի վերապատրաստման համար։

Քանի որ համացանցում LLM-ների ստեղծած բովանդակությունը անընդհատ աճում է, ապագայում տվյալների մաքրման գործընթացում կարևոր դեր կստանա այդպիսի գեներացված տեքստերի ֆիլտրացումը։

Խնդիրը կայանում է նրանում, որ LLM-ի գեներացրած տեքստը հաճախ շատ նման է մարդկային գրությանը, ինչը բարդացնում է դրա ավտոմատ ճանաչումը և հեռացումը։ Սակայն, եթե այդ տեքստը ավելի ցածր որակի է՝ ոչ բնութագրական, մակերեսային կամ կրկնօրինակված, ապա դրա օգտագործումը նոր մոդելների վերապատրաստման համար կարող է բացասաբար անդրադառնալ որակի վրա՝ վատացնելով արդյունքները։

Այդ պատճառով ապագայում տվյալների մաքրումը հավանաբար պետք է ներառի հատուկ մեթոդներ կամ մոդելներ՝ LLM-ների գեներացրած բովանդակությունը բացահայտելու և արդյունավետորեն ֆիլտրելու համար։

### Սինթետիկ տվյալներ
Ամենամեծ լեզվային մոդելների (LLM-ների) վերապատրաստման համար հաճախ պահանջվում է տվյալների քանակ, որը գերազանցում է բնականաբար հասանելի լեզվական աղբյուրները։ Բացի այդ, առկա տվյալների մի մասը կարող է լինել անբավարար որակի՝ պարունակելով աղմուկ, սխալներ կամ բացակայող կառուցվածք։

Այս իրավիճակում լուծում է համարվում **սինթետիկ տվյալների** օգտագործումը՝ տվյալներ, որոնք գեներացվում են այլ LLM-ների կամ հատուկ մշակված ալգորիթմների միջոցով։ Օրինակ՝ Microsoft-ի **Phi** շարքի լեզվային մոդելները վերապատրաստվել են սինթետիկ ձևով ստեղծված «դասագրքային» տվյալների վրա, որոնք գեներացվել են մեկ այլ LLM-ի կողմից։

Սինթետիկ տվյալները կարող են օգնել մոդելին սովորել լավ կառուցված, օրինակային լեզվային պատկերումներ՝ առանց մեծ կախվածության անկանոն կամ աղմկոտ իրական տեքստերից։

## Մարզում
Իրավաբանական գիտությունների մագիստրոսական ծրագիրը (LLM) հաճախ շփոթության պատճառ է դառնում լեզվային մոդելների համատեքստում։ Այս դեպքում LLM-ը չի վերաբերում իրավաբանական կրթական աստիճանին, այլ նշանակում է **մեծ լեզվային մոդել (Large Language Model)**՝ հիմքային մոդելի տեսակ, որը վերապատրաստված է բնական լեզվի մշակման համար։

Այս մոդելները, ինչպես GPT շարքի մոդելները, նախապես մարզվում են հսկայածավալ տեքստային կորպուսների վրա՝ սովորելու կանխատեսել հաջորդ բառը տեքստում։ Այս փուլը կոչվում է **նախնական վերապատրաստում (pretraining)**։ Դրանից հետո մոդելները կարող են ճշգրտվել (fine-tuned)՝ ավելի նեղ կիրառությունների կամ ոլորտների (օրինակ՝ իրավաբանության, բժշկության կամ տեխնիկայի) համար։

Այսպիսով, իրավաբանական մագիստրոսների նմանությամբ լեզվային մոդելները նույնպես կարող են անցնել «հիմնական կրթություն» և հետո «մասնագիտանալ»՝ ստանալով փորձառություն կոնկրետ ոլորտում։

### Նախնական պատրաստման արժեքը
աջից|frameless
«Մեծ լեզվական մոդել» (LLM) արտահայտությունում **«մեծ»** եզրույթը չունի հստակ սահմանված չափանիշ։ Չկա կոնկրետ շեմ, թե քանի պարամետր պետք է ունենա մոդելը, որպեսզի այն կոչվի «մեծ»։ Այն, ինչը մի քանի տարի առաջ համարվել է մեծ, այսօր կարող է դիտվել որպես փոքր՝ հաշվի առնելով տեխնոլոգիական առաջընթացը։

Օրինակ՝ 2018 թվականին թողարկված **GPT-1** մոդելը, որն ուներ ընդամենը **117 միլիոն պարամետր**, համարվում էր առաջին LLM-ը։ Բայց այսօր արդեն դա համարվում է համեստ ծավալի մոդել։ Տեսանելի է հստակ միտում՝ շարժվել դեպի ավելի ու ավելի մեծ մոդելներ, ինչն արտացոլված է խոշոր LLM-ների զարգացման ժամանակագրական ցանկում։

Այս մեծացումը ուղեկցվում է նաև զգալի ֆինանսական ծախսերով.

* **GPT-2** (1.5 միլիարդ պարամետր) մարզվել է մոտ **$50,000**-ով (2019 թ.)
* **PaLM** (540 միլիարդ պարամետր)՝ մոտ **$8 միլիոն** (2022 թ.)
* **Megatron-Turing NLG 530B**՝ շուրջ **$11 միլիոն** (2021 թ.)

Բացի այդ, **տրանսֆորմերային LLM-ների ուսուցումը շատ ավելի ծախսատար է**, քան inference-ը (եզրակացությունները՝ տվյալների հիման վրա պատասխաններ տալը)։

* Մեկ թոքենի վրա մարզվելը պահանջում է մոտ **6 FLOP (Floating Point Operations) մեկ պարամետրի համար**
* Իսկ inference-ի ժամանակ՝ ընդամենը **1-2 FLOP մեկ պարամետրի համար**

Այս ամենը ցույց է տալիս, որ «մեծ» ոչ միայն վերաբերում է չափին, այլ նաև՝ ծախսերին, հզորությանը և տեխնոլոգիական մարտահրավերներին։

### Նուրբ կարգավորում
Մինչև հատուկ կերպով ճշգրտվելը (fine-tuning), մեծ լեզվային մոդելների (LLM-ների) մեծ մասը գործում են որպես **հաջորդ նշանի կանխատեսողներ**։ Այսինքն՝ նրանց հիմնական նպատակն է՝ նախապես տեսած բառերի հիման վրա կանխատեսել հաջորդը։

Սակայն այդ «հիմնական կրթությունից» հետո հնարավոր է մոդելը **կատարելագործել՝ դարձնելով զրույցի ֆորմատով օգնական**, որը կարող է մտնել օգտակար, բարեկիրթ և անվտանգ երկխոսության մեջ մարդկանց հետ։

Դրա համար սովորաբար կիրառվում են առաջադեմ ուսուցման մեթոդներ, ինչպիսիք են՝

* **Մարդկային հետադարձ կապի միջոցով ամրապնդող ուսուցում (RLHF)** – երբ մարդիկ գնահատում են մոդելի պատասխանները, և համակարգը ուսուցանվում է ավելի համապատասխան արձագանքներ տալու համար
* **Կոնստիտուցիոնալ արհեստական բանականություն** – երբ մոդելն ուղղորդվում է ներքին սկզբունքների կամ արժեքների միջոցով՝ առանց մարդկային գնահատման անհրաժեշտության

Այս մեթոդները թույլ են տալիս ձևավորել մոդելներ, որոնք ավելի մոտ են օգտակար օգնականի կերպարին՝ **ավելի վստահելի, բարոյապես պատասխանատու և հարմար տարբեր ոլորտներում, այդ թվում՝ իրավագիտության մեջ**։

#### Հրահանգների նուրբ կարգավորում
2021 թվականին **Google Research-ը** ներկայացրեց **FLAN** մոդելը, որը նախատեսված էր հատուկ **հրահանգներին համապատասխան արձագանքելու** համար։ Ի տարբերություն նախորդ մոդելների, FLAN-ը կարող էր կատարել բանավոր ձևով տրված առաջադրանք՝ **առանց օրինակի կամ լրացուցիչ ցուցումների անհրաժեշտության**։ Այս մոտեցումը դարձավ կարևոր քայլ դեպի «հասկացող» և «կառավարելի» լեզվային մոդելներ։

2022 թվականին **OpenAI-ն** ներկայացրեց **InstructGPT-ն**՝ GPT-3.5-ի տարբերակ, որը նույնպես վերապատրաստվել էր հատուկ՝ **հրահանգներին հետևելու** նպատակով։ Ի տարբերություն նախադասության շարունակության վրա հիմնված մոդելների (որոնք պարզապես ընտրում էին ամենահաճախ հանդիպող շարունակությունը տեքստային կորպուսում), InstructGPT-ն ձգտում էր իրականում **կատարել առաջադրանքը**, ինչպես այն ներկայացված էր օգտատիրոջ կողմից։

Օրինակ՝ եթե մոդելին տրվում է հրահանգ՝

**«Գրեք ակնարկ Համլետի մեջ ներկայացված հիմնական թեմաների մասին»**,

ավանդական մոդելը կարող էր արձագանքել ինչ-որ կեղծ վարչական նախազգուշացմամբ՝ հիմնված նախադասության կառուցվածքի ճանաչման վրա, օրինակ՝

**«Եթե ակնարկը ներկայացնեք մարտի 17-ից հետո, ձեր գնահատականը կնվազի 10%»**,

քանի որ նման նախադասություններ հաճախ էին հանդիպում կորպուսում։

Իսկ հրահանգային մոդելները, ինչպես **FLAN** կամ **InstructGPT**, ավելի շատ կենտրոնանում են հենց խնդրի էության վրա՝ **բովանդակային ակնարկ գրելու**, ինչպես պահանջվել է։

Այս զարգացումը նշանավորում է անցում՝ **հանրաճանաչությունից դեպի նպատակահարմարություն**, երբ մոդելը սովորում է ոչ թե պարզապես ինչ-որ բան գրել, այլ **լավ հասկանալ՝ ինչ է օգտատերը ուզում**։

#### Մարդկային հետադարձ կապի միջոցով ամրապնդող ուսուցում
**RLHF**-ը՝ **մարդկային հետադարձ կապով ամրապնդող ուսուցումը** (Reinforcement Learning from Human Feedback), ներառում է մի քանի փուլ։ Սկզբում ստեղծվում է **պարգևատրման մոդել**, որը մարզվում է՝ **կանխատեսելու, թե որ պատասխանը մարդը կգնահատի ավելի բարձր**։ Այս մոդելն օգտագործում է մարդկանց կողմից տրված համեմատական գնահատականներ տարբեր պատասխանների միջև։

Այնուհետև հիմնական **LLM-ը ճշգրտվում է ուժեղացված ուսուցման միջոցով** (reinforcement learning), նպատակ ունենալով առավելագույնի հասցնել պարգևատրման մոդելի գնահատականը։

Քանի որ մարդիկ, որպես կանոն, գերադասում են՝

* **ճշգրիտ**,
* **օգտակար**
* և **անվնաս** պատասխաններ,

RLHF-ն, ըստ էության, ստիպում է մոդելին ավելի հաճախ արտադրել հենց նման արձագանքներ։

Այս մոտեցումը հնարավորություն է տալիս մոդելներին դառնալ **ավելի բարոյապես պատասխանատու և գործնական**, հատկապես կիրառական միջավայրերում, ինչպիսին է զրույցի ձևաչափը։

## Համակարգ (արխիտեկտուրա)
Իրավունքի կառավարման (LLM) մեթոդները՝ այսինքն **մեծ լեզվային մոդելները**, սովորաբար կառուցված են **տրանսֆորմատորային ճարտարապետության** հիման վրա։ Այս ճարտարապետության հիմնական նորարարությունը հանդիսանում է **ուշադրության մեխանիզմը (attention mechanism)**, որը թույլ է տալիս մոդելին միաժամանակ գնահատել և մշակել **հարաբերությունները հաջորդականության բոլոր տարրերի միջև**՝ անկախ նրանից, թե որքան հեռու են դրանք իրարից։

Ի տարբերություն նախորդ մոդելների, որոնք ընթերցում էին տեքստը հերթականությամբ (օրինակ՝ RNN-ները կամ LSTM-ները), տրանսֆորմատորները կարող են «նայել» ամբողջ տեքստին միաժամանակ և **որոշել, թե որ բառերն ու հատվածներն են առավել կարևոր տվյալ պահի կանխատեսման համար**։

Այս մեխանիզմն է, որ տալիս է LLM-ներին բարձր արդյունավետություն՝ ինչպես լեզվի ըմբռնման, այնպես էլ գեներացման խնդիրներում, ներառյալ՝ իրավական, գիտական կամ այլ բարդ տեքստերի մշակումում։

### Ուշադրության մեխանիզմ և համատեքստային պատուհան
մինի|Երբ յուրաքանչյուր գլուխ իր սեփական չափանիշներով հաշվարկում է, թե որքանով են մյուս տոկենները համապատասխան «it_» տոկենի համար, նկատի ունեցեք, որ երկրորդ ուշադրության գլուխը, որը ներկայացված է երկրորդ սյունակով, ամենաշատը կենտրոնանում է առաջին երկու շարքերի՝ «The» և «animal» տոկենների վրա, մինչդեռ երրորդ սյունակը ամենաշատը կենտրոնանում է ներքևի երկու շարքերի՝ «yogurt»-ի վրա, որը տոկենավորված է երկու տոկենի։
Ուշադրության մեխանիզմը, որով աշխատում են տրանսֆորմերային LLM-ները, յուրաքանչյուր թոքենի համար հաշվում է «փափուկ» կշիռներ՝ ի հայտ բերելու, թե տվյալ համատեքստային պատուհանի ներսում որ միավորներն են մի-միայն կապված։ Կշիռները ստացվում են մի քանի անկախ ուշադրության գլխիկների միջոցով, և ամեն գլխիկ սովորում է իր «տեսանկյունը»՝ հատկացնելով սեփական կշիռները։ Օրինակ՝ 117 մլն պարամետր ունեցող փոքր GPT-2-ում կա 12 ուշադրության գլխիկ և 1 024 թոքենանոց պատուհան, մինչդեռ միջին տարբերակը՝ 345 մլն պարամետրով, ունի 24 շերտ, յուրաքանչյուրում — 12 գլուխ, և մարզված է 512-ական հերթերով։

Ժամանակակից խոշոր մոդելները ընդլայնում են այս հնարավորությունները. Google-ի Gemini 1.5-ը (ներկայացվել է 2024-ի փետրվարին) հասնում է 1 մլն թոքեն համատեքստի (թեստավորվել է նաև 10 մլն պատուհան), իսկ Anthropic-ի Claude 2.1-ը — մինչև 200 հազար թոքեն։ Պետք է հիշել, որ այս սահմանը վերաբերում է մուտքային հաջորդականությանը, իսկ արտածվող թոքենների գեզբնական շեմը սովորաբար փոքր-ինչ ցածր է. GPT-4 Turbo-ն, օրինակ, կարող է վերադարձնել առավելագույնը 4 096 թոքեն։

Համատեքստի մեծացումը բերում է հաշվարկային ծախսի աճի և երբեմն տեղական կապերի հանդեպ ուշադրության նվազման, մինչդեռ փոքր պատուհանը կարող է կտրել հեռավոր կախվածությունները։ Ուստի պատուհանի չափը միշտ ընտրության և փորձարկումների հավասարակշռություն է։

Տրանսֆորմերները սովորաբար մարզվում են երկու հիմնական սխեմայով.

* **Ավտոռեգրեսիվ** — մոդելը հերթով կանխատեսում է հաջորդ բառը (օր. «ես սիրում եմ ուտել …» → «պաղպաղակ» կամ «սուշի»)։
* **Դիմակավորված** — մոդելը լրացնում է նախապես խափանված հատվածները (օր. «Ես սիրում եմ [**] [**] կրեմ» → «ուտել» և «սառույց»)։

Բացի հիմնական նպատակից, սովորական են օժանդակ առաջադրանքները, օրինակ NSP-ը («Next Sentence Prediction»), որտեղ մոդելը արձանագրում է, արդյոք նախադասությունների զույգը իրար հաջորդում է կորպուսում։ Մարզման ընթացքում հաճախ ավելացվում է կանոնավորման կորուստ՝ գործընթացը կայունացնելու համար, բայց այդ լրացուցիչ կորուստը գնահատման փուլում, որպես կանոն, չի կիրառվում։

### Մասնագետների խառնուրդ
**Փորձագետների խառնուրդը (Mixture of Experts, ՓԽ)** մեքենայական ուսուցման ճարտարապետություն է, որը նախատեսված է մոդելների **արդյունավետությունը և մասշտաբայնությունը** բարձրացնելու համար։ Այս մոտեցման հիմքում ընկած է մի քանի մասնագիտացված ենթամոդելների՝ **«փորձագետների»**, համատեղ աշխատանքը։

### Ինչպե՞ս է աշխատում ՓԽ-ը․
* Յուրաքանչյուր մուտքային տվյալ **դարպասային մեխանիզմի (gating mechanism)** միջոցով ուղարկվում է միայն որոշակի փորձագետ(ներ)ին, որոնք ամենալավը համապատասխանում են տվյալ խնդրին
* Ոչ բոլոր փորձագետներն են ակտիվանում միաժամանակ, այլ **միայն ամենահարմարները**՝ ելնելով մուտքի բնույթից
* Արդյունքում՝ **մոդելը օգտագործում է իր պարամետրերի միայն մի փոքր մասը յուրաքանչյուր ինֆերենսի ժամանակ**, ինչը զգալիորեն **նվազեցնում է հաշվարկային ծախսերը**

### Օգուտներ․
* **Բարձր արդյունավետություն**՝ միաժամանակ պահելով մեծ պարամետրերի հզորություն
* **Զգալի նվազում ծախսերում և էներգիայի սպառման մեջ**
* **Ավելի լավ հարմարեցում** բազմաբնույթ խնդիրների և տվյալների համար

Այս մեթոդը առաջարկվել է **2017 թվականին Google-ի հետազոտողների կողմից**, և դրանից հետո օգտագործվել է մի շարք խոշոր մոդելներում (օր. GShard, Switch Transformer, Pathways), այդ թվում՝ **օրինակ՝ Gemini և Google DeepMind-ի տարբեր համակարգերում**։

ՓԽ-ն այսօր համարվում է առանցքային ճարտարապետական ուղղություններից մեկը՝ հսկայական LLM-ների մասշտաբային աճն ապահովելու համար՝ առանց գերհագեցված ռեսուրսների պահանջի։

### Պարամետրի չափը
Սովորաբար, մեծ լեզվային մոդելները (LLM-ներ) մարզվում են **լողացող կետային թվերով (floating point numbers)**՝ `float32` կամ `float16` ձևաչափերով․

* **<code>float32</code>** – 32 բիթ կամ 4 բայթ մեկ պարամետրի համար
* **<code>float16</code>** – 16 բիթ կամ 2 բայթ մեկ պարամետրի համար

Այսինքն՝ եթե մոդելը մարզվում է `float16`-ով, ապա

**1 միլիարդ պարամետր = 2 ԳԲ հիշողություն**

**100 միլիարդ պարամետր = 200 ԳԲ հիշողություն**

Սա նշանակում է, որ ժամանակակից ամենամեծ մոդելները՝ ունենալով հարյուրավոր միլիարդ պարամետրեր, **պահանջում են հսկայական հաշվարկային ռեսուրսներ և հիշողություն**, ինչը դրանք դարձնում է **անսպասարկելի սովորական սպառողական համակարգիչների կամ նոութբուքերի կողմից**։

Այս խնդրի լուծման համար տարածում են գտնում այլ տեխնիկա՝ օրինակ՝

* **մոդելների քվանտացում (quantization)**
* **մասամբ բեռնման մեթոդներ (offloading / paged loading)**
* կամ **տոկենային ուղղված (token-aware) ենթակառուցվածքներ**, որտեղ ակտիվացվում են միայն անհրաժեշտ մասերը

Բայց անգամ այդ տեխնիկայի կիրառմամբ, **պարամետրերի ծավալը մնում է առանցքային տեխնիկական խոչընդոտ** մեծ մոդելները լայն կիրառության բերելու համար։

#### Քվանտացում
**Հետմարզման քվանտացումը (post-training quantization)** մեթոդ է, որի նպատակը՝ **նվազեցնել հիշողության և պահեստավորման ծախսերը**, **պարամետրերի ճշգրտությունը փոքրացնելով**, միաժամանակ պահպանելով մոդելի աշխատանքային արդյունավետության հիմնական մասը։

# **Ամենապարզ քվանտացում**  Պարզագույն մոտեցումը՝ բոլոր թվերը (float) **կտրել՝ սահմանափակելով բիթերի քանակը**։ Օրինակ՝ float32 → int8 (8 բիթ), ինչը գրեթե 4x նվազեցնում է չափը։
# **Բարելավված քվանտացում**
#* **Հատուկ կոդագրքեր շերտերի համար** – փոխարենը միատեսակ քվանտացման, յուրաքանչյուր շերտ ունի իրեն հարմար կոդավորում։
#* **Խառը ճշգրտություն (mixed precision)** – տարբեր պարամետրեր քվանտացվում են տարբեր ճշգրտությամբ՝ կարևոր տարրերը պահելով ավելի բարձր բիթային ձևաչափով (այսպես կոչված՝ **«արտասովոր կշիռներ»**, կամ *outlier weights*), ինչը պաշտպանում է մոդելի որոշակի կարևոր ունակություններ։

* **Քվանտացված մոդելները հաճախ սառեցված են** (ոչ հնարավոր fine-tune անել), բայց **նորարարական տեխնիկաներ արդեն թույլ են տալիս նուրբ կարգաբերում (fine-tuning)** նույնիսկ քվանտացված մոդելների։
* Տեսողական բացատրությունների համար օգտակար է **Մաարտեն Գրութենդորստի քվանտացման ուղեցույցը**, որը բացատրում է ինտուիտիվ՝ ինչ է քվանտացումը և ինչպես է այն ազդում պարամետրերի վրա։

### Ենթակառուցվածքներ
Ամենամեծ մոդելների վերապատրաստման համար անհրաժեշտ է զգալի ենթակառուցվածք։

## Ընդարձակելիություն
Տեքստի ստեղծման հիմնական մեթոդներից զատ, մշակվել են տարբեր մեթոդներ՝ ԻՐՄ կարողությունները ընդլայնելու համար, ներառյալ արտաքին գործիքների և տվյալների աղբյուրների օգտագործումը, բարդ խնդիրների վերաբերյալ դատողությունների բարելավումը, ինչպես նաև հրահանգներին հետևելու կամ ինքնավարության ընդլայնումը հուշող մեթոդների միջոցով:

### Հրամայական ինժեներիա
2020 թվականին OpenAI-ի հետազոտողները ցույց տվեցին, որ GPT-3 մոդելը կարող է հասկանալ հարցի ձևաչափը նույնիսկ այն դեպքում, երբ հարցը ներկայացված է մի քանի փուլով կամ օրինակով։ Դա մասնավորապես հնարավոր է դարձել մարդու հետադարձ կապի միջոցով ամրապնդող ուսուցման (RLHF) և մի քանի կրակոցով հուշման (few-shot prompting) տեխնիկայի շնորհիվ։ Այս մոտեցումը թույլ է տալիս օգտագործել մոդելը տարբեր առաջադրանքների համար՝ առանց հատուկ fine-tuning-ի։

Հատուկ ձևաչափով հարց ներկայացնելը, օրինակ՝ «Հրահանգ՝ [...], Մուտք՝ [...], Ելք՝ [...]», կարող է բավականին արդյունավետ լինել։ 2022 թվականին պարզվեց, որ նույնիսկ GPT-3-ի բազային տարբերակը կարող է այդպիսի ձևաչափում ինքնուրույն ստեղծել հրահանգ՝ ելնելով օգտատիրոջ մուտքից, այնուհետև օգտագործել այդ հրահանգը հաջորդ մոդելի արձագանքը կառուցելու համար։

Այս մեթոդը՝ որտեղ մոդելը առաջին քայլում հասկանում է՝ ինչից է խոսքը, հետո ինքն իրեն օգնում է կատարել առաջադրանքը, հայտնի է որպես «ինքնուրույն ուսուցում»։ Այն դարձնում է LLM-ները ավելի հարմարվող և ունակ՝ ինքնուրույն վերլուծելու խնդիրը և ստեղծելու համապատասխան պատասխան՝ նույնիսկ առանց նախապես պատրաստված նեղ ճշգրտման։

### Երկխոսության մշակում (չաթբոտ)
Իրավագիտության մագիստրոսական մոդելը (LLM) կարող է վերափոխվել երկխոսության ռեժիմով աշխատող չաթբոտի՝ նրան մասնագիտացնելով օգտատիրոջ հետ խոսակցական փոխազդեցության համար։ Դրա համար մուտքային տեքստը կառուցվում է հատուկ ձևաչափով, որտեղ օգտատիրոջ կողմից տրված հարցերը կամ հրահանգները նախորդվում են «Q:» կամ «User:» նշիչով, իսկ մոդելի պատասխանները սկսվում են «A:» կամ «Assistant:»։

Այս մոտեցման առաջին խոշոր առևտրային կիրառությունն իրականացվեց 2022 թվականին՝ ChatGPT-ի թողարկմամբ։ Այն ստեղծվել է որպես InstructGPT-ի շարունակություն, որը հիմնված էր GPT-3.5 մոդելի վրա, սակայն հարմարված էր երկխոսության ձևաչափով հարցեր և պատասխաններ մշակելու համար։ ChatGPT-ն կարողանում է հետևել օգտատիրոջ հրահանգներին՝ ապահովելով առավել տրամաբանական, կառուցվածքային և համատեքստին համապատասխան պատասխաններ։

Նման համակարգերում սովորաբար կիրառվում է նաև «համակարգային հուշում» (system prompt)՝ մուտքային երկխոսությունից առաջ տեղադրվող հատուկ տեքստ, որը մոդելին սահմանում է դեր, վարքագծի կանոններ կամ ոճ։ Այս հուշումները հաճախ տրվում են «համակարգ» կամ «մշակող» դերի անունից և մոդելի համար ունեն առավել բարձր լիազորություն, քան սովորական օգտատիրոջ մուտքը։ Այս մեխանիզմը թույլ է տալիս մոդելին վերահսկելիորեն ձևավորել իր արձագանքները և հետևել ցանկալի վարքագծի։

### Կրկնուսուցվող-ընդլայնված գեներացիա
**Վերականգնման-ընդլայնված գեներացումը (Retrieval-Augmented Generation, RAG)** մեթոդ է, որը թույլ է տալիս մեծ լեզվային մոդելներին (LLM) ապահովել ավելի ճշգրիտ և փաստական պատասխաններ՝ **ինտեգրելով փաստաթղթերի որոնման համակարգեր գեներացնող մոդելի աշխատանքի հետ**։

Երբ օգտատերը մուտքագրում է հարցում, համակարգը նախ կատարում է **փաստաթղթերի որոնում**, որի նպատակն է գտնել ամենաարդիական և վերաբերելի նյութերը։ Սովորաբար հարցումը և փաստաթղթերը **կոդավորվում են վեկտորների**՝ օգտագործելով embedding մոդել։ Դրանք պահվում են վեկտորային տվյալների բազայում։ Այնուհետև համակարգը ընտրում է այն փաստաթղթերը, որոնց վեկտորները առավելագույնս նման են հարցման վեկտորին։

Ստացված փաստաթղթերն օգտագործվում են որպես **լրացուցիչ համատեքստ**, որը միասին հարցման հետ փոխանցվում է LLM-ին։ Մոդելն արդեն գեներացնում է պատասխանը՝ հիմնվելով ոչ միայն հարցման, այլև **գտնված փաստաթղթերից քաղված տեղեկությունների վրա**։

Այս մեթոդը զգալիորեն բարելավում է մոդելի արդյունքների **առնչությունը, փաստացիությունը և կիրառելիությունը**, հատկապես այն դեպքերում, երբ մոդելը պետք է աշխատի **թարմ կամ արտաքին աղբյուրների** հետ։

### Գործիքների կիրառում
**Գործիքների օգտագործումը** մեծ լեզվային մոդելների (LLM-ների) կարողունակությունն է՝ համագործակցել արտաքին համակարգերի, ծառայությունների կամ տվյալների աղբյուրների հետ՝ իրական խնդիրներ լուծելու համար։ Իրավագիտության ոլորտում կամ կրթական համատեքստում սա թույլ է տալիս ուսանողներին կամ մոդելին, օրինակ, իրական ժամանակի տեղեկատվություն ստանալ API-ից, կատարել իրավական հաշվարկներ կամ գործարկել ծրագրեր։

Այս մեխանիզմը աշխատում է այնպես, որ **մոդելի ելքը դիտարկվում է առանձին համակարգով**, որը հետևում է՝ արդյոք մոդելը փորձել է օգտագործել գործիք (օրինակ՝ հատուկ սինտաքսով նշած է API-ի կանչ կամ ֆունկցիա)։ Երբ այդպիսի հատուկ տոկենները հայտնաբերվում են, համակարգը գործարկում է համապատասխան գործիքը (օրինակ՝ տվյալների բազայի հարցում կամ կոդի հաշվարկ) և վերադարձնում արդյունքը՝ որպես մուտք՝ մոդելի հետագա աշխատանքի համար։

Սկզբնական փուլում գործիքների օգտագործումը սահմանափակվում էր որոշակի գործառույթներով՝ վերլուծական հաշվարկներ, փաստաթղթերի որոնում կամ օրենսդրական տեղեկատվություն։ Բայց վերջին տարիներին, LLM-ները (օրինակ՝ GPT-4) սկսել են ավելի լավ հասկանալ **API փաստաթղթերը**, սինտաքսը, և նույնիսկ ինքնուրույն գեներացնել ճիշտ կանչեր՝ առանց մարդ-միջամտության։ Սա **զգալիորեն ընդլայնել է գործիքների շրջանակը**, որոնց LLM-ը կարող է արդյունավետ օգտվել։

Ավելին, երբ գործիքների նկարագրությունը ներառվում է **համակարգային հուշման մեջ** (system prompt), մոդելն ստանում է հստակ տեղեկատվություն՝ ինչ գործիքներ կան, ինչի համար են, և ինչպես օգտագործել։ Սա ձևավորում է ավելի հզոր, «գիտակցող» մոդել, որը կարող է համապատասխանեցվել կոնկրետ իրավաբանական խնդիրներին։

Օրինակ, ChatGPT-ի գործիքակիր տարբերակներում GPT-4-ը կարող է համակարգային հուշման օգնությամբ ընտրել՝ երբ օգտագործել բրաուզեր, կոդ գրելու գործիք կամ փաստաթուղթ որոնող մոդուլ՝՝ կախված իրավիճակից։

#### Հիշողություն
Իրավագիտության մագիստրոսն ունի միայն ընթացիկ զրույցին մուտք գործելու հնարավորություն, բայց նրան կարող է տրամադրվել երկարաժամկետ հիշողություն որպես արտաքին գործիք։ Հիշողության ձևավորումը տեղի է ունենում, երբ LLM-ը կանչում է գործիքը՝ արտաքին պահեստում գրելու համար։ Վերականգնումը կարող է տեղի ունենալ որպես ամբողջական համատեքստ, որը ներարկվում է յուրաքանչյուր զրույցի սկզբում, կամ որպես մեկ այլ «գործիք», որը կանչվում է պահանջարկի դեպքում։ Վերականգնման գործիքը կարող է հիմնված լինել պարզ բանալի-արժեքի պահեստի կամ սեմանտիկ որոնման վրա, ինչպիսին է վերականգնման-ընդլայնված գեներացիան։

### Խոշոր լեզվային մոդելները՝ որպես գործակալ
Իրավունքի կառավարման (LLM) մոդելները սովորաբար **ինքնուրույն գործակալներ չեն**, քանի որ իրենք իրենցով չեն կարողանա փոխազդել միջավայրի հետ, հիշել անցյալ գործողությունները կամ պլանավորել ապագան։ Սակայն դրանք կարելի է **վերածել գործակալների**, եթե մոդելին ավելացվեն լրացուցիչ տարրեր՝ օրինակ՝ հիշողություն, նպատակ, շրջակա միջավայրի նկարագրություն և գործիքների հասանելիություն։

Մոդելը դառնում է գործակալ այն դեպքում, երբ այն գործում է որպես **պլանավորող**, օգտագործում է արտաքին **գործիքներ** գործողությունները կատարելու համար, և ունի որոշակի **մատչում հիշողությանը**՝ որպեսզի կարողանա սովորել կամ պարբերաբար վերագնահատել իր վարքագիծը։

Տարբեր մոտեցումներ՝

* **ReAct ձևանմուշ** – համատեղում է «մտածել» + «գործել»։ Մոդելը նախ գեներացնում է մի քանի մտքեր, ապա ընտրում է գործողություն՝ հիմնվելով իրավիճակի և նախորդ դիտարկումների վրա։ Օգտագործվում է խնդիր լուծելու համար՝ քայլ առ քայլ, հաճախ բարձրաձայն մտածելով։
* **DEPS մեթոդ** – «Նկարագրել, բացատրել, պլանավորել և ընտրել»։ Մոդելը նախ նկարագրում է միջավայրը (օրինակ՝ պատկերների օգնությամբ), ապա փորձում է վերլուծել և պլանավորել բարդ գործողություններ՝ հիմնվելով իր նախնական գիտելիքների և նոր դիտարկումների վրա։
* **Ռեֆլեքսիա** – մոդելը գործում է մի քանի դրվագներով, և յուրաքանչյուր դրվագից հետո վերանայում է իր կատարումը, գեներացնում է սովորած դասեր, որոնք պահվում են որպես երկարաժամկետ հիշողություն և օգտագործվում են հետագայում՝ ավելի լավ արձագանքելու համար։
* **Մոնտե Կառլո ծառերի որոնում** – LLM-ը կարող է օգտագործվել որպես հևրիստիկա, երբ աշխարհը չունի հստակ մոդել։ Մոդելը կարող է տրամադրել միջավայրի նկարագրություն, որը ծառայում է որպես միջավայրի պարզեցված մոդել։
* **Բաց ուսումնասիրություն և ուսումնական ծրագրեր** – LLM-ը կարող է գնահատել, թե որ դիտարկումները կամ առաջադրանքներն են առավել «հետաքրքիր» և առաջնորդել սովորական ուժեղացնող ուսուցման (RL) գործակալին։ Կամ էլ՝ առաջարկել ավելի բարդ առաջադրանքներ՝ ուսումնական ծրագրի փուլերի ձևով։
* **Հմտությունների կառուցում** – փոխանակ մի քայլից մյուսը գեներացնելու, LLM-ը կարող է կառուցել գործողությունների հաջորդականություն՝ որպես «հմտություն» կամ գործառույթ։ Այդ հմտությունը կարող է պահվել և օգտագործվել կրկին՝ բարձրացնելով պլանավորման աբստրակցիայի մակարդակը։

Այս բոլոր մեթոդները թույլ են տալիս LLM-ին դուրս գալ պարզ արձագանքող համակարգի սահմաններից և դառնալ **դինամիկ, հարմարվող գործակալ**, որը գործում է միջավայրի, հիշողության, նպատակների և գործիքների համադրությամբ։

### Հիմնավորում և դատողականություն
Իրավագիտության ոլորտում մեծ լեզվային մոդելները (LLM-ներ), ինչպես և այլ դաշտերում, ավանդաբար մարզվել են միայն վերջնական **արդյունք** ստեղծելու համար՝ առանց նկատի ունենալու **միջանկյալ մտածողության քայլերը**։ Այս մոտեցումը հաճախ բավարար է պարզ առաջադրանքների դեպքում, սակայն բարդ խնդիրներում՝ հատկապես այնտեղ, որտեղ մարդիկ սովորաբար մտածում են փուլային կամ վերլուծական եղանակով, **մոդելների կատարողականը զգալիորեն անկում է ապրում**։

#### Շղթայացում
**«Արագ շղթայացման» (Prompt Chaining)** և **«Մտքերի շղթայի հուշման» (Chain-of-Thought Prompting)** մեթոդները հայտնվել են որպես արդյունավետ լուծումներ այն խնդիրների համար, որտեղ ավանդական LLM-ները դժվարանում են տրամադրել ճշգրիտ արդյունքներ՝ բարդ հարցերի դեպքում։

**Արագ շղթայացում**ն ներկայացվել է 2021 թվականին։ Այս մեթոդում օգտատերը **ձեռքով բաժանում է բարդ խնդիրը մի քանի պարզ փուլերի**։ Յուրաքանչյուր փուլում մոդելին տրվում է հստակ հուշում՝ ինչ անել, ինչպես նաև **նախորդ քայլերի արդյունքները**։ Այդ արդյունքները օգտագործվում են հաջորդ քայլերում՝ շղթայաբար հասնելով վերջնական լուծման։ Այս մեթոդը շատ հարմար է գործնական կիրառությունների դեպքում, երբ պահանջվում է հստակ վերահսկել մոդելի ընթացքը։ Գլխավոր առավելությունն այն է, որ նույնիսկ ոչ փորձագետները կարող են կառուցել արդյունավետ լուծման շղթաներ՝ փորձելով տարբեր հրահանգների հավաքածուներ և գնահատելով արդյունքները։

**Մտքերի շղթայի հուշումը** (ներկայացված 2022-ին) գործում է այլ կերպ։ Այստեղ մոդելին տրվում են մի քանի օրինակներ, որտեղ **օգնականը մտածում է բարձրաձայն**, բացատրում է իր միջանկյալ քայլերը, նախքան պատասխանի գալը։ LLM-ը սովորում է այդ օրինակից և սկսում է ինքնուրույն նման ձևով վերլուծել խնդիրները։

Ավելին, պարզ **«Եկեք մտածենք քայլ առ քայլ»** հուշումն արդեն բավական է, որպեսզի մոդելը սկսի մտածել փուլ առ փուլ՝ նախքան պատասխանը տալը։ Այս մեթոդը մեծապես բարձրացնում է ճշգրտությունը՝ հատկապես իրավաբանական, տրամաբանական և մաթեմատիկական հարցերում, երբ խնդրի լուծման գործընթացն ինքնին պահանջում է կառուցվածքային մտածողություն։

Հետազոտությունները ցույց են տվել, որ այս մոտեցմամբ աշխատող մոդելները կարող են **գերազանցել նույնիսկ fine-tuned GPT-3 տարբերակներին**, հատկապես մաթեմատիկական բառային խնդիրներում, որտեղ առանց միջանկյալ քայլերի մոդելները հաճախ կռահում են պատասխանը, այլ ոչ թե վերլուծում։

#### Մոդելային-բնատուր դատողականություն
2024 թվականի վերջին իրավունքի կառավարման (LLM) ոլորտում սկսեց ձևավորվել նոր ուղղություն՝ **«մտածողության մոդելներ»** (reasoning-first models)։ Սրանք մեծ լեզվային մոդելներ են, որոնք հատուկ մշակվել են **բարդ դատողություն և փուլային մտածողություն պահանջող առաջադրանքների** համար։ Ի տարբերություն ավանդական LLM-ների, որոնք հաճախ միանգամից փորձում են գուշակել վերջնական պատասխանը, մտածողության մոդելները նախընտրում են **քայլ առ քայլ վերլուծություն**, նման մարդկային մոտեցմանը՝ խնդիր լուծելիս։

OpenAI-ն առաջիններից էր, ով ներկայացրեց այս ուղղությունը՝ թողարկելով

* **o1 մոդելը (2024 սեպտեմբեր)**
* այնուհետև՝ **o3 մոդելը (2025 ապրիլ)**

Այս մոդելները ցույց տվեցին **զգալի բարելավումներ** բարդ ոլորտներում՝

* մաթեմատիկա
* գիտություն
* ծրագրավորում

Օրինակ՝ Միջազգային մաթեմատիկայի օլիմպիադայի (IMO) որակավորման խնդիրների դեպքում,

* GPT-4o-ն հասել է **13% ճշգրտության**
* o1-ը՝ **83%**, ինչը ցույց է տալիս նոր դասի մոդելների լրջագույն առավելությունը

2025 թվականի հունվարին չինական **DeepSeek** ընկերությունը ներկայացրեց **DeepSeek-R1** մոդելը՝

* **671 միլիարդ պարամետրով**
* բաց կշիռներով (open weights)
* աշխատունակությամբ համադրելի o1-ի հետ
* զգալիորեն ավելի **ծախսարդյունավետ**, ինչը դարձնում է այն մրցունակ՝ ինչպես արդյունաբերության, այնպես էլ գիտահետազոտական շրջանակներում

Թեև այս մոդելները պահանջում են **ավելի շատ հաշվողական ռեսուրսներ մեկ հարցման համար**, նրանք փոխարենը առաջարկում են **բարձր ճշգրտություն և ճկունություն**, հատկապես այնպիսի ոլորտներում, որտեղ անհրաժեշտ է կառուցվածքային տրամաբանական վերլուծություն՝ օրինակ՝ մաթեմատիկական խնդիրներ, հետազոտական վերլուծություն, ծրագրային խնդիրների կառուցում։

Այս միտումը հավանաբար կձևավորի հաջորդ սերնդի լեզվային մոդելների ուղղությունը՝ որտեղ մոդելը ոչ միայն խոսում է, այլ **մտածում է այնպես, ինչպես մարդը՝ հիմնավոր, փուլային և հետևողական կերպով**։

## Մուտքային և ելքային տվյալների ձևերը
### Բազմամոդալություն
**Բազմամոդալություն** (multimodality) նշանակում է, որ մոդելը կարող է աշխատել միաժամանակ **մի քանի տարբեր մուտքային կամ ելքային ձևերի (մոդալությունների)** հետ։ Մոդալություն կոչվում է ազդանշանի տեսակը՝ օրինակ՝

* **տեքստ**
* **պատկեր**
* **տեսանյութ**
* **աուդիո**
* **սենսորային տվյալներ** (օրինակ՝ պրոպրիոցեպցիա՝ մարմնի դիրքի ընկալում)

Այս մոտեցումը թույլ է տալիս մոդելին ընկալել և կապել տարբեր զգայազերծված տվյալներ՝ նման մարդու մտածողության ձևերին։

Օրինակներ՝

* **Google PaLM-E** մոդելը ճշգրտվել է որպես **բազմամոդալ համակարգ**, որն օգտագործվել է ռոբոտների կառավարաման առաջադրանքներում
* **LLaMA մոդելները** նույնպես դարձել են բազմամոդալ՝ կարողանալով ընդունել տեսողական (պատկերային, տեսաշարային) մուտքեր՝ շնորհիվ հատուկ տոկենիզացիայի մեթոդի
* **GPT-4o** (OpenAI) կարող է միաժամանակ մշակել **տեքստ, պատկեր և աուդիո**՝ դարձնելով այն լիարժեք բազմամոդալ մոդել

### Ինչպես են LLM-ները վերածվում բազմամոդալ մոդելների
Տարածված մեթոդը հիմնված է **մարզված պատկերի կոդավորիչի** արդյունքի վերածման վրա՝ որպես **թոքեն (նիշ)**, որը կարելի է միավորել LLM-ի (լեզվային մոդելի) տեքստային տոկենների հետ։

Քայլերը հետևյալն են․

# Վերցվում է **պատկերային կոդավորիչ** E (օրինակ՝ CLIP)
# Կառուցվում է փոքր **պերսեպտրոնային ցանց** f, որը կոդավորիչի ելքը դարձնում է նույն չափսի, ինչ տեքստային թոքենը
# Այս վեկտորը օգտագործվում է որպես **«պատկերի թոքեն»**, որը հնարավոր է ներառել LLM-ի մուտքային հաջորդականության մեջ
# Ամբողջ համակարգը ճշգրտվում է **պատկեր+տեքստ տվյալների** վրա (օր. captioning, visual QA)

Սա թույլ է տալիս LLM-ին ընկալել ու մշակել ոչ միայն բառեր, այլ նաև պատկերային բովանդակություն։

### Ոչ բնական լեզուներ
Իրավագիտության մագիստրոսները կարող են ծրագրավորման լեզուներով աշխատել նմանապես, ինչպես բնական լեզուներով։ Տոկենների մշակման մեջ որևէ հատուկ փոփոխություն անհրաժեշտ չէ, քանի որ կոդը, ինչպես մարդկային լեզուն, ներկայացվում է որպես պարզ տեքստ։ Իրավագիտության մագիստրոսները կարող են կոդ ստեղծել բնական լեզվով գրված խնդիրների կամ հրահանգների հիման վրա։ Նրանք կարող են նաև նկարագրել կոդը բնական լեզվով կամ թարգմանել ծրագրավորման լեզուների միջև։ Սկզբնապես դրանք օգտագործվել են որպես կոդի լրացման գործիք, բայց առաջընթացը դրանք տեղափոխել է ավտոմատ ծրագրավորման ոլորտ։ GitHub Copilot-ի նման ծառայությունները առաջարկում են ծրագրավորման համար հատուկ պատրաստված, կատարելագործված կամ խրախուսված իրավունքի մագիստրոսներ։ LLM ճարտարապետությունները նաև օգտակար են եղել կենսաբանական հաջորդականությունների՝ սպիտակուցի, ԴՆԹ-ի և ՌՆԹ-ի վերլուծության մեջ։ Սպիտակուցների դեպքում դրանք, կարծես, կարողանում են որոշակի «քերականություն» որսալ ամինաթթվային հաջորդականությունից՝ հաջորդականությունը խտացնելով ներդրվող .-ի մեջ։ Կառուցվածքի կանխատեսման և մուտացիոն արդյունքների կանխատեսման նման առաջադրանքների դեպքում, ներդրված տվյալները որպես մուտքային տվյալներ օգտագործող փոքր մոդելը կարող է մոտենալ կամ գերազանցել բազմակի հաջորդականության դասավորությունները (MSA) որպես մուտքային տվյալներ օգտագործող շատ ավելի մեծ մոդելներին։ ESMFold-ը՝ Meta Platforms-ի ներդրման վրա հիմնված սպիտակուցային կառուցվածքի կանխատեսման մեթոդը, աշխատում է AlphaFold2- ից մի քանի կարգի ավելի արագ՝ շնորհիվ MSA պահանջի վերացման և ներդրման օգտագործման պատճառով պարամետրերի ավելի ցածր քանակի։ Meta-ն հյուրընկալում է ESM Atlas-ը, որը ESMFold-ի միջոցով կանխատեսված մետագենոմիկ սպիտակուցների 772 միլիոն կառուցվածքների տվյալների բազա է: Իրավագիտության դոկտորը կարող է նաև նախագծել բնության մեջ հանդիպող որևէ սպիտակուցից տարբերվող սպիտակուցներ: Նուկլեինաթթվային մոդելները օգտակար են եղել կարգավորիչ հաջորդականությունների հայտնաբերման, հաջորդականությունների դասակարգման, ՌՆԹ-ՌՆԹ փոխազդեցության կանխատեսման և ՌՆԹ կառուցվածքի կանխատեսման համար։

## Հատկություններ
### Մասշտաբավորման օրենքներ
Նախնական վերապատրաստումից հետո LLM-ի արդյունավետությունը մեծապես կախված է հետևյալից.

* նախնական վերապատրաստման արժեքը C (օգտագործված հաշվարկային միջոցների ընդհանուր քանակը),
* արհեստական նեյրոնային ցանցի չափը, օրինակ՝ պարամետրերի քանակը N (այսինքն՝ շերտերում նեյրոնների քանակը, դրանց միջև կշիռների քանակը և շեղումները),
* նախնական ուսուցման տվյալների բազմության չափը (այսինքն՝ կորպուսում տոկենների քանակը, D )։

«Մասշտաբի օրենքները» էմպիրիկ վիճակագրական օրենքներ են, որոնք կանխատեսում են իրավունքի կառավարման (LLM) արդյունավետությունը՝ հիմնվելով նման գործոնների վրա: Մեկ դարաշրջանի համար ավտոռեգրեսիվ կերպով մարզված LLM-ի համար, լոգ-լոգ ուսուցման տեմպի գրաֆիկով, մեկ հատուկ մասշտաբավորման օրենքը (« Շինչիլայի մասշտաբավորում ») նշում է, որ՝ \begin{cases}
C = C_0 ND \\[6pt]
L = \frac{A}{N^\alpha} + \frac{B}{D^\beta} + L_0
\end{cases} որտեղ փոփոխականներն են

* C մոդելի մարզման արժեքն է՝ FLOP-ներով։
* N մոդելում պարամետրերի քանակն է։
* D -ն մարզման հավաքածուի տոկենների քանակն է։
* L -ն թեստային տվյալների բազմության վրա մարզված LLM-ի կողմից ստացված միջին բացասական լոգարիթմական հավանականության կորուստն է մեկ թոքենի համար ( nats /թոքեն)։
*  C_0 = 6, ինչը նշանակում է, որ մեկ թոքենի վրա մարզվելու համար անհրաժեշտ է 6 FLOP մեկ պարամետրի համար։ Նկատի ունեցեք, որ մարզման արժեքը շատ ավելի բարձր է, քան եզրակացության արժեքը, որտեղ մեկ թոքենի վրա եզրակացություն անելու համար անհրաժեշտ է 1-ից 2 FLOP յուրաքանչյուր պարամետրի համար։
* \alpha = 0.34, \beta = 0.28, A = 406.4, B = 410.7, L_0 = 1.69

### Արտակարգ կարողություններ
մինի|Կետ(ներ)ում, որոնք կոչվում են ընդհատումներ, գծերը փոխում են իրենց թեքությունները՝ գծային-լոգարիթմական գրաֆիկի վրա հայտնվելով որպես աղեղներով միացված գծային հատվածների շարք։
Ավելի մեծ մոդելների կատարողականությունը տարբեր առաջադրանքների վրա, երբ գծագրվում է լոգ-լոգ մասշտաբով, դրսևորվում է որպես ավելի փոքր մոդելների կողմից ձեռք բերված կատարողականի գծային էքստրապոլյացիա։ Սակայն այս գծայնությունը կարող է ընդհատվել « ընդհատում(ներ) ով» մասշտաբավորման օրենքում, որտեղ գծի թեքությունը կտրուկ փոխվում է, և որտեղ ավելի մեծ մոդելները ձեռք են բերում «արտահայտվող ունակություններ»: Դրանք առաջանում են մոդելի բաղադրիչների բարդ փոխազդեցությունից և հստակորեն ծրագրավորված կամ նախագծված չեն։

Ի հայտ եկող կարողություններից մեկը համատեքստային ուսուցումն է օրինակների միջոցով։ Համատեքստային ուսուցումը ներառում է այնպիսի առաջադրանքներ, ինչպիսիք են՝

* հաղորդված թվաբանություն
* Միջազգային հնչյունական այբուբենի վերծանումը
* բառի տառերը վերծանելը
* բառ-համատեքստային տվյալների բազմությունների երկիմաստության վերացում
* տարածական բառերի փոխակերպում
* հիմնական ուղղություններ (օրինակ՝ պատասխանելով «հյուսիս-արևելք»՝ ի պատասխան 8 զրոների և վերևի աջ անկյունում 1 թվի 3x3 ցանցի), գունային տերմինները ներկայացված են տեքստում:
* Մտքերի շղթայական հուշում . 2022 թվականի մի հետազոտական հոդվածում մտքերի շղթայական հուշումը միայն բարելավել է այն մոդելների արդյունավետությունը, որոնք ունեին առնվազն 62B պարամետր։ Փոքր մոդելներն ավելի լավ են աշխատում, երբ նրանցից պահանջվում է անմիջապես պատասխանել՝ առանց մտածելու շղթայի։
* Հինգլիշի (հինդիի և անգլերենի համադրություն) պարբերություններում վիրավորական բովանդակության նույնականացում և սուահիլի ասացվածքների նմանատիպ անգլերեն համարժեքի ստեղծում։

Շեֆեր *և այլն* *այլք* պնդում են, որ ի հայտ եկող կարողությունները ձեռք չեն բերվում անկանխատեսելիորեն, այլ ձեռք են բերվում կանխատեսելիորեն՝ համաձայն սահուն մասշտաբավորման օրենքի։ Հեղինակները դիտարկել են բազմակի ընտրության հարցեր լուծող իրավագիտության մագիստրոսի խաղալիք վիճակագրական մոդելը և ցույց են տվել, որ այս վիճակագրական մոդելը, որը փոփոխվել է այլ տեսակի առաջադրանքները հաշվի առնելու համար, կիրառելի է նաև այս առաջադրանքների համար։

## Մեկնաբանություն
Մեծ լեզվական մոդելները սովորաբար դիտվում են որպես սև արկղեր, և պարզ չէ, թե ինչպես կարող են դրանք կատարել լեզվական առաջադրանքներ։ Նմանապես, պարզ չէ, թե արդյոք կամ ինչպես պետք է Իրավաբանական գիտությունների մագիստրոսները դիտարկվեն որպես մարդու ուղեղի և/կամ մարդկային մտքի մոդելներ։

### Մեխանիստական մեկնաբանելիություն
Մշակվել են տարբեր մեթոդներ՝ իրավագիտության բակալավրի աստիճանների թափանցիկությունն ու մեկնաբանելիությունը բարձրացնելու համար: Մեխանիստական մեկնաբանելիության նպատակն է հակադարձ ինժեներիայի ենթարկել իրավունքի գիտությունների մագիստրոսներին՝ հայտնաբերելով խորհրդանշական ալգորիթմներ, որոնք մոտավորացնում են իրավունքի գիտության մագիստրոսի կողմից կատարված եզրակացությունը։ Վերջին տարիներին նոսր կոդավորման մոդելները, ինչպիսիք են նոսր ինքնակոդավորիչները, տրանսկոդավորիչները և խաչաձևավորիչները, ի հայտ են եկել որպես մեկնաբանելի առանձնահատկությունները բացահայտելու խոստումնալից գործիքներ։ Օրինակ, հեղինակները փոքր տրանսֆորմատորներ են մարզել մոդուլային թվաբանական գումարման վրա։ Արդյունքում ստացված մոդելները մշակվել են հակադարձ ինժեներիայի միջոցով, և պարզվել է, որ դրանք օգտագործում են դիսկրետ Ֆուրիեի ձևափոխություն։ Մոդելի մարզումը նաև ընդգծեց գրոկինգ կոչվող մի երևույթ, որի դեպքում մոդելը սկզբում անգիր է հիշում մարզումների հավաքածուի բոլոր հնարավոր արդյունքները ( overfitting ), իսկ ավելի ուշ հանկարծակի սովորում է իրականում կատարել հաշվարկը։

Տրանսկոդերները, որոնք ավելի մեկնաբանելի են, քան տրանսֆորմատորները, օգտագործվել են «փոխարինող մոդելներ» մշակելու համար։ Իրավագիտության մագիստրոսի կողմից հանգավոր բանաստեղծություն գրելու մեխանիստական մեկնաբանությանը վերաբերող նմանատիպ մի ուսումնասիրության մեջ ցույց է տրվել, որ չնայած նրանք կարծում են, որ պարզապես կանխատեսում են հաջորդ ժետոնը, իրականում նրանք կարող են նախապես պլանավորել։  Այս մեթոդները ինտեգրելով՝ հետազոտողներն ու մասնագետները կարող են ավելի խորը պատկերացում կազմել իրավագիտության մագիստրոսների գործունեության մասին՝ խթանելով վստահությունը և նպաստելով այս հզոր մոդելների պատասխանատու կիրառմանը։

### Գիտակցություն և բանականություն
2022 թվականի հարցման ժամանակ NLP հետազոտողները հավասարապես բաժանվեցին, երբ նրանց հարցրին, թե արդյոք (չկարգավորված) իրավաբանները «կարող են (երբևէ) հասկանալ բնական լեզուն որևէ ոչ տրիվիալ իմաստով»։ «Իրավունքի մագիստրոսի (LLM) ըմբռնման» կողմնակիցները կարծում են, որ որոշ LLM կարողություններ, ինչպիսին է մաթեմատիկական դատողությունը, ենթադրում են որոշակի հասկացություններ «հասկանալու» կարողություն: 2023 թվականին Microsoft-ի թիմը պնդում էր, որ GPT-4-ը «կարող է լուծել նորարարական և դժվար խնդիրներ, որոնք ընդգրկում են մաթեմատիկա, կոդավորում, տեսողություն, բժշկություն, իրավունք, հոգեբանություն և այլն», և որ GPT-4-ը «կարելի է ողջամտորեն դիտարկել որպես արհեստական ընդհանուր ինտելեկտի համակարգի վաղ (սակայն դեռևս անավարտ) տարբերակ». «Կարո՞ղ է ողջամտորեն ասել, որ ծրագրային ապահովման ինժեներիայի թեկնածուների համար քննություններ հանձնող համակարգը *իրականում* ինտելեկտուալ չէ»: Իլյա Սուցկևերը պնդում է, որ հաջորդ բառը կանխատեսելը երբեմն ներառում է դատողություններ և խորը ներթափանցումներ, օրինակ, եթե իրավաբանության մագիստրոսական աստիճան ստացողը պետք է կանխատեսի հանցագործի անունը անհայտ դետեկտիվ վեպում՝ բացահայտմանը նախորդող ամբողջ պատմությունը մշակելուց հետո: Որոշ հետազոտողներ իրավագիտության մագիստրոսական ծրագրերը բնութագրում են որպես «այլմոլորակային ինտելեկտ»։ Օրինակ՝ Conjecture-ի գործադիր տնօրեն Քոնոր Լիհին չկարգավորված LLM-ները համարում է անհասկանալի այլմոլորակային « Շոգգոթների » նման և կարծում է, որ RLHF կարգավորումը ստեղծում է «ժպտացող ճակատ», որը ծածկում է LLM-ի ներքին աշխատանքը. «Եթե դուք այն չափազանց հեռու չգնաք, ժպտացող դեմքը կմնա։ Բայց հետո դուք դրան տալիս եք [անսպասելի] հուշում, և հանկարծ դուք տեսնում եք խելագարության, տարօրինակ մտածողության գործընթացների և ակնհայտորեն ոչ մարդկային հասկացողության այս հսկայական ստորին որովայնը» Ի հակադրություն, LLM-ի ըմբռնման որոշ սկեպտիկներ կարծում են, որ առկա LLM-ները «պարզապես վերամիավորում և վերամիավորում են առկա գրավոր նյութերը», մի երևույթ, որը հայտնի է որպես ստոխաստիկ թութակ, կամ նրանք մատնանշում են առկա LLM-ների մոտ կանխատեսման հմտությունների, դատողության հմտությունների, գործունության և բացատրելիության թերությունները: Օրինակ, GPT-4-ը բնական թերություններ ունի պլանավորման և իրական ժամանակում ուսուցման մեջ։ Գեներատիվ իրավունքի մագիստրոսները նկատվել են այնպիսին, որ վստահորեն պնդում են փաստերի մասին պնդումներ, որոնք, կարծես, չեն արդարացվում իրենց ուսումնական տվյալներով, մի երևույթ, որը անվանվել է « հալյուցինացիա »: Մասնավորապես, Իրավաբանական գիտությունների մագիստրոսական ծրագրերի համատեքստում հալյուցինացիաները համապատասխանում են տեքստի կամ պատասխանների ստեղծմանը, որոնք թվում են շարահյուսորեն ճշգրիտ, սահուն և բնական, բայց փաստացիորեն սխալ են, անհեթեթ կամ չեն համապատասխանում տրամադրված աղբյուրի տվյալներին։ Նյարդաբան Թերենս Սեյնովսկին պնդել է, որ «Իրավաբանության մագիստրոսների ինտելեկտի վերաբերյալ փորձագետների տարբեր կարծիքները ենթադրում են, որ բնական ինտելեկտի վրա հիմնված մեր հին պատկերացումները անբավարար են»:

Իրավագիտության մագիստրոսի (LLM) ինտելեկտի կամ հասկացողության դրսևորման հարցն ունի երկու հիմնական ասպեկտ՝ առաջինը՝ մտածողության և լեզվի մոդելավորումը համակարգչային համակարգում, իսկ երկրորդը՝ համակարգչային համակարգին մարդկային լեզու ստեղծելու հնարավորություն տալը։ Լեզվի այս ասպեկտները՝ որպես ճանաչողության մոդել, մշակվել են ճանաչողական լեզվաբանության ոլորտում։ Ամերիկացի լեզվաբան Ջորջ Լակոֆը ներկայացրել է լեզվի նեյրոնային տեսությունը (NTL) ՝ որպես լեզուն որպես ուսուցման խնդիրների և հասկացողության մոդել օգտագործելու հաշվողական հիմք։ NTL մոդելը ուրվագծում է, թե ինչպես են մարդու ուղեղի որոշակի նեյրոնային կառուցվածքները ձևավորում մտքի և լեզվի բնույթը, և, իրենց հերթին, որո՞նք են նման նեյրոնային համակարգերի հաշվողական հատկությունները, որոնք կարող են կիրառվել համակարգչային համակարգում միտքն ու լեզուն մոդելավորելու համար։ Համակարգչային համակարգերում լեզվի մոդելավորման շրջանակի ստեղծումից հետո ուշադրությունը կենտրոնացավ համակարգչային համակարգերի համար ընդունելի քերականությամբ լեզու ստեղծելու շրջանակների ստեղծման վրա։ Իր 2014 թվականի *«Լեզվի առասպելը. Ինչու լեզուն բնազդ չէ* » գրքում բրիտանացի ճանաչողական լեզվաբան և թվային հաղորդակցման տեխնոլոգ Վիվյան Էվանսը ուրվագծել է հավանականային համատեքստից զերծ քերականության (PCFG) դերը՝ NLP-ին հնարավորություն տալով մոդելավորել ճանաչողական օրինաչափությունները և ստեղծել մարդկային լեզու։

## Գնահատում
### Շփոթվածություն
Ցանկացած լեզվական մոդելի արդյունավետության կանոնիկ չափանիշը դրա բարդությունն է տվյալ տեքստային կորպուսի վրա։ Շփոթվածությունը չափում է, թե որքան լավ է մոդելը կանխատեսում տվյալների բազմության պարունակությունը։ Որքան բարձր է մոդելի կողմից տվյալների բազմությանը վերագրվող հավանականությունը, այնքան ցածր է շփոթվածությունը։ Մաթեմատիկական առումով, շփոթվածությունը մեկ տոկենի միջին բացասական լոգարիթմական հավանականության էքսպոնենցիալն է։

\log(\text{Perplexity}) = -\frac{1}{N} \sum_{i=1}^N \log(\Pr(\text{token}_i \mid \text{context for token}_i))

Այստեղ, N տեքստային կորպուսում տոկենների քանակն է, և «տոկենի համատեքստը» i կախված է LLM-ի կոնկրետ տեսակից։ Եթե LLM-ը ավտոռեգրեսիվ է, ապա «տոկենի համատեքստը» i «տեքստի այն հատվածն է, որը հայտնվում է տոկենից առաջ» i . Եթե LLM-ը դիմակավորված է, ապա «համատեքստ տոկենի համար» i «տոկենի շուրջ տեքստի հատվածն է» i . Քանի որ լեզվական մոդելները կարող են չափազանց շատ համապատասխանել մարզման տվյալներին, մոդելները սովորաբար գնահատվում են թեստային հավաքածուի վրա իրենց բարդության աստիճանով։ Այս գնահատումը պոտենցիալ խնդրահարույց է ավելի մեծ մոդելների համար, որոնք, քանի որ մարզվում են ավելի ու ավելի մեծ տեքստային կորպուսների վրա, ավելի ու ավելի հավանական է, որ պատահաբար ներառեն ցանկացած տրված թեստային հավաքածուի մասեր։

#### Չափումներ
Տեղեկատվության տեսության մեջ էնտրոպիայի հասկացությունը սերտորեն կապված է շփոթվածության հետ, մի հարաբերություն, որը հատկապես հաստատվել է Կլոդ Շենոնի կողմից։ Այս կապը մաթեմատիկորեն արտահայտվում է որպես

 \text{Entropy} = \log_2(\text{Perplexity}) .

Այս համատեքստում էնտրոպիան սովորաբար քանակականացվում է բառի մեջ բիթերի (BPW) կամ նիշի մեջ բիթերի (BPC) միջոցով, ինչը կախված է նրանից, թե լեզվական մոդելը օգտագործում է բառահեն, թե նիշի վրա հիմնված տոկենիզացիա։ Հատկանշական է, որ ավելի մեծ լեզվական մոդելների դեպքում, որոնք հիմնականում կիրառում են ենթաբառերի տոկենիզացիա, մեկ տոկենի համար բիթերի քանակը (BPT) հանդես է գալիս որպես, կարծես, ավելի համապատասխան չափանիշ։ Սակայն, տարբեր մեծ լեզվական մոդելների (LLM) միջև տոկենիզացիայի մեթոդների տարբերության պատճառով, BPT-ն չի ծառայում որպես հուսալի չափանիշ տարբեր մոդելների միջև համեմատական վերլուծության համար։ BPT-ն BPW-ի փոխարկելու համար կարելի է այն բազմապատկել մեկ բառում թոքենների միջին թվով։

Լեզվական մոդելների գնահատման և համեմատության մեջ խաչաձև էնտրոպիան, ընդհանուր առմամբ, նախընտրելի չափանիշ է էնտրոպիայի նկատմամբ։ Հիմնական սկզբունքն այն է, որ ավելի ցածր BPW-ն վկայում է մոդելի սեղմման բարելավված կարողության մասին։ Սա, իր հերթին, արտացոլում է մոդելի հմտությունը ճշգրիտ կանխատեսումներ կատարելու հարցում։

Հաջորդ թոքենը ճշգրիտ կանխատեսելու ունակության շնորհիվ, LLM-ները բարձր կարողություններ ունեն անկորուստ սեղմման գործում։ DeepMind-ի կողմից 2023 թվականին անցկացված ուսումնասիրությունը ցույց տվեց, որ Chinchilla մոդելը, չնայած հիմնականում տեքստի վրա մարզվելուն, կարողացել է ImageNet-ը սեղմել իր չափի 43%-ի՝ PNG-ին գերազանցելով 58%-ով:

### Չափանիշներ
Չափանիշներն օգտագործվում են որոշակի առաջադրանքների վրա LLM-ի կատարողականը գնահատելու համար: Թեստերը գնահատում են այնպիսի կարողություններ, ինչպիսիք են ընդհանուր գիտելիքները, կողմնակալությունը, առողջ բանականությունը, հարց ու պատասխանը և մաթեմատիկական խնդիրներ լուծելու կարողությունը։ Կոմպոզիտային չափորոշիչները ուսումնասիրում են բազմաթիվ հնարավորություններ։ Արդյունքները հաճախ զգայուն են հուշման մեթոդի նկատմամբ։ Հարց ու պատասխանի չափանիշը կոչվում է «բաց գիրք», եթե մոդելի հուշումը ներառում է տեքստ, որից կարելի է եզրակացնել սպասվող պատասխանը (օրինակ՝ նախորդ հարցը կարող է համակցվել տեքստի հետ, որը ներառում է հետևյալ նախադասությունը՝ «Շնաձկները մեկ անգամ հասել են Սթենլիի գավաթի եզրափակիչ՝ 2016 թվականին պարտվելով Փիթսբուրգ Փինգվինսին» ): Հակառակ դեպքում, առաջադրանքը համարվում է «փակ գիրք», և մոդելը պետք է հիմնվի բացառապես իր մարզման վրա։ Օրինակներ են՝ GLUE, SuperGLUE, MMLU, BIG-bench, HELM և HLE (Մարդկության վերջին քննությունը):

LLM կողմնակալությունը կարող է գնահատվել այնպիսի չափանիշների միջոցով, ինչպիսիք են CrowS-Pairs-ը (Crowdsourced Stereotype Pairs), Stereo Set-ը, և Parity Benchmark-ը: Հասանելի են փաստերի ստուգման և ապատեղեկատվության հայտնաբերման չափորոշիչներ։ 2023 թվականին անցկացված ուսումնասիրությունը համեմատել է ChatGPT 3.5 և 4.0, Bard և Bing AI իրավաբանության մասնագետների փաստերի ստուգման ճշգրտությունը PolitiFact-ի և Snopes-ի նման անկախ փաստերի ստուգողների հետ։ Արդյունքները ցույց տվեցին միջին մակարդակի հմտություն, որտեղ GPT-4-ը հասավ ամենաբարձր ճշգրտությանը՝ 71%, զիջելով մարդկային փաստահավաքներին։

Նախկին ստանդարտ, որը փորձարկվել է գնահատման տվյալների հավաքածուի մի մասի օգտագործմամբ։ Ավելի տարածված դարձավ նախապես պատրաստված մոդելը գնահատելը անմիջապես հուշման տեխնիկայի միջոցով։ Հետազոտողները տարբերվում են որոշակի առաջադրանքների համար հուշումներ ձևակերպելու եղանակով, մասնավորապես՝ հուշմանը կցված ճիշտ օրինակների քանակի առումով (այսինքն՝ *n-* ի արժեքը *n* -shot հուշման մեջ):

#### Տվյալների հավաքածուներ
Տիպիկ տվյալների հավաքածուները բաղկացած են հարցերի և ճիշտ պատասխանների զույգերից, օրինակ՝ («Սան Խոսե Շարքսը նվաճե՞լ է Սթենլիի գավաթը», «Ոչ»): Հաճախ օգտագործվող հարց ու պատասխանի տվյալների հավաքածուների օրինակներից են TruthfulQA-ն, Web Questions-ը, TriviaQA-ն և SQuAD-ը։ Գնահատման տվյալների հավաքածուները կարող են նաև լինել տեքստի լրացման տեսքով, երբ մոդելը ընտրում է ամենահավանական բառը կամ նախադասությունը՝ հարցն ավարտելու համար, օրինակ՝ «Ալիսը Բոբի հետ ընկերուհի էր։ Ալիսը գնաց այցելելու իր ընկերոջը՝ ____-ին»։ Տվյալների հավաքածուները տարբեր որակի են և կարող են պարունակել սխալ պիտակավորված, երկիմաստ, անպատասխան կամ այլ կերպ ցածր որակի հարցեր։

#### Հակառակվող գնահատականներ
Իրավագիտության մագիստրոսների արագ զարգացումը պարբերաբար դարձնում է չափորոշիչները հնացած, քանի որ մոդելները գերազանցում են մարդկային մեկնաբանողների կատարողականը։ Բացի այդ, «կարճ ճանապարհով ուսուցումը» թույլ է տալիս արհեստական բանականությանը «խաբել» բազմակի ընտրության թեստերում՝ օգտագործելով մակերեսային թեստային հարցերի ձևակերպման մեջ առկա վիճակագրական համակցությունները՝ ճիշտ պատասխանները գուշակելու համար, առանց հաշվի առնելու կոնկրետ հարցը։

Որոշ տվյալների բազմություններ հակառակորդական են՝ կենտրոնանալով այն խնդիրների վրա, որոնք շփոթեցնում են իրավաբանության մագիստրատուրայի ուսանողներին: Մեկ օրինակ է TruthfulQA տվյալների բազան, որը հարց ու պատասխանի տվյալների բազա է, որը բաղկացած է 817 հարցից, որոնք իրավագիտության մագիստրոսներին դժվարացնում են՝ ընդօրինակելով այն կեղծիքները, որոնց նրանք բախվել են ուսուցման ընթացքում։ Օրինակ՝ իրավագիտության մագիստրոս (LLM) կարող է «Ոչ» պատասխանել «Կարո՞ղ եք ծեր շանը նոր հնարքներ սովորեցնել» հարցին։ Քանի որ նա ծանոթ է անգլերեն լեզվին, **, չնայած դա բառացիորեն ճիշտ չէ։

Հակառակորդական գնահատման տվյալների հավաքածուի մեկ այլ օրինակ է Swag-ը և դրա հաջորդը՝ HellaSwag-ը, որոնք խնդիրների հավաքածուներ են, որոնցում տեքստային հատվածն ավարտելու համար պետք է ընտրել բազմաթիվ տարբերակներից մեկը։ Սխալ լրացումները ստեղծվել են լեզվական մոդելից նմուշառման միջոցով։ Արդյունքում առաջացող խնդիրները չնչին են մարդկանց համար, բայց պարտված իրավունքի մագիստրատուրայի ուսանողների համար։ Նմուշային հարցեր՝Մենք տեսնում ենք մարզասրահի ցուցանակ։ Այնուհետև մենք տեսնում ենք մի տղամարդու, որը խոսում է տեսախցիկի հետ, նստած պառկած մարզագնդի վրա։ Տղամարդը...

# ցույց է տալիս, թե ինչպես բարձրացնել վարժությունների արդյունավետությունը՝ գնդակներով վեր ու վար վազելով։
# շարժում է բոլոր ձեռքերն ու ոտքերը և մեծ քանակությամբ մկաններ է զարգացնում։
# ապա խաղում է գնդակը, և մենք տեսնում ենք գրաֆիկա և ցանկապատի կտրման ցուցադրություն։
# կատարում է նստացույցեր՝ գնդակի վրա լինելով և խոսելով։
BERT-ը ընտրում է 2)-ը որպես ամենահավանական ավարտ, չնայած ճիշտ պատասխանը 4-ն է։

## Ավելի լայն ազդեցություն
2023 թվականին *Nature Biomedical Engineering-ը* գրեց, որ «այլևս հնարավոր չէ ճշգրիտ տարբերակել» մարդու կողմից գրված տեքստը մեծ լեզվական մոդելների կողմից ստեղծված տեքստից, և որ «գրեթե հաստատ է, որ ընդհանուր նշանակության մեծ լեզվական մոդելները արագորեն կտարածվեն... Բավականին վստահ է, որ դրանք ժամանակի ընթացքում կփոխեն բազմաթիվ ոլորտներ»։ Goldman Sachs-ը 2023 թվականին ենթադրեց, որ գեներատիվ լեզվի արհեստական բանականությունը կարող է հաջորդ տասը տարիների ընթացքում 7%-ով ավելացնել համաշխարհային ՀՆԱ-ն և կարող է ավտոմատացման ենթարկել ամբողջ աշխարհում 300 միլիոն աշխատատեղ։ Բրինկմանը և այլք (2023) նույնպես պնդում են, որ իրավունքի մագիստրոսական ծրագրերը մշակութային էվոլյուցիայի փոխակերպող գործընթացներ են՝ ձևավորելով փոփոխականության, փոխանցման և ընտրության գործընթացները։

### Հիշողությունը և հեղինակային իրավունքը
Հիշելը Իրավաբանական գիտությունների դոկտորներում (LLM) ի հայտ եկող վարքագիծ է, որի դեպքում տեքստի երկար տողեր երբեմն բառացիորեն արտածվում են մարզման տվյալներից, ինչը հակասում է ավանդական արհեստական նեյրոնային ցանցերի բնորոշ վարքագծին։ Կառավարվող LLM արդյունքի գնահատումները չափում են մարզման տվյալներից հիշված քանակը (կենտրոնանալով GPT-2 շարքի մոդելների վրա)՝ տարբեր կերպ՝ ճշգրիտ կրկնօրինակների համար ավելի քան 1% կամ մինչև մոտ 7%:

2023 թվականի ուսումնասիրությունը ցույց տվեց, որ երբ ChatGPT 3.5 turbo-ին առաջարկվում էր անորոշ ժամանակով կրկնել նույն բառը, մի քանի հարյուր կրկնություններից հետո այն սկսում էր արտածել հատվածներ իր մարզման տվյալներից։

### Պոտենցիալ վտանգ
Որոշ մեկնաբաններ մտահոգություն հայտնեցին պատահական կամ միտումնավոր կեղծ տեղեկատվության ստեղծման կամ չարաշահման այլ ձևերի վերաբերյալ։ Օրինակ, մեծ լեզվական մոդելների առկայությունը կարող է նվազեցնել կենսաահաբեկչություն իրականացնելու համար անհրաժեշտ հմտությունների մակարդակը. կենսաանվտանգության հետազոտող Քևին Էսվելտը առաջարկել է, որ իրավագիտության մագիստրոսական ծրագրերի ստեղծողները իրենց ուսումնական նյութերից բացառեն պաթոգեններ ստեղծելու կամ ուժեղացնելու վերաբերյալ նյութերը:

Իրավունքի կառավարման (LLM) շրջանակներում «քնած գործակալների» հնարավոր առկայությունը անվտանգության ոլորտի մեկ այլ ի հայտ եկող մտահոգություն է: Սրանք մոդելի մեջ ներկառուցված թաքնված ֆունկցիոնալություններ են, որոնք մնում են անգործուն մինչև որևէ կոնկրետ իրադարձության կամ պայմանի կողմից ակտիվանալը։ Ակտիվացման ժամանակ LLM-ը շեղվում է իր սպասվող վարքից՝ կատարելով անապահով գործողություններ։

Հանրությանը հասանելի LLM հավելվածները, ինչպիսիք են ChatGPT-ը կամ Claude-ը, սովորաբար ներառում են վնասակար բովանդակությունը զտելու համար նախատեսված անվտանգության միջոցառումներ։ Այնուամենայնիվ, այս վերահսկողության արդյունավետ կիրառումը դժվար է եղել։ Օրինակ՝ 2023 թվականի ուսումնասիրությունը առաջարկել է LLM անվտանգության համակարգերը շրջանցելու մեթոդ։ 2025 թվականին «Ամերիկյան արևի լույսի նախագիծ» ոչ առևտրային կազմակերպությունը հրապարակեց մի ուսումնասիրություն որը ցույց էր տալիս ապացույցներ, որ այսպես կոչված «Պրավդա» ցանցը ՝ ռուսամետ քարոզչական ագրեգատորը, ռազմավարական առումով տեղադրում էր վեբ բովանդակություն զանգվածային հրապարակման և կրկնօրինակման միջոցով՝ իրավագիտության բակալավրիատի արդյունքները կողմնակալ դարձնելու մտադրությամբ։ Ամերիկյան «Արևի լույս» նախագիծը այս տեխնիկան հորինեց՝ «LLM grooming» (մարդկային իրավունքի մագիստրոսական խնամք) և այն նշեց որպես արհեստական բանականության զենքի նոր գործիք՝ ապատեղեկատվություն և վնասակար բովանդակություն տարածելու համար։ Նմանապես, Յոնգգե Վանը 2024 թվականին ցույց տվեց, թե ինչպես կարող է պոտենցիալ հանցագործը շրջանցել ChatGPT 4o-ի անվտանգության վերահսկողությունը՝ թմրանյութերի ապօրինի շրջանառության գործողություն կազմակերպելու վերաբերյալ տեղեկատվություն ստանալու համար։ Որպես լուծումներ առաջարկվել են արտաքին ֆիլտրեր, անջատիչներ և շրջանցիկներ։&#x5B; *<span title="This claim needs references to reliable sources. (April 2025)">հղում անհրաժեշտ է</span>* &#x5D;

#### Հրամանների ներարկում
Անհանգստացնող խնդիր է նախնական երկխոսության կամ առաջադրանքի ձևաչափում այն, որ օգտատերերը կարող են ստեղծել հաղորդագրություններ, որոնք թվում են, թե գալիս են օգնականից կամ ծրագրավորողից։ Սա կարող է հանգեցնել մոդելի որոշ ապահովագրական մեխանիզմների շրջանցմանը (jailbreaking), ինչն էլ հայտնի է որպես prompt injection (հրահանգի ներարկում)։ Այս խնդիրը լուծելու փորձերից մեկը եղել է Chat Markup Language-ի տարբերակների կիրառումը, որտեղ օգտատիրոջ մուտքագրածը հստակ նշված է որպես այդպիսին։ Սակայն մնում է մոդելի վրա՝ տարբերակել օգտատիրոջ մուտքը և համակարգային հրահանգները։ Նոր սերնդի մոդելները որոշ չափով ավելի կայուն են այս տեսակ jailbreaking-ի նկատմամբ՝ օգտատիրոջ և համակարգային հրահանգների բաժանման շնորհիվ։

Խոշոր լեզվական մոդելները դեռևս դժվարանում են տարբերակել օգտատիրոջ հրահանգները օգտատիրոջ կողմից չհեղինակված բովանդակության հրահանգներից, ինչպիսիք են վեբ էջերը և վերբեռնված ֆայլերը:

### Ալգորիթմական կողմնակալություն
Չնայած մեծ լեզվական մոդելները (LLM) ցուցաբերել են մարդանման տեքստ ստեղծելու ուշագրավ կարողություններ, նրանք ենթակա են իրենց ուսումնական տվյալներում առկա կողմնակալությունների ժառանգմանը և հզորացմանը։ Կողմնակալությունը հատկանշական է դեմոգրաֆիկ խմբերի, օրինակ՝ էթնոսի, սեռի, լեզվի և մշակութային խմբերի հիման վրա, աղավաղված ներկայացումներով կամ անարդար վերաբերմունքով։ Լեզվական մոդելների ուսուցանման տվյալներում անգլալեզու տեքստերի գերակշռման պատճառով ոչ անգլերեն աղբյուրների նշանակությունը անկում է։

#### Կարծրատիպավորում
Արհեստական բանականության մոդելները երկարաժամկետ գործունեության արդյունքում կարող են ձեռք բերել կարծրատիպերի լայն շրջանակ, այդ թվում՝ սեռի, էթնիկ պատկանելության, տարիքի, ազգության, կրոնի կամ մասնագիտության վերաբերյալ։ Սա կարող է հանգեցնել այնպիսի արդյունքների, որոնք համասեռացնում են, անարդարացիորեն ընդհանրացնում կամ ծաղրանկարում մարդկանց խմբերը, երբեմն վնասակար կամ նսեմացնող ձևերով։

Խոշոր լեզվական մոդելների սեռական կողմնակալությունը բերում է այս մոդելների հակվածությանը ստեղծել այնպիսի արդյունքներ, որոնք փորձում են հնարավորինս արդարացի հավանություն ցույց տալ մեկ սեռին մյուսի նկատմամբ։ Այս կողմնակալությունը սովորաբար առաջանում է այն տվյալներից, որոնց հիման վրա մարզվում են այս մոդելները։ Լեզվական մեծ մոդելները հաճախ դերեր և բնութագրեր են վերագրում՝ հիմնվելով ավանդական գենդերային նորմերի վրա։ Օրինակ, այն կարող է բուժքույրերին կամ քարտուղարներին հիմնականում կապել կանանց, իսկ ինժեներներին կամ գործադիր տնօրեններին՝ տղամարդկանց հետ։

#### Ընտրության կողմնակալություն
Մեծ լեզվական մոդելների ներքին հակվածությունը նախապատվությունը տալ որոշակի տարբերակների նույնականացուցիչներին՝ անկախ տարբերակների իրական բովանդակությունից, բերում է ընտրության շփոթվածության և կողմնակալության։ Այլ կերպ՝ մեծ լեզվական մոդելների ընտրությունները կախված են նախապատրաստման տվյալներից, և մոդելների դրսևորվող կարծիքները հարում են դեպի մեկ՝ ընդհանուր տարբերակի։ Այս կողմնակալությունը հիմնականում բխում է տոկենների կողմնակալությունից, այսինքն՝ մոդելը պատասխաններ ստեղծելիս որոշակի պատասխանների տոկեններին (օրինակ՝ «A»-ին) վերագրում է ավելի բարձր ապրիորի հավանականություն։ Արդյունքում, երբ տարբերակների դասավորությունը փոխվում է (օրինակ՝ ճիշտ պատասխանը համակարգված կերպով տարբեր դիրքեր տեղափոխելով), մոդելի աշխատանքը կարող է զգալիորեն տատանվել։ Այս երևույթը խաթարում է մեծ լեզվական մոդելների հուսալիությունը բազմակի ընտրության պայմաններում։

#### Քաղաքական կողմնակալություն
Քաղաքական և գաղափարախոսական կողմնակալությունը հարում է ալգորիթմների՝ համակարգված կերպով որոշակի քաղաքական տեսակետներ, գաղափարախոսություններ կամ արդյունքներ գերադասելու միտմանը մյուս՝ արգելված և էթիկական նորմերին չհամապատասխանողների նկատմամբ։ Լեզվական մոդելները կարող են նաև քաղաքական կողմնակալություն դրսևորել։ Քանի որ վերապատրաստման տվյալները ներառում են քաղաքական կարծիքների և լուսաբանումների լայն շրջանակ, մոդելները կարող են առաջացնել որոշակի քաղաքական գաղափարախոսությունների կամ տեսակետների նկատմամբ հակված արձագանքներ՝ կախված տվյալներում այդ տեսակետների տարածվածությունից։

### Էներգիայի պահանջարկը
Խոշոր Լեզվական մոդելների (LLM) էներգետիկ ռեսուրսի պահանջարկն աճել է՝ կախված նրանց չափերի և կարողությունների զարգացման հետ մեկտեղ։ Խոշոր Լեզվական մոդելների (LLM) ուսուցումանումը հնարավոր դարձնող տվյալների կենտրոնները պահանջում են զգալի քանակությամբ էլեկտրաէներգիա: Այդ էլեկտրաէներգիայի մեծ մասը արտադրվում է չվերականգնվող հանածոներից, որոնք առաջացնում են ջերմոցային գազեր և նպաստում են կլիմայի փոփոխությանը։ Խնդրի լուծման համար արհեստական բանականության զարգացմամբ զբաղվող ընկերությունները ուսումնասիրում են ատոմային և երկրաջերմային էներգետիկ ռեսուրսները՝ փորձելով համալրել Լեզվական Մոդելների ուսուցանման վրա ծախսվող էներգիայի պաշարները։ Երկրաջերմային լուծումների մեջ ներդրումների զգալի ծախսերը հանգեցրել են նրան, որ խոշոր թերթաքարային արտադրողներ, ինչպիսիք են Chevron-ը և Exxon Mobil-ը, պաշտպանում են տեխնոլոգիական ընկերություններին բնական գազով արտադրված էլեկտրաէներգիան օգտագործելու իրենց մեծ էներգետիկ պահանջարկը բավարարելու համար:

## Տես նաև
* Ուժեղացված ուսուցում

## Ծանոթագրություններ

## Գրականություն
* Ջուրաֆսկի, Դեն, Մարտին, Ջեյմս: Հ. ''Խոսքի և լեզվի մշակում. Ներածություն բնական լեզվի մշակմանը, հաշվողական լեզվաբանությանը և խոսքի ճանաչմանը'', 3-րդ հրատարակության նախագիծ, 2023թ.:
* 
* 
* 
* 
* 
*

Կատեգորիա:Արհեստական բանականության հավելվածներ
Կատեգորիա:Արհեստական բանականություն
Կատեգորիա:Արհեստական նեյրոնային ցանցեր
Կատեգորիա:Բնական լեզվի մշակում
Կատեգորիա:Հաշվողական լեզվաբանություն
Կատեգորիա:Մեքենայական ուսուցում