Үлкен тілдік модель

**Үлкен тілдік модель** (*ҮТМ*, , *LLM* терминінің калькасы) — көптеген параметрлері бар (әдетте миллиардтаған салмақ коэффициенттері мен одан да көп) нейрондық желіден тұратын тілдік модель. Ол үлкен көлемдегі аннотацияланбаған мәтінге өзіндік оқыту (*unsupervised learning*) әдісі арқылы үйретіледі. ҮТМ шамамен 2018 жылдан бастап пайда болып, әртүрлі тапсырмаларды тиімді орындауға қабілетті екенін көрсетті. Бұл табиғи тілді өңдеу (NLP) саласындағы зерттеулердің бағытын өзгертіп, бұрын арнайы қадағаланатын (*supervised learning*) үлгілерге негізделген тәсілдерден бас тартуға ықпал етті.

## Ерекшеліктері
«Үлкен тілдік модель» терминінің нақты анықтамасы жоқ, бірақ ол көбінесе миллиардтаған және одан да көп параметрлері бар терең оқыту модельдерін білдіреді. ҮТМ – бұл кең мақсатқа арналған модельдер, олар белгілі бір жеке тапсырмаларға (мысалы, көңіл-күйді талдау, атаулы объектілерді тану немесе математикалық пайымдау) қарағанда әлдеқайда ауқымды міндеттерді орындай алады.

ҮТМ қарапайым тапсырмаларға, мысалы, сөйлемдегі келесі сөзді болжауға негізделіп үйретілгеніне қарамастан, синтаксис пен семантиканың күрделі заңдылықтарын үйреніп, адам тілі туралы кең көлемде білім ала алады. Сонымен қатар, олар әлем туралы жалпы білімге ие болып, оқу процесінде көптеген фактілерді "есте сақтай" алады.

## Тарихы
### Үлкен тілдік модельдердің дамуы
2017 жылға дейін қолжетімді есептеу қуатының шектеулі болуына байланысты үлкен тілдік модельдер аз болды. 1990 жылдары IBM компаниясы статистикалық тілдік модельдеуді алғашқылардың бірі болып зерттеді. 2001 жылы 0,3 миллиард сөзден тұратын мәліметтер жиынтығында жаттықтырылған тегістелген n-грамм моделі сол кездегі ең төменгі перплексия деңгейіне (түсініксіздік өлшеміне) жетті.

2000-жылдары интернеттің кең таралуымен зерттеушілер ауқымды интернет деректер жиынтығын («web as corpus») құрып, статистикалық тілдік модельдерді оқыту үшін пайдаланды. 2009 жылға қарай, көптеген тіл өңдеу міндеттерінде символдық тілдік модельдерге қарағанда статистикалық модельдер басымдыққа ие болды, өйткені олар үлкен көлемдегі деректерді өңдей алатын болды.

2012 жылдан бастап нейрондық желілер бейнелерді өңдеуде кеңінен қолданылды, ал кейіннен тілдік модельдеуге де енгізілді. 2016 жылы Google компаниясы өз аударма қызметін нейрондық машиналық аударма технологиясына көшірді. Ол кезде трансформер архитектурасы әлі шықпағандықтан, бұл seq2seq терең LSTM желілері арқылы жүзеге асырылды.

### Трансформер архитектурасының пайда болуы
2017 жылы NeurIPS конференциясында Google зерттеушілері «Attention Is All You Need» атты мақаласында трансформер архитектурасын ұсынды. Бұл мақала 2014 жылы ұсынылған seq2seq технологиясын жетілдіру мақсатында жазылды және негізінен Bahdanau және әріптестері 2014 жылы әзірлеген назар аудару механизмін қолданды.

2018 жылы BERT моделі таныстырылды және тез танымал болды. Алғашқы трансформер моделі энкодер және декодер блоктарын қамтыса, BERT тек энкодерден тұратын модель болды. Алайда, 2023 жылдан бастап, декодерге негізделген модельдер (мысалы, GPT) тапсырмаларды сұраныс арқылы (prompting) тиімді шешуге қабілетті болуына байланысты, BERT-тің ғылыми және зерттеу саласындағы қолданысы төмендей бастады.

### GPT модельдерінің дамуы
Декодерге негізделген GPT-1 моделі 2018 жылы ұсынылды, бірақ 2019 жылы OpenAI GPT-2 моделін шығарғанда, ол үлкен қызығушылық тудырды. OpenAI бұл модельдің қауіпті қолданылуынан қауіптеніп, оны көпшілікке бірден жарияламады. 2020 жылы GPT-3 таныстырылды, ал 2024 жылға дейін ол тек API арқылы қолжетімді болды және жергілікті түрде жүктеп алып, орындауға ұсынылмады.

Алайда, 2022 жылы ChatGPT атты веб-негізіндегі тұтынушыға бағытталған өнім ұсынылғаннан кейін, ол кең таралып, медиа мен интернетте үлкен резонанс тудырды. 2023 жылы шыққан GPT-4 жоғары дәлдігімен және мультимодальдық қабілеттерімен ерекшеленді. OpenAI бұл модельдің архитектурасы мен параметрлер санын жарияламады. ChatGPT-дің шығуы жасанды интеллектті компьютерлік ғылымның түрлі салаларында, соның ішінде робототехника, бағдарламалық жасақтама инженериясы және әлеуметтік әсерді зерттеу бағыттарында кеңінен қолдануға себеп болды.

2024 жылы OpenAI ұзын логикалық тізбектер құра алатын OpenAI o1 атты ойлау моделін шығарды.

### Бәсекелес тілдік модельдер және мультимодальды жасанды интеллект
GPT сериясымен бәсекелес модельдердің көпшілігі негізінен параметрлер саны жағынан теңесуге тырысты. 2022 жылдан бастап, ашық қолжетімді модельдер танымал бола бастады. BLOOM және LLaMA сияқты модельдер кейбір қолдану шектеулерімен ұсынылды, ал Mistral AI-дің Mistral 7B және Mixtral 8x7B модельдері Apache лицензиясымен таралды.

2025 жылдың қаңтарында DeepSeek компаниясы 671 миллиард параметрден тұратын DeepSeek R1 моделін таныстырды. Бұл модель OpenAI o1 моделіне тең келетін нәтижелер көрсетіп, бірақ әлдеқайда төмен шығынмен жұмыс істеді.

2023 жылдан бастап көптеген ірі тілдік модельдер (LLM) мультимодальды болып дамып, мәтіннен бөлек суреттер мен дыбыстарды өңдей алатын қабілетке ие болды. Мұндай модельдер «үлкен мультимодальды модельдер» (LMM) деп аталады.

2024 жылға қарай ең қуатты модельдердің барлығы трансформер архитектурасына негізделген. Дегенмен, кейбір жаңа модельдер рекурренттік нейрондық желілердің модификациялары немесе Mamba сияқты жаңа архитектуралар негізінде жасалды.

## Архитектурасы және оқыту әдісі
ҮТМ көбінесе трансформер архитектурасын пайдаланды, ол 2018 жылдан бастап тізбекті деректерге арналған терең оқытудағы стандартқа айналды. Бұрын кең тараған рекуррентті архитектуралар (мысалы, ұзақ мерзімді қысқа жады – *LSTM*) қолданылған болатын.

ҮТМ өзіндік оқыту тәсілімен аннотацияланбаған мәтінде үйретіледі. Трансформер құрылымы мәтіндерді солдан оңға қарай генерациялау кезінде келесі сөздің ықтималдығын барынша арттыруға бағытталған. Альтернативті түрде, екі бағытты трансформер қолданылады (мысалы, *BERT* моделінде), ол мәтіндегі сөздерді контексттің екі жағынан да қарастыра алады.

ҮТМ тек келесі сөзді болжау ғана емес, сонымен қатар көмекші тапсырмаларға да үйретілуі мүмкін. Мысалы, келесі сөйлемді болжау (*Next Sentence Prediction, NSP*) әдісінде модельге сөйлем жұптары беріледі және оның міндеті – олардың мәтін корпусында қатар кездесетін-кездеспейтінін анықтау.

ҮТМ алғашында миллиардтаған сөздерден тұратын корпустарда оқытылды. 2018 жылы *GPT* моделі **985 миллион** сөзден тұратын *BookCorpus* мәліметтер базасында үйретілді. Сол жылы *BERT* моделі *BookCorpus* және **ағылшын тіліндегі Уикипедиядан** алынған **3,3 миллиард** сөзден құралған мәліметтер базасында оқытылды. Кейінірек, оқу мәліметтерінің көлемі жүздеген миллиард, тіпті триллион токендерге дейін ұлғайтылды.

Үлкен тілдік модельдерді оқыту **орасан есептеу ресурстарын** қажет етеді. 2020 жылғы зерттеулерге сәйкес, **1,5 миллиард параметрі бар** модельді оқыту құны **1,6 миллион долларды** құраған. Сонымен қатар, модельдің мүмкіндіктері параметрлер саны, үйрету мәліметтерінің көлемі және есептеу қуаты артқан сайын тұрақты түрде жақсаратыны анықталды.

**Қолданылуы**

**2018–2020 жылдар** аралығында ҮТМ-ді нақты NLP тапсырмаларына бейімдеудің стандартты әдісі **модельді қосымша оқыту** (fine-tuning) болды. Кейіннен, қуаттырақ ҮТМ-дер (мысалы, *GPT-3*) ешқандай қосымша оқытусыз-ақ мәтіндік *сыбыр сөз* (prompting) арқылы тапсырмаларды орындай алатыны анықталды. Бұл тәсілде модельге шешілуі тиіс тапсырма арнайы мәтіндік сұрау ретінде беріледі.

**Қосымша оқыту (''Fine-tuning'')**

Қосымша оқыту — алдын ала оқытылған тілдік модельді белгілі бір нақты тапсырмаға бейімдеу процесі. Бұл әдіс **трансферлік оқытуға** жатады. Қосымша оқыту кезінде модельдің соңғы қабаты арнайы салмақ коэффициенттерімен қосылады және тек жаңа қабаттың параметрлері оқытылады. Кейбір жағдайларда, бастапқы қабаттардың параметрлері "қатып" (*frozen*) қалады, ал соңғы қабат қана жаңартылады.

**Сыбыр сөз беру (''Prompting'')**

Сыбыр сөз әдісі GPT-3 арқылы кең таралған. Бұл тәсілде модельге тапсырма **сұрау түрінде** беріледі, ал ол сұрауды толықтырып, дұрыс жауап ұсынуы тиіс.

Мысалы, **сентименттік талдау** тапсырмасы келесідей берілуі мүмкін:
```
Шолу: Бұл фильм өте нашар.  
Көңіл-күй: теріс

Шолу: Бұл фильм керемет!  
Көңіл-күй:
```
Егер модель "оң" деп жауап берсе, онда ол тапсырманы дұрыс орындады.

Егер мысалдар берілмесе, бұл нөлдік мысал әдісі (*zero-shot learning*), ал бірнеше мысал берілсе, бірнеше мысал әдісі (*few-shot learning*) деп аталады.

ҮТМ-дер машиналық аударма, сұрақтарға жауап беру, сөйлемнің логикалық байланысын анықтау, сөзжұмбақтарды шешу және жаңа сөздерді қолдану сияқты NLP тапсырмаларын жоғары деңгейде орындай алады. Сыбыр сөз инженериясы (*prompt engineering*) – ҮТМ-дерді тиімді басқаруға бағытталған белсенді зерттеу саласы.

## Үлкен тілдік модельдердің тізімі

### Тілдік модельдер кестесі

## Деректер жиынтығын алдын ала өңдеу

#### Токендеу
Машиналық оқыту алгоритмдері мәтінді емес, сандарды өңдейтіндіктен, алдымен мәтінді сандарға айналдыру қажет. Бірінші қадамда сөздік (вокабуляр) анықталады, содан кейін әрбір сөзге бірегей бүтін сан индексі беріледі, әрі қарай бұл индекске эмбеддинг тағайындалады.

токендеу әдістеріне Byte-Pair Encoding (BPE) және WordPiece жатады. Сонымен қатар арнайы басқару токендері де бар. Мысалы, **[MASK]** – мәтіндегі жасырын токенді білдіреді (BERT моделінде қолданылады), **[UNK]** – сөздікке кірмейтін белгілерді білдіреді. Сонымен қатар, кейбір арнайы символдар мәтіндік форматтауды көрсету үшін қолданылады. Мысалы, RoBERTa және GPT модельдерінде **"Ġ"** – алдындағы бос орынды білдіреді, ал BERT моделінде **"##"** – алдыңғы сөздің жалғасы екенін көрсетеді.

GPT-3 (Legacy) моделінің BPE токенизаторы сөздерді келесі түрде бөлуі мүмкін:

токендеу деректерді сығымдайды, өйткені үлкен тіл модельдері (LLM) біркелкі өлшемді массивтерді талап етеді. Сол себепті қысқа мәтіндер ең ұзын мәтіннің өлшеміне сәйкестендіру үшін **"толтыру" (padding)** әдісімен кеңейтіледі. Орташа есеппен әрбір сөзге қажетті токен саны қолданылатын тілге байланысты өзгереді.

#### Byte-Pair Encoding (BPE)
BPE әдісінде алдымен барлық бірегей таңбалар (соның ішінде бос орындар мен тыныс белгілері) **униграммалық жиынтық** ретінде қарастырылады. Кейіннен ең жиі кездесетін іргелес таңбалар жұбы **би-gram** ретінде біріктіріледі және барлық осы жұптар жаңа таңба ретінде алмастырылады. Бұл процесс қайталана береді, яғни жиі кездесетін **n-gram** тіркестері қосылып, үлкен сөздік қалыптасады (мысалы, GPT-3 моделінде сөздік өлшемі 50257 токен). Оқыту аяқталғаннан кейін токенизатор кез келген мәтінді өңдей алады, егер ол бастапқы жиынтықта болмаған таңбаларды қамтымаса.

#### Токендеу мәселелері
Егер токенизатор негізінен ағылшын мәтіндерінің жиілігіне негізделсе, онда басқа тілдер үшін тиімсіз болады. Мысалы, GPT-2 токенизаторы кейбір тілдерде бір сөз үшін 15 есе көп токен қолдануы мүмкін (мысалы, Мьянмадағы **Шан тілі** үшін). Тіпті португал және неміс сияқты кең таралған тілдерде ағылшынмен салыстырғанда **50%-ға артық токен** қажет болады.

Сондай-ақ, **"ашкөз токендеу" (greedy tokenization)** мәтінді аяқтау (text completion) кезінде белгілі бір қателіктер тудыруы мүмкін.

### Деректерді тазарту
Үлкен тіл модельдерін (LLM) үйрету үшін деректер жиынтығы төмен сапалы, қайталанатын немесе зиянды деректерден тазартылады. Дұрыс тазартылған деректер оқыту тиімділігін арттырып, модельдің нәтижелілігін жақсартады.

Болашақта интернетте LLM-дер арқылы жасалған контенттің көбеюіне байланысты деректерді тазарту үдерісі осындай контентті сүзуді қамтуы мүмкін. Егер LLM-генерацияланған мәтін адамның жазуына ұқсас болса, бірақ сапасы төмен болса, онда ол оқытылатын модельдердің өнімділігін нашарлатуы мүмкін.

### Синтетикалық деректер
Кейде үлкен тіл модельдерін (LLM) оқыту үшін табиғи мәтіндік деректер жеткіліксіз болады немесе олардың сапасы төмен болуы мүмкін. Осындай жағдайларда синтетикалық деректер қолданылады. Мысалы, Microsoft-тың Phi сериялы LLM модельдері басқа LLM арқылы жасалған оқулықтарға ұқсас деректермен үйретілген.

## Қазақстандағы үлкен тілдік модельдің дамуы
Назарбаев Университетінің Ақылды жүйелер мен жасанды интеллект институты (ISSAI) қазақ, орыс, ағылшын және түрік тілдерін қолдайтын ISSAI KAZ-LLM атты үлкен тілдік модельді әзірледі.

Бұл модель 150 миллиардтан астам токендер негізінде оқытылып, мәтіндерді аудару, контент жасау және көлемді мәтіндерді өңдеу сияқты тапсырмаларды орындауға қабілетті. Сонымен қатар, ISSAI KAZ-LLM ұлттық мәдениетімізді танытатын әдеби және ғылыми шығармалар арқылы қазақ дүниетанымына бейімделген.

Жобаны әзірлеуге қазақстандық зерттеушілер, IT мамандар және талдаушылар қатысып, негізгі жұмыстар 8 айға созылды. ISSAI KAZ-LLM моделі коммерциялық емес мақсатта Hugging Face платформасында қолжетімді.

## Дереккөздер

## Сілтемелер

# Қазақстанда KazLLM үлкен тілдік моделі әзірленді. Қазақстан Республикасының Цифрлық даму, инновациялар және аэроғарыш өнеркәсібі министрлігінің Жасанды интеллект және инновацияларды дамыту комитеті сайты, 13 желтоқсан 2024.
# ISSAI KAZ-LLM — қазақ тілінің үлкен тілдік моделі. Назарбаев университеті Ақылды жүйелер мен жасанды интеллект институты (ISSAI) сайты.

Санат:Үлкен тілдік модельдер
Санат:Табиғи тілді өңдеу