מודל שפה

**מודל שפה** הוא מודל הסתברותי של שפה טבעית.  הדוגמאות המוכרות ביותר של שימוש במודלי שפה הן "השלמה אוטומטית", המציעה את המילה או המילים הכי סבירות להשלמת טקסט שהוקלד עד כה, וכן כלי בינה מלאכותית טקסטואליים בגרסתם המתקדמת כמודלי שפה גדולים דוגמת ChatGPT או Gemini.

מודלי שפה משמשים עבור מגוון בעיות בבלשנות חישובית; זיהוי דיבור והפיכתו לטקסט, כדי להבטיח שרצפי מילים בסבירות נמוכה לא יופיעו, ועד לשימוש רחב יותר בתרגום מכונה, יצירת טקסט ממוכן דמוי אדם, זיהוי חלקי דיבור, זיהוי תווים אופטי, זיהוי ממוחשב של כתב יד, ויישומים נוספים.

## סוגי מודלים
### Unigram
ניתן להתייחס למודל Unigram כשילוב של כמה אוטומטים סופיים של מצב אחד. המודל מניח שההסתברויות של אסימונים ברצף אינן תלויות, למשל:

: P_\text{uni}(t_1t_2t_3)=P(t_1)P(t_2)P(t_3).

במודל זה, ההסתברות של כל מילה תלויה רק בהסתברות של אותה מילה במסמך, כך שיש לנו רק אוטומטים סופיים של מצב אחד כיחידות. לאוטומט עצמו יש התפלגות הסתברות על כל אוצר המילים של המודל, המסתכמת ל-1. להלן איור של דגם Unigram של מסמך.

: \sum_{\text{term in doc}} P(\text{term}) = 1

ההסתברות שנוצרת עבור שאילתה ספציפית מחושבת כ

: P(\text{query}) = \prod_{\text{term in query}} P(\text{term})

למסמכים שונים יש מודלי Unigram, עם הסתברויות פגיעה שונות של מילים. התפלגויות ההסתברות ממסמכים שונים משמשות ליצירת הסתברויות פגיעה עבור כל שאילתה. ניתן לדרג מסמכים עבור שאילתה לפי ההסתברויות. דוגמה למודלי Unigram של שני מסמכים:

בהקשרים של אחזור מידע, מודלי Unigram מופשטים לעיתים קרובות כדי למנוע מקרים שבהם *P* (מונח)=0. גישה נפוצה היא ליצור מודל סבירות מקסימלית עבור כל האוסף ואינטרפולציה ליניארית של מודל האוסף עם מודל סבירות מקסימלית עבור כל מסמך כדי לפשט את המודל.

### n-gram
במודל n-gram, ההסתברות P(w_1,\ldots,w_m) של התבוננות במשפט w_1,\ldots,w_m משוער כ

: P(w_1,\ldots,w_m) = \prod^m_{i=1} P(w_i\mid w_1,\ldots,w_{i-1})\approx \prod^m_{i=2} P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1})

ההנחה היא שההסתברות להתקלות במילה *<sup>ה-</sup> i* *w <sub>i</sub>* בהיסטוריית ההקשר של ה- *i* הקודם - ניתן להעריך 1 מילים לפי ההסתברות להתבונן בה בהיסטוריית ההקשר המקוצרת של ה- *n* הקודמת - 1 מילים ( נכס מרקוב מסדר *n* ). כדי להבהיר, עבור *n=3* ו- *i=2* יש לנו P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1})=P(w_2\mid w_1)

ניתן לחשב את ההסתברות המותנית מתוך ספירת תדירות של מודל n-gram:

: P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1}) = \frac{\mathrm{count}(w_{i-(n-1)},\ldots,w_{i-1},w_i)}{\mathrm{count}(w_{i-(n-1)},\ldots,w_{i-1})}

מודלי **bigram וtrigram** מציינים מודלי n-gram עם *n*=2 ו- *n*=3, בהתאמה.

בדרך כלל, הסתברויות מודל n-gram אינן נגזרות ישירות מספירת תדרים, מכיוון שבמודלים שנגזרו כך צפות בעיות כאשר הם מתמודדים עם n-gram כלשהם שלא נראו במפורש קודם לכן.

במקום זאת, נחוצה צורה כלשהי של "החלקה", הקצאת חלק ממסת ההסתברות הכוללת למילים בלתי נראות או ל-n-gram. נעשה שימוש בשיטות שונות, החל מהחלקה פשוטה של "הוספה אחת" (הקצאת ספירה של 1 ל-*n-* גרם בלתי נראה, כקודם לא אינפורמטיבי) ועד למודלים מתוחכמים יותר, כגון הנחות של Good-Turing או back-off models.

#### דו-כיווני
ייצוגים דו-כיווניים מתנים הן לפני והן לאחר ההקשר (למשל, מילים) בכל השכבות.

#### דוגמה
במודל שפה bigram (*n*=2), ההסתברות של המשפט *שראיתי את הבית האדום* משוערת כמו

: P(\text{I, saw, the, red, house}) \approx P(\text{I}\mid\langle s\rangle) P(\text{saw}\mid \text{I}) P(\text{the}\mid\text{saw}) P(\text{red}\mid\text{the}) P(\text{house}\mid\text{red}) P(\langle /s\rangle\mid \text{house})

ואילו במודל שפה trigram (*נ*=3), הקירוב הוא

: P(\text{I, saw, the, red, house}) \approx P(\text{I}\mid \langle s\rangle,\langle s\rangle) P(\text{saw}\mid\langle s\rangle,I) P(\text{the}\mid\text{I, saw}) P(\text{red}\mid\text{saw, the}) P(\text{house}\mid\text{the, red}) P(\langle /s\rangle\mid\text{red, house})

שימו לב שההקשר של ה-*n* הראשונה–1 *n* -גרם מלא בסמנים של תחילת המשפט, המסומנים בדרך כלל על ידי .

### אקספוננציאלי
מודלים של שפת אנטרופיה מקסימלית מקודדים את הקשר בין מילה להיסטוריה של n-gram באמצעות פונקציות תכונה. המשוואה היא

:  P(w_m \mid w_1,\ldots,w_{m-1}) = \frac{1}{Z(w_1,\ldots,w_{m-1})} \exp (a^T f(w_1,\ldots,w_m))

כאשר Z(w_1,\ldots,w_{m-1}) היא פונקציית המחיצה, a הוא וקטור הפרמטר, ו f(w_1,\ldots,w_m) היא פונקציית הפיצ'ר. במקרה הפשוט ביותר, פונקציית התכונה היא רק אינדיקטור לנוכחות של n-gram מסוים.

המודל הלוג-ביליניארי הוא דוגמה נוספת למודל שפה אקספוננציאלי.

### רשת נוירונים
מודלי שפות מבוססי רשתות נוירונים משתמשים בייצוגים או הטמעות מתמשכות של מילים כדי לבצע את התחזיות שלהם. מודלים אלה עושים שימוש ברשתות עצביות מלאכותיות.

ככל שמודלי שפה מאומנים על טקסטים גדולים יותר ויותר, אוצר המילים של המודל גדל. וכך גם מספר הרצפים האפשריים של מילים גדל באופן אקספוננציאלי. דבר זה גורם לבעיה של "דלילות נתונים" בגלל הרצפים הרבים האפשריים. לפיכך, יש צורך בסטטיסטיקה כדי להעריך נכון את הסתברות הופעת המילה. רשתות נוירונים נמנעות מבעיה זו על ידי ייצוג מילים בצורה מבוזרת, כצירופים לא ליניאריים של משקלים ב"רשת נוירונים".

בדרך כלל, מודלים של שפת רשת נוירונים בנויים ומאומנים כמסווגים הסתברותיים הלומדים לחזות התפלגות הסתברות

: P(w_t \mid \mathrm{context}) \, \forall t \in V

כלומר, הרשת מאומנת לחזות את התפלגות ההסתברות על פני אוצר המילים, בהתחשב להקשר לשוני כלשהו. זה נעשה באמצעות אלגוריתמים סטנדרטיים לאימון רשת נוירונים כגון "ירידה בשיפוע סטוכסטי" עם "התפשטות לאחור". ההקשר עשוי להיות חלון בגודל קבוע של מילים קודמות, כך שהרשת מנבאת

: P(w_t \mid w_{t-k}, \dots, w_{t-1})

מ"וקטור תכונה" המייצג את  המילים הקודמות. אפשרות נוספת היא להשתמש במילים "עתידיות" כמו גם במילים מה"עבר" כתכונות, כך שההסתברות המשוערת היא

: P(w_t \mid w_{t-k}, \dots, w_{t-1}, w_{t+1}, \dots, w_{t+k})

זה נקרא מודל "שק של מילים" (bag-of-words). כאשר וקטורי התכונה של המילים בהקשר משולבים על ידי פעולה רציפה, המודל הזה מכונה ארכיטקטורת שקית המילים הרציפה (CBOW).

אפשרות שלישית שמתאמנת לאט יותר מה-CBOW אבל מתפקדת מעט יותר טוב היא להפוך את הבעיה הקודמת ולגרום לרשת נוירונים ללמוד את ההקשר בהינתן מילה. או בצורה מדויקת יותר, בהינתן רצף של מילות אימון w_1, w_2, w_3, \dots, w_T, אחד מגדיל את ההסתברות הממוצעת לlog

: \frac{1}{T}\sum_{t=1}^T \sum_{-k \leq j \leq k, j \neq 0} \log P(w_{t+j} \mid w_t)

כאשר , גודל ההקשר האימון, יכול להיות פונקציה של המילה המרכזית w_t. זה נקרא מודל שפת דילוג על גרם (skip-gram). מודלים של שקית מילים ודילוג על גרם הם הבסיס לתוכנית word2vec.

## מודלי שפה בולטים
מודלי שפה בסיסיים:
* GPT-2: Generative Pre-trained
* BERT: ייצוג מקודד דו-כיווני של רובוטריקים (BERT)
מודלי שפה גדולים:

* מודל שפה כללי (GLaM) של טריליון פרמטרים, ממחקר של Google
* מודלי שפה ליישומי דיאלוג (LaMDA) מודל של 137 מיליארד פרמטרים מ-Google Research
* Megatron-Turing מודל פרמטרים של 530 מיליארד NLG, מבית Microsoft/Nvidia
* BigScience Large Open-Science (BLOOM) מודל שפה רב-לשונית פתוחה בגישה פתוחה עם 176 מיליארד פרמטרים.
* Transformer 2 עם 1.5 מיליארד פרמטרים.
* GPT-3: Generative Pre-trained Transformer 3, עם גודל חסר תקדים של הקשר באורך 2048 אורך סמלי ו-175 מיליארד פרמטרים (דורש 800 GB של אחסון).
* GPT-3.5/ ChatGPT /InstructGPT וגרסאות מתקדמות יותר מ-OpenAI
* GPT-NeoX-20B: מודל שפה אוטורגרסיבית בקוד פתוח עם 20 מיליארד פרמטרים.
* OPT-175B מאת Meta AI: מודל נוסף של שפה של 175 מיליארד פרמטרים. זה זמין לקהילת המחקר הרחבה יותר של AI.

מודלים יוצרים שאינם מודל שפה:

* יצירת תמונה תלת-ממדית של DreamFusion/Imagen מ-Google Research
* Get3D מ-Nvidia
* MineClip מ-Nvidia
* Point-E מאת OpenAI: מחולל מודלים תלת־ממדיים.

Hugging Face מארח קבוצה של דגמי שפה זמינים לציבור עבור מפתחים לבניית יישומים באמצעות למידת מכונה.

## הערכת איכות של מודלים
הערכת האיכות של מודלי שפה נעשית בעיקר על ידי השוואה לאמות מידה מדגמיות שנוצרו על ידי אדם במשימות אופייניות למטרה הנמדדת.

מבחני איכות נוספים בודקים את האופי הפנימי של מודל שפה או משווים שני מודלים אחד לשני. מכיוון שמודלי שפה נועדו בדרך כלל להיות דינמיים וללמוד מנתונים שהם רואים, כמה מודלים מוצעים חוקרים את קצב הלמידה, למשל באמצעות בדיקה של עקומות הלמידה של המודלים.

מערכי נתונים שונים פותחו לשימוש כדי להעריך מערכות עיבוד שפה:
* קורפוס של קבילות לשונית
* מדד GLUE
* קורפוס הפרפראזה של מיקרוסופט
* הסקת שפה טבעית רב-ז'אנרית
* שאלה בהסקת שפה טבעית
* צמדי שאלות Quora
* זיהוי מעורבות טקסטואלית
* מדד דמיון טקסטואלי סמנטי
* מבחן תשובה לשאלות SQuAD
* Stanford Sentiment Treebank 
* וינוגרד NLI

## ביקורת
למרות שניתן להראות שמודלי שפה בזמננו, דוגמת GPT-2, יכולים לבצע פעולות אנושיות בכמה סוגי משימות, לא הוכח עדיין שהם מודלים קוגניטיביים סבירים. לדוגמה, הוכח שרשתות עצביות חוזרות על דפוסים שבני אדם לא יוצרים באופן טבעי, ואינם מצליחים ללמוד דפוסים רבים שבני אדם כן לומדים.

## קישורים חיצוניים
* בחירה נכונה של מודל שפה, באתר ai-blog

## הערות שוליים

קטגוריה:מודלים מרקוביים
קטגוריה:בינה מלאכותית