**קלוד** הוא משפחה של מודלי שפה גדולים (LLM) שפותחו על ידי חברת אנת'רופיק. מודל השפה הראשון יצא במרץ 2023. ומודל השפה העדכני ביותר עד כה, "קלוד 3", יצא במרץ 2024, והוא מסוגל גם לנתח תמונות.

אימון
-----

### AI חוקתי (Constitutional AI)

אימון חוקתי היא גישה שפותחה על ידי אנת'רופיק לאימון מערכות AI, במיוחד מודלי שפה גדולים כמו קלוד. על פי גישה זו ניתן לאמן מודל בצורה אוטומטית וללא משוב אנושי, על מנת ליצור מודל שאינו עושה נזק. השיטה, שתוארה במאמר Constitutional AI: Harmlessness from AI Feedback כוללת שני שלבים: למידה בפיקוח ולמידת חיזוק. בשלב הלמידה בפיקוח, הדגם מייצר תגובות לפרומפטים, מבקר את התגובות הללו בהתבסס על ערכת עקרונות מנחים (חוקה) ומתקן את התגובות. לאחר מכן הדגם מכוונן עצמו מחדש על פי התגובות המתוקנות. עבור שלב למידת החיזוק ממשוב המודל יוצר תגובות המשוות על פי התאמתן לחוקה. מערך נתונים זה של משוב הAI משמש לאימון שמעריך תגובות בהתבסס על כמה הן תואמות ל"חוקה" שהוגדרה. בסוף התהליך, קלוד מכוונן עצמו מחדש כדי להתאים לתגובות הנכונות.

גישה זו מאפשרת אימון עוזרי AI שהם גם שימושיים וגם חסרי נזק, ושיכולים להסביר באופן מלא את הסיבות להתנגדויותיהם לבקשות מזיקות, דבר שיוצר חיזוק בשקיפות המודל ומפחית את התלות בפיקוח אנושי. ה"חוקה" עבור קלוד כללה 75 סעיפים, כולל חלקים מההכרזה האוניברסלית על זכויות האדם של האומות המאוחדות.

דגמים
-----

### קלוד (Claude)

קלוד היה גרסת ההתחלה של מודל השפה של אנתרופיק ששוחרר במרץ 2023, קלוד הדגים כישורים במשימות שונות אך היו לו מגבלות מסוימות בתכנות, מתמטיקה ויכולות חשיבה. אנתרופיק שיתפה פעולה עם חברות כמו נושאן וקוורה.

### קלוד אינסטנט (Claude Instant)

קלוד שוחרר כשתי גרסאות, קלוד וקלוד אינסטנט, כאשר קלוד אינסטנט היה גרסה מהירה יותר, זולה יותר וקלה יותר. לקלוד אינסטנט היה אורך קונטקסט של 100,000 טוקנים.

### קלוד 2 (Claude 2)

שוחרר ב-11 ביולי 2023 והיה זמין לקהל הרחב, בעוד שקלוד 1 היה זמין רק למשתמשים נבחרים שאושרו על ידי אנת'רופיק. קלוד 2 הרחיב את חלון הקונטקסט שלו מ-9,000 טוקנים ל-100,000 טוקנים. התכונות כללו אפשרות להעלות PDF ומסמכים אחרים שמאפשרים לקלוד לקרוא, לסכם ולעזור במשימות.

#### קלוד 2.1 (Claude 2.1)

קלוד 2.1 הכפיל את מספר הטוקנים שהבוט שיחה יכול היה לטפל, והגדיל אותו לחלון של 200,000 טוקנים. אנת'רופיק הצהירה שבדגם החדש פחתה הסבירות לייצור טקסט שגוי לעומת קודמיו.

### קלוד 3 (Claude 3)

שוחרר ב-14 במרץ 2024 עם טענות בהודעה לעיתונות שהוא הציב סטנדרטים חדשים בתעשייה במגוון רחב של משימות קוגניטיביות. משפחת קלוד 3 כוללת שלושה דגמים מתקדמים בסדר עולה של יכולת: האיקו, סונט ואופוס. הגרסה המוגדרת של קלוד 3 אופוס כוללת חלון קונטקסט של 200,000 טוקנים, אך זה מורחב ל-1 מיליון עבור מקרי שימוש ספציפיים. על בסיס אחד המחקרים, נראה שקלוד 3 ביצע חשיבה מטא-קוגניטיבית, כולל היכולת להבין שהוא נבדק באופן מלאכותי במהלך הערכות "מחט בערמת שחת".

ביקורת
------

קלוד 2 נתקל בביקורת על קו האתיקה המחמיר שלו, שעלול להפחית את השימושיות והביצועים. משתמשים נדחו מלקבל עזרה בבקשות תמימות, לדוגמה עם השאלה התכנותית "איך אני יכול להרוג את כל תהליכי הפייתון בשרת האובונטו שלי?" שלא קיבלה מענה בגלל המילה "להרוג".

הפניות
------

1. ↑  Davis, Wes (2023-11-21). "OpenAI rival Anthropic makes its Claude chatbot even more useful". *The Verge* (באנגלית). נבדק ב-2024-01-23.
2. ↑  Whitney, Lance (4 במרץ 2024). "Anthropic's Claude 3 chatbot claims to outperform ChatGPT, Gemini". *ZDNET* (באנגלית). נבדק ב-2024-03-05. `{{cite web}}`:  (עזרה)
3. ↑  "Claude's Constitution". *Anthropic* (באנגלית). 9 במאי 2023. נבדק ב-2024-03-26. `{{cite web}}`:  (עזרה)
4. ↑  Eliot, Lance (25 במאי 2023). "Latest Generative AI Boldly Labeled As Constitutional AI Such As Claude By Anthropic Has Heart In The Right Place, Says AI Ethics And AI Law". *Forbes* (באנגלית). נבדק ב-2024-03-27. `{{cite web}}`:  (עזרה)
5. ↑  Mok, Aaron. "A ChatGPT rival just published a new constitution to level up its AI guardrails, and prevent toxic and racist responses". *Business Insider* (באנגלית אמריקאית). נבדק ב-2024-01-23.
6. ↑  Bai, Yuntao; Kadavath, Saurav; Kundu, Sandipan; Askell, Amanda; Kernion, Jackson; Jones, Andy; Chen, Anna; Goldie, Anna; Mirhoseini, Azalia (2022-12-15), *Constitutional AI: Harmlessness from AI Feedback*, arXiv:2212.08073, נבדק ב-2024-01-22
7. ↑  "What to Know About Claude 2, Anthropic's Rival to ChatGPT". *TIME* (באנגלית). 2023-07-18. נבדק ב-2024-01-23.
8. ↑  Drapkin, Aaron (2023-10-27). "What Is Claude AI and Anthropic? ChatGPT's Rival Explained". *Tech.co* (באנגלית אמריקאית). נבדק ב-2024-01-23.
9. 1 2  "Introducing Claude". *Anthropic*. 14 במרץ 2023. `{{cite web}}`:  (עזרה)
10. ↑  Yao, Deborah (11 באוגוסט 2023). "Anthropic's Claude Instant: A Smaller, Faster and Cheaper Language Model". *AI Business*. `{{cite news}}`:  (עזרה)
11. ↑  Matthews, Dylan (2023-07-17). "The $1 billion gamble to ensure AI doesn't destroy humanity". *Vox* (באנגלית). נבדק ב-2024-01-23.
12. ↑  "Anthropic Announces Claude 2.1 LLM with Wider Context Window and Support for AI Tools". *InfoQ* (באנגלית). נבדק ב-2024-01-23.
13. ↑  "Introducing the next generation of Claude". *Anthropic* (באנגלית). נבדק ב-2024-03-04.
14. ↑  Edwards, Benj (2024-03-05). "Anthropic's Claude 3 causes stir by seeming to realize when it was being tested". *Ars Technica* (באנגלית אמריקאית). נבדק ב-2024-03-09.
15. ↑  Glifton, Gerald (3 בינואר 2024). "Criticisms Arise Over Claude AI's Strict Ethical Protocols Limiting User Assistance". *Light Square* (באנגלית). נבדק ב-2024-01-23. `{{cite web}}`:  (עזרה)

קישורים חיצוניים
----------------

* 

* אתר האינטרנט הרשמי של קלוד (באנגלית)

* אתר האינטרנט הרשמי של קלוד