GPT-4

GPT-4 (ראשי תיבות: Generative Pre-trained Transformer 4,  בתרגום חופשי: "טרנספורמר מאומן מראש בעל יכולת יצירה") הוא מודל שפה רב- המפותח על ידי חברת OpenAI, אשר מסוגל לקבל כקלט טקסט ותמונה, ולהגיב לכך כפלט טקסט. תכונה זו היא בעיקרה המייחדת את המודל מקודמיו בסדרת GPT.

גרסה מוגבלת של המודל (ללא עיבוד תמונה) שוחררה ב-14 במרץ 2023, וצפויה להיות זמינה דרך API של חברת OpenAI, ובנוסף למשתמשי ChatGPT Plus (גרסה משופרת של ChatGPT בתשלום). חברת מיקרוסופט, אשר מעט קודם לשחרור המודל הודיעה על שילוב מודל GPT במנוע החיפוש שלה בינג, אישרה כי למעשה השימוש היה ב-GPT-4 לפני שחרורו הרשמי של המודל. המודל הוא מסוג טרנספורמר (המעבד יחידות טקסט שלמות בו-זמנית) וככזה הוא אומן ליצור טקסט הן באמצעות נתונים ציבוריים והן באמצעות נתונים שסופקו לו ברישיון מטעם צדדים שלישיים, ולאחר מכן, מאמנים אנושיים ביצעו למודל "כוונון" סופי בשיטת למידת החיזוק (מתן פידבק אנושי על תוצאות חיזוי המודל).

אימון ויכולות 
במסגרת הכרזתה של OpenAI על שחרור המודל, כתבה החברה כי המודל "אמין ויצירתי יותר מקודמו, GPT-3, ומסוגל להתמודד עם הוראות ניואנסיות בצורה טובה יותר." המודל מסוגל לקרוא, לנתח וליצור טקסט באורך של עד 25,000 מילים, והדבר מהווה שיפור משמעותי ביחס לקודמיו. עוד ציינה החברה כי המודל נבנה כחלק ממאמצי החברה להרחיב את תחום הלמידה העמוקה (שיטת למידת מכונה שבבסיסה שימוש במספר שכבות).

כקודמיו, וכנובע משמו, המודל הוא טרנספורמר, כלומר מודל העובד בשיטת "קשב עצמי" ומעבד יחידות טקסט שלמות בו-זמנית. יש לציין כי המפרט הטכני של GPT-4 נמנע במפורש מלציין את גודל המודל, תוך ציון המשמעות התחרותית וההשלכות הבטיחותיות הקשורות במודלים בקנה-מידה גדול. חברי הקונגרס של ארצות הברית דון בייר וטד ליאו אישרו ל"ניו יורק טיימס" כי סם אלטמן, מנכ"ל חברת OpenAI, ביקר בקונגרס בינואר 2023 על מנת להדגים את יכולותיו של GPT-4 ואת "בקרות האבטחה" המשופרות שלו בהשוואה לדגמי אינטליגנציה מלאכותית אחרים.

לפי ה"ניו יורק טיימס", GPT-4 הראה שיפורים מרשימים ברמת הדיוק בהשוואה ל-GPT-3.5, בהן בולטת היכולת לסכם ולהגיב על תמונות. כמו כן, על פי המגזין, המודל הצליח לסכם טקסטים מורכבים, ואף עבר מבחן לשכת עורכי דין של מספר מדינות בארצות הברית, ומבחנים סטנדרטיים נוספים בתחומים אחרים כגון אמנות, ביולוגיה, סטטיסטיקה ועוד. במגזין צוין כי המודל עודנו לוקה בבעיית ה"הזיות" (hallucination), מונח מתחום למידת המכונה המתאר תגובות שנדמות למודל כסבירות, על אף שהן שגויות עובדתית, מבלי שהמודל מבין זאת. הדבר נחשב לתכונה שלילית בולטת אף אצל המודלים שקדמו לו.

ביקורות 
החלטת OpenAI שלא לחשוף פרטים טכניים אודות המודל ספגה ביקורת מצד חוקרי AI שונים, בהם בכירים בחברת HuggingFace, שטענו כי הסתרה זו פוגעת באופי הפתוח של קהילת הבינה המלאכותית, בכך שהיא מונעת פיתוחים המשפרים את ביצועי GPT-4.

כשבועיים לאחר שחרורו של המודל, בסוף חודש מרץ 2023, חתמו למעלה מ-1,000 חוקרי בינה מלאכותית על מכתב הקורא להשעות את פיתוחי הבינה המלאכותית המתקדמים יותר מ-GPT-4 למשך שישה חודשים. זאת, בשל דאגות הנוגעות לאובדן שליטה ביכולתה של הבינה המלאכותית, ולהיעדר הרגולציה בתחום זה. בין החותמים על המכתב מצויים יובל נח הררי, אילון מאסק וסטיב ווזניאק (ממייסדי אפל).

שימושים 
המודל משמש את גרסת ה-Plus של ChatGPT. מעבר לכך, מיקרוסופט הודיעה ב-17 במרץ 2023 כי תשלב את המודל במוצרי מיקרוסופט אופיס, בהם Word, Excel, PowerPoint, Outlook, Teams ועוד. כמו כן הודיעה גיטהאב, הנמצאת בבעלותה של מיקרוסופט, כי היא מתכננת להשתמש במודל כחלק ממוצר הבינה המלאכותית שלה, Copilot (שיכולתו המרכזית היא להשלים קוד של מתכנתים ולהקל על עבודתם).

חברות נוספות הודיעו על כוונתן לשלב את GPT-4 במוצריהן, בהן אקדמיית קהאן, המספקת שיעורים מוקלטים לציבור הרחב ללא כוונת רווח.

הערות שוליים 

בינה מלאכותית
למידת מכונה
תוכנות שהושקו ב-2023