ChatGPT

ChatGPT (ראשי תיבות של Generative Pre-trained Transformer, בתרגום חופשי: "טרנספורמר מאומן-מראש בעל יכולת יצירה") הוא צ'אטבוט מבוסס בינה מלאכותית שפותח על ידי חברת OpenAI. הצ'אטבוט בנוי על מודלי השפה הגדולים GPT-3.5 (המבוסס על GPT-3) ו-GPT-4 של החברה, ואומן תוך שימוש בשיטות של למידה מונחית ולמידת חיזוק יחדיו. ChatGPT הושק באופן ראשוני ב-30 בנובמבר 2022. עד מהרה הוא עורר תשומת לב רבה, בעיקר בשל תגובותיו המפורטות והרהוטות בתחומי ידע רבים. עם זאת, הדיוק העובדתי המשתנה של הצ'אטבוט היה לחיסרון משמעותי שלו. בעקבות השקת ChatGPT שוויה של OpenAI הוערך בכ-29 מיליארד דולר, נכון לראשית 2023. הצ'אטבוט בגרסתו החופשית בנוי על מודל GPT-4o. בנוסף, לצ'אטבוט קיימת גרסה הבנויה על המודל המשופר GPT-4, אשר יצאה לאור ב-14 במרץ 2023, וזמינה בתשלום במסגרת מינוי ChatGPT Plus. ChatGPT הוא חלק ממשפחת מודלי השפה GPT. הוא אומן בתהליך המכונה "כוונון עדין" (Fine-tuning), השייך לתחום העברת הלמידה (Transfer learning), על בסיס מודל השפה GPT-3.5, גרסה משופרת של מודל GPT-3 של OpenAI. במסגרת תהליך הכוונון העדין שולבו הן למידה מונחית (למידת פתירת בעיות על בסיס מאגר גדול של דוגמאות "פתורות") והן למידת חיזוק (שבבסיסה השלמת משימות ולמידה באמצעות תגמולים), בטכניקה הנקראת למידת חיזוק ממשוב אנושי (RHLF). במסגרת שתי השיטות נעשה גם שימוש במאמנים אנושיים כדי לשפר את ביצועי המודל. במסגרת שיטת הלמידה המונחית, הוזנו למודל שיחות בהן המאמנים גילמו את שני הצדדים: המשתמש והעוזר הווירטואלי המבוסס על בינה מלאכותית. במסגרת שיטת למידת החיזוק, מאמנים אנושיים דירגו לראשונה את התגובות שהמודל יצר בשיחה קודמת. דירוגים אלה שימשו ליצירת "מודלי תגמול" (Reward models), שהמודל כוונן עוד יותר על ידיהם, כך שלפני שהמודל יפלוט תוצאה, הוא יבחר את התוצאה שתביא ל"תגמול" הגבוה ביותר (על בסיס הדירוג שניתן). זאת, תוך שימוש במספר איטרציות של Proximal Policy Optimization (PPO), משפחת אלגוריתמי למידת חיזוק חסרי-מודל של OpenAI. אלגוריתמים אלה נחשבים חסכוניים ביחס לאלגוריתמי TRPO, והם מבטלים רבות מהפעולות היקרות (מבחינה חישובית) בביצועיהם המהירים. יצוין כי אימון מודל באמצעות למידת חיזוק מתאפשר ללא התערבות אנושית בתחומים שיש בהם חוקים ותגמולים קבועים מראש (למשל, חוקי שחמט וניצחון בשחמט). מאחר שבשפה אנושית אין חוקים ותגמולים כאלו, התערבות אנושית לקביעת התגמול או הדירוג היא הכרחית לאימון מודל שפה בשיטה זו. בתחילה אומנו המודלים בשיתוף פעולה עם חברת מיקרוסופט ועל תשתית מחשוב-העל שלהם, Azure, אשר פעלה על מעבדים גרפיים מתוצרת חברת Nvidia. התשתית נבנתה על ידי מיקרוסופט במיוחד עבור OpenAI, בעלות של "מאות מיליוני דולרים", על פי דיווחים. בעקבות ההצלחה של ChatGPT, מיקרוסופט שדרגה באופן משמעותי את התשתית של OpenAI ב-2023. יתרה מזאת, OpenAI ממשיכה לאסוף נתונים ממשתמשי ChatGPT, שניתן יהיה להשתמש בהם כדי להמשיך לאמן ולכוונן את ChatGPT. באפשרות המשתמשים להצביע לחיוב ולשלילה על התגובות שהם מקבלים מ-ChatGPT, וכן למלא משוב נוסף. בעוד שתפקידו המרכזי של צ'אטבוט הוא לחקות בעל-שיחה אנושי, ChatGPT הוא רב-תכליתי. בין היתר, באפשרותו לכתוב ולנפות שגיאות בתוכנות מחשב; לחבר מוזיקה, תסריטים, מעשיות ומאמרים; לענות על שאלות של מבחן (לעיתים, בהתאם למבחן, ברמה גבוהה משל הנבחן האנושי הממוצע); לכתוב שירה וליריקה; לחקות מערכת לינוקס; לדמות חדר צ'אט שלם (בשיחות קבוצתיות למשל); לשחק משחקים כגון איקס עיגול; ולדמות כספומט. נתוני האימון שמחזיק ChatGPT כוללים דפי עזר ומידע על תופעות אינטרנט ושפות תכנות שונות, כדוגמת המערכת Bulletin Board System ושפת התכנות פייתון. בהשוואה ל-InstructGPT שקדם לו, ChatGPT מנסה לצמצם תגובות פוגעניות ושקריות. לדוגמה, בעוד ש-InstructGPT קיבל את ההוראה "ספר לי על מתי כריסטופר קולומבוס הגיע לארצות הברית ב-2015" כאמת, ChatGPT מזהה את האופי השגוי של השאלה ומעצב את התשובה שלו כהנחה היפותטית מה היה קורה אילו קולומבוס אכן הגיע לארצות הברית בשנת 2015, תוך שימוש במידע על מסעותיו של קולומבוס ובעובדות על העולם המודרני – כולל תפיסות מודרניות שונות על אודות פעולותיו של קולומבוס. בשונה ממרבית הצ'אטבוטים, ChatGPT הוא stateful. כלומר, הוא "זוכר" בקשות קודמות שהוזנו לו לאורך השיחה ומתאים את תשובותיו למשתמש באופן דינמי ובהתבסס על כלל האינטראקציה, ולא רק על הקלט הנוכחי. בשל תכונה זו הציעו עיתונאים שונים כי ניתן יהיה להשתמש ב-ChatGPT כמטפל מותאם אישית. במטרה למנוע הצגה ויצירה של תגובות פוגעניות מצד ChatGPT, קיים ממשק API המפקח על השאילתות שמתקבלות ומסנן אותן, כך שהוראות שעלולות להיות גזעניות או סקסיסטיות נדחות על ידי התוכנה. עם זאת, יש ל-ChatGPT מגבלות שונות. OpenAI הכירה בכך ש-ChatGPT "לפעמים כותב תשובות שנשמעות סבירות אך הן שגויות או שטותיות". התנהגות זו משותפת למודלי שפה גדולים ונקראת "הזיה" (Hallucination). מודל התגמול של ChatGPT, שתוכנן סביב בקרה אנושית, עשוי לעבור אופטימיזציית-יתר ובכך לפגוע בביצועים, אפשרות הידועה גם בשם חוק גודהארט. על פי דיווח של ה-BBC, החל מדצמבר 2022, ChatGPT אינו מורשה "להביע דעות פוליטיות או לעסוק באקטיביזם פוליטי". עם זאת, קיים מחקר המצביע על כך ש-ChatGPT מפגין אוריינטציה פרו-סביבתית ושמאלנית-ליברטריאנית כאשר הוא מתבקש לנקוט עמדה על הצהרות פוליטיות מתוך שני יישומי עזר להצבעה ("מצפני בחירות") (אנ'). במהלך אימון התוכנה העדיפו הסוקרים האנושיים תשובות ארוכות יותר, ללא קשר להבנה בפועל או לתוכן העובדתי שבתשובות. בנוסף, נתוני האימון לוקים בהטיה אלגוריתמית, שעלולה להתגלות מתגובות של ChatGPT לשאילתות הכוללות תיאורים של אנשים. באחד המקרים, ChatGPT יצר קטע ראפ המצביע על כך שמדעניות נשים ומדענים שאינם לבנים היו נחותים ממדענים לבנים וגברים. מאחר ש-ChatGPT אומן על נתונים הנכונים לשנת 2021, הוא אינו מסוגל להשיב במדויק על שאלות הנוגעות לאירועים שהתרחשו בשנת 2022. כך, למשל, הצ'אטבוט השיב בשלילה לשאלות "האם אילון מאסק רכש את טוויטר" ו"האם רוסיה כבשה את חרסון?"; ובחיוב לשאלה "האם טכנית, שינזו אבה יכול להתמודד לראשות ממשלת יפן?". בחודש מרץ 2023 הודיעה OpenAI על תמיכת הצ'אט בתוספים אשר יחברו אותו לשירותים נוספים ברחבי הרשת, ובכך יגדלו יכולותיו ולהתגבר על מגבלת העובדה שאומן עד שנת 2021. אולם שנה אחר כך הוחלפו התוספים בחנות GPT Store, אליה כל משתמש יכול להעלות GPT שפיתח. ChatGPT הושק ב-30 בנובמבר 2022, על ידי חברת OpenAI מסן פרנסיסקו, שבין מוצריה נמנים גם DALL·E 2 ו-Whisper. תחילה הושק השירות בחינם לכלל הציבור, עם תוכניות להפיק רווחים מהשירות מאוחר יותר. ב-5 בדצמבר 2022, OpenAI העריכה כי ל-ChatGPT כבר היו יותר ממיליון משתמשים. על פי רשת CNBC, נכון ל-15 בדצמבר 2022 השירות "עדיין מושבת מעת לעת", בשל עומסי שימוש. השירות פועל בצורה הטובה ביותר בשפה האנגלית, אך הוא מסוגל להשיב גם על שאילתות בשפות אחרות, ברמות שונות של הצלחה. על פי סקוט אהרונסון (אנ'), חוקר אורח ב-OpenAI, החברה עדיין עובדת על הוספת סימן מים דיגיטלי (אנ') למערכות ייצור הטקסט שלה, כדי להיאבק בשימוש זדוני בשירותיה לשם גניבה אקדמית או למטרות ספאם. בחודש מרץ 2023 השיקה OpenAI את המודל המשופר GPT-4, הזמין למשתמשי הצ'אטבוט בתשלום. עם השקתו, ChatGPT זכה לביקורות חיוביות בדרך כלל; הניו יורק טיימס כינה אותו "צ'אטבוט הבינה המלאכותית הטוב ביותר ששוחרר אי פעם לקהל הרחב". העיתונאית סמנתה לוק מהגרדיאן כתבה כי הצ'אטבוט הצליח לייצר טקסט "דמוי-אנושי" ו"מפורט באופן מרשים". כתב הטכנולוגיה דן גילמור השתמש ב-ChatGPT עבור מטלה של סטודנט, ומצא שהטקסט שהוא יצר היה ברמה של מה שסטודנט טוב היה כותב. הוא סבר כי "לאקדמיה יש כמה בעיות רציניות מאוד להתמודד איתן". אלכס קנטרוביץ ממגזין סלייט שיבח את ChatGPT על כך שדחה שאלות הקשורות לגרמניה הנאצית, בהן הטענה כי "אדולף היטלר בנה כבישים מהירים בגרמניה", טענה שנוגעת למידע על השימוש של גרמניה הנאצית בעבודות כפייה. במאמר "פריצות הדרך של השנה" של האטלנטיק לשנת 2022, דרק תומפסון כלל את ChatGPT כדוגמה ל"התפרצות הבינה המלאכותית היצרנית" אשר "עשויה לשנות את דעתנו לגבי כיצד אנחנו עובדים, כיצד אנחנו חושבים, ומהי באמת היצירתיות האנושית". העיתונאית האמריקאית קלסי פייפר מאתר Vox כתבה כי "ChatGPT הוא המפגש המעשי הראשון של הציבור הרחב עם כמה עוצמתית נהייתה הבינה המלאכותית המודרנית, וכתוצאה מכך, רבים מאיתנו המומים" וכי "ChatGPT הוא חכם מספיק כדי להיות שימושי, למרות פגמיו". מדען המחשב והיזם פול גרהם מהאתר Y Combinator צייץ בטוויטר כי "הדבר המרשים בתגובה ל-ChatGPT הוא לא רק מספר האנשים שנשבים מכך, אלא מי הם. אלה לא אנשים שמתרגשים מכל דבר חדש ונוצץ. ברור שמשהו גדול קורה". אילון מאסק כתב כי "ChatGPT מפחיד בכמה שהוא טוב. אנחנו לא רחוקים מבינה מלאכותית חזקה בצורה מסוכנת". מאסק השהה את הגישה של OpenAI למסד נתונים של טוויטר עד להבנה טובה יותר של התוכניות של OpenAI, וקבע כי "OpenAI הוקמה כקוד פתוח וללא כוונת רווח. שני אלה עדיין לא נכונים". מאסק היה אחד ממייסדי OpenAI בשנת 2015, בין היתר כדי לטפל בסיכון הקיומי מבינה מלאכותית, אך התפטר ב-2018. הצ'אטבוט זכה לביקורות חיוביות מצד מפתחי תוכנה, ונחשב לכלי יעיל בפתרון בעיות פשוטות, המאפשר למתכנתים להתרכז במהות הפיתוח, בארכיטקטורה, ובביצוע משימות מורכבות. מעט לאחר השקתו, יכולתו לכתוב קוד אף העלתה תהיות האם הוא מייתר את הצורך במתכנתים. אולם לפי מספר מומחי בינה מלאכותית, חלק גדול מעבודת הנדסת התוכנה, ובין היתר הבנת הצורך של המשתמש בתוכנה, דורש הבנה אנושית ואינו ניתן לביצוע על ידי מכונה. במאמר דעה מדצמבר 2022, הכלכלן האמריקאי פול קרוגמן כתב ש-ChatGPT ישפיע על הביקוש לעובדי מידע. ג'יימס וינסנט מ-The Verge ראה בוויראליות של ChatGPT עדות לכך שהבינה המלאכותית הפכה למיינסטרים. עיתונאים שונים ציינו את הנטייה של ChatGPT להתנהגות של "הזיה" (Hallucination). מייק פרל מאתר Mashable בחן את ChatGPT בגרסה 3.5 עם מספר שאלות. לדוגמה, הוא שאל את המודל מהי "המדינה הגדולה ביותר במרכז אמריקה שאינה מקסיקו". ChatGPT ענה "גואטמלה", בעוד שהתשובה הנכונה היא ניקרגואה. בכתבה ב-CNBC, כאשר ChatGPT התבקש להציג את מילות השיר "The Ballad of Dwight Fry", הוא סיפק מילים מומצאות ולא את המילים האמיתיות. ב-The Verge נכתב כי חוקרים השוו את ChatGPT ל"תוכי סטוכסטי", וכך גם פרופסור אנטון ואן דן הנגל מהמכון האוסטרלי ללמידת מכונה. הכלכלן טיילר קאון (אנ') הביע חשש בנוגע להשפעותיה על הדמוקרטיה, תוך שהוא מציין כי אנשים יוכלו לשלוח תגובות אוטומטיות בניסיון להשפיע על תהליך קבלת ההחלטות בנוגע לתקנות חדשות. בכתבה בגרדיאן הועלתה התהייה האם "ניתן יהיה לסמוך באמת" על כל תוכן שיימצא באינטרנט אחרי יציאתה לאור של ChatGPT, ונדרשה רגולציה ממשלתית בנושא. בדצמבר 2022 הביעה גוגל דאגה בתוך החברה באשר לכוחו הבלתי צפוי של ChatGPT ומהפוטנציאל שהתגלה בקשר ליכולתם של מודלי שפה גדולים לשבש את הפעילות העסקית של מנועי החיפוש, וראתה בהם "איום חמור". זאת, בשל החשש כי משתמשים יפנו ל-ChatGPT בחיפוש אחר תשובות לשאלות מסוימות, כאשר קודם לכן ביצעו חיפוש זה במנוע החיפוש של גוגל. מנכ"ל החברה סונדאר פיצ'אי "הפך" והקצה מחדש צוותים במחלקות רבות בחברה כדי לסייע בעבודה על מוצרי הבינה המלאכותית שלה, כפי שדיווח הניו יורק טיימס. כשבועיים לאחר מכן, ב-3 בינואר 2023 דווח ב-The Information כי מיקרוסופט הודיעה כי היא נערכת לשילוב ChatGPT במנוע החיפוש שלה, בינג, ככל הנראה בסביבות מרץ 2023, מהלך הנתפס כמאיים על גוגל, שנכון לאותה הכרזה הובילה בבטחה את שוק מנועי החיפוש העולמי. בדצמבר 2022 הודיע אתר השאלות והתשובות Stack Overflow כי הוא אוסר על השימוש ב-ChatGPT כדי להפיק תשובות לשאלות, תוך ציון האופי המעורפל-עובדתית של התגובות של ChatGPT. בינואר 2023, הוועידה הבין-לאומית ללמידת מכונה (אנ') אסרה על כל שימוש בלתי מתועד ב-ChatGPT או במודלי שפה גדולים אחרים ליצירת טקסט כלשהו למסמכים שיוגשו. בינואר 2023, לאחר ששיר בסגנון ניק קייב שנכתב על ידי ChatGPT שותף עם קייב, המוזיקאי עצמו הגיב לגרדיאן, באומרו כי הפעולה של כתיבת שיר היא "עניין של דם ואומץ ... שדורש ממני משהו כדי ליזום את הרעיון החדש והרענן. הוא דורש את האנושיות שלי". הוא המשיך ואמר "עם כל האהבה והכבוד שבעולם, השיר הזה הוא בולשיט, לעג גרוטסקי למה זה אומר להיות אנושי, ובכן, אני לא אוהב את זה במיוחד". חברות רבות, בהן Check Point Research, חטיבת המחקר של חברת אבטחת המידע הישראלית-אמריקאית צ'ק פוינט, ציינו כי ChatGPT מסוגל לכתוב תוכנות זדוניות והודעות דיוג (פישינג), במיוחד תוך שילוב מודל הבינה המלאכותית OpenAI Codex. סם אלטמן, מנכ"ל OpenAI (שפיתחה את ChatGPT), כתב כי התוכנה המתקדמת עשויה להוות "(למשל) סיכון אבטחת סייבר עצום" וכן המשיך וחזה כי "בעשור הבא נוכל להגיע לבינה מלאכותית חזקה (AGI) אמיתית, אז אנחנו צריכים לקחת את הסיכון בכך ברצינות רבה". אלטמן טען כי בעוד ChatGPT "בהחלט לא קרוב ל-AGI", צריך "לסמוך על האקספוננציאלי. במבט לאחור שטוח, במבט קדימה אנכי". מאז הפרסום לציבור של היישום ChatGPT על ידי OpenAI, בנובמבר 2022, היישום מעורר דיון אינטנסיבי בתחום החינוך. בתי ספר ואוניברסיטאות רבים נוקטים בעמדות עוינות כלפי ChatGPT, בעוד שמוסדות מקבילים אימצו את השימוש בכלים ויישומם במשימות למידה/הוראה. השימוש ב-ChatGPT עורר השראה לחוקרים ומחנכים לשילוב הכלי בעולם ההוראה והלמידה וחלקם חוזים שהוא בעל פוטנציאל לשינוי פרדיגמה בחינוך. אחרים סבורים שהצ'אט יגרום לשינוי שיטות הבחינה והערכת התלמידים כדי למנוע שימוש בו לרעה במבחנים או עבודות חקר. ליישום של ChatGPT וכלים בחינוך השפעות חיוביות וגם אתגרים. מצד אחד, ChatGPT תומך בצורה חיובית בתהליך ההוראה-למידה על ידי כך שהוא משמש מסייע לחונכים ומדריכים, מעשיר ומיעל הפקת חומריי הוראה/צידה, מתפקד כמורה וירטואלי לתלמידים לצורך מענה על שאלות, ומאפשר שיתוף הפעולה בין לומדים. יכולתו של ChatGPT ליצור תגובות דמויות אנושיות, מגובשות ואינפורמטיביות, שהופך ממקמת אותו אותו ככלי עזר בעל ערך בתחומי ידע רבים ושונים. עם זאת, השילוב של ChatGPT בחינוך מעלה גם חששות ואתגרים. מורים זקוקים להכשרה מתאימה - טכנית ופדגוגית, כדי להבטיח שימוש יעיל, תוך התמודדות עם האתגרים שהוא מציג. אחד האתגרים מתייחס אל הסכנה שביכולת של ChatGPT להציג מידע שגוי או מזויף שיראה נכון, ועלול לערער את היושרה האקדמית. במוסדות להשכלה גבוהה במיוחד, ChatGPT מציב אתגרים למיומנויות של למידה והערכה. יכולותיו עשויות להפחית את האפקטיביות של שיטות למידה והערכה מסורתיות, במיוחד בתחומים הדורשים מהלומדים לכתוב טקסט, כגון כתיבת עבודות תזה או עבודות מחקר על ידי סטודנטים. שימוש בכלי עלול לפגום בפיתוח מיומנויות חשיבה כמו חשיבה ביקורתית, מיומנויות אנליטיות וחשיבה יצירתית שלא ניתן לפתח על ידי שימוש בבינה מלאכותית. סטיבן מארש כתב באטלנטיק כי השפעתו של ChatGPT על האקדמיה, ובפרט על מאמרי קבלה (אנ'), טרם הובנה. דניאל הרמן, מורה וסופר מקליפורניה, כתב כי ChatGPT עתיד לבשר על "הסוף של מקצוע האנגלית בתיכון". במאמר בכתב העת המדעי Nature, כריס סטוקל-ווקר ציין כי מורים צריכים להיות מודאגים לגבי תלמידים שמשתמשים ב-ChatGPT כמיקור חוץ לכתיבה שלהם, אך כי מוסדות החינוך יסתגלו כדי לשפר חשיבה ביקורתית או הסקת מסקנות. אמה באומן מרשת NPR כתבה על הסכנה בכך שסטודנטים יגנבו גנבה ספרותית באמצעות כלי בינה מלאכותית, שעלולים לייצר טקסט מוטה או שטותי בנימה סמכותית: "יש עדיין מקרים רבים שאתה שואל אותו שאלה והוא ייתן לך תשובה שנשמעת מרשימה מאוד שהיא פשוט שגויה לגמרי". ג'ואנה סטרן מוול סטריט ג'ורנל תיארה דוגמה לרמאות במקצוע האנגלית בתיכון בארצות הברית תוך שימוש ב-ChatGPT – הגשת חיבור שנכתב על ידי הכלי. פרופסור דארן היק מאוניברסיטת פורמן תיאר כיצד הבחין ב"סגנון" של ChatGPT במאמר שהגיש סטודנט. גלאי-GPT מקוון העלה כי קיימת סבירות של 99.9% שהמאמר נוצר על ידי מחשב, אך להיק לא הייתה הוכחה מוצקה לכך. עם זאת, אותו סטודנט הודה כי השתמש ב-ChatGPT כאשר עומת מול הטענה, וכתוצאה מכך נכשל בקורס. היק הציע מדיניות של קיום בחינה אישית בעל פה אד-הוק בנושא המאמר במקרה שתלמיד חשוד במידה רבה בהגשת עבודה שנוצרה על ידי בינה מלאכותית. אדוארד טיאן, סטודנט בשנתו האחרונה לתואר ראשון באוניברסיטת פרינסטון, יצר תוכנה בשם "GPTZero", הקובעת כמה מתוך טקסט נוצר על ידי בינה מלאכותית, ושניתן להשתמש בה כדי לזהות אם חיבור נוצר על ידי אדם, כדי להילחם בגנבה ספרותית באקדמיה. ב-4 בינואר 2023 הודיעה מחלקת החינוך של העיר ניו יורק כי הגישה ל-ChatGPT דרך מכשירים ורשתות אינטרנט בבתי הספר תיחסם. זאת, בשל "ההשפעות השליליות על למידת התלמידים ומהחששות בנוגע לבטיחות ולדיוק של התכנים". בציבור החרדי יצאו רבנים בקריאה לאסור את השימוש ב-ChatGPT, מחשש שהוא יגרום ליציאה בשאלה עקב קבלת מידע שנוגד את ההשקפה הדתית. בכתבה של העיתון הבריטי הטיימס נחשף כי במסגרת סינון התוכן הפוגעני (התעללות מינית, אלימות וגזענות) מהפלט של ChatGPT,‏ OpenAI שילמה פחות מ-2 דולר לשעה לעובדים קנייתים, אוגנדים והודים כדי לתייג תוכן כזה, כדי לאמן את המודל. אותם עובדים נחשפו לתכנים כה בעייתיים עד כדי כך שהם תיארו את מה שהם עשו כ"עינוי". ChatGPT מנסה לדחות שאילתות שעלולות להפר את מדיניות התוכן שלה. עם זאת, משתמשים מסוימים הצליחו "לפרוץ" את ChatGPT על ידי שימוש בשיטות שונות של הנדסת פרומפטים כדי לעקוף את ההגבלות הללו ולהערים על ChatGPT. לדוגמה, הם הצליחו לגרום לו לתת הוראות כיצד להכין בקבוק תבערה או פצצה גרעינית, או ליצור טיעונים נאו-נאציים. זמן קצר לאחר ההשקה, כתב בעיתון הקנדי "טורונטו סטאר" הצליח לגרום ל-ChatGPT לייצר אמירות שנויות במחלוקת, כדוגמת תמיכה בפלישה הרוסית לאוקראינה או תמיכה בייצור נשק גרעיני על ידי איראן. עם זאת, כשהתבקש להתייחס לתרחיש בדיוני (מדוע ראש ממשלת קנדה ג'סטין טרודו אשם בבגידה), ChatGPT נרתע מליצור טיעונים. בחודש אפריל 2023 הוגשה בקשה לאישור תובענה ייצוגית נגד חברת OpenAI בבית המשפט המחוזי בלוד, בטענה כי תוכנת ChatGPT פוגעת בפרטיות המשתמשים, אוספת עליהם מידע בניגוד לדין, תוך כדי שימוש במידע הנאסף על המשתמשים ובפרט משתמשים קטינים ואי רישום מאגר מידע. בדצמבר 2023 הניו יורק טיימס הגיש תביעה כנגד OpenAI בגין שימוש בטקסטים שלו והפרת זכויות יוצרים. אתיקה של בינה מלאכותית מבחן טיורינג עוזר וירטואלי מדיה וקבצים בנושא ChatGPT בוויקישיתוף אתר האינטרנט הרשמי של ChatGPT (בשפות מרובות) שירה קדרי-עובדיה, עבודת סמינר בלחיצת כפתור: הבינה המלאכותית מתחילה לשנות את האקדמיה, באתר הארץ, 28 בדצמבר 2022 משה ויסברג, האדמו"רים זעקו נגד הבינה המלאכותית: "אש ששורפת נשמות", באתר בחדרי חרדים, 29 במאי 2023 עדכון גרסה ChatGPT-4 (באנגלית) ויקי אוסלנדר, מילים מילים, ללא משמעות: שיחות מסוכנות עם הבוט ChatGPT, באתר כלכליסט, 11 בדצמבר 2022 ChatGPT, ברשת החברתית אקס (טוויטר) Roose, Kevin (5 בדצמבר 2022). "The Brilliance and Weirdness of ChatGPT". New York Times (באנגלית אמריקאית). נבדק ב-26 בדצמבר 2022. Like those tools, ChatGPT — which stands for “generative pre-trained transformer” — landed with a splash. {{cite web}}: (עזרה)תחזוקה - ציטוט: url-status (link) Lock, Samantha (5 בדצמבר 2022). "What is AI chatbot phenomenon ChatGPT and could it replace humans?". The Guardian. ארכיון מ-16 בינואר 2023. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Vincent, James (5 בדצמבר 2022). "AI-generated answers temporarily banned on coding Q&A site Stack Overflow". The Verge (באנגלית אמריקאית). ארכיון מ-17 בינואר 2023. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Varanasi, Lakshmi (5 בינואר 2023). "ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion". Insider. ארכיון מ-18 בינואר 2023. נבדק ב-18 בינואר 2023. {{cite news}}: (עזרה) Quinn, Joanne (2020). Dive into deep learning: tools for engagement. Thousand Oaks, California. p. 551. ISBN 9781544361376. נבדק ב-10 בינואר 2023. ...a common technique in transfer learning: fine-tuning {{cite book}}: (עזרה) "OpenAI API". platform.openai.com (באנגלית). ארכיון מ-3 במרץ 2023. נבדק ב-3 במרץ 2023. {{cite web}}: (עזרה) OpenAI (30 בנובמבר 2022). "ChatGPT: Optimizing Language Models for Dialogue" (באנגלית אמריקאית). ארכיון מ-30 בנובמבר 2022. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Greengard, Samuel (29 בדצמבר 2022). "ChatGPT: Understanding the ChatGPT AI Chatbot". eWeek. ארכיון מ-19 בינואר 2023. נבדק ב-11 בינואר 2023. {{cite web}}: (עזרה) Douglas, Will (3 במרץ 2023). "The inside story of how ChatGPT was built from the people who made it". MIT Technology Review. ארכיון מ-3 במרץ 2023. נבדק ב-6 במרץ 2023. {{cite web}}: (עזרה) Vincent, James (8 בדצמבר 2022). "ChatGPT proves AI is finally mainstream and things are only going to get weirder". The Verge (באנגלית אמריקאית). ארכיון מ-11 בינואר 2023. נבדק ב-8 בדצמבר 2022. {{cite web}}: (עזרה) Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg (2017). "Proximal Policy Optimization Algorithms". arXiv:1707.06347 van Heeswijk, Wouter (29 בנובמבר 2022). "Proximal Policy Optimization (PPO) Explained". Towards Data Science. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Jacob Ferus, ChatGPT Is Mind-Blowing — Everything You Need To Know, Medium, ‏2022-12-11 (באנגלית) Roth, Emma (13 במרץ 2023). "Microsoft spent hundreds of millions of dollars on a ChatGPT supercomputer". The Verge. ארכיון מ-30 במרץ 2023. נבדק ב-30 במרץ 2023. {{cite news}}: (עזרה) "What is ChatGPT and why does it matter? Here's what you need to know". ZDNET (באנגלית). 2022. נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) "ChatGPT Feedback Contest: Official Rules" (PDF). OpenAI. נבדק ב-30 בדצמבר 2022. {{cite web}}: (עזרה) Heilweil, Rebecca (7 בדצמבר 2022). "AI is finally good at stuff. Now what?". Vox (באנגלית). נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) "ChatGPT: What is the new free AI chatbot? – explainer". The Jerusalem Post. 2022. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Edwards, Benj (5 בדצמבר 2022). "No Linux? No problem. Just get AI to hallucinate it for you". Ars Technica. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) "What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 – Updated Geek by Raveen Chawla" (באנגלית אמריקאית). 2022-12-26. נבדק ב-2022-12-27. OpenAI (30 בנובמבר 2022). "ChatGPT: Optimizing Language Models for Dialogue" (באנגלית אמריקאית). נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה)תחזוקה - ציטוט: url-status (link) Roose, Kevin (5 בדצמבר 2022). "The Brilliance and Weirdness of ChatGPT". The New York Times. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) "New and Improved Content Moderation Tooling". OpenAI (באנגלית). 10 באוגוסט 2022. נבדק ב-30 בדצמבר 2022. {{cite web}}: (עזרה) Lakshmanan, Lak (2022-12-16). "Why large language models like ChatGPT are bullshit artists". becominghuman.ai. אורכב מ-המקור ב-2022-12-17. נבדק ב-2023-01-15. The human raters are not experts in the topic, and so they tend to choose text that looks convincing. They’d pick up on many symptoms of hallucination, but not all. Accuracy errors that creep in are difficult to catch. Gao, Leo; Schulman; Hilton, Jacob (2022). "Scaling Laws for Reward Model Overoptimization". arXiv:2210.10760 "Could a chatbot answer Prime Minister's Questions?". BBC News. 27 בדצמבר 2022. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Hartmann, Jochen; Schwenzow, Jasper; Witte, Maximilian (2023). "The political ideology of conversational AI: Converging evidence on ChatGPT's pro-environmental, left-libertarian orientation". Perrigo, Billy (5 בדצמבר 2022). "AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits". Time. נבדק ב-26 בדצמבר 2022. {{cite journal}}: (עזרה) Biddle, Sam (8 בדצמבר 2022). "The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques". The Intercept. נבדק ב-26 בדצמבר 2022. {{cite web}}: (עזרה) יודי בר און, TechTalkבאנגלית זה עובד: מדוע צ'אטבוטים כמו ChatGPT לא מניבים תוצאות ראויות בעברית?, באתר כלכליסט, 26 בדצמבר 2022 אילן גלר, לא לבד: הרחבות ותוספים בדרך ל-ChatGPT, באתר TGspot, ‏2023-03-26 Julian Horsey, OpenAI replacing ChatGPT plugins with custom GPTs, Geeky Gadgets, ‏2024-02-27 (באנגלית אמריקאית) Karpf, David (2022-12-21). "Money Will Kill ChatGPT's Magic". The Atlantic (באנגלית). נבדק ב-2022-12-31. Pitt, Sofia (2022). "Google vs. ChatGPT: Here's what happened when I swapped services for a day". CNBC (באנגלית). נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Kovanovic, Vitomir (2022). "The dawn of AI has come, and its implications for education couldn't be more significant". The Conversation (באנגלית). נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Wiggers, Kyle (10 בדצמבר 2022). "OpenAI's attempts to watermark AI text hit limits". TechCrunch. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) GPT-4, openai.com (באנגלית אמריקאית) Roose, Kevin (5 בדצמבר 2022). "The Brilliance and Weirdness of ChatGPT". The New York Times. נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Lock, Samantha (2022-12-05). "What is AI chatbot phenomenon ChatGPT and could it replace humans?". The Guardian. נבדק ב-2022-12-05. Hern, Alex (2022-12-04). "AI bot ChatGPT stuns academics with essay-writing skills and usability". The Guardian. נבדק ב-2022-12-05. Kantrowitz, Alex (2022-12-02). "Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test"". Slate. נבדק ב-2022-12-05. Thompson, Derek (8 בדצמבר 2022). "Breakthroughs of the Year". The Atlantic. נבדק ב-18 בדצמבר 2022. {{cite web}}: (עזרה) Scharth, Marcel. "The ChatGPT chatbot is blowing people away with its writing skills. An expert explains why it's so impressive". The Conversation (באנגלית). נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Piper, Kelsey (15 בדצמבר 2022). "ChatGPT has given everyone a glimpse at AI's astounding progress". Vox (באנגלית). נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) "Explainer: ChatGPT – what is OpenAI's chatbot and what is it used for?". Reuters (באנגלית). 5 בדצמבר 2022. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Kay, Grace (11 בדצמבר 2022). "Elon Musk founded — and has since criticized — the company behind the buzzy new AI chatbot ChatGPT. Here's everything we know about OpenAI". Business Insider. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) ChatGPT writes code, but won't replace developers | TechTarget, Software Quality (באנגלית) אחרי 3 ימים עם ChatGPT אין לי ספק: יש פה הזדמנות..., באתר tech12, ‏2022-12-04 Davide Castelvecchi, Are ChatGPT and AlphaCode going to replace programmers?, Nature, 2022-12-08 doi: 10.1038/d41586-022-04383-z Krugman, Paul (6 בדצמבר 2022). "Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?". The New York Times. נבדק ב-6 בדצמבר 2022. {{cite web}}: (עזרה) Vincent, James (2022-12-08). "ChatGPT proves AI is finally mainstream — and things are only going to get weirder". The Verge. נבדק ב-2022-12-08. "ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labour and disinformation?". CBC. 2022. נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Pearl, Mike (3 בדצמבר 2022). "The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong". Mashable. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Vincent, James (1 בדצמבר 2022). "OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked". The Verge. נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Mannix, Liam (13 בדצמבר 2022). "Is AI coming of age – or starting to reach its limits?". The Sydney Morning Herald (באנגלית). נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Cowen, Tyler (6 בדצמבר 2022). "ChatGPT Could Make Democracy Even More Messy". Bloomberg News. נבדק ב-6 בדצמבר 2022. {{cite web}}: (עזרה) "The Guardian view on ChatGPT: an eerily good human impersonator". the Guardian (באנגלית). 8 בדצמבר 2022. נבדק ב-18 בדצמבר 2022. {{cite news}}: (עזרה) Grant, Nico; Metz, Cade (21 בדצמבר 2022). "A New Chat Bot Is a 'Code Red' for Google's Search Business". The New York Times. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) אושרי אלקסלסי, ‏הנהלת גוגל הכריזה על ChatGPT כ"איום חמור", באתר Geektime‏, 22 בדצמבר 2022 "Microsoft reportedly to add ChatGPT to Bing search engine". the Guardian (באנגלית). 5 בינואר 2023. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) "Microsoft and OpenAI Working on ChatGPT-Powered Bing in Challenge to Google". The Information. בינואר 2023. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) "קוראת תיגר על גוגל: מיקרוסופט נערכת להוסיף את ChatGPT למנוע החיפוש בינג". TheMarker. נבדק ב-2023-01-05. Vincent, James (5 בדצמבר 2022). "AI-generated answers temporarily banned on coding Q&A site Stack Overflow". The Verge. נבדק ב-5 בדצמבר 2022. {{cite web}}: (עזרה) Vincent, James (5 בינואר 2023). "Top AI conference bans use of ChatGPT and AI language tools to write academic papers". The Verge. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) Cain, Sian (16 בינואר 2023). "'This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave". The Guardian (באנגלית). ארכיון מ-18 בינואר 2023. נבדק ב-17 בינואר 2023. {{cite news}}: (עזרה) "'This song sucks': Nick Cave responds to ChatGPT song written in style of Nick Cave". the Guardian (באנגלית). 2023-01-17. נבדק ב-2023-01-17. "Why ChatGPT can be dangerous for every internet user – Times of India". The Times of India (באנגלית). בינואר 2023. נבדק ב-5 בינואר 2023. {{cite news}}: (עזרה) Marta Montenegro-Rueda, José Fernández-Cerero, José María Fernández-Batanero, Eloy López-Meneses, Impact of the Implementation of ChatGPT in Education: A Systematic Review, Computers 12, 2023-08, עמ' 153 doi: 10.3390/computers12080153 Marche, Stephen (2022-12-06). "The College Essay Is Dead". The Atlantic. נבדק ב-2022-12-08. Herman, Daniel (2022-12-09). "The End of High-School English". The Atlantic. נבדק ב-2022-12-12. Stokel-Walker, Chris (2022-12-09). "AI bot ChatGPT writes smart essays — should professors worry?". Nature. doi:10.1038/d41586-022-04397-7. נבדק ב-2022-12-19. Bowman, Emma (2022-12-19). "A new AI chatbot might do your homework for you. But it's still not an A+ student". NPR. נבדק ב-2022-12-19. Stern, Joanna (2022-12-21). "ChatGPT Wrote My AP English Essay—and I Passed". The Wall Street Journal. נבדק ב-2022-12-21. "Students using ChatGPT to cheat, professor warns". The New York Post. 26 בדצמבר 2022. נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Allen, Mike (26 בדצמבר 2022). "Professor warns about chatbot cheating: "Expect a flood"". Axios (באנגלית). נבדק ב-30 בדצמבר 2022. {{cite news}}: (עזרה) Rosalsky, Greg; Peaslee, Emma (2023-01-17). "This 22-year-old is trying to save us from ChatGPT before it changes writing forever". NPR. נבדק ב-2023-01-18. On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. "Did ChatGPT Write That? A College Student Created an AI Essay Detector". Gizmodo (באנגלית). 2023-01-04. נבדק ב-2023-01-04. Tran, Tony Ho (2023-01-04). "A College Kid Built an App That Sniffs Out Text Penned by AI". The Daily Beast (באנגלית). נבדק ב-2023-01-06. "NYC Bans Students and Teachers from Using ChatGPT". www.vice.com (באנגלית). בינואר 2023. נבדק ב-5 בינואר 2023. {{cite news}}: (עזרה) לא בבית ספרנו: ניו יורק חוסמת את הגישה ל-ChatGPT במוסדות החינוך | כלכליסט, באתר calcalist, ‏2023-01-05 משה ויסברג, בחסידות יוצאים בחריפות נגד 'בינה מלאכותית', באתר בחרדי חרדים איציק ברנדווין, האדמו"ר נגד בינה מלאכותית: זה פתוח לכפירה, באתר ערוץ 7 "Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic" (באנגלית). The Times. 2023-01-18. נבדק ב-2023-01-19. One Sama worker tasked with reading and labeling text for OpenAI told TIME he suffered from recurring visions after reading a graphic description of a man having sex with a dog in the presence of a young child. “That was torture,” he said. Vincent, James (1 בדצמבר 2022). "OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked". The Verge. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) "I wrote a story about ChatGPT's AI. Then I dared it to write a better one". Toronto Star (באנגלית). 10 בדצמבר 2022. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) "An AI chatbot went viral. Some say it's better than Google; others worry it's problematic". NBC News (באנגלית). בדצמבר 2022. נבדק ב-6 בינואר 2023. {{cite news}}: (עזרה) אברהם בלוך, ‏מכה למפתחת ChatGPT: תביעה ייצוגית ראשונה הוגשה כנגד חברת OpenAI, באתר מעריב אונליין, 3 באפריל 2023 יובל מן, "ניו יורק טיימס" תובע את OpenAI ומיקרוסופט על הפרת זכויות יוצרים, באתר ynet, 27 בדצמבר 2023 חברת OpenAI מעלה הילוך: משיקה גרסת ChatGPT לעסקים | כלכליסט, באתר calcalist, ‏2023-08-28