בינה מלאכותית יוצרת

[ממוזער|תמונה שנוצרה על ידי [Midjourney]]
**בינה מלאכותית יוצרת** (באנגלית **Generative Artificial Intelligence** או **generative AI** או **GenAI**), לעיתים נקראת בינה מלאכותית גנרטיבית או מחוללת, היא סוג של בינה מלאכותית המסוגלת לייצר תוכן חדש כגון טקסט, תמונות או מדיה אחרת. בינה מלאכותית יוצרת משתמשת במודלים גנרטיביים הלומדים דפוסים ממאגרי נתונים  גדולים ואז יוצרים תוכן חדש על סמך הלמידה הזאת.

ההתקדמות ברשתות נוירונים מלאכותיות ובטכנולוגיית טרנספורמר בתחילת שנות ה-20 של המאה ה-21 איפשרה פיתוח בינה מלאכותית יוצרת מתקדמת יותר, כולל צ'אטבוטים אינטליגנטיים ומערכות ליצירת תמונות מטקסט. מודלים אלו יכולים לקבל הנחיות בשפה טבעית ולייצר תוכן רלוונטי ומקורי.

לבינה המלאכותית היוצרת יישומים במגוון תעשיות, כולל אמנות, כתיבה יוצרת, פיתוח תוכנה, עיצוב, בריאות ועוד. חברות טכנולוגיה גדולות משקיעות בתחום, אך יש גם דאגה מפני שימוש לרעה כגון יצירת תוכן מזויף, חדשות מזויפות ומפני הסכנה שמהווה בינה מלאכותית כללית למין האנושי.

עם פיתוחה ויציאתה לאור של הבינה המלאכותית היוצרת ובייחוד לאחר השקת ChatGPT ב-30 בנובמבר 2022, החלה להיווצר מיומנות חדשה הנוגעת להפעלת הבינה המלאכותית היוצרת בשם "הנדסת פרומפטים".

## היסטוריה
ממוזער|הבובה המלאכותית של מיילרדט
הרעיון של מכונות אוטומטיות וכלים טכנולוגיים בעלי בינה הועלה כבר בעת העתיקה, עם סיפורים על בובות אוטומטיות ומכונות שיצרו מוזיקה ואמנות, וממציאים כמו דדלוס והרון מאלכסנדריה שעליהם סופר שעיצבו מכונות המסוגלות לכתוב טקסט, להפיק צלילים ולהשמיע מוזיקה. וכן טכנולוגיות דומות שהתפתחו לאורך ההיסטוריה, כמו הבובה המכנית של מיילרדט , שנוצרה בתחילת המאה ה-19.

המחקר האקדמי בבינה מלאכותית החל רק בשנות ה-50 של המאה ה-20, עם סדנת דארטמות' ב-1956 בה הוגדר התחום. מאז, חוקרי בינה מלאכותית דנו בשאלות פילוסופיות ואתיות סביב יצירת מכונות אינטליגנטיות יוצרות.

בשנות ה-60 וה-70 התמקד המחקר בעיקר בבינה מלאכותית צרה למטרות ספציפיות. אולם, כבר אז נעשו ניסיונות ראשונים ליצור בינה מלאכותית יוצרת, כמו עבודתו של הרולד כהן עם התוכנה AARON  שיצרה ציורים.

בשנות ה-80 וה-90 חלה התקדמות בתחומי למידת מכונה ורשתות נוירונים, אך רוב המודלים התמקדו בזיהוי תבניות דוגמת סיווג תמונות וזיהוי דיבור ולא ביצירה. רק בשנות ה-2000 המאוחרות, עם התפתחות הלמידה העמוקה, החלו להופיע מודלים גנרטיביים מתקדמים יותר ליצירת תמונות, טקסט, קול ווידאו.

פריצת הדרך הגדולה הגיעה בשנות ה-20 של המאה ה-21. מודלי שפה גדולים כמו BERT ו-GPT אפשרו יצירת טקסט באיכות גבוהה מנתוני אימון גדולים. מודלים ויזואליים כמו DALL-E, Midjourney, Leonardo.AI ו-Stable Diffusion איפשרו יצירת איורים ואמנות מטקסט בלבד. כיום נעשים מאמצים רבים לשפר ולהרחיב יכולות אלו לכדי בינה מלאכותית כללית.

## מודלים
מודלים גנרטיביים הם סוג מתקדם של מודלים מבוססי בינה מלאכותית, שעיקר תכליתם הוא לייצר תוכן חדש לחלוטין הדומה באופן מהימן לנתונים שעליהם אומנו. בניגוד למודלים שמטרתם לזהות או לסווג נתונים קיימים, מודלים גנרטיביים שואפים להבין את המבנה והדפוסים הסמויים בנתוני האימון, ולאחר מכן להשתמש בהבנה זו כדי ליצור דוגמאות מקוריות שמעולם לא ראו.

מודלים אלה מתבססים על טכניקות למידה עמוקה מתקדמות, ובראשן רשתות עצביות מסוג טרנספורמר (Transformer Neural Networks). ארכיטקטורת הטרנספורמר, עם מנגנון ה"קשב העצמי" (Self-Attention) שלה, מאפשרת למודלים לעבד ולהבין קשרים מורכבים במידע סדרתי, כמו טקסט או תמונות, בצורה יעילה במיוחד. זהו המפתח ליכולתם להפיק פלט מקורי באיכות גבוהה במגוון רחב של סוגי תוכן – החל מטקסטים, דרך תמונות, מוזיקה ועד קוד מחשב.

דוגמאות בולטות למודלים גנרטיביים כוללות את משפחת מודלי GPT (Generative Pre-trained Transformer) של OpenAI, הידועים ביכולתם ליצור טקסטים קוהרנטיים ואיכותיים בהתבסס על הנחיות בשפה טבעית. בתחום יצירת התמונות ישנם מודלי דיפיוזיה כמו DALL·E (גם הוא של OpenAI), Stable Diffusion ו-Midjourney שמצטיינים ביצירת תמונות מציאותיות או אמנותיות מתיאורים טקסטואליים.

## התהליך

# **אימון על כמויות עתק של נתונים:** המודלים חשופים למיליארדי דוגמאות של טקסטים, תמונות, קטעי קוד או קטעי מוזיקה.
# **למידת דפוסים וקשרים:** במהלך האימון, המודל לומד לזהות את היחסים הסטטיסטיים והסמנטיים בין המרכיבים השונים בנתונים (לדוגמה, כיצד מילים מתחברות למשפטים, כיצד אובייקטים מופיעים בתמונות).
# **הפקת תוכן חדש:** כאשר המודל מקבל הנחיה (פרומפט), הוא משתמש בהבנה שרכש כדי לייצר תוכן חדש, מקורי ורלוונטי שמתאים להנחיה זו ולדפוסים שלמד. הוא לומד לקשר בין מילים, משפטים ורעיונות באופן שמאפשר לו להמשיך טקסטים, לענות על שאלות, לתרגם שפות ולבצע משימות יצירתיות נוספות.

## סוגי בינה מלאכותית יוצרת
בעוד בינה מלאכותית "רגילה" לומדת לפתור בעיות מוגדרות, בינה מלאכותית יוצרת מסוגלת לייצר תוכן חדש לחלוטין - החל מטקסטים, דרך תמונות ועד מוזיקה ווידאו. היכולת ליצור באופן עצמאי נחשבת לאבן דרך משמעותית בהתקדמות הבינה המלאכותית.

אחת החלוקות העיקריות בבינה מלאכותית יוצרת היא בין מערכות **חד-מודליות**, המקבלות סוג אחד של קלט כמו טקסט או תמונה, לבין מערכות **מולטי-מודליות** שיכולות לקבל יותר מסוג אחד של קלט. לדוגמה, גרסה מתקדמת אחת של המודל GPT-4 שפותחה על ידי חברת OpenAI, מסוגלת לקבל הן קלט טקסטואלי והן קלט חזותי בדמות תמונות. שילוב הקלט מאפשר לה לייצר טקסטים איכותיים ורלוונטיים יותר.

### טקסט
מודלים גנרטיביים רבים מאומנים היום על כמויות אדירות של טקסט בשפה טבעית, כדי לאפשר להם לייצר טקסט חדש ואיכותי באופן עצמאי.

המודלים הבולטים והמתקדמים ביותר כיום בתחום זה כוללים את GPT על שלל גרסאותיו, שפותח על ידי חברת OpenAI, LaMDA וPaLM של חברת גוגל, LLaMA של מטא (פייסבוק לשעבר) ו-Claude של אנתרופיק. מודלים אלה מסוגלים כבר לבצע מגוון רחב של משימות שפתיות ברמה גבוהה, כמו עיבוד שפה טבעית, תרגום אוטומטי בין שפות, כתיבה יוצרת ועוד.

המודלים מאומנים על ערכות נתוני עתק המכילות מיליארדי מילים, כגון ויקיפדיה בשפות שונות, ספרים דיגיטליים, מאמרים אקדמיים וכתבות חדשותיות. כמות הנתונים האדירה מאפשרת למודלים ללמוד את המבנים והדפוסים של שפה אנושית ברמה גבוהה מאי פעם.

ככל שהמודלים הופכים למתוחכמים וגדולים יותר, כך גדלה יכולתם להבין שפה טבעית, לנתח הקשר וכוונה בטקסט, ולייצר תשובות רלוונטיות ואינטליגנטיות. הם אף מסוגלים לשמור על עקביות לאורך טקסט ארוך, ולגלות יצירתיות מסוימת.

עם זאת, עדיין קיימים אתגרים לא מעטים ביכולת של מודלים אלה להבין באמת שפה אנושית ולייצר תוכן שיש לו הבנה משמעותית של העולם. הם עדיין נוטים להסתמך יותר מדי על דפוסים סטטיסטיים ופחות על הבנה עמוקה. כמו כן, הם חסרים ידע בסיסי ו"שכל ישר" שבני אדם רוכשים באופן טבעי.

עם התקדמות המחקר בתחום, מקווים החוקרים כי מודלים גנרטיביים יוכלו בעתיד לרכוש "הבנה ממשית" של שפה ומשמעות, ולא רק יכולת סטטיסטית למפות מילים למילים אחרות. אם יצליחו בכך, הדבר עשוי להוביל לקפיצת מדרגה נוספת ביכולות השיחה והיצירתיות של בינה מלאכותית.

### קוד
בנוסף לעיבוד שפה טבעית, מודלים גנרטיביים מסוגלים גם ללמוד שפות תכנות ולייצר קוד מקור חדש באופן אוטומטי.

הרעיון הוא לאמן את המודלים על קורפוסים עצומים של קוד קיים בשפות תכנות שונות, כגון פייתון, ג'אווה ועוד. באמצעות למידה ממיליוני שורות קוד שנכתבו על ידי מפתחים אנושיים, המודלים לומדים להבין את מבנה השפה, תחבירה והלוגיקה שלה. על בסיס ההבנה הזו, הם מסוגלים לייצר שורות קוד חדשות העונות למפרטים שניתנים להם בשפה טבעית.

אחד המודלים המתקדמים ביותר כיום בתחום זה הוא OpenAI Codex שמסוגל לכתוב קוד ברמה שמתקרבת לאיכות של מפתח אנושי ממוצע, במגוון רחב של שפות ולמטרות שונות.

יכולת זו של מודלים גנרטיביים לכתיבת קוד אוטומטית עשויה לחולל מהפכה ב ולאפשר פיתוח מהיר וזול יותר. עם זאת, עדיין יש אתגרים לא מעטים בכתיבת קוד מורכב יותר,  וכתיבה יעילה ומקורית. כמו כן, קוד שנכתב על ידי בינה מלאכותית עלול להכיל באגים ופרצות אבטחה שקשה לזהות.

לכן צפוי שבעתיד הקרוב מודלים אלה ישמשו בעיקר לסיוע למפתחים אנושיים, ופחות כמחליפים מוחלטים להם. אך הפוטנציאל להאיץ ולשפר תהליכי פיתוח תוכנה בעזרת בינה מלאכותית הוא אדיר.

גישה חדשה ומסקרנת בתחום זה היא **Vibe Coding** - שיטת פיתוח שבה התקשורת עם מודל הבינה המלאכותית אינה מתבצעת בהכרח בצורה טכנית, אלא דרך שפה טבעית, תיאורים מופשטים, או אפילו שיתוף רגשות וכוונות כלליות. במקום לנסח דרישות מדויקות בשפה פורמלית, מפתחים עשויים "לתקשר את הוייב" (התחושה, הרוח הכללית של הפיצ'ר הרצוי), והמודל מייצר את הקוד המתאים על בסיס פרשנות אינטואיטיבית. גישה זו מדגישה את שיתוף הפעולה היצירתי בין אדם למכונה, ועשויה לאפשר לא רק למפתחים מנוסים אלא גם ליוצרים מתחומים אחרים - כמו עיצוב, חינוך או מוזיקה - לתרגם רעיונות לקוד פונקציונלי. עם זאת, מדובר עדיין בשלב ניסיוני, והדיוק והאמינות של הפלט תלויים מאוד במידת ההקשר שמועבר למודל וביכולות ההסקה שלו.

### תמונות

ממוזער|תמונה של כלב יושב מול מחשב ועורך בוויקיפדיה, סטייבל דיפיוזן
[ממוזער|"[תיאטרון אופרת החלל", תמונה שנעשתה באמצעות בינה מלאכותית גנרטיבית]]
אחד היישומים המרשימים והנגישים ביותר כיום של בינה מלאכותית גנרטיבית הוא יצירת אמנות ויזואלית - תמונות, ציורים ואיורים - באופן אוטומטי על פי תיאור מילולי.

מודלים מובילים בתחום זה כוללים את Firefly DALL-E, Stable Diffusion, Leonardo.AI ,Midjourney ו-Imagen של גוגל. מודלים אלה מאומנים על מיליוני תמונות וקשרים בין תמונות לטקסטים כדי ללמוד כיצד לייצר תמונות חדשות התואמות תיאור טקסטואלי נתון. את חלקם, כמו Leonardo.AI למשל, אפשר לאמן על תמונות ספציפיות, למשל תמונות שלכם, כדי לאפשר ליצור תמונות של דמות ספציפית או של תמה גרפית בסגנון מסוים. בעת יצירת תמונה ניתן לקבוע את סגנונה, אם היא תהיה ציור (ובאיזה אמצעים, כגון צבעי מים או צבעי עיפרון), איור, צילום ועוד. ישנם מודלים המאפשרים לבקש סגנון של אמן מסוים.

כך למשל, ניתן ליצור תמונה של כלב העורך ערך בוויקיפדיה על ידי הקלדת בקשה זו במילים. התוצאות מדהימות ברמת הפירוט, היצירתיות וההומור שלהן.

יצירות אלה כבר זיכו יוצרים רבים בפרסים, תערוכות והכרה ציבורית רחבה. הן אף מאפשרות יצירתיות חזותית לאנשים ללא כישורי ציור מסורתיים. עם זאת, הטכנולוגיה עדיין מעוררת דיון ער בסוגיות של זכויות יוצרים, אתיקה והגדרה מחדש של מושג היצירתיות האנושית. ב-22 בינואר 2024 דלפה טיוטת החוק האירופי בדבר הסדרת הרגולציה של בינה מלאכותית אשר אמורה להגיע לאישור הפרלמנט של האיחוד האירופי בקרוב. הפרת הרגולציה עלולה להסתיים בצו לסגירת המיזם ולקנסות אישיים עד ל-35 מיליון יורו.

### מוזיקה
תחום נוסף שבו בינה מלאכותית גנרטיבית מתקדמת בו הוא יצירת מוזיקה. מודלים חדשניים כמו Suno AI או MusicGen של מטא מאומנים הן על דוגמאות קיימות של מוזיקה מוקלטת, והן על מטא-דאטה כמו תמלילי שירים תווים ותיאורים של סגנונות מוזיקליים.

באמצעות למידה מנתונים עצומים אלה, המודלים לומדים לזהות מבנים מוזיקליים כמו מנגינות, אקורדים וקצב. כעת הם מסוגלים לייצר אוטומטית קטעים מוזיקליים קצרים העונים להנחיות טקסטואליות - למשל, "צור מוזיקה קלאסית של פסנתר איטי בסולם מינורי".

הפוטנציאל עצום להנגשת יצירת מוזיקה לאנשים ללא ידע מוזיקלי פורמלי או חסרי יכולת נגינה. עם זאת, נכון לספטמבר 2023 המוזיקה שנוצרת עדיין די בסיסית וחסרה את העומק והרגש שביצירה אנושית.

### וידאו
[ממוזער|[גולדן רטריבר בחליפה יושב על בימה נואם בפני העיתונות של הבית הלבן, Gen2]]
תחום נוסף הוא יצירת סרטוני וידאו סינתטיים באמצעות בינה מלאכותית גנרטיבית.

מודלים פורצי דרך כמו Gen1 ו-Gen2 שפותחו על ידי הסטארטאפ Runway מאפשרים כבר היום יצירת סרטונים קצרים שנראים כאילו צולמו במציאות, אך למעשה סונתזו לחלוטין על ידי האלגוריתמים. מודלים היוצרים וידאו יחד עם אודיו כוללים את Veo של חברת גוגל, Sora של OpenAI ו-LTX Video של חברת לייטריקס.

המודלים מסוגלים למשל להנפיש כלב זהוב עם משקפיים ועניבה, ו"לצלם" אותו נואם לכאורה מול עיתונאים בחדר העיתונות של הבית הלבן - תוך יצירת תנועות שפתיים ריאליסטיות לחלוטין.

טכנולוגיה זו מעוררת דאגה מפני שימוש לרעה והפצת מידע כוזב ומזויף. אך מצד שני היא גם מאפשרת יצירתיות ויזואלית חדשה ומרתקת שלא הייתה אפשרית בעבר.

### כימיה, ביולוגיה מולקולרית ורפואה
הבינה המלאכותית היוצרת משפיעה על תחומים נוספים דוגמת כימיה, ביולוגיה מולקולרית ורפואה.

מאחר שניתן לאמן מודלים על מאגרי מידע עצומים של רצפי DNA וחלבונים, וייצוגים גרפיים של מבנים מולקולריים, באמצעות למידה מנתונים אלה, המודלים לומדים לזהות דפוסים במבנה ובהרכב של מולקולות ולחזות תכונות כימיות וביולוגיות ובכך לסייע לחיזוי מבנה חלבון וגילוי תרופות .

דוגמה למודל פורץ דרך היא קבוצת AlphaFold של דיפמיינד וגוגל, שמסוגלת לחזות בדיוק רב במיוחד את המבנה המרחבי התלת-ממדי של חלבונים שלא נחקרו בעבר.

יכולת זו חוסכת ניסויים יקרים ומאיצה מחקר בתחומי בריאות, תזונה וסביבה. מודלים גנרטיביים אף מסייעים בתכנון תרופות חדשות על ידי חיזוי אינטראקציות מולקולריות.

### רובוטיקה
תחום יישומי הנוגע לבינה מלאכותית גנרטיבית הוא רובוטיקה ואוטומציה.

כבר בשנות ה-90 נעשה שימוש במודלים גנרטיביים פשוטים יחסית לקבלת החלטות ותכנון מסלול ברובוטים אוטונומיים וחלליות.

כיום מאומנים מודלים מתקדמים יותר על בסיס נתונים נרחב של תנועות ופעולות של רובוטים ובני אדם. המודלים לומדים לאתר דפוסים בתנועה וליצור כוריאוגרפיות חדשות עבור הרובוט ומאפשרים בסופו של דבר שליטה קולית בתנועות הזרוע של רובוט - למשל "הרם כוס כחולה" או "נגב שולחן במטלית אדומה".

מודלים מסוג "ראייה-שפה-פעולה" משלבים קלט חזותי עם הוראות קוליות כדי לאפשר ביצוע משימות אוטומטיות בסביבה דינמית.

שילוב של מודלים גנרטיביים ברובוטיקה יכול להוביל ליצירתיות וגמישות רבה יותר בתנועה ואינטראקציה של רובוטים עם הסביבה.

## חומרה ובינה מלאכותית
מודלים גנרטיביים דורשים משאבי חישוב שונים בהתאם לגודל המודל ומורכבותו. מודלים קטנים יחסית דוגמת מודלי שפה עם עד מיליארד פרמטרים יכולים לרוץ על חומרה ביתית רגילה כמו מחשבים שולחניים, לפטופים ואף טלפונים חכמים מתקדמים. מודלים בינוניים עם עשרות מיליארדי פרמטרים דורשים בדרך כלל מאיץ גרפי (GPU) איכותי כדי להגיע למהירויות סבירות.

מודלי שפה גדולים במיוחד כגון GPT-3 ו-GPT-4 עם מאות מיליארדי פרמטרים, פועלים כיום רק במרכזי נתונים גדולים המכילים אלפי כרטיסי גרפיקה ומאיצי חומרה ייעודיים כמו TPU של חברת גוגל. חברות המפתחות מודלים אלו מספקות בדרך כלל גישה לשירות מבוסס מחשוב ענן, במקום מודל שמותקן מקומית.

עם זאת, קיימים מאמצים מתמשכים לאפשר ריצה של מודלים גדולים גם על חומרה צרכנית. שיטות אופטימיזציה כגון דחיסת פרמטרים, קיטום ואימון מחדש (pruning and retuning) מאפשרות לכווץ מודלים גדולים מבלי לפגוע משמעותית בביצועים.

כמו כן, ניתן לפצל מודלים גדולים למקטעים קטנים יותר המבוזרים על מספר התקנים, ולאחד את התוצאות. שיטה זו מכונה federated learning או split learning. יצרניות מעבדי GPU כגון NVIDIA ו-AMD גם משיקות כרטיסי גרפיקה חדשים עם יכולות אופטימיזציה לבינה מלאכותית שמאפשרות מהירות גבוהה יותר בעלות נמוכה יותר.

עם שיפורים באלגוריתמים, אופטימיזציית חומרה ושיטות חישוב מבוזר, ניתן כיום כבר להריץ יישומים מתקדמים של בינה מלאכותית גנרטיבית גם מחוץ לענן, והמגמה הזו צפויה להימשך ולאפשר זמינות רבה יותר של טכנולוגיות אלו.

## חששות ואתגרים

התפתחות הבינה המלאכותית היוצרת מעוררת חששות, דאגות ואתגרים. בתוך כך, חוששים רבים על שוק העבודה המשתנה, יצירת תוכן מזויף ופגיעה בפרטיות.
חששות הועלו מצד גורמי ממשל, עסקים ואנשים פרטיים, וכתוצאה מכך נוצרו גם מחאות, פעולות משפטיות, קריאות להשהות ניסויי בינה מלאכותית ופעולות של ממשלות בנושא. בתדרוך של מועצת הביטחון של האו"ם ביולי 2023, מזכ"ל האו"ם אנטוניו גוטרש הצהיר כי "בינה מלאכותית היא בעלת פוטנציאל עצום לטוב ולרע בקנה מידה גדול, אך שימוש זדוני בה עלול לגרום לרמות נוראות של מוות והרס, טראומה נרחבת ונזק פסיכולוגי עמוק בקנה מידה בלתי נתפס".

### אובדן עבודה
[ממוזער|שביתה של [איגוד התסריטאים האמריקאי|גילדת הסופרים של אמריקה ב-2023]]
עוד מהימים המוקדמים של פיתוח הבינה המלאכותית עלו דאגות בנוגע להשפעתה האפשרית על משרות ותעסוקה. חלוצים בתחום כמו יוצר אלייזה ג'וזף וייצנבאום העלו שאלות לגבי האם באמת יש צורך אמיתי בביצוע משימות על ידי מכונות במקום בני אדם.

בשנים האחרונות, עם התקדמות הבינה המלאכותית היוצרת, חששות אלו הפכו למציאות עבור חלק מהעובדים בתחומים יצירתיים. דוחות הצביעו על אובדן משרות נרחב בקרב מאיירים בתעשיית משחקי הווידאו בסין, לאחר אימוץ כלי יצירת תמונות בינה מלאכותית.

גם בהוליווד התעוררו חששות דומים, עם איומים על שביתה מצד איגודי שחקנים ב-2023. נשיאת איגוד שחקני המסך אף הגדירה את הבינה המלאכותית כ"איום קיומי על מקצועות יצירתיים".

### זיוף עמוק (דיפ-פייק)
דיפ-פייק הם מדיה שנוצרת על ידי בינה מלאכותית הלוקחת אדם בתמונה או וידאו קיימים ומחליפים אותם בדמותו של מישהו אחר באמצעות רשתות עצביות מלאכותיות. השימוש שנעשה בשנת 2023 ויכולות הכלים הקיימים מעלה חששות לשימושם בסרטוני פורנוגרפיה מזויפים של ידוענים, פורנו נקמה, חדשות מזויפות, תרמיות והונאות פיננסיות. דוגמאות שונות עוררו תגובות מהתעשייה ומהממשלה על מנת לזהות ולהגביל את השימוש בטכנולוגיה לצרכים לא אתיים ולא חוקיים מסוג זה.

### פשעי סייבר
היכולת של AI גנרטיבי ליצור תוכן מזויף הנראה כאמיתי לחלוטין שימשה פושעים בסייבר בעיקר בהונאות דיוג (phishing) ובקמפיינים של הנדסה חברתית. באמצעות וידאו ואודיו מזויפים (deepfakes), ניתן לשכנע קורבנות להעביר כספים, לחשוף מידע רגיש, או להוריד תוכנות זדוניות. פושעי סייבר אף יצרו גרסאות מותאמות של מודלי שפה גדולים שמתמקדים במטרות זדוניות – לדוגמה WormGPT ו-FraudGPT – שמאפשרים להם לנסח מיילים משכנעים, לייצר קוד זדוני, ולתחזק תקשורת מפתה עם הקורבן לאורך זמן. השילוב בין יכולות טכניות מתקדמות לבין תחזוקה של נרטיב אמין הפך את הונאות הסייבר למדויקות ומסוכנות מאי פעם.

### שימוש לרעה בעיתונאות
בינואר 2023, Futurism.com פרסמה שבאתר CNET השתמשו בכלי AI פנימי שלא נחשף כדי לכתוב לפחות 77 כתבות; לאחר פרסום החדשות, CNET פרסמה תיקונים ל-41 מהכתבות.

באפריל 2023 פרסם הצהובון הגרמני "Die Aktuelle" ראיון מזויף שנוצר על ידי AI עם נהג המרוצים לשעבר מייקל שומאכר, שלא הופיע בפומבי מאז 2013 לאחר שספג פגיעה מוחית בתאונת סקי. בסוף הכתבה ובמהלכה נאמר כי הראיון אינו אמיתי בהכרח, ואף נרמז שנעשה על ידי בינה מלאכותית. בעקבות הכתבה, העורך הראשי פוטר זמן קצר לאחר מכן.

### תקנות
באיחוד האירופי, הוצע חוק הבינה המלאכותית שכולל דרישות לחשוף חומר המוגן בזכויות יוצרים המשמש לאימון מערכות בינה מלאכותית, ולתייג כל פלט שנוצר בינה מלאכותית ככזה. עוד נקבע כי פעולת אימון האלגוריתם על תכנים טעון אישור של בעלי הזכויות בתכנים למעט אם האימון נעשה לצורכי מחקר.

בארצות הברית, קבוצה של חברות כולל OpenAI, Alphabet ומטא חתמו על הסכם וולונטרי עם הבית הלבן ביולי 2023 ליצור סימן מים של תוכן שנוצר בינה מלאכותית.

## השלכות
### חינוך

כניסת הבינה המלאכותית היוצרת לשימוש נרחב מתבטאת גם בתחום החינוך. כלים אלו פותחים אפשרויות חדשות לשיפור חוויית ההוראה והלמידה, אך מציבים גם אתגרים משמעותיים כיצד לשלב טכנולוגיות מתקדמות בתהליכים חינוכיים בצורה אפקטיבית, אתית ובת-קיימא.

## לקריאה נוספת

* Parmy Olson, **Supremacy: AI, ChatGPT and the race that will change the world**, St. Martin's Press, 2024

## קישורים חיצוניים

* חזרה ללימודים עם בינה מלאכותית ספיישל בתוכנית NEXT עם דרור גלוברמן
* 
* 
* תיבה מתוך דוח בנק ישראל לשנת 2024: ההשפעה הצפויה של בינה מלאכותית יוצרת על העובדים: השלכות על המדיניות בשוק העבודה, באתר בנק ישראל, 26 במרץ 2025

## הערות שוליים

*