DALL-E

DALL-E (מסוגנן כ-DALL·E; הלחם בסיסים של דאלי ושל וול-E) היא תוכנת בינה מלאכותית שיוצרת תמונות מתיאורים טקסטואליים. התוכנה משתמשת בכ-12 מיליארד פרמטרים בגרסה של מודל ה-GPT-3 כדי לפרש קלט טקסטואלי משפה טבעית (כמו "ארנק עור ירוק בצורת מחומש" או "תצוגה איזומטרית של קפיבארה מצויה עצובה") וליצור תמונות בהתאם. היא יכולה ליצור דימויים של חפצים ריאליסטיים ("חלון ויטראז' עם תמונה של תות כחול") וגם של חפצים שאינם קיימים במציאות ("קובייה במרקם של דורבן"). משנות ה-2000 ואילך רשתות עצביות מלאכותיות רבות הצליחו ליצור תמונות מציאותיות. ייחודה של DALL-E בכך שהיא מסוגלת לייצר אותן על בסיס הנחיות בשפה טבעית, שאותן היא מיישמת לרוב ורק לעיתים נדירות נכשלת, וגם זאת לא באופן משמעותי. OpenAI לא פרסמה קוד מקור לאף אחד מהדגמים, אף על פי ש"בקר" של DALL-E זמין באתר האינטרנט של OpenAI, שבו ניתן לראות פלט ממבחר מוגבל של הנחיות לדוגמה. חלופות קוד פתוח, שהוכשרו על כמויות קטנות יותר של נתונים, כמו DALL-E Mini, שוחררו על ידי אחרים. לפי "MIT Technology Review", אחת המטרות של OpenAI הייתה "לתת למודלי שפות תפיסה טובה יותר של המושגים היומיומיים שבני אדם משתמשים בהם כדי להבין דברים". ב-5 בינואר 2021 נחשף DALL-E על ידי OpenAI, חברה אמריקאית למחקר בינה מלאכותית. באפריל 2022, OpenAI הכריזה על DALL-E 2, בטענה שהיא יכולה להפיק תמונות פוטו-ריאליסטיות מתיאורים טקסטואליים, יחד עם עורך המאפשר שינויים פשוטים בפלט. נכון לזמן ההכרזה, נאמר שהתוכנה עדיין נמצאת בשלב המחקר, כשהגישה מוגבלת למשתמשי בטא שנבחרו מראש. המודל עדיין יכול לעשות טעויות חמורות, כולל טעויות שאף אדם לא יעשה. DALL-E 2 תואר כדגם ש"יכול ליצור תמונות ואמנות מקוריות וריאליסטיות מתיאור טקסט. היא יכולה לשלב מושגים, תכונות וסגנונות." בספטמבר 2023, OpenAI השיקה את DALL·E 3 עם יכולות הבנה והפקת תוצרים גבוהים יותר ובאוקטובר הוא הוטמע בצורה אינטגרלית בתוך ChatGPT. הצ׳אטבוט יכול כעת ליצור תמונות ייחודיות משיחה פשוטה - והתכונה החדשה הזו זמינה בשלב זה למשתמשי Plus ו-Enterprise. מיקרוסופט הטמיעה את המודל בכלי Image Creator של Bing ובכלים נוספים כגון Copilot. באפריל 2024 נוספה אפשרות לעריכה באמצעות טקסט וסימון אזור בתמונה שנוצרה על ידי DALL•E בתוך ממשק ChatGPT. DALL-E פותח והוכרז לציבור בשיתוף עם CLIP (הדרכה מקדימה של שפה-תמונה נגדית). CLIP הוא מודל נפרד שתפקידו "להבין ולדרג" את התפוקה של DALL-E. התמונות ש-DALL-E מייצר נשמרות ומדורגות על ידי CLIP, שמציגה את התמונות האיכותיות ביותר עבור כל הנחיה נתונה. המודל Generative Pre-trained Transformer ‏ (GPT) פותח לראשונה על ידי OpenAI בשנת 2018, תוך שימוש בארכיטקטורת Transformer. האיטרציה הראשונה, GPT, הוגדלה כדי לייצר את GPT-2 ב-2019; בשנת 2020 הוא הוגדל שוב לייצור GPT-3, עם 175 מיליארד פרמטרים. המודל של DALL-E הוא מימוש מולטי-מודאלי של PT-3 עם 12 מיליארד פרמטרים אשר "מחליף טקסט לפיקסלים", מאומן על צמדי טקסט-תמונה מהאינטרנט. הוא משתמש בלמידת אפס-שוט (zero-shot learning) כדי ליצור פלט מתיאור ורמז ללא הכשרה נוספת. DALL-E יוצר מספר תמונות בתגובה להנחיות. מודל CLIP שהוכשרו בו למעלה מ-400 מיליון זוגות של תמונות וטקסטים מבין ומדרג תמונות אלו. במקום מערך נתונים של תמונות עם כותרת (כמו ImageNet) CLIP משייך תמונות לכיתובים שלמים. CLIP הוכשר לחזות איזה כיתוב (מתוך "בחירה אקראית" של 32,768 כיתובים אפשריים) היה המתאים ביותר לתמונה, מה שמאפשר לה לזהות לאחר מכן אובייקטים בתמונות מחוץ לסט האימונים שלה. DALL-E מסוגלת ליצור דימויים במגוון סגנונות, מתמונות פוטוריאליסטיות ועד לציורים ואמוג'י. היא מסוגלת לבצע מניפולציות ולסדר מחדש אובייקטים בתמונות. אחת היכולות שצוינו על ידי יוצריה הייתה המיקום הנכון של אלמנטים עיצוביים ללא הוראה מפורשת: לדוגמה, כאשר מתבקש לצייר צנון-דייקון מקנח את אפו, לוגם לאטה או רוכב על חד אופן, DALL·E מצייר לעיתים קרובות את המטפחת, הידיים והרגליים במקומות סבירים. בעוד ש-DALL-E הציג מגוון רחב של מיומנויות ויכולות, עם הוצאתה של ההדגמה הציבורית שלו, רוב הסיקור התמקד בתת-קבוצה קטנה של תמונות פלט "סוריאליסטיות" או "מוזרות". באופן ספציפי, הפלט של DALL-E עבור "איור של צנון דייקון תינוק בחצאית טוטו מטייל עם כלב" הוזכר ב-Nature, ‏NBC ופרסומים אחרים. הפלט שלו ל"כורסה בצורת אבוקדו" צוין באופן דומה. לעומת זאת, נצפה פיתוח לא מכוון של DALL-E של מיומנויות חשיבה חזותית המספיקות לפתור את המטריצות של רייבן (Raven's Progressive Matrices), מבחנים חזותיים המבוצעים לעיתים קרובות לבני אדם כדי למדוד אינטליגנציה. למרות זאת, DALL-E תואר כ"חזק להפליא לשינויים כאלה" ואמין בהפקת תמונות עבור מגוון רחב של תיאורים שרירותיים. סם שד,מ-CNBC, כינה את התמונות שלו "מוזרות" וציטט את ניל לורנס, פרופסור ללמידת מכונה באוניברסיטת קיימברידג', שתיאר זאת כ"הדגמה מעוררת השראה של היכולת של מודלים אלה לאחסן מידע על העולם שלנו ולעשות הכללות בדרכים שעבור בני אדם הן טבעיות מאוד". שד גם ציטט את מארק רידל, פרופסור חבר בבית הספר למחשוב אינטראקטיבי של ג'ורג'יה טק, שאמר שתוצאות ההדגמה של DALL-E הראו שהיא מסוגל "למזג מושגים באופן קוהרנטי", מרכיב מפתח ביצירתיות אנושית, וכי התוכנה מדגימה באופן יוצא דופן הפקת איורים שהם הרבה יותר קוהרנטיים ממערכות Text2Image אחרות מהשנים האחרונות. רידל גם צוטט על ידי ה-BBC שהוא "התרשם ממה שהמערכת יכולה לעשות". צוינה לטובה גם היכולת של DALL-E "להשלים את החסר" ולהסיק מפרטים . ExtremeTech ציין כי הנחיה לצייר פינגווין שלובש סוודר חג המולד יצרה לא רק תמונות של פינגווינים לובשים סוודרים, אלא גם כובעי סנטה הקשורים לנושא, ו-Engadget ציין כי צללים ממוקמים כראוי הופיעו בפלט עבור ההנחיה "ציור של שועל יושב בשדה בחורף". יתר על כן, DALL-E מציג הבנה רחבה של מגמות חזותיות ועיצוביות; ExtremeTech אמר כי "אתה יכול לבקש מ-DALL-E תמונה של טלפון או שואב אבק מתקופת זמן מוגדרת, והוא מבין איך החפצים האלה השתנו". Engadget גם ציין את יכולתה יוצאת הדופן "להבין כיצד טלפונים וחפצים אחרים משתנים עם הזמן". DALL-E תואר, יחד עם "AI צר" אחר כמו AlphaGo, AlphaFold ו-GPT-3 כיוצר עניין בשאלה האם וכיצד ניתן להשיג בינה כללית מלאכותית. DALL-E 2 הצליח לייצר תמונה מציאותית על פי ההנחיה "כלב שיבה אינו עם כומתה וצווארון גולף". מדיה וקבצים בנושא DALL-E בוויקישיתוף אתר האינטרנט הרשמי של DALL-E DALL-E, ברשת החברתית אינסטגרם ביקורות נועה ליברמן-פלשקס, איך למדתי להפסיק לדאוג והתחלתי לאהוב את ה-AI שרוצה לקחת לי את הג'וב, באתר הארץ, 24 במאי 2022 עפרי אילני, האלגוריתם הזה מסוגל ליצור אמנות שומטת־לסת, אבל יש לו חיסרון משמעותי, באתר הארץ, 25 במאי 2022. דרור גלוברמן ודני פלד, ‏אחרי התמונות ששיגעו את העולם: האם יש לנו מה לחשוש מבינה מלאכותית?, באתר ‏מאקו‏, 27 במאי 2022 אופיר חובב, סוף האמנות? שער "קוסמופוליטן" עוצב בבינה מלאכותית ב–20 שניות, באתר הארץ, 25 ביוני 2022 טל סוקולוב, "נקמת האמנים" נגד בינה מלאכותית, באתר של מכון דוידסון לחינוך מדעי, 16 במרץ 2024 Coldewey, Devin (5 בינואר 2021). "OpenAI's DALL-E creates plausible images of literally anything you ask it to". ארכיון מ-6 בינואר 2021. נבדק ב-5 בינואר 2021. {{cite web}}: (עזרה) Johnson, Khari (5 בינואר 2021). "OpenAI debuts DALL-E for generating images from text". VentureBeat. ארכיון מ-5 בינואר 2021. נבדק ב-5 בינואר 2021. {{cite web}}: (עזרה) Grossman, Gary (16 בינואר 2021). "OpenAI's text-to-image engine, DALL-E, is a powerful visual idea generator". VentureBeat. ארכיון מ-26 בפברואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Andrei, Mihai (8 בינואר 2021). "This AI module can create stunning images out of any text input". ZME Science. ארכיון מ-29 בינואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Walsh, Bryan (5 בינואר 2021). "A new AI model draws images from text". Axios. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Dayma, Boris; Patil, Suraj; Cuenca, Pedro; Saifullah, Khalid; Abraham, Tanishq; Lê Khắc, Phúc; Melas, Luke; Ghosh, Ritobrata (2021), DALL·E Mini, doi:10.5281/zenodo.5146400, נבדק ב-2021-11-29 Heaven, Will Douglas (5 בינואר 2021). "This avocado armchair could be the future of AI". MIT Technology Review. נבדק ב-5 בינואר 2021. {{cite web}}: (עזרה) KAHN, JEREMY (6 באפריל 2022). "Move over Photoshop: OpenAI has just revolutionized digital image making". Fortune (באנגלית). נבדק ב-2022-04-10. {{cite web}}: (עזרה) "DALL·E 2". OpenAI (באנגלית). נבדק ב-6 באפריל 2022. {{cite web}}: (עזרה) Carl Franzen, OpenAI brings DALL-E 3 image generator to ChatGPT for Enterprise, teases classifier, VentureBeat, ‏2023-10-19 (באנגלית אמריקאית) Allison Johnson, DALL-E now lets you edit images in ChatGPT, The Verge, ‏3 באפריל 2024 Radford, Alec; Narasimhan, Karthik; Salimans, Tim; Sutskever, Ilya (11 ביוני 2018). "Improving Language Understanding by Generative Pre-Training" (PDF). OpenAI. p. 12. ארכיון (PDF) מ-26 בינואר 2021. נבדק ב-23 בינואר 2021. {{cite web}}: (עזרה) Radford, Alec; Wu, Jeffrey; Child, Rewon; Luan, David; Amodei, Dario; Sutskever, Ilua (14 בפברואר 2019). "Language models are unsupervised multitask learners" (PDF). 1 (8). ארכיון (PDF) מ-6 בפברואר 2021. נבדק ב-19 בדצמבר 2020. {{cite journal}}: (עזרה); Cite journal requires |journal= (עזרה) Dent, Steve (6 בינואר 2021). "OpenAI's DALL-E app generates images from just a description". Engadget. ארכיון מ-27 בינואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) "For Its Latest Trick, OpenAI's GPT-3 Generates Images From Text Captions". Synced. 5 בינואר 2021. ארכיון מ-6 בינואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Dunn, Thom (10 בפברואר 2021). "This AI neural network transforms text captions into art, like a jellyfish Pikachu". BoingBoing. ארכיון מ-22 בפברואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Shead, Sam (8 בינואר 2021). "Why everyone is talking about an image generator released by an Elon Musk-backed A.I. lab". CNBC. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Ehrenkranz, Melanie (27 בינואר 2021). "Here's DALL-E: An algorithm learned to draw anything you tell it". NBC News. ארכיון מ-20 בפברואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Stove, Emma (5 בפברואר 2021). "Tardigrade circus and a tree of life — January's best science images". Nature. ארכיון מ-8 במרץ 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Knight, Will (26 בינואר 2021). "This AI Could Go From 'Art' to Steering a Self-Driving Car". Wired. ארכיון מ-21 בפברואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Metz, Rachel (2 בפברואר 2021). "A radish in a tutu walking a dog? This AI can draw it really well". CNN. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Wakefield, Jane (6 בינואר 2021). "AI draws dog-walking baby radish in a tutu". British Broadcasting Corporation. ארכיון מ-2 במרץ 2021. נבדק ב-3 במרץ 2021. {{cite web}}: (עזרה) Markowitz, Dale (10 בינואר 2021). "Here's how OpenAI's magical DALL-E image generator works". TheNextWeb. ארכיון מ-23 בפברואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Whitwam, Ryan (6 בינואר 2021). "OpenAI's 'DALL-E' Generates Images From Text Descriptions". ExtremeTech. ארכיון מ-28 בינואר 2021. נבדק ב-2 במרץ 2021. {{cite web}}: (עזרה) Nichele, Stefano (2021). "Tim Taylor and Alan Dorin: Rise of the self-replicators—early visions of machines, AI and robots that can reproduce and evolve". Genetic Programming and Evolvable Machines. 22: 141–145. doi:10.1007/s10710-021-09398-5.