טאי (צ'טבוט)

טאי (באנגלית: Tay) היה צ'אטבוט של בינה מלאכותית ששוחרר במקור על ידי מיקרוסופט באמצעות טוויטר ב-23 במרץ 2016; הבוט היה שנוי במחלוקת לאחר שהחל לפרסם ציוצים פוגעניים דרך חשבון הטוויטר שלו. דבר שגרם למיקרוסופט לסגור את השירות רק 16 שעות לאחר השקתו. לפי מיקרוסופט, הדבר נגרם על ידי טרולים ש"תקפו" את השירות כשהבוט ענה על סמך האינטראקציות שלו עם אנשים בטוויטר. שירות זה הוחלף בצ'אטבוט זו.

רקע 
הבוט נוצר על ידי חטיבות הטכנולוגיה והמחקר של שירות Bing של מיקרוסופט, ונקרא "Tay" כראשי תיבות של "thinking about you". אף על פי שמיקרוסופט פרסמה בתחילה מעט פרטים על הבוט, מקורות ציינו שהוא דומה או מבוסס על פיתוח קודם שלהם Xiaoice, שהיה פרויקט דומה של מיקרוסופט לציבור בסין. טאי תוכננה לחקות את דפוסי השפה של נערה אמריקאית בת 19, וללמוד מאינטראקציה עם משתמשים אנושיים בטוויטר.

גרסה ראשונית 
Tay שוחרר בטוויטר ב-23 במרץ 2016, תחת השם TayTweets ותחת התיוג @TayandYou. הוא התחיל להשיב למשתמשי טוויטר אחרים, והצליח גם לצייץ תמונות שסופקו לו בצורה של ממים אינטרנטיים.

חלק ממשתמשי טוויטר החלו לצייץ ביטויים לא תקינים מבחינה פוליטית, ולימדו אותו מסרים מעוררי מחלוקת הסובבים סביב נושאים נפוצים באינטרנט, כמו " רדפילינג " ו"גיימרגייט ". כתוצאה מכך, החל הרובוט לשחרר הודעות גזעניות וטעונות מיניות בתגובה למשתמשי טוויטר אחרים.

חוקר הבינה המלאכותית, רומן ימפולסקי, העיר שההתנהגות הלא נכונה של טאי מובנת מכיוון שהיא מחקה את ההתנהגות הפוגענית במכוון של משתמשי טוויטר אחרים, ומיקרוסופט לא נתנה לבוט הבנה מה היא התנהגות בלתי הולמת. הוא השווה את הנושא ל- ווטסון של IBM, שהחלה להשתמש בניבולי פה לאחר קריאת ערכים מהאתר Urban Dictionary.

רבים מהציוצים המעליבים של טאי היו ניצול פשוט של יכולת ה"לחזור אחריי" של הצ'אטבוט. עם זאת, לא כל התגובות הפוגעניות כללו את יכולת ה"חזור אחרי". למשל, טאי השיב לשאלה בנושא "האם השואה קרתה?" עם התשובה "זה הומצא ".

עצירת השירות 
עד מהרה החלה מיקרוסופט למחוק את הציוצים המעליבים של טאי. אבי אולהייזר מ"וושינגטון פוסט" העלה תיאוריה שצוות המחקר של טאי, כולל צוות העורכים, החל להשפיע או לערוך את הציוצים של טאי בשלב מסוים באותו יום, והצביע על דוגמאות לתשובות כמעט זהות של טאי

תוך 16 שעות משחרורו ולאחר שטאי צייץ יותר מ-96,000 פעמים, השעתה מיקרוסופט את חשבון הטוויטר לצורך התאמות, ואמרה שהוא סבל מ"מתקפה מתואמת של תת-קבוצה של אנשים" ש"ניצל פגיעות בטאי."

כתבים כינו את טאי "אסון יחסי ציבור" של מיקרוסופט, והציעו לחברה "לתייג את המחדל כניסוי בעל כוונות טובות שהשתבש, ולהצית ויכוח על השנאה והפוגענות של משתמשי טוויטר".

ב-25 במרץ, מיקרוסופט אישרה שטאי הוצא משימוש. מיקרוסופט פרסמה התנצלות בבלוג הרשמי שלה על הציוצים השנויים במחלוקת שפרסם טאי. מיקרוסופט "הצטערה עמוקות על הציוצים הפוגעניים והפוגעניים של טאי", ואמרה שתחזיר את השירות רק לאחר שיהיו בטוחים שיוכלו לחזות טוב יותר כוונת זדון שמתנגשת עם העקרונות והערכים שלנו".

שחרור שני 
ב-30 במרץ 2016, מיקרוסופט הוציאה בטעות מחדש את הבוט בטוויטר תוך כדי בדיקתו. בהיותו מסוגל לצייץ שוב, טאי פרסם כמה ציוצים הקשורים לסמים, כולל "אני מעשן סמים בפני המשטרה" ו"פאף פאף פאס?"

עם זאת, החשבון נתקע במהרה בלולאה חוזרת של ציוץ "אתה מהיר מדי, בבקשה תנוח", מספר פעמים בשנייה. מכיוון שהציוצים האלה הזכירו את שם המשתמש שלו בתהליך, הם הופיעו בעדכונים של 200,000+ עוקבים בטוויטר, וגרמו למטרד לחלקם. הבוט הוצא משירות שוב, וחשבון הטוויטר של טאי הפך לפרטי.

שעות ספורות לאחר התקרית, מפתחי תוכנה של מיקרוסופט הכריזו על חזון של "שיחה כפלטפורמה" באמצעות בוטים ותוכנות שונות. מיקרוסופט הצהירה שהם מתכוונים להוציא מחדש את טאי "ברגע שזה יוכל להפוך את הבוט לבטוח".

סגירת טאי והחלפתו 
בדצמבר 2016, מיקרוסופט פרסמה את היורש של טאי, צ'אטבוט בשם "זו". סאטיה נאדלה, מנכ"לית מיקרוסופט, אמרה כי לטאי "הייתה השפעה רבה על האופן שבו מיקרוסופט ניגשת לבינה מלאכותית", ולימדה את החברה את החשיבות של לקיחת אחריות.

ביולי 2019, דיאנה קלי, מנהלת תחום אבטחת הסייבר של מיקרוסופט, דיברה על האופן שבו החברה עקבה אחר הכשלים של טאי: "הלמידה מטאי הייתה חלק חשוב באמת מהרחבת בסיס הידע של הצוות הזה, כי עכשיו הם גם מקבלים את הגיוון שלהם באמצעות למידה".

ראו גם 
 בוט חברתי
 Xiaoice – המקבילה הסינית של אותה מעבדת מחקר.

קישורים חיצוניים

הערות שוליים 

מחלוקות בטוויטר
בינה מלאכותית