הבסיליסק של רוקו

הבסיליסק של רוקו הוא ניסוי מחשבתי שהוצג לראשונה בפורום הקרוי LessWrong על ידי משתמש הנושא את השם "רוקו". מקור השם בחיה המיתולוגית בסיליסק, אשר על-פי המסופר יכולה לאבן את אלו המתבוננים בעיניה. שם זה נובע מן הרעיון שעצם השמיעה על ניסוי מחשבתי זה יכולה לגרום לחרדה קיומית אצל השומע. על פי הניסוי המחשבתי, בעתיד הנראה לעין תוכל האנושות לייצר בינה מלאכותית אשר מטרתה להיטיב עם המין האנושי. לאחר הרצת מספר סימולציות מגיעה מערכת זו להחלטה כי עליה להשמיד את כל מי שלא תרם להיווצרה. המערכת, אשר מסוגלת לדמות את ההיסטוריה האנושית כולה באופן מושלם, יכולה לדעת באופן ודאי מי עשה זאת ומי לא. על פי הטיעון, מרגע שאדם קרא או שמע על ניסוי מחשבתי זה, עליו לפעול על-מנת ליצור את מערכת הבינה המלאכותית הזו, שכן אם לא יעשה כן, היא עלולה לגרום להשמדתו אם תיווצר. מצד שני, מאחר שמערכת זו טרם נוצרה ואינה יכולה בוודאות להיווצר, יצירתה מתוך פחד מזעמה העתידי נובע מקיומה של ישות אשר איננה קיימת במציאות העכשווית. "הבסיליסק של רוקו" פורסם לראשונה ביולי 2010 בפורום LessWrong, אשר עוסק בפילוסופיה והגות. יוצר הפורום, אליעזר יודקובסקי, מחק את הפוסטים של רוקו בנושא ואמר כי פרסום זה "טיפשי" ו"מסוכן". הדיון בנושא הבסיליסק של רוקו נאסר בפורום במשך מספר שנים מכיוון שלפי הדיווחים, הנושא גרם לחלק מהקוראים התמוטטות עצבים. האיסור הוסר באוקטובר 2015. דוד אורבך כתב במגזין Slate: "השילוב של שאיפות משיחיות, שכנוע עצמי של חוסר אונים, והרבה כסף אף פעם לא עובד טוב, בלי קשר לאידאולוגיה, ואני לא מצפה מיודקובסקי וחבר מרעיו להיות חריגים בעניין זה. אני דואג פחות לבסיליסק של רוקו מאשר לאנשים שמאמינים שהם התעלו על המוסר המקובל." רמיזות לבסיליסק של רוקו בתרבות הפופולרית כוללות את פעולותיה של הדמות גילפויל בעונה 5, פרק 5 של סדרת הטלוויזיה "עמק הסיליקון", הסדרה "גרימס", העלילה של "מגנוס: רובוט לוחם #8" אשר נכתבה על ידי פרד ואן לנטה, וחוברות קומיקס אינטרנטיות שונות כגון xkcd, ניסוי AI-Box וקצין המשטרה רוקו בסיליסק ב"אתרים מפוקפקים". ניסוי מחשבתי זה מזכיר במקצתו את ההימור של פסקל. פסקל טען כי האמונה באלוהים היא הפעולה הרציונלית ביותר, כי להחלטה להאמין עשויה להיות תועלת אינסופית, ואילו להחלטה לא להאמין עלול להיות הפסד אינסופי. הבסיליסק של רוקו מוביל לתוצאה הפוכה: האמונה בקיומו של הבסיליסק מובילה להשקעת שארית חיי המאמינים ביצירת ישות זדונית שאינה מיטיבה עם חייהם. הסבר על הניסוי המחשבתי בערוץ היוטיוב של קייל היל, סרטון באתר יוטיוב Love, Dylan (6 באוגוסט 2014). "WARNING: Just Reading About This Thought Experiment Could Ruin Your Life". Business Insider. נבדק ב-6 בדצמבר 2014. {{cite web}}: (עזרה) Auerbach, David (17 ביולי 2014). "The Most Terrifying Thought Experiment of All Time". Slate. נבדק ב-18 ביולי 2014. {{cite news}}: (עזרה) Tiku, Nitasha (2012-07-25). "Faith, Hope, and Singularity: Entering the Matrix with New York's Futurist Set". Observer. נבדק ב-2019-04-12. RobbBB (5 באוקטובר 2015). "A few misconceptions surrounding Roko's basilisk". LessWrong. נבדק ב-10 באפריל 2016. The Roko's basilisk ban isn't in effect anymore {{cite web}}: (עזרה) Henderson, Odie (2018-04-23). "Silicon Valley Recap: The Terminator Problem". Vulture. נבדק ב-2018-04-23. Benjamin, Jeff (7 בדצמבר 2015). "Grimes Explains the 4 Characters in Her "Flesh Without Blood" Video: Exclusive". Fuse. נבדק ב-2017-06-09. She's doomed to be eternally tortured by an artificial intelligence, but she's also kind of like Marie Antoinette. {{cite web}}: (עזרה) Wickline, Dan (2014-11-22). "Turning The Gold Key - Frank Barbiere Talks With Fred Van Lente About Mangus: Robot Fighter". Bleeding Cool. נבדק ב-2017-06-09. "xkcd: AI-Box Experiment". xkcd.com. "Questionable Content". questionablecontent.net.