הבסיליסק של רוקו

הבסיליסק של רוקו הוא ניסוי מחשבתי שהוצג לראשונה בפורום הקרוי LessWrong על ידי משתמש הנושא את השם "רוקו". מקור השם בחיה המיתולוגית בסיליסק, אשר על-פי המסופר יכולה לאבן את אלו המתבוננים בעיניה. שם זה נובע מן הרעיון שעצם השמיעה על ניסוי מחשבתי זה יכולה לגרום לחרדה קיומית אצל השומע.

 תיאור 
על פי הניסוי המחשבתי, בעתיד הנראה לעין תוכל האנושות לייצר בינה מלאכותית אשר מטרתה להיטיב עם המין האנושי. לאחר הרצת מספר סימולציות מגיעה מערכת זו להחלטה כי עליה להשמיד את כל מי שלא תרם להיווצרה. המערכת, אשר מסוגלת לדמות את ההיסטוריה האנושית כולה באופן מושלם, יכולה לדעת באופן ודאי מי עשה זאת ומי לא. על פי הטיעון, מרגע שאדם קרא או שמע על ניסוי מחשבתי זה, עליו לפעול על-מנת ליצור את מערכת הבינה המלאכותית הזו, שכן אם לא יעשה כן, היא עלולה לגרום להשמדתו אם תיווצר. מצד שני, מאחר שמערכת זו טרם נוצרה ואינה יכולה בוודאות להיווצר, יצירתה מתוך פחד מזעמה העתידי נובע מקיומה של ישות אשר איננה קיימת במציאות העכשווית.

 רקע 
"הבסיליסק של רוקו" פורסם לראשונה ביולי 2010 בפורום LessWrong, אשר עוסק בפילוסופיה והגות. יוצר הפורום, אליעזר יודקובסקי, מחק את הפוסטים של רוקו בנושא ואמר כי פרסום זה "טיפשי" ו"מסוכן". הדיון בנושא הבסיליסק של רוקו נאסר בפורום במשך מספר שנים מכיוון שלפי הדיווחים, הנושא גרם לחלק מהקוראים התמוטטות עצבים. האיסור הוסר באוקטובר 2015.

דוד אורבך כתב במגזין Slate: "השילוב של שאיפות משיחיות, שכנוע עצמי של חוסר אונים, והרבה כסף אף פעם לא עובד טוב, בלי קשר לאידאולוגיה, ואני לא מצפה מיודקובסקי וחבר מרעיו להיות חריגים בעניין זה. אני דואג פחות לבסיליסק של רוקו מאשר לאנשים שמאמינים שהם התעלו על המוסר המקובל."

רמיזות לבסיליסק של רוקו בתרבות הפופולרית כוללות את פעולותיה של הדמות גילפויל בעונה 5, פרק 5 של סדרת הטלוויזיה "עמק הסיליקון", הסדרה "גרימס", העלילה של "מגנוס: רובוט לוחם #8" אשר נכתבה על ידי פרד ואן לנטה, וחוברות קומיקס אינטרנטיות שונות כגון xkcd, ניסוי AI-Box וקצין המשטרה רוקו בסיליסק ב"אתרים מפוקפקים".

 הקבלה לניסויים מחשבתיים אחרים 
ניסוי מחשבתי זה מזכיר במקצתו את ההימור של פסקל. פסקל טען כי האמונה באלוהים היא הפעולה הרציונלית ביותר, כי להחלטה להאמין עשויה להיות תועלת אינסופית, ואילו להחלטה לא להאמין עלול להיות הפסד אינסופי. הבסיליסק של רוקו מוביל לתוצאה הפוכה: האמונה בקיומו של הבסיליסק מובילה להשקעת שארית חיי המאמינים ביצירת ישות זדונית שאינה מיטיבה עם חייהם.

 קישורים חיצוניים 


 הערות שוליים 

קטגוריה:ניסויים מחשבתיים