הסתברות לאבדון

P(doom) (קיצור של Probability of doom, "הסתברות לאבדון") הוא מונח בתחום בטיחות הבינה המלאכותית המתייחס להסתברות לתוצאות קטסטרופליות קיומיות (או "אבדון") כתוצאה מבינה מלאכותית . התוצאות המדויקות הנדונות משתנות מתחזית אחת לאחרת, אך באופן כללי הן מרמזות על הסיכון הקיומי מבינה מלאכותית כללית

המונח, שמקורו בבדיחה פנימית בקרב חוקרי בינה מלאכותית, זכה לבולטות בשנת 2023 לאחר השקת GPT-4, כאשר דמויות בעלות פרופיל גבוה כמו ג'פרי הינטון ויושוע בנג'יו החלו להזהיר מפני הסיכונים של בינה מלאכותית בסקר משנת 2023, חוקרי בינה מלאכותית התבקשו להעריך את ההסתברות שהתקדמויות עתידיות בבינה מלאכותית עלולות להוביל להכחדת האנושות או לפגיעה חמורה ודומה באופן קבוע במהלך 100 השנים הקרובות. הערך הממוצע מהתשובות היה 14.4%, עם ערך חציוני של 5% Citing:

 תחזיות אישיות של דמויות בולטות 
דמויות בולטות בתעשיית הטכנולוגיה ובחקר הבינה המלאכותית הציגו תחזיות שונות לגבי P(doom). אליעזר יודקובסקי, מייסד מכון המחקר למודיעין מכונות, הציג את התחזית הפסימית ביותר עם הערכה של מעל 95% לאבדון. ג'פרי הינטון, החתן פרס נובל לפיזיקה 2024 והמכונה "אבי הבינה המלאכותית", העריך את ההסתברות במעל 50%. יושוע בנג'יו, המדען הממוחשב וחתן פרס נובל, העריך את ההסתברות ב-50%. מנגד, דמויות אחרות כמו יאן לקון, המדען הראשי לבינה מלאכותית במטא, העריך את ההסתברות בפחות מ-0.01%, ואילו מארק אנדרסן, איש העסקים האמריקני, העריך אותה ב-0%. בין השניים נמצאים אילון מאסק (10-30%), שיין לג מגוגל דיפמיינד (5-50%), ודריו אמודיי מאנתרופיק (10-25%).

 ביקורת 
התעוררה מחלוקת מסוימת לגבי התועלת של P(doom) כמונח, בין השאר בשל חוסר הבהירות לגבי האם תחזית נתונה מותנית בקיומה של בינה מלאכותית כללית, המסגרת הזמנית, והמשמעות המדויקת של "אבדון".

 בתרבות הפופולרית 
 בשנת 2024, להקת הרוק האוסטרלית King Gizzard &amp; the Lizard Wizard השיקה את הלייבל החדש שלה, p(doom) Records.

 ראו גם
 סיכון קיומי מבינה מלאכותית כללית
 הצהרה על סכנת הכחדה של בינה מלאכותית
 יישור בינה מלאכותית
 השתלטות על בינה מלאכותית
 בטיחות בינה מלאכותית

הערות שוליים

קטגוריה:בינה מלאכותית
קטגוריה:בינה מלאכותית יוצרת
קטגוריה:אבטחת מחשבים