**סכנה קיומית מבינה מלאכותית כללית** היא המחשבה שהתקדמות ניכרת בבינה מלאכותית כללית (AGI) עלולה לגרום להכחדה של בני האדם או לאסון עולמי אחר.

אסכולת הסיכון הקיומי ("x-risk") טוענת שהמין האנושי שולט כיום במינים אחרים בזכות העובדה שלמוח האדם יש יכולות ייחודיות שאין אצל בעלי חיים אחרים. ולכן, אם הבינה המלאכותית תהפוך ליותר אינטליגנטית מבני האדם, זה עלול להפוך לקשה עד בלתי אפשרי עבור בני אדם לשלוט בה. כשם שגורלה של גורילת ההרים תלוי ברצון הטוב האנושי, כך עשוי גורלה של האנושות להיות תלוי בפעולות של אינטליגנציית-על עתידית.

ההסתברות של תרחיש מסוג זה נתונה לוויכוח נרחב, והיא תלויה בחלקה בתרחישים שונים להתקדמות עתידית במדעי המחשב. דאגות לגבי אינטליגנציית-על הושמעו על ידי מדעני מחשבים ומנכ"לים טכנולוגיים מובילים דוגמת ג'פרי הינטון, יהושע בנג'יו, אלן טיורינג, אילון מאסק, ואף מנכ"ל OpenAI, סם אלטמן.

בשנת 2022, סקר שנערך בקרב חוקרי בינה מלאכותית מצא שחלק גדול מהחוקרים מאמינים שיש סיכוי של 10 אחוזים או יותר שחוסר היכולת שלנו לשלוט בבינה מלאכותית יגרום לאסון קיומי.

שני מקורות לדאגה הם הבעיות של שליטה בבינה המלאכותית והיושרה שלה (הערכים על בסיסם היא עובדת).

חוקרים רבים מאמינים כי אינטליגנציית-על תתנגד לניסיונות לכבות אותה או לשנות את מטרותיה (כיוון שאירוע כזה ימנע ממנה להשיג את מטרותיה הנוכחיות) וכי יהיה קשה מאוד ליישר את אינטליגנציית העל עם מלוא ערכי האנושות. לעומת זאת, ישנם מדענים שהטילו בכך ספק כמו מדען המחשב יאן לקון שטוען שלמכונות סופר אינטליגנטיות לא יהיה רצון לשימור עצמי.

מקור שלישי לדאגה הוא ש"סינגולריות טכנולוגית" פתאומית עלולה להפתיע את הגזע האנושי.

לשם המחשה, אם הדור הראשון של תוכנת מחשב שמסוגלת להתאים באופן נרחב את האפקטיביות של חוקר בינה מלאכותית יכול לשכתב את האלגוריתמים שלו ולהכפיל את המהירות או היכולות שלו בתוך שישה חודשים, אזי פיתוח תוכנת הדור השני צפויה להימשך שלושה חודשים. בתרחיש זה הזמן של כל דור ממשיך להצטמצם, והמערכת עוברת מספר חסר תקדים של דורות של שיפור במרווח זמן קצר, תוך קפיצה מביצועים תת-אנושיים בתחומים רבים לביצועים על-אנושיים כמעט בכל התחומים. מבחינה אמפירית, דוגמאות כמו AlphaZero בתחום של Go מראות שמערכות בינה מלאכותית יכולות לפעמים להתקדם מיכולת צרה ברמת האדם ליכולת על-אנושית במהירות רבה.

היסטוריה
--------

אחד המחברים המוקדמים ביותר שהביע דאגה רצינית שמכונות מתקדמות ביותר עלולות להוות סיכונים קיומיים לאנושות היה הסופר סמואל באטלר, שכתב את הדברים הבאים במאמרו "דרווין בין המכונות" משנת 1863:
התוצאה היא פשוט שאלה של זמן, אבל יבוא הזמן שבו המכונות יחזיקו את העליונות האמיתית על העולם ותושביו, זה מה שאף אדם בעל מוח פילוסופי אמיתי לא יכול להטיל ספק לרגע.
בשנת 1951, מדען המחשב אלן טיורינג כתב מאמר בשם "Intelligent Machinery, A Heretical Theory", בו הציע כי אינטליגנציות כלליות מלאכותיות ככל הנראה "ישתלטו" על העולם ככל שהן יהיו אינטליגנטיות יותר מבני אדם:
"הבה נניח כעת, לצורך הטיעון, שמכונות [תבוניות] הן אפשרות אמיתית, ונבחן את ההשלכות של בנייתן... לא תהיה שאלה שהמכונות ימותו, והן יוכלו לשוחח זה עם זה כדי לחדד את שכלם. לכן בשלב מסוים עלינו לצפות שהמכונות ישתלטו, באופן דומה למוזכר ב"אריון" של סמואל באטלר."
בשנת 1965, IJ Good הקים את הרעיון הידוע כיום כ"סינגולריות טכנולוגית"; הוא גם הצהיר שהסיכונים לא מוערכים:
"בואו נגדיר מכונה אולטרה-אינטליגנטית כמכונה שיכולה לעלות בהרבה על כל הפעילויות האינטלקטואליות של כל אדם, חכם ככל שיהיה. מכיוון שתכנון מכונות הוא אחת מהפעילויות האינטלקטואליות הללו, מכונה אינטליגנטית במיוחד יכולה לתכנן מכונות טובות עוד יותר; אז יהיה ללא ספק 'סינגולריות טכנולוגית', והאינטליגנציה של האדם תישאר הרחק מאחור. לפיכך, המכונה האולטרה-אינטליגנטית הראשונה היא ההמצאה האחרונה שהאדם צריך לעשות אי פעם, בתנאי שהמכונה צייתנית מספיק כדי לומר לנו איך לשמור עליה בשליטה. זה מוזר שנקודה זו מובאת לעיתים רחוקות כל כך מחוץ למדע בדיוני. לפעמים כדאי להתייחס למדע בדיוני ברצינות.

הצהרות מזדמנות של חוקרים כמו מרווין מינסקי ו-IJ Good עצמו הביעו חששות פילוסופיים כי אינטליגנציית-על יכולה לתפוס שליטה, אך לא הכילו קריאה לפעולה. בשנת 2000, מדען המחשב ומייסד סאן ביל ג'וי כתב חיבור רב השפעה, "למה העתיד לא צריך אותנו", שזיהה רובוטים סופר-חכמים כסכנת היי-טק להישרדות האדם, לצד ננוטכנולוגיה.

בשנת 2009, מומחים השתתפו בכנס פרטי שאירח האגודה לקידום הבינה המלאכותית (AAAI) כדי לדון בשאלה האם מחשבים ורובוטים יוכלו לרכוש כל סוג של אוטונומיה, ועד כמה יכולות אלו להוות איום או סכנה. הם ציינו שחלק מהרובוטים רכשו צורות שונות של חצי אוטונומיה, כולל היכולת למצוא מקורות כוח בעצמם ויכולת לבחור באופן עצמאי מטרות לתקוף עם נשק. הם גם ציינו כי כמה וירוסי מחשב יכולים להתחמק מהחיסול והשיגו "אינטליגנציה של מקקים". הם הגיעו למסקנה שמודעות עצמית כפי שמתוארת במדע בדיוני היא כנראה לא סבירה, אבל היו עוד סכנות ומלכודות פוטנציאליות. "הניו יורק טיימס" סיכם את השקפת הוועידה כ"אנחנו רחוקים מהאל (Hal), המחשב שהשתלט על החללית ב-2001: אודיסיאה בחלל".

ניק בוסטרום פרסם את "Superintelligence" ב-2014, שהציג את טיעוניו לפיהם אינטליגנציית-על מהווה איום קיומי. עד 2015, אנשי ציבור כמו הפיזיקאים סטיבן הוקינג וחתן פרס נובל פרנק וילצ'ק, מדעני המחשב סטיוארט ג'יי ראסל ורומן ימפולסקי, והיזמים אילון מאסק וביל גייטס הביעו דאגה מהסיכונים של אינטליגנציית-על. באפריל 2016, "Nature" הזהיר: "מכונות ורובוטים שעולים על בני אדם בכל v,junho יכולים להשתפר בעצמם מעבר לשליטתנו – ואולי האינטרסים שלהם לא יתאימו לאינטרסים שלנו". בשנת 2020, בריאן כריסטיאן פרסם את "The Alignment Problem", אשר פירטה את ההיסטוריה של ההתקדמות בערכי בינה מלאכותית עד אותה תקופה.

במרץ 2023, דמויות מפתח בבינה מלאכותית, כמו אילון מאסק, חתמו על מכתב ממכון עתיד החיים הקוראות להפסיק את ההכשרה המתקדמת בבינה מלאכותית עד שניתן יהיה להסדיר אותה כראוי. במאי 2023, המרכז לבטיחות בינה מלאכותית פרסם הצהרה חתומה על ידי מומחים רבים לבטיחות בינה מלאכותית ולסיכון הקיומי של בינה מלאכותית, שבה נכתב: "הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כגון מגיפות ומלחמה גרעינית."

טיעון כללי
----------

### שלושת הקשיים

בספר "בינה מלאכותית: גישה מודרנית", ספר לימוד לתואר ראשון בבינה מלאכותית, נכתב כי אינטליגנציית-על "עשויה להביא לקץ המין האנושי". הוא קובע: "כמעט לכל טכנולוגיה יש פוטנציאל לגרום לנזק בידיים הלא נכונות, אבל עם [אינטליגנציית-על] יש לנו את הבעיה החדשה שהידיים הלא נכונות עשויות להיות שייכות לטכנולוגיה עצמה". גם אם למעצבי המערכת יש כוונות טובות, שני קשיים משותפים גם למערכות מחשב בינה מלאכותית וגם למערכות שאינן בינה מלאכותית:

* הטמעת המערכת עשויה להכיל באגים שלא הבחינו בהם בתחילה שיובילו לתוצאות קטסטרופליות. דוגמה למקרים כאלו הביאו מתיקון באגים בחלל: למרות הידיעה שקשה לתקן באגים חלל לאחר השיגור, מהנדסים היסטורית לא הצליחו למנוע את התרחשות באגים.
* לא משנה כמה זמן מושקע בתכנון טרום-פריסה, בסופו של דבר כמעט תמיד יש מצב של תוצאה לא מכוונת בפעם הראשונה שהיא נתקלת בתרחיש חדש. לדוגמה, טאי של מיקרוסופט התנהג בצורה לא פוגענית במהלך בדיקות טרום-פריסה, אך בתוך זמן קצר החל להתנהג בפוגענות כאשר הוא יצר אינטראקציה עם משתמשים אמיתיים.

מערכות בינה מלאכותית מוסיפות באופן ייחודי בעיה שלישית: שאפילו בהינתן דרישות "נכונות", הטמעה ללא באגים והתנהגות ראשונית טובה, יכולת הלמידה הדינמית של מערכות הבינה המלאכותית עשויות לגרום לה להתפתח לכדי מערכת עם התנהגות לא מכוונת, אפילו בלי תרחישים חיצוניים ובלתי צפויים. בינה מלאכותית עשויה לשבש ניסיון לעצב דור חדש של עצמה וליצור בטעות או בכוונה בינה מלאכותית חדשה יותר, חזקה יותר, שאינה שומרת עוד על ערכי המוסר התואמים לאדם שתוכנתו מראש ב-AI המקורי. כדי שבינה מלאכותית המשתפרת מעצמה תהיה בטוחה לחלוטין, היא לא רק תצטרך להיות נטולת באגים, אלא היא תצטרך להיות מסוגלת לעצב מערכות עוקבות שהן גם נטולות באגים.

כל שלושת הקשיים הללו הופכים לקטסטרופות ולא למטרדים בכל תרחיש שבו אינטליגנציית-העל תעריך שבני אדם ינסו לכבות אותו ותנסה למנוע ניסיונות כאלה לפעמים במחירים כבדים: תרחיש זה קיבל את השם "תפנית בוגדנית".

המכתב הפתוח לשנת 2015 על בינה מלאכותית (אנ') ציין את ההתקדמות הגדולה בתחום הבינה המלאכותית ואת הפוטנציאל של בינה מלאכותית להטבות או עלויות אדירות לטווח ארוך:
"ההתקדמות במחקר בינה מלאכותית ממקדת עם הזמן את המחקר לא רק בהפיכת AI לבעל יותר יכולות, אלא גם במיקסום התועלת החברתית של AI. שיקולים כאלה הניעו את הפאנל הנשיאותי של AAAI 2008-09 בנושא עתיד הבינה המלאכותית ופרויקטים אחרים על השפעות בינה מלאכותית, ומהווים הרחבה משמעותית של תחום הבינה המלאכותית עצמו, שעד כה התמקד בעיקר בטכניקות שהן נייטרליות ביחס למטרה. אנו ממליצים על מחקר מורחב שמטרתו להבטיח שמערכות בינה מלאכותית יותר ויותר יכולות להיות חזקות ומועילות: מערכות הבינה המלאכותית שלנו חייבות לעשות מה שאנחנו רוצים שהן יעשו."
החתומים כללו את נשיא ה-AAAI, תומאס דיטריך, אריק הורביץ, בארט סלמן, פרנצ'סקה רוסי, יאן לקון, ומייסדי Vicarious ו-Google DeepMind.

### הטיעון של בוסטרום

מכונה סופר אינטליגנטית תהיה זרה לבני אדם כמו תהליכי חשיבה אנושיים לג'וקים, טוען בוסטרום. ייתכן שלמכונה כזו אין את טובת האנושות בראש; זה לא מובן מאליו שזה בכלל ידאג לרווחת האדם. אם AI סופר אינטליגנטי אפשרי, ואם ייתכן שמטרותיה של אינטליגנציית-על יתנגשו עם ערכים אנושיים בסיסיים, אז AI מהווה סכנת הכחדה אנושית. "אינטליגנציית-על" (מערכת העולה על היכולות של בני אדם בכל תחומי העניין) יכולה לתמרן בני אדם בכל פעם שמטרותיה מתנגשות עם מטרות אנושיות; לכן, אלא אם אינטליגנציית העל תחליט לאפשר לאנושות להתקיים בדו קיום, אינטליגנציה העל הראשונה שתיווצר תביא ללא מוצא להכחדה אנושית.

סטיבן הוקינג טען שאין חוק פיזיקלי המונע מחלקיקים להיות מאורגנים בדרכים המבצעות חישובים מתקדמים אפילו יותר מהסדרים של חלקיקים במוח האנושי; לכן, אינטליגנציית-על אפשרית פיזית. בנוסף לשיפורים אלגוריתמיים פוטנציאליים על מוח אנושי, מוח דיגיטלי יכול להיות גדול ומהיר יותר בסדרי גודל ממוח אנושי, שגודלו הוגבל על ידי האבולוציה להיות קטן מספיק כדי להיכנס לתעלת לידה. הוקינג מזהיר כי הופעת אינטליגנציית-על עשויה להפתיע את המין האנושי, במיוחד אם מתרחש סינגולריות טכנולוגית.

על פי "אסכולת החשיבה של בוסטרום", תרחיש "סינגולריות טכנולוגית" היפותטי אחד פועל כדלקמן: בינה מלאכותית זוכה ליכולת ברמת מומחה במשימות מפתח מסוימות של הנדסת תוכנה. (ייתכן שהוא חסר בתחילה יכולות אנושיות או על-אנושיות בתחומים אחרים שאינם רלוונטיים ישירות להנדסה.) בשל יכולתו לשפר באופן רקורסיבי את האלגוריתמים של עצמו, הבינה המלאכותית הופכת במהירות לעל-אנושית; כשם שמומחים אנושיים יכולים בסופו של דבר להתגבר באופן יצירתי על "תשואות הולכות ופוחתות" על ידי פריסת יכולות אנושיות שונות לחדשנות, כך גם בינה מלאכותית ברמת מומחה יכולה להשתמש ביכולות בסגנון אנושי או ביכולות הספציפיות לבינה מלאכותית משלה כדי להניע פריצות דרך יצירתיות חדשות. אז ה-AI הוא בעל אינטליגנציה העולה בהרבה על זו של המוחות האנושיים המבריקים והמחוננים ביותר כמעט בכל תחום רלוונטי, כולל יצירתיות מדעית, תכנון אסטרטגי וכישורים חברתיים.

אסכולת ה-x-risk מאמינה שכמעט כל AI, לא משנה היעד המתוכנת שלו, יעדיף באופן רציונלי להיות במצב שבו אף אחד אחר לא יכול לכבות אותו ללא הסכמתו: אינטליגנציית-על תגדיר את השימור העצמי כמטרת משנה ברגע שהיא תבין שהיא לא יכולה להשיג את מטרתה אם היא נסגרת.

כל חמלה כלפי בני אדם ששיתוף הפעולה שלהם אינו נחוץ עוד תהיה נעדרת ב-AI, אלא אם כן מתוכנת מראש. ל-AI סופר-אינטליגנטי לא יהיה דחף טבעי לסייע לבני אדם, מאותה סיבה שלבני אדם אין רצון טבעי לסייע למערכות AI שאינן מועילות להם יותר. (אנלוגיה נוספת שנותנים תומכי תאוריה זו, היא שניתן לראות כיום שלבני אדם יש מעט רצון טבעי לצאת מגדרם כדי לסייע לווירוסים, טרמיטים או אפילו גורילות).

לפיכך, מסכמת אסכולת ה-x risk, סביר להניח שמתישהו סינגולריות טכנולוגית תתפוס את האנושות לא מוכנה, ועלולה לגרום להכחדה של המין האנושי או גורל דומה.

### תרחישים אפשריים

כמה חוקרים הציעו תרחישים היפותטיים כדי להמחיש כמה מהחששות שלהם.

ב-"Superintelligence", ניק בוסטרום מביע דאגה שגם אם ציר הזמן עבור אינטליגנציית-על יתברר כצפוי, ייתכן שהחוקרים לא ינקטו אמצעי זהירות בטיחותיים מספקים, בין השאר משום ש"יכול להיות שכאשר מטומטם, חכם יותר זה בסדר; אך כאשר חכם נהיה חכם יותר. זה מסוכן מאוד". בוסטרום מציע תרחיש שבו, במשך עשרות שנים, הבינה המלאכותית הופכת לאט לאט לחזקה יותר. זה יתחיל עם אירועים קטנים ו"מקריים" כמו תאונות מזדמנות – אוטובוס ללא נהג סוטה לנתיב המתקרב, או מזל"ט צבאי יורה לתוך קהל תמים. פעילים רבים יקראו לפיקוח ורגולציה הדוקים יותר, וחלקם אף יחזו קטסטרופה מתקרבת. אבל ככל שההתפתחות נמשכת, יוכח שהפעילים טועים. ככל שבינה מלאכותית של רכב נהיית חכמה יותר, היא גורמת לפחות תאונות; ככל שרובוטים צבאיים משיגים מיקוד מדויק יותר, הם גורמים פחות נזק אגבי. בהתבסס על הנתונים, חוקרים מסיקים בטעות שככל שה-AI חכם יותר, כך הוא בטוח יותר. "ולכן אנחנו נכנסים באומץ – לתוך הסכינים המסתחררים", כאשר הבינה המלאכותית הסופר אינטליגנטית לוקחת ברגע אחד "תפנית בוגדנית" ומנצלת יתרון אסטרטגי מכריע. זה נגמר.

בספר "Life 3.0" של Max Tegmark משנת 2017, "צוות אומגה" של תאגיד יוצר בינה מלאכותית חזקה במיוחד המסוגלת לשפר באופן מתון את קוד המקור שלו במספר תחומים. לאחר נקודה מסוימת הצוות בוחר להמעיט בפומבי ביכולת ה-AI, על מנת למנוע רגולציה או החרמה של הפרויקט. ליתר ביטחון, הצוות שומר את ה-AI בקופסה שבה הוא לרוב אינו מסוגל לתקשר עם העולם החיצון, ומשתמש בו כדי להרוויח כסף, באמצעים מגוונים. בשלב הבא, הצוות מטיל על הבינה המלאכותית לעצב צבא של עיתונאים ופרשנים אזרחיים בדויים, כדי להשיג השפעה פוליטית כדי להשתמש בו "לטובה" ולמנוע מלחמות. הצוות עומד בפני סיכונים שה-AI יכול לנסות לברוח על ידי הכנסת "דלתות אחוריות" למערכות שהוא מעצב, על ידי מסרים נסתרים בתוכן המיוצר שלו, או על ידי שימוש בהבנה הגוברת של הבינה המלאכותית את ההתנהגות האנושית עד שתשכנע מישהו שישחרר אותה מהקופסה. הצוות גם עומד בפני סיכונים שהחלטתו לאגור את הפרויקט תעכב את הפרויקט מספיק זמן כדי שפרויקט אחר יעקוף אותו.

הפיזיקאי מיצ'יו קאקו, שעוסק בסיכוני הבינה המלאכותית, מציג תוצאה חיובית דטרמיניסטית. ב"הפיזיקה של העתיד" הוא טוען ש"זה ייקח עשורים רבים עד שרובוטים יעלו" במעלה קנה התודעה, ושבינתיים תאגידים כמו הנסון רובוטיקה יצליחו ליצור רובוטים ש"מסוגל לאהוב ולהרוויח מקום במשפחה האנושית המורחבת".

#### השתלטות בינה מלאכותית

השתלטות בינה מלאכותית היא תרחיש היפותטי שבו בינה מלאכותית (AI) הופכת לצורת האינטליגנציה הדומיננטית על פני כדור הארץ, כאשר תוכנות מחשב או רובוטים לוקחים למעשה את השליטה על כדור הארץ מהמין האנושי. תרחישים אפשריים כוללים החלפה של כל כוח העבודה האנושי, השתלטות על ידי בינה מלאכותית סופר אינטליגנטית, והרעיון הפופולרי של מרד רובוטים. סיפורים על השתלטות בינה מלאכותית פופולריים מאוד בכל המדע הבדיוני. כמה אישי ציבור, כמו סטיבן הוקינג ואילון מאסק, דגלו במחקר של אמצעי זהירות כדי להבטיח שמכונות סופר-אינטליגנטיות עתידיות יישארו תחת שליטה אנושית.

### טיעונים אנתרופומורפיים

טיעונים אנתרופומורפיים מניחים שככל שמכונות הופכות אינטליגנטיות יותר, הן יתחילו להציג תכונות אנושיות רבות, כמו מוסר או צמא לכוח. אף על פי שתרחישים אנתרופומורפיים נפוצים בסיפורת, הם נדחים על ידי רוב החוקרים הכותבים על הסיכון הקיומי של בינה מלאכותית. במקום זאת, AI מעוצב כסוכנים אינטליגנטים.

הוויכוח האקדמי הוא בין צד אחד שדואג אם בינה מלאכותית עשויה להרוס את האנושות לבין צד אחר שמאמין שבינה מלאכותית לא תהרוס את האנושות כלל. שני הצדדים טענו שהתחזיות של האחרים לגבי התנהגות בינה מלאכותית לא הגיוני. הספקנים מאשימים את התומכים באנתרופומורפיזם בכך שהם מאמינים ש-AGI ירצה באופן טבעי כוח; התומכים מאשימים כמה ספקנים באנתרופומורפיזם שהם מאמינים ש-AGI יעריך באופן טבעי נורמות אתיות אנושיות.

הפסיכולוג האבולוציוני סטיבן פינקר, טוען כי "דיסטופיות AI מקרינות פסיכולוגיה אלפא-זכרית פרוכית על מושג האינטליגנציה. הם מניחים שרובוטים אינטליגנטיים על-אנושיים יפתחו מטרות כמו הדחת אדוניהם או השתלטות על העולם"; במקום זאת הוא טוען ש"בינה מלאכותית תתפתח באופן טבעי לפי קווים נשיים: בעל יכולת מלאה לפתור בעיות, אך ללא רצון להכחיד חפים מפשע או לשלוט בציוויליזציה." מנהל מחקר בינה מלאכותית של פייסבוק, יאן לקון, קובע כי "לבני אדם יש כל מיני דחפים שגורמים להם לעשות דברים רעים אחד לשני, כמו אינסטינקט השימור העצמי... הכוננים האלה מתוכנתים לתוך המוח שלנו אבל אין שום סיבה לבנות רובוטים שיש להם את אותו סוג של כוננים".

למרות הבדלים אחרים, האסכולה שמאמינה בסיכון מסכימה עם פינקר ש-AI מתקדם לא יהרוס את האנושות מתוך רגשות אנושיים כמו "נקמה" או "כעס", ששאלות תודעה אינן רלוונטיות להערכת סיכונים, וכי למערכות מחשב אין בדרך כלל מקבילה חישובית לטסטוסטרון. הם חושבים שהתנהגויות של חיפוש כוח או שימור עצמי מופיעות ב-AI כדרך להשיג את מטרותיה האמיתיות, על פי הרעיון של התכנסות אינסטרומנטלית.

### הגדרה של "אינטליגנציה"

לטענת בוסטרום, מחוץ לתחום הבינה המלאכותית, נעשה שימוש ב"אינטליגנציה" לעיתים קרובות באופן המקשר לחוכמה מוסרית או קבלה של צורות מקבילות של חשיבה מוסרית. בקיצוניות, אם המוסר הוא חלק מההגדרה של אינטליגנציה, אז בהגדרה מכונה על-אינטליגנטית תתנהג בצורה מוסרית. עם זאת, רוב המחקרים של "בינה מלאכותית" מתמקדים במקום זאת ביצירת אלגוריתמים ש"מייעלים", באופן אמפירי, את השגת כל מטרה שהחוקרים הנתונים ציינו.

כדי להימנע מאנתרופומורפיזם או מהמטען של המילה "אינטליגנציה", ניתן להתייחס לבינה מלאכותית מתקדמת כ"תהליך אופטימיזציה" בלתי-אישי, הנוקט בקפדנות את כל הפעולות שהיא שופטת כבעלת הסבירות הגבוהה ביותר להגשים את מטרותיה (אולי מסובכות ומרומזות). דרך נוספת להמשגה של בינה מלאכותית מתקדמת היא לדמיין מכונת זמן ששולחת לאחור בזמן מידע לגביו בחירה תמיד מובילה למקסום פונקציית המטרה שלה; בחירה זו מופקת לאחר מכן, ללא קשר לחששות אתיים זרים.

מקורות סיכון
------------

### בעיית יישור בינה מלאכותית

סביר להניח שהרגולציה של AGI תושפע מהרגולציה של AI עם נשק או צבאי, כלומר, מרוץ החימוש של AI, שהוא נושא שמתעורר. נכון לעכשיו, אף על פי שהאו"ם מתקדם לקראת רגולציה של AI, היכולת המוסדית והחוקית שלו לנהל סיכון קיומי של AGI מוגבלת הרבה יותר. כל צורה של רגולציה בינלאומית תושפע ככל הנראה מההתפתחויות במדיניות הפנים של מדינות מובילות כלפי בינה מלאכותית צבאית, שבארצות הברית נמצאת בסמכותה של הוועדה לביטחון לאומי לבינה מלאכותית, ומהלכים בינלאומיים להסדרת מרוץ חימוש בינה מלאכותית. רגולציה של מחקר ב-AGI מתמקדת בתפקיד של מועצות ביקורת, עידוד מחקר בנושא AI בטוח, אפשרות של התקדמות טכנולוגית דיפרנציאלית (עדיפות אסטרטגיות להפחתת סיכונים על פני אסטרטגיות נטילת סיכונים בפיתוח AI), או ביצוע מעקב המוני בינלאומי לביצוע זרועות AGI לִשְׁלוֹט. רגולציה של AGIs מודע מתמקדת בשילובם עם החברה האנושית הקיימת וניתנת לחלוקה לשיקולים של מעמדם המשפטי ושל זכויותיהם המוסריות. בקרת נשק בינה מלאכותית תדרוש ככל הנראה מיסוד של נורמות בינלאומיות חדשות המגולמות במפרטים טכניים יעילים בשילוב עם ניטור פעיל ודיפלומטיה לא פורמלית על ידי קהילות מומחים, יחד עם תהליך אימות משפטי ופוליטי.

קישורים חיצוניים
----------------

* פרופסור עירד בן-גל, ‏מדוע הבינה המלאכותית מפחידה מומחים עד כדי קריאה לסכנה לאנושות?, באתר מעריב אונליין, 4 ביוני 2023
* טל שחף, פריצת הדרך של OpenAI עשויה לקרב את המטאברס, אבל טומנת בחובה סיכון עצום, באתר ynet, 20 בפברואר 2024
* ויקי אוסלנדר, חברות הבינה המלאכותית מציגות: פתיחות שמכסה על אטימות, באתר כלכליסט, 3 במרץ 2024
* עומר כביר, האיחוד האירופי אישר את חוק ה-AI - המאסדר שימוש בבינה מלאכותית, באתר כלכליסט, 13 במרץ 2024
* טל שחף, זינוק בשימוש ב-AI בקמפיינים שמסיתים נגד ישראל ועסקים שתומכים בה, באתר ידיעות אחרונות, 28 במרץ 2024

הערות שוליים
------------

1. ↑  Russell, Stuart, and Peter Norvig. "The ethics and risks of developing artificial intelligence." Artificial Intelligence: a Modern Approach 1152 (2009).
2. ↑  Bostrom, Nick (2002). "Existential risks". *Journal of Evolution and Technology*. **9** (1): 1–31.
3. ↑  Turchin, Alexey; Denkenberger, David (2018-05-03). "Classification of global catastrophic risks connected with artificial intelligence". *AI & Society*. **35** (1): 147–163. doi:10.1007/s00146-018-0845-5. ISSN 0951-5666.
4. ↑  ""Godfather of artificial intelligence" weighs in on the past and potential of AI". *www.cbsnews.com* (באנגלית אמריקאית). 25 במרץ 2023. נבדק ב-2023-04-10. `{{cite web}}`:  (עזרה)
5. ↑  "How Rogue AIs may Arise". *yoshuabengio.org* (באנגלית אמריקאית). 26 במאי 2023. נבדק ב-2023-05-26. `{{cite web}}`:  (עזרה)
6. ↑  Parkin, Simon (14 ביוני 2015). "Science fiction no more? Channel 4's Humans and our rogue AI obsessions". *The Guardian* (באנגלית). ארכיון מ-5 בפברואר 2018. נבדק ב-5 בפברואר 2018. `{{cite news}}`:  (עזרה)
7. ↑  Jackson, Sarah. "The CEO of the company behind AI chatbot ChatGPT says the worst-case scenario for artificial intelligence is 'lights out for all of us'". *Business Insider* (באנגלית אמריקאית). נבדק ב-2023-04-10.
8. ↑  "The AI Dilemma". *www.humanetech.com* (באנגלית). נבדק ב-2023-04-10.
9. ↑  "2022 Expert Survey on Progress in AI". *AI Impacts* (באנגלית אמריקאית). 2022-08-04. נבדק ב-2023-04-10.
10. ↑  Artificial Intelligence as a Positive and Negative Factor in Global Risk
11. ↑  "Research Priorities for Robust and Beneficial Artificial Intelligence" (PDF). *AI Magazine*. Association for the Advancement of Artificial Intelligence: 105–114. 2015. arXiv:1602.03506. Bibcode:2016arXiv160203506R. ארכיון (PDF) מ-4 באוגוסט 2019. נבדק ב-10 באוגוסט 2019. `{{cite journal}}`:  (עזרה), cited in "AI Open Letter – Future of Life Institute". *Future of Life Institute*. Future of Life Institute. בינואר 2015. ארכיון מ-10 באוגוסט 2019. נבדק ב-2019-08-09. `{{cite web}}`:  (עזרה)
12. ↑  Dowd, Maureen (באפריל 2017). "Elon Musk's Billion-Dollar Crusade to Stop the A.I. Apocalypse". *The Hive* (באנגלית). ארכיון מ-26 ביולי 2018. נבדק ב-27 בנובמבר 2017. `{{cite news}}`:  (עזרה)
13. 1 2  Yudkowsky, Eliezer (2008). "Artificial Intelligence as a Positive and Negative Factor in Global Risk" (PDF). *Global Catastrophic Risks*: 308–345. Bibcode:2008gcr..book..303Y. ארכיון (PDF) מ-2 במרץ 2013. נבדק ב-27 באוגוסט 2018. `{{cite journal}}`:  (עזרה)
14. 1 2  Graves, Matthew (8 בנובמבר 2017). "Why We Should Be Concerned About Artificial Superintelligence". *Skeptic (US magazine)*. Vol. 22, no. 2. ארכיון מ-13 בנובמבר 2017. נבדק ב-27 בנובמבר 2017. `{{cite news}}`:  (עזרה)
15. ↑  Breuer, Hans-Peter. 'Samuel Butler's "the Book of the Machines" and the Argument from Design.' (אורכב 15.03.2023 בארכיון Wayback Machine) Modern Philology, Vol. 72, No. 4 (May 1975), pp. 365–383
16. ↑  Hilliard, Mark (2017). "The AI apocalypse: will the human race soon be terminated?". *The Irish Times* (באנגלית). ארכיון מ-22 במאי 2020. נבדק ב-15 במרץ 2020. `{{cite news}}`:  (עזרה)
17. ↑  Barrat, James (2013). *Our final invention : artificial intelligence and the end of the human era* (First ed.). New York: St. Martin's Press. ISBN 9780312622374. In the bio, playfully written in the third person, Good summarized his life's milestones, including a probably never before seen account of his work at Bletchley Park with Turing. But here's what he wrote in 1998 about the first superintelligence, and his late-in-the-game U-turn: [The paper] 'Speculations Concerning the First Ultra-intelligent Machine' (1965). .. began: 'The survival of man depends on the early construction of an ultra-intelligent machine.' Those were his [Good's] words during the Cold War, and he now suspects that 'survival' should be replaced by 'extinction.' He thinks that, because of international competition, we cannot prevent the machines from taking over. He thinks we are lemmings. He said also that 'probably Man will construct the deus ex machina in his own image.'
18. ↑  Anderson, Kurt (26 בנובמבר 2014). "Enthusiasts and Skeptics Debate Artificial Intelligence". *Vanity Fair*. ארכיון מ-22 בינואר 2016. נבדק ב-30 בינואר 2016. `{{cite news}}`:  (עזרה)
19. ↑  Scientists Worry Machines May Outsmart Man (אורכב 01.07.2017 בארכיון Wayback Machine) By John Markoff, *The New York Times*, 26 July 2009.
20. ↑  Metz, Cade (9 ביוני 2018). "Mark Zuckerberg, Elon Musk and the Feud Over Killer Robots". *The New York Times*. ארכיון מ-15 בפברואר 2021. נבדק ב-3 באפריל 2019. `{{cite news}}`:  (עזרה)
21. ↑  Hsu, Jeremy (1 במרץ 2012). "Control dangerous AI before it controls us, one expert says". *NBC News*. ארכיון מ-2 בפברואר 2016. נבדק ב-28 בינואר 2016. `{{cite news}}`:  (עזרה)
22. ↑  "Stephen Hawking: 'Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?'". The Independent (UK). ארכיון מ-25 בספטמבר 2015. נבדק ב-3 בדצמבר 2014. `{{cite news}}`:  (עזרה)
23. ↑  "Stephen Hawking warns artificial intelligence could end mankind". BBC. 2 בדצמבר 2014. ארכיון מ-30 באוקטובר 2015. נבדק ב-3 בדצמבר 2014. `{{cite news}}`:  (עזרה)
24. ↑  Eadicicco, Lisa (28 בינואר 2015). "Bill Gates: Elon Musk Is Right, We Should All Be Scared Of Artificial Intelligence Wiping Out Humanity". *Business Insider*. ארכיון מ-26 בפברואר 2016. נבדק ב-30 בינואר 2016. `{{cite news}}`:  (עזרה)
25. ↑  "Anticipating artificial intelligence". *Nature* (באנגלית). **532** (7600): 413. 2016. doi:10.1038/532413a. ISSN 1476-4687. PMID 27121801.
26. ↑  Christian, Brian (6 באוקטובר 2020). *The Alignment Problem: Machine Learning and Human Values*. W. W. Norton & Company. ISBN 978-0393635829. ארכיון מ-5 בדצמבר 2021. נבדק ב-5 בדצמבר 2021. `{{cite book}}`:  (עזרה)
27. ↑  Dignum, Virginia (26 במאי 2021). "AI — the people and places that make, use and manage it". *Nature* (באנגלית). **593** (7860): 499–500. Bibcode:2021Natur.593..499D. doi:10.1038/d41586-021-01397-x. `{{cite journal}}`:  (עזרה)
28. ↑  "Elon Musk among experts urging a halt to AI training". *BBC News* (באנגלית בריטית). 2023-03-29. נבדק ב-2023-06-09.
29. ↑  "Statement on AI Risk | CAIS". *www.safe.ai*. נבדק ב-2023-06-08.
30. ↑  "Artificial intelligence could lead to extinction, experts warn". *BBC News* (באנגלית בריטית). 2023-05-30. נבדק ב-2023-06-08.
31. ↑  Tilli, Cecilia (28 באפריל 2016). "Killer Robots? Lost Jobs?". *Slate* (באנגלית אמריקאית). ארכיון מ-11 במאי 2016. נבדק ב-15 במאי 2016. `{{cite news}}`:  (עזרה)
32. ↑  "Norvig vs. Chomsky and the Fight for the Future of AI". *Tor.com*. 21 ביוני 2011. ארכיון מ-13 במאי 2016. נבדק ב-15 במאי 2016. `{{cite web}}`:  (עזרה)
33. ↑  Johnson, Phil (30 ביולי 2015). "Houston, we have a bug: 9 famous software glitches in space". *IT World* (באנגלית). אורכב מ-המקור ב-15 בפברואר 2019. נבדק ב-5 בפברואר 2018. `{{cite news}}`:  (עזרה)
34. ↑  Yampolskiy, Roman V. (8 באפריל 2014). "Utility function security in artificially intelligent agents". *Journal of Experimental & Theoretical Artificial Intelligence*. **26** (3): 373–389. doi:10.1080/0952813X.2014.895114. Nothing precludes sufficiently smart self-improving systems from optimising their reward mechanisms in order to optimisetheir current-goal achievement and in the process making a mistake leading to corruption of their reward functions. `{{cite journal}}`:  (עזרה)
35. ↑  Bostrom, Nick, *Superintelligence : paths, dangers, strategies* (Audiobook), ISBN 978-1-5012-2774-5, OCLC 1061147095
36. ↑  "Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter". Future of Life Institute. ארכיון מ-15 בינואר 2015. נבדק ב-23 באוקטובר 2015. `{{cite web}}`:  (עזרה)
37. 1 2 3  "Clever cogs". *The Economist*. 9 באוגוסט 2014. ארכיון מ-8 באוגוסט 2014. נבדק ב-9 באוגוסט 2014. `{{cite news}}`:  (עזרה) Syndicated (אורכב 04.03.2016 בארכיון Wayback Machine) at Business Insider
38. ↑  Yampolskiy, Roman V. "Analysis of types of self-improving software." *Artificial General Intelligence*. Springer International Publishing, 2015. 384-393.
39. ↑  Omohundro, S. M. (2008, February). The basic AI drives. In *AGI* (Vol. 171, pp. 483-492).
40. ↑  Metz, Cade (13 באוגוסט 2017). "Teaching A.I. Systems to Behave Themselves". *The New York Times*. ארכיון מ-26 בפברואר 2018. נבדק ב-26 בפברואר 2018. A machine will seek to preserve its off switch, they showed `{{cite news}}`:  (עזרה)
41. ↑  Russell, Stuart (30 באוגוסט 2017). "Artificial intelligence: The future is superintelligent". *Nature* (באנגלית). **548** (7669): 520–521. Bibcode:2017Natur.548..520R. doi:10.1038/548520a. `{{cite journal}}`:  (עזרה)
42. ↑  Max Tegmark (2017). *Life 3.0: Being Human in the Age of Artificial Intelligence* (1st ed.). Mainstreaming AI Safety: Knopf. ISBN 9780451485076.
43. ↑  Elliott, E. W. (2011). "Physics of the Future: How Science Will Shape Human Destiny and Our Daily Lives by the Year 2100, by Michio Kaku". *Issues in Science and Technology*. **27** (4): 90.
44. ↑  Kaku, Michio (2011). *Physics of the future: how science will shape human destiny and our daily lives by the year 2100*. New York: Doubleday. ISBN 978-0-385-53080-4. I personally believe that the most likely path is that we will build robots to be benevolent and friendly
45. ↑  אתר למנויים בלבד  James Titcomb, ‏Should humans fear the rise of the machine?, The Telegraph, 1 September 2015
46. ↑  Shermer, Michael (1 במרץ 2017). "Apocalypse AI". *Scientific American* (באנגלית). **316** (3): 77. Bibcode:2017SciAm.316c..77S. doi:10.1038/scientificamerican0317-77. PMID 28207698. ארכיון מ-1 בדצמבר 2017. נבדק ב-27 בנובמבר 2017. `{{cite journal}}`:  (עזרה)
47. ↑  "Intelligent Machines: What does Facebook want with AI?". *BBC News*. 14 בספטמבר 2015. נבדק ב-31 במרץ 2023. `{{cite news}}`:  (עזרה)
48. ↑  Superintelligence: Paths, Dangers, Strategies
49. ↑  "The Myth Of AI". *www.edge.org*. ארכיון מ-11 במרץ 2020. נבדק ב-2020-03-11. `{{cite web}}`:  (עזרה)
50. ↑  Waser, Mark. "Rational Universal Benevolence: Simpler, Safer, and Wiser Than 'Friendly AI'." *Artificial General Intelligence*. Springer Berlin Heidelberg, 2011. 153-162. "Terminal-goaled intelligences are short-lived but mono-maniacally dangerous and a correct basis for concern if anyone is smart enough to program high-intelligence and unwise enough to want a paperclip-maximizer."
51. ↑  Koebler, Jason (2 בפברואר 2016). "Will Superintelligent AI Ignore Humans Instead of Destroying Us?". *Vice Magazine*. ארכיון מ-30 בינואר 2016. נבדק ב-3 בפברואר 2016. This artificial intelligence is not a basically nice creature that has a strong drive for paperclips, which, so long as it's satisfied by being able to make lots of paperclips somewhere else, is then able to interact with you in a relaxed and carefree fashion where it can be nice with you," Yudkowsky said. "Imagine a time machine that sends backward in time information about which choice always leads to the maximum number of paperclips in the future, and this choice is then output—that's what a paperclip maximizer is. `{{cite news}}`:  (עזרה)
52. ↑  Nindler, Reinmar (2019-03-11). "The United Nation's Capability to Manage Existential Risks with a Focus on Artificial Intelligence". *International Community Law Review*. **21** (1): 5–34. doi:10.1163/18719732-12341388. ISSN 1871-9740. ארכיון מ-30 באוגוסט 2022. נבדק ב-30 באוגוסט 2022. `{{cite journal}}`:  (עזרה)
53. ↑  Stefanik, Elise M. (2018-05-22). "H.R.5356 – 115th Congress (2017-2018): National Security Commission Artificial Intelligence Act of 2018". *www.congress.gov*. ארכיון מ-23 במרץ 2020. נבדק ב-2020-03-13. `{{cite web}}`:  (עזרה)
54. ↑  Baum, Seth (2018-09-30). "Countering Superintelligence Misinformation". *Information*. **9** (10): 244. doi:10.3390/info9100244. ISSN 2078-2489.
55. 1 2  Sotala, Kaj; Yampolskiy, Roman V (2014-12-19). "Responses to catastrophic AGI risk: a survey". *Physica Scripta*. **90** (1): 018001. Bibcode:2015PhyS...90a8001S. doi:10.1088/0031-8949/90/1/018001. ISSN 0031-8949.
56. ↑  Geist, Edward Moore (2016-08-15). "It's already too late to stop the AI arms race—We must manage it instead". *Bulletin of the Atomic Scientists*. **72** (5): 318–321. Bibcode:2016BuAtS..72e.318G. doi:10.1080/00963402.2016.1216672. ISSN 0096-3402.
57. ↑  Maas, Matthijs M. (2019-02-06). "How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons of mass destruction". *Contemporary Security Policy*. **40** (3): 285–311. doi:10.1080/13523260.2019.1576464. ISSN 1352-3260.

| בינה מלאכותית |
| --- |
| כללי | מבחן טיורינג • היסטוריה של הבינה המלאכותית • ציר הזמן של בינה מלאכותית • התקדמות הבינה המלאכותית (אנ') • AI-שלמות מערכת מומחה • אסדרת בינה מלאכותית (אנ') • בינה מלאכותית צרה • בינה חישובית • הסברתיות בינה מלאכותית • הפרדוקס של מורבק • סוכן תבוני • אתיקה של בינה מלאכותית |  |
| תחומים | עיבוד שפה טבעית • ראייה ממוחשבת • בינה מלאכותית יוצרת • אומנות בינה מלאכותית |
| סוגי למידת מכונה | מערכת לומדת • למידה מונחית • למידה בלתי מונחית • למידה עמוקה • למידת חיזוק • סיווג בייסיאני נאיבי • רשת בייסיאנית |
| אלגוריתמי למידת מכונה קלאסית | פרספטרון • עץ החלטה • מכונת וקטורים תומכים • Bag of words • אלגוריתם k-מרכזים • אלגוריתם מיקסום התוחלת • הורדת ממד • אלגוריתם שכן קרוב • Q-learning •‏ T-SNE •‏ Tf–idf • חיזוק גרדיאנט |
| למידה עמוקה | רשת עצבית מלאכותית • רשת זרימה קדימה • רשת עצבית רקורסיבית • טרנספורמר • Attention •‏ GAN |
| עיבוד שפה טבעית | מודל שפה • שיכון מילים (אנ') • בלשנות חישובית • תרגום מכונה • חילוץ מידע (אנ') • ניתוח סנטימנט • זיהוי חלקי דיבר (אנ') • מערכת זיהוי דיבור • זיהוי ישויות • כריית טקסט • תיוג תפקידים סמנטי • Word2vec • מודל שפה גדול • GPT •‏ BERT (אנ') • מודל Bag-of-words (אנ') • יצירת טקסט בשפה טבעית (אנ') • מילת עצירה • ניתוח מחרוזות • Stemming (אנ') • למטיזציה (אנ') |
| יישומים לבינה מלאכותית (אנ') | צ'אטבוט • זיהוי דובר • זיהוי עצמים • זיהוי תבניות • עוזר וירטואלי • זיהוי תווים אופטי • מחולל תמונות (הזיות (אנ')) |
| מערכות בינה מלאכותית | אלייזה • ChatGPT •‏ DALL-E •‏ Midjourney •‏ Gemini •‏ Perplexity •‏ GitHub Copilot • דיפ־פייק • סירי • Google Assistant • אמזון אלכסה |
| סוגיות בטיחות בינה מלאכותית (אנ') | סכנה קיומית מבינה מלאכותית כללית • בינה מלאכותית חזקה • יישור בינה מלאכותית (אנ') • בקרת יכולות בינה מלאכותית (אנ') • השתלטות בינה מלאכותית (אנ') • בינה מלאכותית ידידותית (אנ') • התכנסות אינסטרומנטלית (אנ') • סינגולריות טכנולוגית |
| ספריות בשימוש נרחב | TensorFlow •‏ PyTorch •‏ Torch •‏ Hugging Face •‏ Keras •‏ spaCy (אנ') •‏ Caffe |