**בינה מלאכותית חזקה** או **בינה מלאכותית כללית** או **AGI** (באנגלית: **Artificial general intelligence**) היא בינה מלאכותית אשר שווה לבינתו של אדם, או אף עולה עליה. זוהי בינה של מכונה אשר מסוגלת לבצע כל פעולה מחשבתית או אינטלקטואלית שאדם מסוגל לבצע, והיא אחת המטרות המרכזיות בחקר בינה מלאכותית.

בינה זו היא נושא חשוב בסרטי מדע בדיוני וסרטים עתידניים. דוגמה לבינה מלאכותית חזקה במדע בדיוני היא האנדרואיד דאטה ממסע בין כוכבים, או המחסל משליחות קטלנית ועוד שלל אנדרואידים וסייבורגים בסרטים אחרים. מדע בדיוני לרוב משייך לבינה מלאכותית חזקה תכונות אנושיות כגון תודעה, חשיבה ומודעות עצמית.

מספר מקורות מדגישים את ההבדל בין בינה מלאכותית חזקה לחלשה. **בינה מלאכותית חלשה** או **בינה מלאכותית מיושמת** היא בינה מלאכותית המיועדת לפתירת בעיות הגיוניות, ולא מנסה להגיע להכרה ומודעות עצמית מלאה כמו זו של אדם.

נכון לשנת 2017, יותר מארבעים ארגונים מבצעים מחקר בבינה כללית מלאכותית.

דרישות של בינה חזקה
-------------------

מספר מבחנים לאינטליגנציה של מכונות הוצעו (המפורסם שבהם הוא מבחן טיורינג) אך עד כה אין הגדרה מקובלת המוסכמת על כולם. עם זאת, קיימת הסכמה רחבה בקרב חוקרי בינה מלאכותית כי מערכת בעלת אינטליגנציה כללית נדרשת להיות בעלת היכולות הבאות:

* הסקת מסקנות
* שימוש באסטרטגיה
* פתרון חידות
* שימוש בשיקול דעת בתנאי אי ודאות
* צבירת ידע
* תכנון
* לימוד
* תקשורת בשפה טבעית

כמו כן, עליה להיות מסוגלת לשלב כישורים אלו לביצוע משימות. יכולות חשובות אחרות כוללות את היכולת לחוש (למשל לראות ולשמוע), לפעול (למשל לזוז ולהשתמש בחפצים), לזהות ולהגיב לסכנה, לדמיין ולהתנהג באופן אוטונומי. מערכות מחשב בעלות חלק מן היכולות האלה אכן קיימות, אך לא בעלות כל היכולות ולא ברמה אנושית.

### מבחנים לקביעת בינה כללית מלאכותית ברמה אנושית

* מבחן טיורינג - מכונה ואדם משוחחים עם אדם שני (הבוחן), שעליו להעריך מי מהשניים הוא המכונה. מכונה עוברת את המבחן אם היא מצליחה לשטות בבוחן חלק ניכר מהזמן.
* מבחן הקפה - מכונה נדרשת להיכנס לבית אמריקני ממוצע ולהבין כיצד להכין קפה: למצוא את מכונת הקפה, למצוא את הקפה, להוסיף מים, למצוא ספל ולהפעיל את מכונת הקפה בהצלחה.
* מבחן הסטודנט - מכונה נרשמת לאוניברסיטה, לומדת את אותם שיעורים כמו בני אדם, ומקבלת תואר.
* מבחן התעסוקה - מכונה עובדת עבודה בעלת חשיבות כלכלית ומתפקדת היטב, לפחות כמו בני אדם.

### מבחני אינטליגנציה למערכות בינה מלאכותית

בשנת 2017 ערכו חוקרים סינים מבחן אינטליגנציה למערכות בינה מלאכותית צרה כמו Google AI או Siri של אפל. הציון המרבי הגיע ל־47, תואם בערך לרמה של ילד בן שש. מבוגר ממוצע מגיע לציון 100. בשנת 2014 בוצעו מבחנים דומים בהם הציון המרבי שהתקבל הוא 27.

### בעיות שלפתרונן דרושה בינה כללית מלאכותית

בעיות שפתרונן מצריך יכולות אינטליגנציה אנושית או בינה כללית מלאכותית והן מעבר ליכולותיהם של אלגוריתמים ייעודיים נקראות לעיתים "AI-complete". אלו כוללות על־פי השערה ראייה ממוחשבת כללית, הבנת שפה טבעית ופתרון בעיות בעולם האמיתי הכולל מצבים בלתי צפויים.

בטכנולוגיה הקיימת כיום לא ניתן לפתור בעיות אלו ללא סיוע אנושי. מאפיין זה יכול להיות שימושי, למשל, לבדיקת נוכחות אדם כפי שעושה בדיקת CAPTCHA.

מחקר
----

### בינה מלאכותית קלאסית

מחקר בינה מלאכותית החל באמצע שנות החמישים. הדור הראשון של החוקרים היה משוכנע כי בינה כללית מלאכותית אפשרית וכי היא תמומש בעוד כמה עשורים. כפי שכתב החוקר הרברט סיימון בשנת 1965: "מכונות יוכלו תוך עשרים שנה לעשות כל עבודה שאדם יכול לעשות."

בראשית שנות השבעים התברר כי החוקרים העריכו בחסר את קושי הפרויקט ובמקום בינה כללית מלאכותית התמקדו בקידום בינה מלאכותית צרה ושימושית. בתחילת שנות השמונים חזר העניין בבינה כללית ביפן. נקבע ציר זמן של עשור שכלל יעדים כמו "ניהול שיחה מזדמנת", וכספים הוזרמו לתחום הן מהתעשייה והן מהממשלה. בסוף שנות ה־80 לאחר שמטרות הפרויקט לא הושגו קרס האמון בתחום, ובפעם השנייה תוך 20 שנה התברר כי חוקרים שחזו את עליית הבינה המלאכותית טעו בהערכותיהם. עד שנות ה־90 חוקרי בינה מלאכותית צברו מוניטין של הבטחות שווא. הם נמנעו מתחזיות ומכל אזכור של אינטליגנציה מלאכותית ברמה אנושית מחשש שייחשבו כחולמים.

### בינה מלאכותית צרה

בשנות ה־90 ובתחילת המאה ה־21, חלה התקדמות רבה בפתרון בעיות ספציפיות בהן ניתן לקבל תוצאות ולייצר יישומים מסחריים, כמו רשתות עצביות מלאכותיות, ראייה ממוחשבת או כריית נתונים. מערכות אלו נפוצות כיום בכל ענפי הטכנולוגיה, והמחקר בתחום זה זוכה למימון רב הן באקדמיה והן בתעשייה.

מרבית חוקרי בינה מלאכותית מקווים כי בינה כללית מלאכותית תנבע משילוב מספר מערכות בינה מלאכותית צרה, כאשר כל אחת תפתור תת־בעיה ספציפית. עם זאת, חוקרים רבים חולקים על גישה זו ומאמינים שאינטליגנציה כללית צריכה להבנות מלמטה למעלה, כלומר ממידע חושי גולמי אל עבר מושגים מופשטים וסמלים.

### מחקר מודרני

בינה כללית מלאכותית מתארת מחקר שמטרתו ליצור מכונות המסוגלות לפעולה אינטליגנטית כללית. כבר בשנת 1997 השתמש מארק גוברוד במונח בדיון בהשלכות של תעשייה צבאית ומבצעים צבאיים אוטונומיים. המושג צבר פופולריות מחודשת על ידי שיין לג ובן גרטזל בשנת 2002. הכנס הראשון בתחום התקיים בעיר שיאמן, סין בשנת 2009 על ידי מעבדת המוח המלאכותי של אוניברסיטת שיאמן וחברת OpenCog. הקורס האוניברסיטאי הראשון ניתן בשנת 2010 ובשנת 2011 באוניברסיטת פלובדיב, בולגריה על ידי טודור ארנאודוב. בשנת 2018 אוניברסיטת MIT ערכה קורס בבינה כללית מלאכותית, שאורגן על ידי לקס פרידמן ובו מספר מרצים אורחים. עם זאת, נכון להיום, מרבית חוקרי הבינה המלאכותית מקדישים תשומת לב מועטה בלבד לבינה כללית מלאכותית, כאשר יש הטוענים כי אינטליגנציה אנושית היא מורכבת מדי לחיקוי בזמן הקרוב. כיום מספר קטן של חוקרים פעילים במחקרי בינה כללית מלאכותית, ורבים מהם שותפים לעריכת סדרת כנסים בתחום. אופי המחקר בתחום מגוון מאוד ולעיתים קרובות חלוצי. בהקדמה לספרו, גרטזל אומר כי הערכת הזמן למימוש בינה כללית מלאכותית נעה בין 10 ל־100 שנים, אך נראה כי הקונצנזוס בקהילת המחקר קרוב יותר להערכתו של ריי קורצוויל בספרו "הסינגולריות מתקרבת" כלומר עד 2045.

הערכות לכמה כוח עיבוד נדרש כדי לחקות מוח אנושי ברמות שונות (מריי קורצוויל, ואנדרס סנדברג וניק בסטרום), יחד עם המחשב־על המהיר ביותר מ־TOP500 ממופה בשנה. שימו לב לסולם הלוגריתמי וקו המגמה האקספוננציאלית, המניחה כי יכולת החישוב מוכפלת כל 1.1 שנה. קורצוויל מאמין שהעלאת מחשבות תתאפשר בהדמיה עצבית, בעוד שדוח Sandberg, Bostrom פחות בטוח באשר למקום בו מתעוררת התודעה.
ארגונים העוסקים בתחום כוללים בין היתר את מעבדת הבינה המלאכותית השווייצרית IDSIA, Nnaisense, Vicarious, Maluuba, the OpenCog Foundation, Adaptive AI, LIDA, Numenta והמכון למדעי העצב של רדווד. בנוסף, ארגונים כמו מכון המחקר לאינטליגנציית מכונות ו־OpenAI הוקמו כדי להשפיע על מסלול הפיתוח בתחום. פרויקט המוח האנושי שואף לבנות סימולציה של המוח האנושי. בסקירה שנערכה ב-2017 נמנו ארבעים וחמישה פרויקטי מחקר פעילים בתחום, כאשר הגדולים שבהם היו DeepMind, Human Brain Project ו־OpenAI.

כוח עיבוד הדרוש להדמיית מוח
---------------------------

### חיקוי מוח שלם

גישה אפשרית להשגת אינטליגנציה כללית היא סימולציה של מוח ביולוגי שלם. מודל ממוחשב של מוח נבנה על ידי סריקה ומיפוי של מוח ביולוגי ברזולוציה גבוהה. סימולציה של המודל הממוחשב תניב פעילות דומה לזו של המוח הביולוגי, ולכן תתקבל התנהגות זהה או דומה. טכנולוגיות הדמאה שיכולות לספק את הרזולוציה הנדרשת של מבנה המוח משתפרות במהירות. העתידן ריי קורצווייל בספרו "הסינגולריות מתקרבת" מעריך שטכנולוגיה מספקת תפותח בטווח זמנים דומה לפיתוח כוח המחשוב הנדרש לסימולציה.

### הערכות מוקדמות

לצורך הדמיית מוח ברזולוציה גבוהה, יש צורך בכוח מחשוב רב. במוח האנושי ישנם כ-100 מיליארד (1011) נוירונים, ולכל נוירון בממוצע 7000 קשרים סינפטיים (סינפסות) לנוירונים אחרים, כלומר כ־7x1014 סינפסות. הערכת כוח העיבוד של המוח היא בסביבות 1014 עדכונים סינפטיים בשנייה. בשנת 1997 קורצוויל העריך את כוח החישוב הנדרש לצורך סימולציה של מוח שלם ב-1016 פעולות בשנייה. כמו כן הוא העריך שהחומרה שתאפשר כוח חישוב זה תהיה זמינה בשנת 2015 עד 2025, בהנחה שגידול כוח המחשוב המעריכי יישאר כפי שהיה בעת כתיבת הערכה זו. הגידול בכוח החישוב הקדים את הערכתו של קורצוויל (מחשב־על שביצע 1016 פעולות בשנייה הושג כבר בשנת 2011) אולם נכון ל־2020 אין סימולציה של מוח שלם.

### מידול הנוירונים ברזולוציה גבוהה

המודל העצבי המלאכותי שהונח על ידי קורצוויל ומשמש ביישומים רבים של רשתות עצביות מלאכותיות כיום הוא פשטני לעומת נוירונים ביולוגיים. סימולציה של מוח מלא ומתפקד תצטרך ככל הנראה להשתמש במודל עצבי מפורט יותר של נוירונים ביולוגיים, שהבנתנו אותם אינה מספקת עדיין. מודל פיזיקלי וביוכימי מפורט של תאי עצב בקנה מידה מולקולרי ידרוש כוח עיבוד בסדרי גודל גדול יותר מהערכתו של קורצוויל. בנוסף, חישובו של קורצוויל לא התייחס לתאי גלייה, שמספרם המוערך הוא עד פי 10 ממספר הנוירונים, וכעת ידוע שהם ממלאים תפקיד בתהליכים קוגניטיביים.

### מחקר עדכני

ישנם כיום כמה פרויקטים מחקריים לסימולציית מוח באמצעות מודלים עצביים מתוחכמים יותר. פרויקט מערכת הבינה המלאכותית ביצע סימולציה של מוח עם 1011 נוירונים בשנת 2005. סימולציה של שנייה אחת של המודל באמצעות 27 מעבדים ארכה 50 יום. פרויקט המוח הכחול השתמש באחד ממחשבי־העל המהירים בעולם, Blue Gene של IBM, כדי לבצע סימולציה בזמן אמת של עמודת קליפת מוח של עכברוש המורכבת מ־10,000 נוירונים ו־108 סינפסות בשנת 2006. מטרת הפרויקט לטווח ארוך היא בניית סימולציה מפורטת ומתפקדת של התהליכים הפיזיולוגיים במוח האנושי. הנרי מרקרם, מנהל פרויקט המוח הכחול אמר ב־2009 בכנס TED באוקספורד: "זה לא בלתי אפשרי לבנות מוח אנושי ונוכל לעשות זאת בעוד 10 שנים."

מורכבות המודל של נוירונים ביולוגיים נבדקה בפרויקט OpenWorm שמטרתו סימולציה מלאה של תולעת בעלת 302 נוירונים ו־1,000 תאים בסך הכל. הרשת העצבית של התולעת נחקרה ותועדה היטב לפני תחילת הפרויקט. אף על פי שהמשימה נראתה פשוטה בהתחלה, הסימולציה המבוססת על מודל עצבי פשוט לא פעלה. נכון ל־2020, המאמצים מתמקדים בשיפור המודל העצבי בהתאם לידע על נוירונים ביולוגיים ברמה המולקולרית, אך עדיין לא ניתן לכנות את התוצאה כהצלחה. הלקח מפרויקט זה הוא כי גם אם הקושי בסימולציית המוח האנושי אינו פרופורציונלי למספר הנוירונים, הדרך לפתרון הבעיה עוד ארוכה ומורכבת.

### ביקורות על גישות מבוססות סימולציה

ביקורת מהותית על סימולציות מוח נובעת מההשקפה שקיום המוח כחלק מגוף הוא מרכיב חיוני בהיווצרות אינטליגנציה אנושית. חוקרים רבים מאמינים כי גוף הכרחי ליצירת הבנה ומשמעות. אם השקפה זו נכונה, כל סימולציית מוח מלא ומתפקד תצטרך להכיל לא רק את הרשת העצבית אלא גם גוף רובוטי. גרטזל טוען כי אין הכרח בגוף רובוטי פיזי וניתן להסתפק בסימולציה של גוף וירטואלי.

מחשבים המשתמשים במעבדים המסוגלים ליותר מ־109 פעולות בשנייה זמינים מאז 2005. על פי הערכות כוח העיבוד בו השתמש קורצווייל, מחשבים אלו אמורים לתמוך בסימולציה של מוח דבורה, אך למרות העניין, סימולציה מתפקדת כזו לא קיימת. סיבות אפשריות לכך:

1. המודל העצבי פשטני מדי.
2. סימולציות ראשוניות הן מאוד לא יעילות ועל כן דורשות כוח עיבוד גדול בהרבה.
3. סימולציה מתפקדת של אינטליגנציה מחייבת קיום גוף וסביבה או לפחות סימולציה שלהם.
4. תפקוד המוח מחייב גם סימולציה של תאי גליה שמספרם ותפקודם אינו ידוע היטב עד כה.

בינה כללית מלאכותית ותודעה
--------------------------

בשנת 1980 טבע הפילוסוף ג'ון סרל את המונח "בינה מלאכותית חזקה" כחלק מטיעון החדר הסיני שלו. הוא רצה להבדיל בין שתי השערות שונות בנושא בינה מלאכותית:

* מערכת בינה מלאכותית יכולה לחשוב ולהיות בעלת נפש.
* מערכת בינה מלאכותית יכולה **רק** להתנהג כאילו שהיא חושבת ובעלת נפש.

ההשערה הראשונה נקראת "בינה מלאכותית חזקה" והשנייה היא "בינה מלאכותית חלשה" וזאת מכיוון שהטענה הראשונה חזקה יותר: היא מניחה שכשאר סימולציה עוברת סף מורכבות מסוים, קורה לה משהו מיוחד שחורג מיכולת הבדיקה שלנו.

השערת הבינה המלאכותית החלשה שקולה להשערה כי אינטליגנציה כללית מלאכותית אפשרית. לדברי ראסל ונורוויג, "רוב חוקרי הבינה המלאכותית מאמינים בהשערת הבינה המלאכותית החלשה ואדישים להשערת הבינה המלאכותית החזקה."

בניגוד לסרל, ריי קורצוויל משתמש במונח בינה מלאכותית חזקה כדי לתאר כל מערכת בינה מלאכותית שמתנהגת כאילו יש לה מחשבה ללא קשר אם ניתן לקבוע אם זה נכון או לא. בתחום המדע הבדיוני, בינה כללית מלאכותית מתקשרת לתכונות כמו תודעה, תבונה ומודעות עצמית הקיימות ביצורים חיים. עם זאת, לדברי סרל, זו שאלה פתוחה האם האינטליגנציה הכללית מספיקה לתודעה. אין להתבלבל בין בינה מלאכותית חזקה (כהגדרתו של קורצוויל) לבין "השערת הבינה המלאכותית החזקה" של סרל. השערת הבינה המלאכותית החזקה היא הטענה כי מחשב שמתנהג בצורה אינטליגנטית כמו אדם חייב בהכרח להיות בעל תודעה ונפש. בינה כללית מלאכותית מתייחסת רק לרמת האינטליגנציה שהמכונה מציגה, עם או בלי תודעה.

ישנם היבטים נוספים של המוח האנושי מלבד האינטליגנציה הרלוונטיים לבינה מלאכותית חזקה אשר ממלאים תפקיד מרכזי במדע הבדיוני ובאתיקה של בינה מלאכותית:

* תודעה: היכולת להיות בעל מחשבה וחוויה סובייקטיבית
* מודעות עצמית: היכולת להיות מודע למחשבה העצמית ולקיום העצמי כישות נפרדת
* רגישות: היכולת לחוות חושים או רגשות באופן סובייקטיבי
* תבונה: היכולת להיות חכם

להיבטים אלו יש חשיבות מבחינה מוסרית, מכיוון שמכונה בעלת תכונות כאלה עשויה להיות ראויה להגנה ולזכויות חוקיות, לפחות כמו זכויות בעלי חיים. לא ידוע עדיין מי מתכונות אלו אכן נחוצות לקיום בינה מלאכותית חזקה. במיוחד, תפקיד התודעה אינו ברור, וכרגע אין מבחן מוסכם לבחינת קיום תודעה. האם מכונה שמדמה את מבנה המוח האנושי ותפקודו תהיה בהכרח בעלת מודעות עצמית?

איגור אלכסנדר טוען כי העקרונות ליצירת מכונה מודעת כבר קיימים אך ייקח ארבעים שנה להכשיר מכונה כזו להבנת שפה.

הסברים אפשריים להתקדמות האיטית במחקר
------------------------------------

מאז השקתו של מחקר בבינה מלאכותית בשנת 1956, קצב צמיחתו של תחום זה האטה. הסבר אפשרי לעיכוב זה הוא חוסר בזיכרון וכוח עיבוד של מחשבים.

סיבה אפשרית נוספת היא היעדר תשתית רעיונית למהות האינטליגנציה. תשתית זו תהווה בסיס רעיוני חזק לבחינת השערות והסקת מסקנות, ותוכל לאפשר התקדמות שיטתית בפיתוח בינה כללית מלאכותית. תשתית רעיונית כזו הייתה עשויה, למשל, להסביר מדוע מחשבים מסוגלים לבצע משימות מורכבות שבני אדם לא מסוגלים לבצע, בעוד הם נכשלים במשימות יומיומיות שאפילו ילדים מבצעים בקלות (הפרדוקס של מורבק).

התחזיות הכושלות של חוקרי הבינה המלאכותית בעבר, היעדר הבנה שלמה של ההתנהגות האנושיות, ובעיות קשות שעלו במשך שנות קיומו של התחום תרמו להפחתת העניין הראשוני ולצמצום במספר החוקרים והתקציבים המופנים בתחום. אף על פי שההתקדמות במחקר גרמה לאכזבות רבות, רוב החוקרים אופטימיים לגבי יכולת השגת היעד במאה ה־21.

חוסר הבנה של המוח האנושי ברמת הפסיכולוגיה והנוירו־פיזיולוגיה הגבילו חוקרים רבים מחיקוי תפקוד המוח האנושי בחומרת מחשב. ייתכן כי עד שלא תושג התקדמות משמעותית בחקר המוח לא ניתן לצפות לפריצות דרך בבינה כללית מלאכותית.

מחלוקות וסכנות
--------------

### היתכנות

קיימות מגוון הערכות בשאלות האם תתקיים בינה כללית מלאכותית ומתי. בקצה אחד של תחום הדעות, חלוץ הבינה המלאכותית הרברט סיימון כתב בשנת 1965: "מכונות יוכלו תוך עשרים שנה לעשות כל עבודה שאדם יכול לעשות." עם זאת, ניבוי זה לא התגשם. מייסד־שותף של מיקרוסופט, פול אלן, טען כי אינטליגנציה כזו אינה סבירה במאה ה־21 מכיוון שהיא תדרוש פריצות דרך בלתי צפויות ושאינן נראות באופק והבנה מדעית עמוקה של התודעה. חוקר הרובוטיקה אלן ווינפילד טען במאמר כי המרחק בין המחשוב המודרני לבין בינה מלאכותית ברמה האנושית הוא רב כמו המרחק שבין יכולותיהן של טיסות החלל הנוכחיות לטכנולוגיית תעופה מעשית מעל מהירות האור. דעותיהם של מומחי בינה מלאכותית משתנות תדיר. ארבעה סקרים שנערכו בשנים 2012 ו־2013 הראו כי ההערכה החציונית בקרב המומחים לגבי מתי בהסתברות של 50% תהיה בינה כללית מלאכותית הייתה 2040 עד 2050, וההערכה הממוצעת היא 2081. מעניין לציין כי 16.5% מהמומחים ענו "אף פעם" כשנשאלו אותה שאלה אך בהסתברות של 90% במקום 50%.

הטענה לפיה בינה מלאכותית מהווה סיכון קיומי, וכי סיכון זה מחייב תשומת לב רבה יותר מכפי שהוא מקבל כיום, מושמעת על ידי רבים. המפורסמים ביותר הם אילון מאסק, ביל גייטס וסטיבן הוקינג. חוקר הבינה המלאכותית הבולט ביותר שמחזיק בדעה זו הוא סטיוארט ג'יי ראסל. תומכי הטענה מביעים לעיתים השתאות כלפי הספקנים. גייטס טען שהוא "לא יכול להבין מדוע אנשים מסוימים אינם מודאגים", והוקינג מתח ביקורת על אדישות הציבור בסוגיה זו:

> 
> "אז אנו עומדים בפני עתיד אפשרי של יתרונות וסיכונים חסרי תקדים. המומחים בוודאי עושים הכל כדי להבטיח את התוצאה הטובה ביותר, נכון? לא נכון! אם תרבות חייזרית בעלת עליונות טכנולוגית הייתה שולחת לנו הודעה שאומרת 'נגיע בעוד כמה עשורים', האם היינו פשוט עונים 'אוקיי, תתקשרו אלינו כשתגיעו לכאן – נשאיר לכם את האורות דולקים?' כנראה שלא – אבל זה פחות או יותר מה שקורה עם בינה מלאכותית."
> 
> 
> 
> 

רבים מן החוקרים המודאגים מסיכון קיומי מאמינים כי הדרך הטובה ביותר להתקדם היא לבצע מחקר רחב היקף לפתרון בעיית השליטה הקשה כדי לענות על השאלה: אילו סוגי אמצעי הגנה, אלגוריתמים או ארכיטקטורות יכולים מתכנתים ליישם על מנת להגדיל את ההסתברות שבינה מלאכותית המסוגלת לשפר את עצמה באופן רקורסיבי, תמשיך להתנהג בצורה ידידותית, ולא הרסנית, אחרי שהיא תגיע לבינה על אנושית.

לטענה כי בינה מלאכותית יכולה להוות סיכון קיומי יש גם מתנגדים רבים. אלו גורסים כי זוהי אמונה לא רציונלית באפשרות של אינטליגנציה־על המחליפה אמונה לא־רציונלית באל כל יכול. ג'רון לנייר טוען כי כל התפיסה שמכונות יכולות להיות אינטליגנטיות היא "אשליה".

חלק גדול מהספקנים טוענים כי בינה כללית מלאכותית אינו סביר בטווח הקצר. מדען המחשבים גורדון בל טוען כי המין האנושי כבר ישמיד את עצמו לפני שיגיע לבינה כללית מלאכותית. גורדון מור, שטבע את חוק מור, מצהיר "אני ספקן. אני לא מאמין כי בינה כללית מלאכותית צפויה להתממש, לפחות עוד זמן רב." סגן נשיא באידו, אנדרו נג טוען כי הסיכון הקיומי מבינה מלאכותית הוא "כמו לדאוג לפיצוץ אוכלוסין במאדים כאשר עדיין לא דרכנו עליו."

ראו גם
------

* סינגולריות טכנולוגית
* בינה מלאכותית צרה
* AI-שלמות
* אתיקה של בינה מלאכותית

הערות שוליים
------------

1. ↑  Looking for Open2.net?, OpenLearn (באנגלית)

| בינה מלאכותית |
| --- |
| כללי | מבחן טיורינג • היסטוריה של הבינה המלאכותית • ציר הזמן של בינה מלאכותית • התקדמות הבינה המלאכותית (אנ') • AI-שלמות מערכת מומחה • אסדרת בינה מלאכותית (אנ') • בינה מלאכותית צרה • בינה חישובית • הסברתיות בינה מלאכותית • הפרדוקס של מורבק • סוכן תבוני • אתיקה של בינה מלאכותית |  |
| תחומים | עיבוד שפה טבעית • ראייה ממוחשבת • בינה מלאכותית יוצרת • אומנות בינה מלאכותית |
| סוגי למידת מכונה | מערכת לומדת • למידה מונחית • למידה בלתי מונחית • למידה עמוקה • למידת חיזוק • סיווג בייסיאני נאיבי • רשת בייסיאנית |
| אלגוריתמי למידת מכונה קלאסית | פרספטרון • עץ החלטה • מכונת וקטורים תומכים • Bag of words • אלגוריתם k-מרכזים • אלגוריתם מיקסום התוחלת • הורדת ממד • אלגוריתם שכן קרוב • Q-learning •‏ T-SNE •‏ Tf–idf • חיזוק גרדיאנט |
| למידה עמוקה | רשת עצבית מלאכותית • רשת זרימה קדימה • רשת עצבית רקורסיבית • טרנספורמר • Attention •‏ GAN |
| עיבוד שפה טבעית | מודל שפה • שיכון מילים (אנ') • בלשנות חישובית • תרגום מכונה • חילוץ מידע (אנ') • ניתוח סנטימנט • זיהוי חלקי דיבר (אנ') • מערכת זיהוי דיבור • זיהוי ישויות • כריית טקסט • תיוג תפקידים סמנטי • Word2vec • מודל שפה גדול • GPT •‏ BERT (אנ') • מודל Bag-of-words (אנ') • יצירת טקסט בשפה טבעית (אנ') • מילת עצירה • ניתוח מחרוזות • Stemming (אנ') • למטיזציה (אנ') |
| יישומים לבינה מלאכותית (אנ') | צ'אטבוט • זיהוי דובר • זיהוי עצמים • זיהוי תבניות • עוזר וירטואלי • זיהוי תווים אופטי • מחולל תמונות (הזיות (אנ')) |
| מערכות בינה מלאכותית | אלייזה • ChatGPT •‏ DALL-E •‏ Midjourney •‏ Gemini •‏ Perplexity •‏ GitHub Copilot • דיפ־פייק • סירי • Google Assistant • אמזון אלכסה |
| סוגיות בטיחות בינה מלאכותית (אנ') | סכנה קיומית מבינה מלאכותית כללית • בינה מלאכותית חזקה • יישור בינה מלאכותית (אנ') • בקרת יכולות בינה מלאכותית (אנ') • השתלטות בינה מלאכותית (אנ') • בינה מלאכותית ידידותית (אנ') • התכנסות אינסטרומנטלית (אנ') • סינגולריות טכנולוגית |
| ספריות בשימוש נרחב | TensorFlow •‏ PyTorch •‏ Torch •‏ Hugging Face •‏ Keras •‏ spaCy (אנ') •‏ Caffe |