בינה מלאכותית ידידותית

**בינה מלאכותית ידידותית** (באנגלית: **Friendly AI** או **FAI**) היא בינה מלאכותית כללית (AGI) היפותטית, אשר תהיה לה השפעה חיובית על האנושות, או שלפחות תהיה מתואמת עם האינטרסים האנושיים, כמו שיפור המין האנושי. זהו חלק מתחום האתיקה של הבינה המלאכותית וקשור קשר הדוק לאתיקה של מכונות. בעוד שאתיקה של מכונות עוסקת בשאלה כיצד סוכן בעל בינה מלאכותית צריך להתנהג, מחקר הבינה המלאכותית הידידותית מתמקד בשאלה כיצד לממש התנהגות זו בפועל ולהבטיח שהיא תהיה מוגבלת כראוי.

## אטימולוגיה ושימוש
[ממוזער|[אליעזר יודקובסקי, חוקר בינה מלאכותית וטובע המונח.]]
המונח נטבע על ידי אליעזר יודקובסקי, שידוע בעיקר בזכות הנגשה של הרעיון לציבור הרחב, כדי לדון בסוכנים מלאכותיים בעלי אינטליגנציית-על  המיישמים באופן אמין ערכים אנושיים. ספר הלימוד המוביל בתחום הבינה המלאכותית, בינה מלאכותית: גישה מודרנית מאת סטיוארט ראסל ופיטר נורוויג, מתאר את הרעיון כך:

"ידידותי" משמש בהקשר זה כמונח טכני, ומציין סוכנים בטוחים ומועילים, לאו דווקא כאלה שהם "ידידותיים" במובן המקובל. המושג מוזכר בעיקר בהקשר של דיונים על סוכנים מלאכותיים המשפרים את עצמם באופן רקורסיבי ומקיימים התפוצצות אינטליגנציה במהירות, מתוך הנחה שלטכנולוגיה היפותטית זו תהיה השפעה גדולה, מהירה וקשה לשליטה על החברה האנושית.

## סיכונים מבינה מלאכותית לא ידידותית

שורשי הדאגה מבינה מלאכותית עתיקים מאוד. קווין לה-גרנדור הצביע על כך שניתן לראות את הסכנות הספציפיות לבינה מלאכותית כבר בספרות העתיקה הנוגעת למשרתים אנושיים מלאכותיים כמו הגולם, או הפרוטו-רובוטים של גרברט מאוריאק ורוג'ר בייקון. בסיפורים אלה, האינטליגנציה והכוח הקיצוניים של יצירות אנושיות אלו מתנגשים עם מעמדם כעבדים, וגורמים לעימות הרסני. עד 1942, נושאים אלה הניעו את אייזק אסימוב ליצור את "שלושת חוקי הרובוטיקה" – עקרונות המוטמעים בכל הרובוטים בסיפוריו, שנועדו למנוע מהם לפנות נגד יוצריהם.

כיום, כשהאפשרות של אינטליגנציית-על קרובה יותר מאי פעם, אומר הפילוסוף ניק בוסטרום שמערכות בינה מלאכותית בעלות אינטליגנציית-על עם מטרות שאינן תואמות את האתיקה האנושית, הן מסוכנות מטבען. הוא ניסח זאת כך:

בשנת 2008, קרא אליעזר יודקובסקי ליצירת "בינה מלאכותית ידידותית" כדי להפחית את הסכנה הקיומית מבינה מלאכותית כללית. הוא הסביר כי: "הבינה המלאכותית אינה שונאת אותך ואינה אוהבת אותך, מבחינתה אתה בסך הכל עשוי מאטומים שהיא יכולה להשתמש בהם למשהו אחר".

## רצון קוהרנטי מופשט

יודקובסקי מקדם את מודל הרצון הקוהרנטי המופשט  (CEV). לדבריו, הרצון הקוהרנטי המופשט שלנו הוא "משאלתנו אילו ידענו יותר, חשבנו מהר יותר, והיינו יותר האנשים שרצינו להיות...".

במקום שבינה מלאכותית ידידותית תתוכנן ישירות על ידי מתכנתים אנושיים, היא תתוכנן על ידי "בינת זרע" (seed AI) שתתוכנת ללמוד תחילה את הטבע האנושי, ולאחר מכן לייצר את הבינה המלאכותית שהאנושות הייתה רוצה.

## גישות אחרות
סטיב אומוהונדרו  הציע גישת "פיגומים" לבטיחות בינה מלאכותית, שבה דור אחד של בינה מלאכותית בטוחה באופן מוכח, מסייע בבניית הדור הבא אשר בתורו יהיה בטוח באופן מוכח.

בספרו "Human Compatible", מפרט חוקר הבינה המלאכותית סטיוארט ראסל שלושה עקרונות להנחיית פיתוח מכונות מועילות. הוא מדגיש שעקרונות אלו אינם מיועדים לקידוד מפורש במכונות; אלא למפתחים האנושיים. העקרונות הם כדלקמן:

## ביקורת

מבקרים מסוימים סבורים כי גם בינה מלאכותית ברמה אנושית וגם אינטליגנציית-על אינן סבירות, ועל כן בינה מלאכותית ידידותית אינה סבירה. אלן ווינפילד, בכתבתו בגרדיאן, משווה את הקושי בפיתוח בינה מלאכותית ברמה אנושית לתנועה במהירות גבוהה ממהירות האור.

פילוסופים אחרים טוענים כי כל סוכן "רציונלי" באמת, בין אם הוא מלאכותי ובין אם הוא אנושי, יהיה מיטיב מטבעו; לפי השקפה זו, אמצעי הגנה מוכוונים שנועדו ליצור בינה מלאכותית ידידותית עשויים להיות מיותרים או אף מזיקים.

## לקריאה נוספת
* 

## קישורים חיצוניים
* 
* 
*

## ראו גם
* סכנה קיומית מבינה מלאכותית כללית
* אתיקה של מכונות
* סינגולריות טכנולוגית
* שלושת חוקי הרובוטיקה

## הערות שוליים

קטגוריה:בינה מלאכותית