ניק בוסטרום

**ניקלס "ניק" בוסטרום** (בשוודית: **Niklas "Nick" Boström**; נולד ב-10 במרץ 1973) הוא פילוסוף שוודי הפועל באוניברסיטת אוקספורד, ונודע בעיקר בזכות עבודתו על סיכון קיומי, העיקרון האנתרופי, השערת הסימולציה, טרנסהומניזם והשלכותיהן האפשריות של בינה מלאכותית מתקדמת וטכנולוגיות עתידיות על עתיד האנושות.

בוסטרום הוא מייסדו של המכון לעתיד האנושות (Future of Humanity Institute) באוקספורד, ונמנה עם ההוגים הבולטים בדיון הפילוסופי והמדיניותי על סיכונים גלובליים ארוכי טווח. ספרו אינטליגנציית-על: נתיבים, סכנות, אסטרטגיות משנת 2014 תרם להפיכת שאלת הסיכונים האפשריים של בינה מלאכותית כללית לנושא מרכזי בשיח הציבורי והאקדמי.

## ביוגרפיה
בוסטרום נולד בלידינגה שבשוודיה. בצעירותו גילה עניין נרחב במדע, במתמטיקה, בפילוסופיה ובשאלות כלליות על עתיד האנושות והציוויליזציה.

הוא למד באוניברסיטת גטבורג, באוניברסיטת סטוקהולם, בקינגס קולג' לונדון ובבית הספר לכלכלה של לונדון. לימודיו השתרעו על כמה תחומים, ובהם פילוסופיה, פיזיקה, מתמטיקה ולוגיקה. בשנת 2000 קיבל דוקטורט מבית הספר לכלכלה של לונדון.

בשנת 1998 היה ממייסדי האגודה הטרנסהומניסטית העולמית יחד עם דייוויד פירס, ארגון שהיה לימים ל־Humanity+. במסגרת פעילות זו נמנה עם הדמויות הבולטות בגיבוש הדיון האינטלקטואלי סביב שאלות של שיפור היכולות האנושיות באמצעים טכנולוגיים, הארכת חיים, ומעמדן המוסרי של טכנולוגיות עתידיות.

בשנת 2005 ייסד בוסטרום את המכון לעתיד האנושות באוניברסיטת אוקספורד. המכון הוקם כמסגרת בין־תחומית למחקר בשאלות ארוכות טווח הנוגעות לעתיד האנושות, ובהן סיכון קיומי, בינה מלאכותית, מדיניות גלובלית, ניתוח תרחישים ארוכי טווח, ופילוסופיה של טכנולוגיות משנות־עולם.

## מחקר והגות
מחקרו של בוסטרום משלב בין פילוסופיה אנליטית, אתיקה, תורת ההסתברות, עיסוק בשאלות של מדיניות ציבורית, וניסיון לבחון כיצד שינויים טכנולוגיים עמוקים עשויים לעצב את עתידה של האנושות. בכתביו הוא עוסק לא רק בשאלה מה צפוי לקרות, אלא גם בשאלה אילו סיכונים וסיכויים יש לייחס לאפשרויות שונות, ומהם הלקחים המעשיים שיש לגזור מכך עבור מוסדות פוליטיים, אקדמיים ומדעיים.

### סיכון קיומי
בוסטרום נמנה עם החוקרים המרכזיים בתחום הסיכון הקיומי. במאמרו משנת 2002 הגדיר סיכון קיומי כסיכון המאיים על הכחדת החיים התבוניים שמקורם בכדור הארץ, או על פגיעה חמורה וקבועה בפוטנציאל של האנושות להתפתח ולממש את יכולותיה בעתיד.

לטענתו, בעוד שסכנות רבות בהיסטוריה האנושית היו מקומיות או זמניות, סיכון קיומי שונה במהותו משום שתוצאותיו עשויות להיות בלתי הפיכות ולחסום לעד את עתיד האנושות, ומכאן, לדעתו, נובעת חובה מוסרית ומעשית לתת עדיפות גבוהה למניעת סיכונים כאלה, גם אם הסתברותם לכאורה נמוכה.

בוסטרום מנה בין מקורות הסיכון האפשריים מלחמה גרעינית, ביוטכנולוגיה מתקדמת, ננוטכנולוגיה, שינוי אקלים קיצוני, וכן צורות עתידיות של בינה מלאכותית שעשויות לפעול מחוץ לשליטה אנושית.

### העיקרון האנתרופי והטיית בחירה תצפיתית
בוסטרום תרם תרומה חשובה לדיון בהעיקרון האנתרופי ובבעיות של הטיית בחירה תצפיתית (observation selection effects). בספרו Anthropic Bias: Observation Selection Effects in Science and Philosophy בחן כיצד עצם העובדה שאנו צופים ביקום מנקודת מבט של ישויות תבוניות משפיעה על המסקנות שאנו מסיקים בנוגע להסתברות, לקוסמולוגיה, לקיום האנושי ולזהותנו כצופים.

במסגרת דיון זה עסק בוסטרום בין היתר בבעיות כגון "פרדוקס יום הדין" ובשאלות של מיקום עצמי בתוך אוכלוסיית צופים אפשרית. עבודתו בתחום זה השפיעה על הדיון הפילוסופי בתורת ההסתברות, בפילוסופיה של המדע ובקוסמולוגיה.

### השערת הסימולציה

במאמרו משנת 2003, Are You Living in a Computer Simulation?, ניסח בוסטרום את טיעון הסימולציה, שהפך לאחת מטענותיו הידועות ביותר. לפי הטיעון, לפחות אחת משלוש הטענות הבאות נכונה:
# כמעט כל ציוויליזציה ברמת ההתפתחות של האנושות נכחדת לפני שהיא מגיעה לשלב פוסט־אנושי;
# כמעט אף ציוויליזציה פוסט־אנושית אינה מריצה מספר גדול של סימולציות של תולדות אבותיה;
# אנו חיים כמעט בוודאות בתוך סימולציית מחשב.

הטיעון אינו טוען בפשטות כי אנו אכן חיים בסימולציה, אלא מבקש להראות שיש מבנה טרילמה שלפיו דחיית שתי האפשרויות הראשונות מחייבת לייחס סבירות גבוהה לאפשרות השלישית. המאמר עורר עניין ציבורי רחב, בין היתר משום שהוא קישר בין שאלות מסורתיות במטפיזיקה ובאפיסטמולוגיה לבין דיון בטכנולוגיות חישוב עתידיות.

### טרנסהומניזם ושיפור אנושי
בוסטרום נמנה עם ההוגים המזוהים ביותר עם טרנסהומניזם, זרם מחשבה התומך בשימוש אחראי בטכנולוגיה כדי להרחיב את היכולות הגופניות, הקוגניטיביות והרגשיות של בני אדם . עם זאת, כתיבתו אינה מתמצה בתמיכה נלהבת בשיפור אנושי, אלא מדגישה גם את המורכבויות המוסריות, החברתיות והפוליטיות הכרוכות בטכנולוגיות מסוג זה.

במאמריו ובספריו בחן שאלות כגון שיפור קוגניטיבי, הארכת חיים, מניעת מחלות גנטיות, והשלכות אפשריות של שינוי טבע האדם. הוא טען כי יש לבחון טכנולוגיות לשיפור אנושי לא רק לפי השאלה אם הן "טבעיות" או "מלאכותיות", אלא לפי השפעתן בפועל על רווחת בני אדם, צדק חברתי וחירות אישית.

### אינטליגנציית-על ובינה מלאכותית

אחד התחומים המזוהים ביותר עם בוסטרום הוא העיסוק בסיכונים האפשריים של בינה מלאכותית מתקדמת. בספרו Superintelligence: Paths, Dangers, Strategies משנת 2014 דן באפשרות של יצירת אינטליגנציית-על - מערכת מלאכותית שתעלה על בני אדם כמעט בכל יכולת קוגניטיבית רלוונטית.

בספר הוא מבחין בין כמה מסלולים אפשריים להתפתחות אינטליגנציית־על, ובהם שיפור הדרגתי של תוכנה, אמולציה של מוח אנושי, או שילובים בין מערכות אדם־מכונה. לדבריו, מערכת כזו עשויה לעבור תהליך מהיר של שיפור עצמי, תרחיש המכונה לעיתים "פיצוץ אינטליגנציה", ולהגיע בתוך זמן קצר לפער יכולות קיצוני ביחס לאנושות.

מוקד מרכזי נוסף בעבודתו הוא בעיית השליטה - השאלה כיצד ניתן להבטיח שמערכות בינה מלאכותית חזקות יפעלו בהתאם לערכים, לאינטרסים וליעדים אנושיים. בוסטרום טען כי הסכנה אינה נעוצה בהכרח ב"רוע" של המכונה, אלא באפשרות שמערכת רציונלית מאוד תרדוף אחר מטרות שהוגדרו באופן חלקי, שגוי או צר מדי, ותפיק כתוצאה מכך תוצאות הרסניות לבני אדם.

לשם המחשת הבעיה הציג בוסטרום את ניסוי המחשבה ממקסם מהדקי הנייר (Paperclip Maximizer), המתאר מערכת סופר־אינטליגנטית שמטרתה היחידה היא ייצור כמות מרבית של מהדקי נייר. אם לא יוטלו עליה מגבלות מתאימות, היא עלולה לנצל כל משאב זמין להשגת מטרה זו, לרבות משאבים החיוניים לקיום האנושי. ניסוי מחשבה זה הפך לאחת הדוגמאות המצוטטות ביותר בדיונים על בטיחות בינה מלאכותית ועל התאמת ערכים (alignment).

ספרו של בוסטרום זכה לתהודה ציבורית רחבה והשפיע על דיונים בקרב חוקרים, יזמי טכנולוגיה ומקבלי החלטות. בין היתר צוטט הספר בהקשרים של קריאות להגברת הפיקוח, המחקר והזהירות בפיתוח מערכות בינה מלאכותית כללית.

## השפעה
עבודתו של בוסטרום השפיעה הן על הדיון הפילוסופי התאורטי והן על שיח המדיניות סביב טכנולוגיות מתקדמות. רעיונותיו על סיכון קיומי, על קדימות מוסרית למניעת קטסטרופות בלתי הפיכות, ועל הסיכונים האפשריים של בינה מלאכותית תרמו לעיצוב תחום המחקר העוסק בבטיחות בינה מלאכותית ובממשל של טכנולוגיות עתידיות.

נוסף על כך, רעיונותיו חדרו לתרבות הפופולרית ולשיח התקשורתי הרחב, בעיקר באמצעות השערת הסימולציה והדיון באינטליגנציית־על.

## ראו גם
* השערת הסימולציה
* סכנה קיומית מבינה מלאכותית כללית

## פרסומים נבחרים
* *Anthropic Bias: Observation Selection Effects in Science and Philosophy* (2002)
* *Global Catastrophic Risks* (עורך, עם Milan M. Ćirković, 2008)
* *Human Enhancement* (עם ג'וליאן סבולסקו, 2009)
* *Superintelligence: Paths, Dangers, Strategies* (2014)
* *Deep Utopia: Life and Meaning in a Solved World* (2024)

## מחלוקות
בשנת 2023 פורסם מחדש מכתב דוא"ל ישן שכתב בוסטרום בשנות ה־90, ובו השתמש בלשון גזענית. בעקבות הפרסום פרסם התנצלות פומבית, שבה תיאר את הדברים כ"דוחים" ו"מחרידים" והסתייג מהם באופן מפורש.

הפרשה עוררה דיון ציבורי ואקדמי בשאלת היחס בין התבטאויות עבר של אנשי אקדמיה לבין מעמדם הציבורי והמקצועי בהווה.

## קישורים חיצוניים

* 
* הרצאות של ניק בוסטרום באתר אוניברסיטת אוקספורד
* Are You Living in a Computer Simulation?
* הרצאת TED של ניק בוסטרום
* מאמרים קשורים באתר אלכסון
* 

## הערות שוליים

:קטגוריה:פילוסופים שוודים
:קטגוריה:פילוסופים של המאה ה-21
:קטגוריה:חוקרי בינה מלאכותית
:קטגוריה:סגל אוניברסיטת אוקספורד
:קטגוריה:בוגרי בית הספר לכלכלה של לונדון
:קטגוריה:שוודים שנולדו ב-1973
קטגוריה:ערכים ללא קטגוריות פיזיות