אתיקה של בינה מלאכותית

.

תְּחוּם הדַּעַת שעוסק באתיקה של הבינה המלאכותית, במיוחד כשמדובר בבינה מלאכותית חזקה שונה באופן מהותי מתחום הדעת שעוסק באתיקה של טכנולוגיות לא-קוגניטיביות. להלן ההבדלים בין שני התחומים האלה:
 אפילו אם המתכנתים עושים הכל נכון, ייתכן שלא ניתן יהיה לחזות את ההתנהגות הספציפית של מערכת הבינה המלאכותית, מלבד העובדה שההתנהגות הזאת תהיה בטיחותית;
 בדיקת בטיחות המערכת הופכת לאתגר גדול ביותר, שכן עלינו לברר מה בדיוק המערכת מנסה לעשות ולא רק שהיא מתנהלת באופן בטיחותי בכל המצבים;
 ההכרה האתית הופכת להיות נושא שהמהנדסים עוסקים בו.
אלגוריתמים והשפעתם על חיי היומיום

אלגוריתם הוא תהליך מתמטי לפתרון בעיה באמצעות מספר סופי של שלבים. בעולם המחשבים, אלגוריתם הוא מערך ההוראות שמגדיר לא רק מה צריך לעשות אלא באיזה סדר לעשות את הפעולות.

אלגוריתמים משמשים בתחומים רבים בחיי יומיום, למשל - אלגוריתם למיון כביסה:
 הרם בגד מערימת הבגדים
 בחן את הצבע
 שורת תנאי: אם הבגד צבעוני הנח אותו בערימה מספר 1
 אם הבגד שחור הנח אותו בערימה מספר 2
 אם הבגד לבן הנח אותו בערימה מספר 3
 חזור על הפעולה כל עוד יש בגדים בערימה

אלגוריתמים מצויים בכל פעולות המחשבים והטלפונים. רובם מורכבים משרשרות מסובכות וארוכות של הוראות, עד כדי כך שקשה לעקוב אחר ההגיון שלהן ולא תמיד ניתן להסביר את פעולותיהן.

דוגמה:

תחום רשתות הנוירונים המלאכותיות תופס חלק גדל והולך של ה"בינה מלאכותית". מכיוון שרשתות אלו לא מממשות אלגוריתמים דטרמיניסטיים ולמעשה, אין "ידע הרמטי" לגבי האופן שבו הן מצליחות לבצע משימות מורכבות, לא תמיד ניתן להסביר איך הן הגיעו לתוצאה כזו ולא לתוצאה אחרת. תחום זה מהווה תחום מחקר מהותי ואולם לא ברור אם יהיה לו פתרון.
ככל שהשימוש ברשתות הנוירונים המלאכותיות הופך להיות נפוץ יותר, התופעה ולפיה הן "מקדדות" לעצמן את העיוותים הקוגניטיביים-חברתיים הקיימים, הולכת ומחריפה. נושא זה במיוחד משמעותי בכל הקשור ללמידה מונחית כאשר "התנהגותה" של הרשת נקבעת לפי בסיס הנתונים ששימש לאימון שלה. כך למשל, אם הרשת אומנה לתת תחזית לגבי סיכוייו של סטודנט מסוים לסיים את התואר באוניברסיטה, על בסיס רשימת כל הסטודנטים בשני העשורים האחרונים באוניברסיטה מסוימת - במקרים בהם יש יותר סטודנטים ממין זכר, הרשת באופן אוטומטי, תיטה לתת תחזיות מוטות "לטובת" המין הגברי ו"תופעה" כזו אינה רצויה חברתית.

בינה מלאכותית שוחרת-טובת-האדם
יש בבינה המלאכותית תכונות חיוביות לרוב:
 פיתוח כלי תחבורה אוטונומיים שעתידים לייעל את התחבורה לסוגיה ולצמצם את תאונות הדרכים.
 דמוקרטיזציה והחבבנות, כלומר הפצת מידע, נתונים וכוח מחשוב לכל דורש, חינם ובאופן נגיש.
 קידום המחקר בפיזיקה ובמתמטיקה.
 שיפור השרות הרפואי והוזלתו.

פיי-פיי לי היא פרופסור למדעי המחשב באוניברסיטת סטנפורד וכיום מנהלת שותפה של המכון לבינה מלאכותית ממוקדת-אדם בסטנפורד. לדבריה המכון מתמקד בכיווני מחקר חדשניים:
 פיתוח לימודי בינה מלאכותית שניתנת להבנה (לפרשנות) בידי אדם (Explainability AI) - כלומר יצירת תוכנות שמסבירות את האלגוריתמים ומתאימות אותם לאופן החשיבה של בני אדם.
 פיתוח שיעמיק לחקור לא רק נתונים אלא גם אינטואיציה, ידע, אינטליגנציה אנושית.
 שילוב של דיסציפלינות שונות במחקר הבינה המלאכותית - פילוסופים, היסטוריונים, אנשי מדעי המדינה, כלכלנים, אנשי אתיקה, אנשי משפט, חוקרי מוח, פסיכולוגים וחוקרים בתחומים רבים נוספים - כדי להבין את ההשפעה שלה על חברת בני האדם מכל הבחינות.

בינה מלאכותית ברמת האדם היחיד
לדברי יובל נוח הררי בינה מלאכותית יכולה לאפשר תקיפת-מוח (brain hacking), כאשר יותר ויותר החלטות בחיים שלנו ייעשו על ידי אלגוריתמים, שכן הם יכירו את האדם טוב יותר מההכרות שלו את עצמו. לדבריו, כדי למנוע זאת עליך להכיר את עצמך יותר טוב, כך שיהיה יותר קשה לרמות אותך באמצעות מכונות. הררי מציע לפתח מערכות שמעניקות הגנה לאנשים ולא לממשלות ולא לחברות מסחריות. כל אחד מאיתנו צריכים מכונה כזאת – בת לווייה - שתפקידה להכיר את הבעלים שלה באופן אישי ביותר ולהגן עליו.

הסכנה שבבינה המלאכותית מצד תעשיית המידע
יוחאי בנקלר מתאר כיצד חברות המידע - גוגל, פייסבוק, אמזון, מיקרוסופט, אפל - מפתחות מוצרים של בינה מלאכותית, כשהאינטרס שלהן הוא השגת רווחים. גם תחום כלכלת תשומת הלב מעיד על כך שאלגוריתמים בהכרח אינם תואמים את האינטרס הציבורי כאשר הם מיועדים אך ורק לייצר רווח לחברה המסחרית.

בתוך הקופסה השחורה של האלגוריתמים יכולה להתקיים אפליה בלתי נראית ובלתי ניתנת לתיאור. כיוון שהנתונים נצברו לאורך השנים ובשל העובדה שהם משקפים אי-שוויון חברתי, קיימת אפשרות סבירה שנתונים אלה ינציחו מצב של אי-צדק שלא תהיה דרך לפענח את מקורו. לדוגמה, מערכות שחוזות עבריינות חוזרת עלולות לשלב שיטור נוקשה במיוחד בקהילות של שחורים. דוגמה נוספת: מערכות שמדרגות הצלחה של מועמדים לתפקיד כלשהו עלולות להפלות על בסיס מגדר או גיל. תופעה זו מחריפה ככל שתפוצת רשתות הנוירונים המלאכותיות עולה, בכלל, ונושא הלמידה מונחית בפרט.

כלכלת תשומת הלב עוסקת בהגדלת הרווחים של חברות המידע באמצעות יצירת התמכרות של הצרכנים.

הסכנה שבבינה המלאכותית בתחום המדיני
יובל נוח הררי מזהיר מפני שני סוגים של דיסטופיות כתוצאה מפיתוחים בתחום הבינה המלאכותית. אחת – מעקב קפיטליסטיאנ שבו אלגוריתמים יעשו עבורנו לא רק החלטות כגון מה לקנות או איפה לאכול אלא החלטות חשובות כגון איפה לעבוד, עם מי להתחתן ולמי להצביע. והשנייה - משטר טוטליטרי, שמבוסס על מערכת פיקוח שעוקבת ומדווחת אחרי כל אזרח כל הזמן. הררי, יחד עם 1,000 חוקרי בינה מלאכותית נוספים, בהם אילון מאסק וסטיב ווזניאק (ממייסדי אפל), חתם בחודש מרץ 2023 על מכתב הקורא להשהות את פיתוחי הבינה המלאכותית המתקדמים יותר ממודל השפה GPT-4, אשר שוחרר כשבועיים קודם לפרסום המכתב, למשך שישה חודשים. זאת, בשל דאגות הנוגעות לאובדן שליטה ביכולתה של הבינה המלאכותית, ולהיעדר הרגולציה בתחום זה.

בתחום היחסים בין מדינות קיימת סכנה של האצת מרוץ החימוש, מאחר שיותר ויותר מדינות מגיעות להבנה שבינה מלאכותית היא האמצעי להשיג שליטה במאה ה-21 וכולן ממהרות לפתח אלגוריתמים מורכבים שיכולים להיות זדוניים.

דרכי הגנה מפני איומי הבינה המלאכותית
 נדרשת השקעה ציבורית מוגברת במחקר עצמאי בתחום האתיקה של הבינה המלאכותית.
 יש צורך בשיתוף פעולה בינלאומי, כדי להגביר את האמון בין ארצות ועמים.
 סטודנטים לתכנות צריכים ללמוד קורסים באתיקה.
 יש לחשוף לציבור את הנתונים שנמצאים בידי החברות המסחריות.
 ארגונים הפועלים על מנת להבטיח כי מערכות של אינטליגנציה מלאכותית יתנהלו בהוגנות ויועילו לחברה חייבים להיות ממומנים על ידי הציבור, בכפוף לביקורת עמיתים ושקופים לחברה האזרחית.

 רגולציה 
עם עליית תפוצתה של הטכנולוגיה, החלו מספר גורמים בינלאומיים, ביניהם אונסק"ו, לקדם קווים מנחים לקביעת תקנות בינלאומיות לשימוש ראוי בבינה מלאכותית.

בשנת 2021 סין הייתה למדינה הראשונה בעולם שפרסמה תקנות אתיקה הנוגעות לשימוש בבינה מלאכותית, זאת כאשר השימוש של סין בבינה מלאכותית נחשב במערב לכזה שאינו תואם את ערכי החירות של הדמוקרטיות הליברליות, ופעילותה של סין בתחום זכויות האדם, כמו הפעלת מערכת אשראי חברתי, סותרות את המתווים הבינלאומיים לשימוש ראוי בבינה מלאכותית, מתווים עליהם חתומה גם סין עצמה.

על פי הפרסומים בסין, מטרתן של התקנות לאפשר לגולשים, בכל פעם שאמורה לפעול מולם מערכת של בינה מלאכותית, לבחור באופן אקטיבי האם להפעיל או לבטל אותה. כלומר, על ספק השירות להציע במקביל גם אפשרות שאינה מבוססת על בינה מלאכותית שתהייה נגישה לגולשים שיבחרו בכך. ההנחיות בסין נשענות על שישה עקרונות בסיס להפעלת AI: אמינות, שליטה, שיפור ההוויה לבני אדם, קידום צדק ובטיחות ושיפור המוסר. עם זאת, נושא האתיקה בסין מורכב, מכיוון שבמקרים שונים גישתה של סין, שבאופן כללי אינה נוטה לכבד את זכותם לפרטיות של אזרחיה, סייעה להתפתחות תחום הבינה במלאכותית במדינה תוך גישה להיקפי מידע שאין בנמצא במדינות אחרות, דוגמת מסד נתונים רחב של צילומי וידאו עם טכנולוגיה של זיהוי תווי פנים.

בשנת 2022 פרסמה המחלקה המייעצת לנשיא ארצות-הברית בנושאי מדע וטכנולוגיה (The Office of Science and Technology Policy (OSTP)) את "המתווה למגילת זכויות בבינה מלאכותית – הפעלת מערכות אוטומטיות עבור העם האמריקאי" (The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People). המתווה מציע קווי מתאר לפיתוח מדיניות ופרקטיקות להגנה על זכויות אזרחיות ולקידום ערכים דמוקרטיים בבנייה, פיתוח וממשל של מערכות אוטומטיות העשויות להשפיע על זכויות הציבור, על הזדמנויות, או על גישה לצרכים חיוניים.

 בריאות 
ארגון הבריאות העולמי פרסם בינואר 2024 מסמך הוראות באשר לשימושים רפואיים בבינה מלאכותית.

המסמך כולל המלצות לממשלות, לחברות טכנולוגיה ולספקי שירותי בריאות כדי להבטיח ולהגן על בריאות האוכלוסייה. סביבות בינה מלאכותית- LMMs - יכולות לקלוט נתונים מסוג מסוים, למשל טקסט, סרטונים ותמונות, וליצור מהם פלט מסוג אחר. למשל לקלוט תמונה וליצור ממנה טקסט. עד התקופה האחרונה הייתה יכולת כזאת רק לבני אדם. כיום המחשב יכול לחקות תקשורת אנושית ולבצע משימות שלא יועדו לו מלכתחילה. לפי המסמך המדובר אפשרויות אלה אומצו מהר יותר מכל יישום צרכני אחר בהיסטוריה, עם מספר פלטפורמות - כמו ChatGPT, Bard.

ההנחיות החדשות של ארגון הבריאות העולמי מתארות חמישה יישומים רחבים של בינה מלאכותית מסוג זה בתחום הבריאות:
 אבחון וטיפול קליני, כגון מענה לשאילתות כתובות של מטופלים;
 חקירת תסמינים וטיפול בהתאם לממצאי החקירה;
 משימות פקידותיות וניהוליות, כגון תיעוד וסיכום ביקורי חולים;
 לימודי רפואה וסיעוד, לרבות מפגשי מטופלים מדומים;
 מחקר מדעי ופיתוח תרופות, כולל זיהוי תרכובות חדשות.
עם זאת ישנם סיכונים בתחום הזה, כגון הפקת איבחונים שגויים, לא מדויקים, מוטים או חלקיים, שעלולים להזיק לאנשים המשתמשים במידע לקבלת החלטות בריאותיות. יתר על כן, ניתן להכשיר את ה-LMM תוך שימוש בנתונים באיכות ירודה או מוטים, בין אם לפי גזע, מוצא אתני, מוצא, מין, זהות מגדרית או גיל.

 בישראל 
בדצמבר 2023 התפרסם מסמך עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית 2023.

ב -30.10.2022, משרד החדשנות, מדע וטכנולוגיה פרסם "מצפן" להתייחסות הציבור. המסמך מתייחס לאסדרה ואתיקה בנושא בינה מלאכותית. במסמך יש כמה וכמה פריצות דרך ובכללן ההחלטה שלא תהיה חקיקה ראשית רוחבית - אלא קריאה לרגולטורים השונים לאסדר את הנושא, כל אחד בתחום אחריותו. במסמך יש גם סקירה מקיפה של מסמכים מקבילים בעולם והפניות לחומרי קריאה חשובים בתחום. המסמך, בין השאר, מתאר שישה עקרונות בסיסיים:
בינה מלאכותית תשמש לקידום צמיחה, פיתוח בר קיימא והמובילות הישראלית בתחום החדשנות - שימוש אחראי בבינה מלאכותית מהימנה הוא אמצעי לעודד צמיחה, פיתוח בר-קיימא, רווחה חברתית וקידום המובילות הישראלית בתחום החדשנות.
האדם במרכז: כיבוד זכויות יסוד ואינטרסים ציבוריים - פיתוח בינה מלאכותית, או שימוש בה, ייעשו תוך כיבוד שלטון החוק, זכויות יסוד ואינטרסים ציבורים ובפרט תוך שמירה על כבוד האדם ופרטיות.
שוויון ומניעת אפליה פסולה - בפיתוח ושימוש בבינה מלאכותית יובאו בחשבון הצורך בשוויון, גיוון, החשש להטיה במערכות בינה מלאכותית והסיכון לאפליה פסולה כנגד יחידים או קבוצות.
שקיפות והסברתיות - בפיתוח בינה מלאכותית ושימוש בה, יובאו בחשבון הצורך ליידע את מי שבא במגע עם בינה מלאכותית או מושפע מפעילותה והצורך במתן הסבר להחלטתה או לאופן שבו פעלה, בין היתר בשים לב למידת השפעתה, השלכותיה על מי שמושפע ממנה והאפשרויות הטכנולוגיות הזמינות.
אמינות, עמידות אבטחה ובטיחות - בפיתוח בינה מלאכותית ושימוש בה, יובא בחשבון הצורך בכך שמערכות בינה מלאכותית תהיינה אמינות, מאובטחות בטיחותיות לאורך כל מחזור חייהן, כך שבתנאי שימוש רגילים, שימוש צפוי או שימוש שגוי או תנאים מסוכנים אחרים - יפעלו כראוי ולא יהוו סיכון בטיחותי בלתי סביר. לשם כך יש לנקוט אמצעים סבירים בהתאם לתפיסות מקצועיות מקובלות לצמצם סיכוני בטיחות ואבטחת מידע בכל מחזור החיים של מערכות בינה מלאכותית.
אחריותיות - מפתחי בינה מלאכותית, מפעיליה או המשתמשים בה יגלו אחריות לתפקודה התקין, ולקיום העקרונות האחרים בפעילותם, בין היתר בשים לב לתפיסות ניהול סיכונים מקובלות ולאפשרויות הטכנולוגיות הזמינות.

 בקהילה האירופית 
הפרלמנט האירופי פרסם ב-12 בספטמבר 2023 הוראה כללית לבינה מלאכותית אמינה ואלה עיקריה:
 אמצעי אבטחה מוסכמים בתחום הבינה המלאכותית הכללית (החזקה);
 הגבלת השימוש במערכות זיהוי ביומטריות על ידי רשויות אכיפת החוק;
 איסורים על קיום מערכת אשראי חברתי ובינה מלאכותית המשמשוח כדי לתמרן או לנצל נקודות חולשה של משתמשים;
 זכותם של צרכנים להגיש תלונות ולקבל הסברים ניתנים להבנה;
 שיעורי קנסות באחוז משתנה מההכנסות, החל מ-7.5 מיליון אירו ועד 35 מיליון אירו.

לפי קווי היסוד של נציבות האיחוד האירופי לבינה מלאכותית הראויה לאמון יש שלושה מאפיינים שצריכים להתקיים לאורך כל מחזור החיים שלה: עליה להיות חוקית - לכבד את כל החוקים והתקנות הרלוונטיים; עליה להיות אתית - לכבד עקרונות וערכים אתיים; עליה להיות איתנה, הן מבחינה טכנית והן מבחינת התחשבות בסביבה החברתית בה היא פועלת.

 ראו גם 
 פילוסופיה של המוסר
 אוריינות AI
 אתיקה של מכונות
 השתלטות הבינה המלאכותית טיוח בינה מלאכותית
 בינה מלאכותית וזכויות יוצרים
 בינה מלאכותית כללית
 תאוריית האינטרנט המת אלטרואיזם אפקטיבי
 סכנה קיומית מבינה מלאכותית כללית
 אסדרת בינה מלאכותית
 הבסיליסק של רוקו

לקריאה נוספת

 קישורים חיצוניים 
 עקרונות, מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית, באתר משרד החדשנות, המדע והטכנולוגיה, 17 בדצמבר 2023




 What are AI ethics?, באתר חברת IBM (באנגלית)
 Ethics of Artificial Intelligence, באתר אונסק"ו (באנגלית)
 Ethics guidelines for trustworthy AI, באתר הנציבות האירופית (באנגלית)
 עקרונות אסילומאר של הבינה המלאכותית (באנגלית)

הערות שוליים

קטגוריה:האיחוד האירופי: מוסדות
קטגוריה:אתיקה
קטגוריה:בינה מלאכותית
קטגוריה:טכנולוגיה: היבטים משפטיים ואתיים