אסדרת בינה מלאכותית

אסדרה של בינה מלאכותית (או רגולציה של בינה מלאכותית) כוללת פיתוח מדיניות וחוקים לקידום והכוונת הפיתוח והשימוש בבינה מלאכותית. אסדרה זו מהווה חלק ממהלך רחב יותר של אסדרה של אלגוריתמים באופן כללי. בעשור השלישי של המאה ה-21, הפכה האסדרה בתחום גם לכלי מרכזי לביצור הריבונות הדיגיטלית של מדינות, המבקשות להבטיח שליטה עצמאית בתשתיות טכנולוגיות קריטיות ובהגנה על ה"שכבה הקוגניטיבית" של אזרחיהן מפני השפעה זרה.

תחום הרגולציה והמדיניות של בינה מלאכותית נחשב תחום מתפתח בתחומי שיפוט ברחבי העולם, בין היתר באיחוד האירופי (שיש לו כוח רגולטורי שלטוני) ובגופים על-לאומיים כמו הארגון לשיתוף פעולה ופיתוח כלכלי (OECD), אגודת מהנדסי חשמל ואלקטרוניקה (IEEE) ואחרים.

החל משנת 2016 ניכר גל גובר של פרסום הנחיות אתיקה לבינה מלאכותית, שמטרתן לשמר יכולת שליטה חברתית על הטכנולוגיה. האסדרה נתפסת כחיונית הן לעידוד החדשנות והן לניהול סיכונים נלווים. לצד זאת, ארגונים המיישמים בינה מלאכותית נדרשים למלא תפקיד מרכזי בהנגשת טכנולוגיה מהימנה ובטוחה ובלקיחת אחריות על צמצום סיכונים. לפי מדד AI של אוניברסיטת סטנפורד, מספר החוקים הקשורים לבינה מלאכותית שהתקבלו ב-127 מדינות זינק מאחד בלבד בשנת 2016 ל-37 חוקים שעברו בשנת 2022 לבדה.

 רקע היסטורי 
מומחים ותומכים בבינה מלאכותית אחראית, אתיקה בבינה מלאכותית, הגנת הצרכן וביטחון סייבר קוראים להקים מעקות בטיחות סביב פיתוח הבינה המלאכותית מאז שנות ה-60. בשנת 2017, אילון מאסק קרא לרגולציה של פיתוח בינה מלאכותית. לפי NPR, מנכ"ל טסלה לא היה מרוצה מכך שהוא נאלץ לתמוך בפיקוח ממשלתי שעשוי להשפיע על תעשייתו, אך הוא סבר שהסיכונים שבהיעדר פיקוח כללי גבוהים מדי: "בדרך כלל, רגולציות מוקמות כאשר קורים דברים רעים, יש קריאות ציבור ולאחר שנים רבות מוקמת רשות רגולטורית שמפקחת על אותה תעשייה. זה לוקח הרבה זמן. זה בעבר היה רע אבל לא משהו שהציג סיכון יסודי לקיום הציוויליזציה". בתגובה, חלק מהפוליטיקאים הביעו ספק בלבצע אסדרה על טכנולוגיה שעדיין בפיתוח. בתגובה גם למאסק וגם להצעות מפברואר 2017 של חוקים אירופאים לאסדרה של בינה מלאכותית ורובוטיקה, בריאן קרזניץ, מנכ"ל אינטל, טען שהבינה המלאכותית עדיין בחיתולים ושזה מוקדם מדי לבצע אסדרה בטכנולוגיה. חברות טכנולוגיה רבות מתנגדות לאסדרה קשה על בינה מלאכותית ו"על אף שחלק מהחברות אמרו שהן מברכות על כללים לגבי בינה מלאכותית, הן גם התנגדו לרגולציות קשות כמו אלו שנוצרות באירופה". במקום לנסות לבצע אסדרה בטכנולוגיה עצמה, חלק מהאקדמאים הציעו לפתח נורמות משותפות כולל דרישות לבדיקות ושקיפות של אלגוריתמים, אולי בשילוב עם סוג של אזהרות לגבי מי שיפר זאת.

בסקר של Ipsos משנת 2022, היחסים כלפי בינה מלאכותית השתנו מאוד בין מדינה למדינה; 78% מהסינים, אך רק 35% מהאמריקאים, הסכימו ש"מוצרים ושירותים המשתמשים בבינה מלאכותית מציעים יותר יתרונות מחסרונות". סקר של רויטרס/Ipsos משנת 2023 מצא ש-61% מהאמריקאים מסכימים, ו-22% לא מסכימים, שבינה מלאכותית מהווה סיכון לאנושות. בסקר של פוקס ניוז משנת 2023, 35% מהאמריקאים חשבו שזה "חשוב מאוד", ו-41% נוספים חשבו שזה "די חשוב", שהממשל הפדרלי יבצע אסדרה בבינה מלאכותית, לעומת 13% שענו שזה "לא חשוב במיוחד" ו-8% שענו שזה "בכלל לא חשוב".

 גישות שונות לאסדרה (רגולציה) 
אסדרה של בינה מלאכותית תעשה על-ידי פיתוח חוקים ומדיניות ציבורית לקידום והסדרת השימוש בבינה מלאכותית, אסדרה שכזו נחשבת הכרחית הן לעידוד בינה מלאכותית והן לניהול הסיכונים הנלווים. שיקולי מנהל ציבורי ומדיניות מתמקדים בדרך כלל בהשלכות הטכניות והכלכליות ובמערכות בינה מלאכותית אמינות וממוקדות באדם, אם כי גם רגולציה של אינטליגנציות-על מלאכותיות נחשבת. הגישה הבסיסית לרגולציה מתמקדת בסיכונים ובהטיות של אלגוריתמים של למידת מכונה - ברמת נתוני הקלט, בדיקות האלגוריתמים ומודל קבלת ההחלטות, כמו גם ביכולת להסביר את הפלט המתקבל.

גישה אחת לכונן אסדרה של בינה מלאכותי היא על ידי חקיקה, הקושי הגדול של גישה זו נובע מהעובדה שהטכנולוגיה מתקדמת במהירות גדולה משמעותית מהיכולת של המחוקק ותהליכי החקיקה ״להדביק את הקצב״, מה שמוביל למערכת חוקים ותקנות מסורתית שאינה מעודכנת ואינה מקיפה דיה. מנגד, גישה ״רכה״ יותר, המתבססת על מדיניות, כללי אתיקה ופרשנות מאפשרת שינוי והתאמה בזמן קצר מה שעונה על הצרכים של טכנולוגיה מתפתחת ויישומים המבוססים עליה. עם זאת, החיסרון של הגישה הרכה הוא החוסר בפוטנציאל אכיפה. חלופה נוספת להתמודדות עם הפער בין קצב ההתפתחות הטכנולוגית לקצב העבודה של המחוקק היא נסינות רגולטורית - ניסויים מבוקרים על ידי הרגולטור בשיתוף עם התעשייה שנועדו לבחון את האופן שבו יש להתמודד עם טכנולוגיות חדשות. בישראל ניתן לראות ניצנים לאימוץ גישה זו של 'ארגזי חול רגולטוריים' בתחומי הרכב האוטנומי והפינטק.

גישה נוספת, היא מינוף זכויות קניין רוחני (כלומר, רישוי copyleft) באובייקטים מסוימים של בינה מלאכותית והאצלת זכויות אכיפה לגורמי אכיפה ייעודיים ממשלתיים או אחרים. למשל, זכויות קניין רוחני על המודלים עצמם או מערכי המידע (דאטה-סט) בעזרתם הם אומנו. לפי גישה זו השימוש בבינה מלאכותית יהיה כפוף לרישיון בתנאים הדורשים הקפדה על כללי אתיקה וקודים התנהגותיים המוגדרים מראש.

בנובמבר 2021 במאמר שפורסם בוול סטריט ג'ורנל קראו הנרי קיסינג'ר, אריק שמידט ודניאל האטנלוצ'ר הצהרה משותפת בשם "להיות אנושי בעידן של בינה מלאכותית", הקוראת לוועדה ממשלתית לאסדרה של בינה מלאכותית.

 אסדרה של בינה מלאכותית בעולם 
 בראייה גלובלית 
הרעיון של מועצת ממשל גלובלית להסדרת פיתוח בינה מלאכותית הועלה לפחות כבר ב-2017. בדצמבר 2018, קנדה וצרפת הכריזו על תוכניות לפאנל בינלאומי בנושא בינה מלאכותית בתמיכת G7, לפי מודל של הפאנל הבינלאומי לשינויי אקלים, כדי לחקור את ההשפעות העולמיות של בינה מלאכותית על אנשים וכלכלות וכדי לכוון את פיתוח הבינה המלאכותית. בשנת 2019 שונה שם הפאנל לשותפות הגלובלית בנושא בינה מלאכותית.

השותפות הגלובלית לבינה מלאכותית (GPAI) הושקה ביוני 2020, והצהירה על צורך בפיתוח בינה מלאכותית בהתאם לזכויות אדם ולערכים דמוקרטיים, כדי להבטיח את אמון הציבור בטכנולוגיה. 15 החברים המייסדים של השותפות העולמית לבינה מלאכותית הם אוסטרליה, קנדה, האיחוד האירופי, צרפת, גרמניה, הודו, איטליה, יפן, קוריאה, מקסיקו, ניו זילנד, סינגפור, סלובניה, ארצות הברית ובריטניה.

בשנת 2023, ל-GPAI יש 29 חברים. מזכירות GPAI מתארחת על ידי ה-OECD בפריז, צרפת. המנדט של GPAI מכסה ארבעה נושאים, בינה מלכותית אחראית, ממשל נתונים (data governance), עתיד שוק העבודה, וחדשנות ומסחור. בנוסף GPAI גם חקרה כיצד ניתן למנף בינה מלאכותית כדי להגיב למגפת הקורונה.

יוזמה של איגוד הטלקומוניקציה הבינלאומי (ITU) בשיתוף עם 40 סוכנויות אחיות של האו"ם, AI for Good היא פלטפורמה גלובלית שמטרתה לזהות יישומים מעשיים של AI לקידום יעדי הפיתוח בר-קיימא של האו"ם ולהרחיב את הפתרונות הללו להשפעה גלובלית. זוהי פלטפורמה מכוונת פעולה, גלובלית ומכילה של האומות המאוחדות המטפחת פיתוח של בינה מלאכותית להשפעה חיובית על בריאות, אקלים, מגדר, שגשוג כולל, תשתית בת קיימא וסדרי עדיפויות פיתוח גלובליים אחרים.

צפוי שגם מדינות יתחילו להשתמש בבינה מלאכותית ככלי להגנת סייבר לאומית. לכן, אנשי אקדמיה קוראים למדינות לקבוע תקנות לשימוש בבינה מלאכותית, בדומה לאופן שבו יש תקנות לתעשיות צבאיות אחרות.

ברמת המדינה, מדינות שונות התייחסו לבעיה בדרכים שונות. לגבי שלוש הכלכלות הגדולות, נאמר כי "ארצות הברית נוקטת בגישה מונעת שוק, סין מקדמת גישה מונעת על ידי מדינה, והאיחוד האירופי נוקט בגישה מונעת זכויות".

 ארצות הברית 
בארצות הברית אמנם אין מסגרת פדרלית מקיפה לרגולציה של בינה מלאכותית, אך ישנם מאמצים ברמה הפדרלית והמדינה לטפל בסיכונים ספציפיים ובחששות אתיים הקשורים לבינה מלאכותית. מאמצים מוקדמים עוד בתקופת ממשל אובמה התמקדו בסיכונים ובתקנות של בינה מלאכותית בשנת 2016. הדו"ח הראשי הראשון היה התוכנית הלאומית למחקר ופיתוח אסטרטגיים לבינה מלאכותית ב-2018.

בשנת 2019 פרסם הבית הלבן טיוטת הנחיה להסדרה של יישומי בינה מלאכותית והוקמה הוועדה לביטחון לאומי לבינה מלאכותית (NSCAI) "כדי לשקול את השיטות והאמצעים הדרושים לקידום פיתוח הבינה המלאכותית, למידת מכונה וטכנולוגיות נלוות כדי לתת מענה מקיף לצורכי הביטחון הלאומי וההגנה של ארצות הברית". הנשיא ביידן חתם על צו ביצוע בנושא בינה מלאכותית בטוחה, מאובטחת ומהימנה בשנת 2023.

ברמת המדינה ישנם מאמצים להסדרת השימוש בבינה מלאכותית, עיריית ניו יורק חוקקה את חוק ביקורת ההטיה בשנת 2021 כדי לטפל בהטיה אלגוריתמית בגיוס עובדים. טנסי חוקקה את חוק ELVIS בשנת 2024 כדי להסדיר זיופים עמוקים ושיבוט קול.

כמו כן ישנם מאמצים של סוכנויות ספציפיות בתחום אחריותן. לדוגמה מינהל המזון והתרופות המסדיר את השימוש בבינה מלאכותית בהדמיה רפואית או המכון הלאומי לתקנים וטכנולוגיה שפרסם נייר עמדה על רגולציה של בינה מלאכותית.

בנוסף, מתוך הגישה מונעת שוק, ישנן יוזמות והתחייבויות וולונטריות של חברות טכנולוגיה להבטיח ניהול סיכונים של שימוש בלתי אחראי בבינה מלאכותית. ביולי 2023, ממשל ביידן-האריס השיג התחייבויות וולונטריות משבע חברות - אמזון, אנתרופיק, גוגל, אינפלקשן, מטא, מיקרוסופט ו-OpenAI - לנהל את הסיכונים הקשורים לבינה מלאכותית. החברות התחייבו להבטיח שמוצרי בינה מלאכותית יעברו בדיקות אבטחה פנימיות וחיצוניות לפני פרסום פומבי; לשתף מידע על ניהול סיכוני בינה מלאכותית עם התעשייה, ממשלות, החברה האזרחית והאקדמיה; לתת עדיפות לאבטחת סייבר ולהגן על רכיבי מערכת בינה מלאכותית קניינית; לפתח מנגנונים ליידע את המשתמשים כאשר תוכן נוצר בינה מלאכותית, כגון סימון מים; לדווח בפומבי על היכולות, המגבלות ותחומי השימוש של מערכות ה-AI שלהם; לתת עדיפות למחקר על סיכונים חברתיים הנשקפים מ-AI, כולל הטיה, אפליה ודאגות לפרטיות; ולפתח מערכות בינה מלאכותית כדי להתמודד עם אתגרים חברתיים, החל ממניעת סרטן ועד להפחתת שינויי אקלים. בספטמבר 2023, שמונה חברות נוספות - Adobe, Cohere, IBM, אנבידיה, Palantir, Salesforce, Scale AI ו-Stability AI - חתמו אף הן על התחייבויות וולונטריות אלה.

ב-30 באוקטובר 2023 חתם נשיא ארצות הברית ג'ו ביידן על צו נשיאותי הכולל רגולציות פדרליות ראשונות לפיקוח על מערכות בינה מלאכותית. הצו כולל דרישות לפיהן מוצרי בינה מלאכותית ייבדקו כדי להבטיח שלא ניתן יהיה להשתמש בהם לפיתוח כלי נשק ביולוגיים או גרעיניים. הרגולציות כוללות גם המלצות, שתוצרי מדיה כגון תמונות, סרטונים וקובצי קול, שמפותחים על ידי מערכות בינה מלאכותית, יסומנו בתווית, שתבהיר שהם נוצרו על ידי בינה מלאכותית. הרגולציה נועדה להקשות על שימוש בכלי בינה מלאכותית ליצירה של "דיפ פייק" והפצת מידע שקרי שעלול להיראות אמין, למשל כדי לשבש מערכות בחירות במדינות דמוקרטיות.

 האיחוד האירופי 
האיחוד האירופי הוא אחד מתחומי השיפוט הגדולים בעולם והוא ממלא תפקיד פעיל ברגולציה העולמית של טכנולוגיה דיגיטלית באמצעות GDPR, Digital Services Act  ו-Digital Markets Act  חוק הבינה המלאכותית נחשב בשנת 2023 לרגולציה מרחיקת הלכת של AI ברחבי העולם.

לרוב מדינות האיחוד האירופי (EU) יש אסטרטגיות לאומיות משלהן להסדרת בינה מלאכותית, אך הן מתכנסות במידה רבה. האיחוד האירופי מונחה על ידי אסטרטגיה אירופית בנושא בינה מלאכותית, הנתמכת על ידי קבוצת מומחים לבינה מלאכותית. באפריל 2019, הנציבות האירופית פרסמה את הנחיות האתיקה שלה לבינה מלאכותית מהימנה (AI), עם המדיניות והמלצות ההשקעה שלה לבינה מלאכותית מהימנה ביוני 2019. קבוצת המומחים של נציבות האיחוד האירופי בנושא בינה מלאכותית מבצעת עבודה על מהימנות של בינה מלאכותית, והנציבות פרסמה דוחות על היבטי הבטיחות והאחריות של AI ועל האתיקה של כלי רכב אוטומטיים. (The CC BY 4.0 licence means that everyone have the right to reuse the text that is quoted here, or other parts of the original article itself, if they credit the authors. More info: Creative Commons license) Changes were made as follows: citations removed and minor grammatical amendments.

בפברואר 2020 פרסמה הנציבות האירופית מאמר (whitepaper) על בינה מלאכותית המתאר את גישת "אקוסיסטמה של מצוינות" ו"אקוסיסטמה של אמון", האחרון התמקד במסגרת רגולטורית עתידית עבור בינה מלאכותית, במיוחד עבור יישומים בסיכון גבוה בתחומים כמו בריאות, תחבורה ואנרגיה. יישומים אלה יהיו כפופים לדרישות לגבי נתוני הכשרה, שמירה על תיעוד, אספקת מידע, חוסן, דיוק ופיקוח אנושי.

טיוטת הרגולציה הודלפה באפריל 2021, ואחריה ההצעה הרשמית במאי 2021. חוק הבינה המלאכותית הסופי  אומץ ביוני 2023. הוא מתבסס על הגישה מבוססת הסיכון, ומגדיר ארבע קטגוריות סיכון: מינימלי, מוגבל, גבוה ובלתי מקובל.

החוק ספג ביקורת על הגדרותיו הלא ברורות והשלכות שליליות אפשריות על קבוצות פגיעות. עם זאת, הוא צפוי להיכנס לתוקף בסוף 2025 או בתחילת 2026, ויביא תקנות על פיתוח, פריסה ושימוש בבינה מלאכותית ברחבי האיחוד האירופי. החוק אוסר באופן כללי את השימוש בזיהוי רגשות ובזיהוי ביומטרי, עם חריגים צרים לאכיפת החוק.

 סין 
רגולציה על בינה מלאכותית בסין נשלטת בעיקר על ידי החלטת מועצת המדינה של הרפובליקה העממית של סין מ-8 ביולי 2017 "תוכנית פיתוח בינה מלאכותית של הדור הבא" (מסמך מועצת המדינה מס' 35), שבה הוועד המרכזי של המפלגה הסינית הקומוניסטית ומועצת המדינה של סין דחקו בגופים המנהלים של סין לקדם את הפיתוח של בינה מלאכותית עד 2030. הרגולציה של נושאי התמיכה האתית והמשפטית לפיתוח בינה מלאכותית מואצת, והמדיניות מבטיחה שליטה של המדינה בחברות סיניות על נתונים יקרי ערך, כולל אחסון נתונים על משתמשים סיניים בתוך המדינה ושימוש חובה בסטנדרטים הלאומיים של הרפובליקה העממית של סין עבור בינה מלאכותית, כולל על ביג דאטה, מחשוב ענן ותוכנות תעשייתיות. בשנת 2021, סין פרסמה קווים מנחים אתיים לשימוש בבינה מלאכותית בסין, הקובעת כי על החוקרים להבטיח שהבינה המלאכותית עומדת בערכים אנושיים משותפים, נמצאת תמיד בשליטה אנושית ואינה מסכנת את ביטחון הציבור. בשנת 2023, סין הציגה אמצעי ביניים לניהול שירותי בינה מלאכותית.

 מדינות נוספות אחרות 
נוף הרגולציה והמדיניות של בינה מלאכותית הוא נושא מתפתח בתחומי שיפוט אזוריים ולאומיים ברחבי העולם. באוסטרליה, ברזיל, קנדה, גרמניה, איטליה, ספרד ובריטניה עשו הממשלות מאמצים להסדיר ולשלוט בשימוש בבינה מלאכותית. בעוד שהפרטים הספציפיים של הגישה של כל מדינה לבינה מלאכותית עשויים להשתנות כולן נוקטות בצעדים מעשיים כדי לקדם שימוש אחראי ומועיל בבינה מלאכותית.

חלק מהצעדים הספציפיים שמדינות אלו נקטו כוללים: יצירת קווים מנחים אתיים עבור בינה מלאכותית המבטיחים שימוש בבינה מלאכותית בצורה אחראית ואתית, אסדרה של בינה מלאכותית ופיתוח חוקים ותקנות כדי להבטיח שימוש בטוח ויעיל בבינה מלאכותית. טיפול בהשפעה החברתית והכלכלית הפוטנציאלית של בינה מלאכותית, ומתכוננות לדרכים שבהן בינה מלאכותית עשויה לשנות את החברה והכלכלה בעתיד.

 בישראל 

בעידן הדיגיטלי, ישראל מתמודדת עם אתגרים רגולטוריים מורכבים הקשורים לפיתוח ושימוש בבינה מלאכותית. השינויים הטכנולוגיים מחייבים התאמות במשפט וברגולציה, תהליך שאינו פשוט ודורש גם חקיקה חדשה וגם פרשנות מחודשת לחוקים קיימים.

 קשיים משפטיים באכיפה 
לצד היתרונות המשמעותיים הגלומים בו, השימוש בבינה מלאכותית מעורר סיכונים וחששות שונים, לרבות פגיעה בזכויות אדם, כפי שנזכר לעיל. סיכונים אלה תלויים בהקשר בו נעשה השימוש ההתמודדות עם סיכונים בבינה מלאכותית, ובין היתר באופן היישום הטכנולוגי וסוג השימוש. וחששות אלה עשויה לעורר סוגיות משפטיות ורגולטוריות מורכבות, אשר יש בהן כדי ליצור אתגרים משמעותיים עבור המערכת המשפטית והרגולטורית ברחבי העולם ובישראל.

לדוגמה, הנושא של דיני איסור האפליה מתרחש בהקשר המשתנה של בינה מלאכותית, והוא משובץ בקרבה רבה לתחום הטכנולוגיה והפיתוחים החדישים. נרחיב על קשיים משפטיים שנובעים מהשימוש בבינה מלאכותית בקשר לאפליה ישירה ועקיפה.

בהקשר הזה, השימוש בבינה מלאכותית יכול לגרום לקשיים משפטיים בשתי דרכים עיקריות:

 אפליה ישירה: השימוש בקריטריונים אוטומטיים או במערכות המבוססות על בינה מלאכותית עשוי להביא לאפליה ישירה כשלעצמם. זה יכול לקרות כאשר הקריטריונים או האלגוריתמים מובנים בצורה שמפלים קבוצות מסוימות באופן בלתי ראוי.
 אפליה עקיפה: גם במקרים בהם המערכות הבאות על החלטות מקבלות בצורה עצמאית ומיוחדת, עשויות להיות בעיות משפטיות. לדוגמה, כאשר מאפיינים שלא קשורים באופן ישיר למפלה משפיעים על ההחלטה באופן ישיר, מתקבלת החלטה שעשויה להיות אפליה בעקיפה.

השימוש במערכות בינה מלאכותית בתהליכי קבלת החלטות בתחומים כמו קבלת עובדים עלול לגרום להנצחת הטיות קיימות אם התהליך מתבסס על נתונים מוגבלים השייכים לחברה הקולטת בלבד. בהיעדר רגולציה שתחייב שיתוף מידע בין גופים, מתעוררת בעיה משפטית בהרחבת ובשימוש במאגרי נתונים נוספים, שכן מידע זה עשוי להיות מוגן תחת דיני פרטיות (בנוגע למידע אישי של עובדים) ודיני קניין רוחני (בנוגע למידע השייך למעסיקים).

 בעיית ״הקופסה השחורה״ 
בינה מלאכותית מבוססת על יכולות חישוביות המפתחות מודלים לתחזית וקבלת החלטות שלעיתים לא ניתן להבין את דרך פעולתם דרך התוצאה הסופית בלבד. המורכבות של "אימון" המערכת גורמת לכך שהלוגיקה התפעולית מתפתחת מהנתונים ומהתהליך ואינה מוגדרת מראש על ידי המפתח. מערכות אלו נתפסות לעיתים כ-"קופסה שחורה", משם שבו ידועים הקלט והפלט אך תהליך העיבוד פנימי נשאר חסוי ובלתי ניתן להבנה.

הבעיה העיקרית המתעוררת נוגעת לאופן שבו קבלת החלטות על ידי המערכת יכולה לפגוע בכבוד האדם ובאוטונומיה שלו, כאשר הוא נתון להחלטות שנתפסות כשרירותיות או בלתי נראות. בנוסף, הקושי לזהות ולהתמודד עם החלטות מפלות מחמיר את הפגיעה בזכויות נוספות כמו שוויון. כאשר ההחלטה של המערכת אינה ניתנת להסבר, זה מקשה על הנפגעים להתמודד עם ההשלכות.

הפתרון המוצע לבעיות אלו כולל דרישה להסברתיות – היכולת להסביר באופן מובן לאדם את אופן פעולת המערכת. תכונה זו אינה מתקיימת תמיד, ולעיתים נדרשים אמצעים חיצוניים כדי להסביר את תהליך קבלת ההחלטות. מערכות שמבצעות תהליכים מורכבים של למידה דורשות פתרונות יצירתיים ומשפטיים להבטיח שהן נשארות שקופות ומובנות למשתמשים ולנפגעים פוטנציאליים.

 אחריותיות 
האחריותיות (Accountability) , ובכלל זה האחריות המשפטית (Legal Liability), נמנית עם האתגרים המרכזיים הקשורים בשימוש במערכות מבוססות בינה מלאכותית. הקצאת האחריות על פעילות אוטונומית של מערכות אלה מורכבת, כיוון שהן יכולות לחקות פעולות שמזוהות עם יכולות אנושיות, ולעיתים קובעות תוצאות ללא התערבות ברורה מצד אדם.

ככל שהמעורבות האנושית בתהליך הקבלה מצטמצמת, עולה השאלה איך מקבלים החלטות ומי נושא באחריות על טעויות שעשויות להתרחש. מונח האחריותיות כולל צורך להבטיח שגורמים מתאימים ישגיחו על הפיתוח והפעילות של מערכות אלו בהתאם לסטנדרטים והתקנים רלוונטיים, האחריות עלולה להיות גם משפטית, במקרה של נזקים ישירים שנגרמו מהשימוש במערכת, וגם חברתית, כאשר השפעת המערכת על הציבור או על קבוצות מסוימות גורמת לתוצאות שליליות שאינן מתקבלות על הדעת.

 מעורבות אנושית 
סוגיה מרכזית שמתעוררת בקשר לשימוש במערכות המבוססות על בינה מלאכותית, נוגעת למידת המעורבות האנושית הנדרשת במסגרת תהליך קבלת החלטה הנסמך על מערכת מסוג זה. מאפיין מרכזי שמייחד מערכות מבוססות בינה מלאכותית הוא יכולתן לפעול באופן אוטונומי המדמה בינה אנושית ובמקרים רבים מסוגל לבצע פעולות חישוב ביעילות רבה יותר מבינה אנושית.

העיסוק במעורבות אנושית בבינה מלאכותית נעשה בשני הקשרים מרכזיים. הקשר אחד נובע מעיקרון ערכי-מוסרי שלפיו בעניינים שיש להם השפעה משמעותית על אדם, ההחלטה תתקבל על ידי אדם, כגון החלטה בעלת משמעות כלכלית כבדה או החלטות שיש בהן ממד ערכי או אתי (הוראת סעיף 22 ל-GDPR). הקשר שני הוא תועלתני, ומטרתו להתמודד עם החשש מפני כשלים בטכנולוגיה באמצעות שילוב אדם בתהליך קבלת ההחלטות.

ישנה שאלה כבדת משקל בנוגע למשמעות המעשית של מעורבות אנושית בתהליך קבלת החלטה, כאשר ניתנת המלצה ברורה של מערכת מבוססת בינה מלאכותית. מחקרים מתחום הכלכלה ההתנהגותית הראו כי ישנן הטיות ייחודיות המאפיינות את האינטראקציה בין מקבלי החלטות אנושיים לבין מערכות המבוססות על בינה מלאכותית. אחת ההטיות המרכזיות לעניין זה היא הטיית האוטומציה, במסגרתה אנשים נוטים לאמץ את המסקנה אליה הגיעה מערכת אוטומטית בלי להפעיל את אותה מידה של שיקול דעת כמו ביחס להחלטות שלא התקבלו על ידי מערכת כזו. בנוסף, יש חשש שהאדם שמעורב בתהליך קבלת ההחלטה לא יסטה מהמלצות המערכת, מפאת החשש לנשיאה באחריות במקרה של טעות בשיקול דעתו (ראו גם פרק "אחריותיות" להלן). כך למשל, רופא עלול לחשוש לסטות מהמלצה של המערכת בנוגע לטיפול רפואי מומלץ על ידי המערכת.

לבסוף, יש חשש כי המעורבות האנושית תוביל לכך שהאחריות במקרה של טעות תעבור מכתפי מקבלי החלטות שהחליטו להשתמש במערכת או מפתחי המערכת, לגורם האנושי המעורב בתהליך קבלת ההחלטה, גם כשהדבר אינו מוצדק.

 הערות שוליים 

קטגוריה:בינה מלאכותית
קטגוריה:טכנולוגיה: היבטים משפטיים ואתיים
קטגוריה:מחשוב: חוק ומשפט