ISO/IEC 23894

ISO/IEC 23894 הוא תקן של ארגון התקינה הבין-לאומי (ISO) והנציבות הבין-לאומית לאלקטרוטכניקה (IEC), לניהול סיכונים בארגונים המפתחים מערכות בינה מלאכותית או משתמשים בהן.
המהדורה הראשונה של התקן פורסמה בשנת 2023.

 סקירה כללית 
התקן מספק הנחיות על האופן בו ארגונים המפתחים, מייצרים, מיישמים ומשתמשים במוצרים, מערכות ושירותים המשתמשים בבינה מלאכותית, צריכים לנהל סיכונים המתייחסים באופן ספציפי לבינה מלאכותית.

בנוסף מספק התק הנחיות לביצוע אינטגרציה של ניהול סיכונים עם הפעילויות והפונקציונליות שלהם בתחום הבינה המלאכותית. הוא מתאר תהליכים לצורך יישום ואינטגרציה של ניהול סיכוני בינה מלאכותית.

התקן מספק מסגרת (Framework) לניהול סיכונים הקשורים במערכות בינה מלאכותית בכל מחזור החיים שלהן. הגישה בתקן שונה מהגישה המסורתית בניהול סיכונים בכך שהיא מכירה בסיכונים הייחודיים של מערכות בינה מלאכותית, הנובעים מהיכולות של מערכות AI ללמוד, להסתגל ולקבל החלטות אוטונומיות.
 סיכונים ייחודיים של מערכות בינה מלאכותית
מערכות בינה מלאכותית משולבות במידה הולכת וגדלה בפונקציות ותהליכים עסקיים קריטיים. שילוב זה עלול לצור סיכונים ייחודיים שהעיקרים ביניהם מופיעים להלן:
 הטיות באלגוריתמים לקבלת החלטות
 פגיעה בפרטיות
 דילמות של אתיקה
 בעיות באבטחת מידע במערכות בינה מלאכותית
 השלכות לא מכוונות של פעילות אוטונומית של מערכות בינה מלאכותית.
עקרונות
1. גישה הוליסטית

סיכוני מערכות בינה מלאכותית הם בהקשר הכולל של סיכונים לארגון.

2. סיכונים בכל מעגל החיים של מערכות בינה מלאכותית

מהפיתוח ועד השימוש

3. שיפור מתמיד

4. מעורובת של בעלי תפקידים בארגון (Stakeholders)

5. שקיפות ויכולת להסביר
העקרונות הם הבסיס לאינטגרציה של התקן עם מערכות ניהול סיכונים אחרות הקיימות בארגון.

מסגרת (Framework)
המרכיבים העיקריים במסגרת לניהול סיכוני AI הם:
 זיהוי סיכונים
 הערכת סיכונים
 טיפול בסיכונים
 תהליך דינאמי מתמשך של מעקב ובחינה.

ראו גם
 ניהול סיכונים
 הערכת סיכונים
 ISO 31000
 ISO/IEC 31010
 ISO/IEC 27005

הערות שוליים

*
קטגוריה:תקני ISO
קטגוריה:בינה מלאכותית