أخلاقيات الذكاء الاصطناعي
التحديات الحالية > التحيزات الخوارزمية

المقالة الرئيسة: تحيز خوارزمي
أصبح الذكاء الاصطناعي جزءًا متزايد الأهمية في أنظمة التعرف على الوجه والصوت. بعض هذه الأنظمة لها تطبيقات تجارية حقيقية وتؤثر بشكل مباشر على الناس. ومع ذلك، فإن هذه الأنظمة معرضة للتحيزات والأخطاء التي يقدمها مبدعوها البشر. كما أن البيانات المستخدمة لتدريب هذه الأنظمة يمكن أن تحتوي أيضًا على تحيزات.
على سبيل المثال، أظهرت خوارزميات التعرف على الوجه التي طورتها شركات مثل مايكروسوفت وآي بي إم وFace++ تحيزات في قدرتها على الكشف عن جنس الأشخاص؛ حيث كانت هذه الأنظمة أكثر دقة في تحديد جنس الرجال البيض مقارنة بالرجال ذوي البشرة الداكنة. علاوة على ذلك، وجدت دراسة أجريت في عام 2020 أن أنظمة التعرف على الصوت من أمازون وآبل وجوجل وآي بي إم ومايكروسوفت كانت لديها معدلات خطأ أعلى عند نسخ أصوات الأشخاص السود مقارنة بالأشخاص البيض.
يمكن أن يتسلل التحيز إلى الخوارزميات بطرق متعددة، وأحد أبرز الأسباب لظهور التحيز في أنظمة الذكاء الاصطناعي هو وجوده ضمن البيانات التاريخية المستخدمة لتدريب النظام. على سبيل المثال، أوقفت أمازون استخدام الذكاء الاصطناعي في التوظيف لأنها اكتشفت أن الخوارزمية تفضل المرشحين الذكور على الإناث. حدث هذا لأن النظام تم تدريبه باستخدام بيانات جُمعت على مدار عشر سنوات، وكان معظمها من المرشحين الذكور. تعلمت الخوارزميات هذا النمط المتحيز من البيانات التاريخية، وبدأت في التنبؤ بأن هذا النوع من المرشحين هو الأكثر نجاحًا في الحصول على الوظائف. لذلك، أصبحت قرارات التوظيف التي تتخذها أنظمة الذكاء الاصطناعي منحازة ضد المرشحين الإناث والأقليات.
صنَّف "فريدمان" و"نيسينباوم" التحيز في أنظمة الكمبيوتر إلى ثلاثة أنواع: التحيز القائم (Existing Bias)، التحيز التقني (Technical Bias)، والتحيز الناشئ (Emergent Bias). في معالجة اللغات الطبيعية يمكن أن تنشأ مشكلات من مصدر النصوص الذي يستخدمه النظام لتعلم العلاقات بين الكلمات المختلفة.
بذلت شركات كبيرة مثل آي بي إم وجوجل وما إلى ذلك، والتي توفر تمويلًا كبيرًا للبحث والتطوير، جهودًا للبحث في هذه التحيزات ومعالجتها. أحد الحلول لمعالجة التحيز هو إنشاء وثائق للبيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي. يمكن أن يكون استخراج العمليات أداة مهمة للمنظمات لتحقيق الامتثال للوائح الذكاء الاصطناعي المقترحة من خلال تحديد الأخطاء ومراقبة العمليات وتحديد الأسباب الجذرية المحتملة للتنفيذ غير السليم والوظائف الأخرى.
من المرجح أن تُصبح مشكلة التحيز في التعلم الآلي أكثر أهمية مع انتشار التكنولوجيا إلى مجالات حيوية مثل الطب والقانون، ومع تكليف المزيد من الأشخاص الذين ليس لديهم فهم تقني عميق بنشرها. تسعى بعض الأدوات مفتوحة المصدر إلى زيادة الوعي بتحيزات الذكاء الاصطناعي. ومع ذلك فلا تزال القيود تعتم على المشهد الحالي للعدالة في الذكاء الاصطناعي، على سبيل المثال بسبب الغموض الجوهري في مفهوم التمييز، سواء على المستوى الفلسفي أو القانوني.
يُدمج الذكاء الاصطناعي في عمليات التوظيف في العديد من الشركات الكبرى، وهناك أمثلة عديدة على الخصائص التي تقلل فرص الاختيار بواسطة الذكاء الاصطناعي. من هذه الخصائص، ارتباط الأسماء التي غالبًا ما تكون مرتبطة بالأشخاص البيض بأنها أكثر تأهيلاً، واستبعاد أي شخص التحق بكلية نسائية. أثبتت تقنيات التعرف على الوجه أنها منحازة ضد الأشخاص ذوي البشرة الداكنة. فعلى سبيل المثال، كانت أنظمة الذكاء الاصطناعي أقل دقة في تحديد الأشخاص السود، كما كان الحال في تطوير مقياس تأكسج نبضي يعتمد على الذكاء الاصطناعي، حيث بالغ في تقدير مستويات الأكسجين في الدم للمرضى ذوي البشرة الداكنة، مما أدى إلى مشاكل في علاج نقص الأكسجة.
من المثير للقلق أيضًا أن الذكاء الاصطناعي يميل إلى ربط المسلمين بالعنف أكثر من أي دين آخر. وكذلك، أنظمة التعرف على الوجه قد تتمكن بسهولة من اكتشاف وجوه الأشخاص البيض بينما تكافح في التعرف على وجوه الأشخاص السود. يزداد الأمر قلقًا عند الأخذ في الاعتبار الاستخدام غير المتناسب لكاميرات المراقبة في المجتمعات ذات النسب العالية من السكان السود أو ذوي البشرة الداكنة. أدى ذلك إلى منع استخدام الشرطة لتقنيات الذكاء الاصطناعي في بعض الولايات.
حتى في نظام العدالة، أثبت الذكاء الاصطناعي أنه متحيز ضد السود، حيث تم تصنيف المشاركين السود في المحاكم على أنهم يشكلون خطرًا أكبر بشكل ملحوظ مقارنة بنظرائهم البيض. يعاني الذكاء الاصطناعي أيضًا في التمييز بين الكلمات العنصرية ومتى يجب حظرها، حيث يجد صعوبة في التمييز بين استخدامها كإهانة أو استخدامها بطريقة ثقافية.
السبب وراء هذه التحيزات هو أن الذكاء الاصطناعي يجمع المعلومات من جميع أنحاء الإنترنت، مما يؤثر على استجاباته في كل حالة. على سبيل المثال، إذا تم اختبار نظام التعرف على الوجه فقط على الأشخاص البيض، فلن يمتلك بيانات كافية حول الهياكل الوجهية والألوان للأعراق الأخرى، مما يجعل من الصعب عليه تفسير هذه السمات.
لمعالجة هذه التحيزات، لا يوجد حل واحد شامل. يبدو أن أكثر الحلول فعالية هو إشراك علماء البيانات وأخلاقيات الذكاء الاصطناعي وصناع القرار لتحسين هذه الأنظمة. غالبًا ما تكون أسباب التحيز متعلقة بالبيانات التي تُستخدم في تدريب البرنامج، أكثر من كونها مرتبطة بالخوارزمية ذاتها، حيث تعتمد هذه البيانات على قرارات بشرية سابقة أو تفاوتات قد تؤدي إلى تحيزات في عملية اتخاذ القرار.
سيكون من الأصعب القضاء على الظلم في استخدام الذكاء الاصطناعي في أنظمة الرعاية الصحية، حيث غالبًا ما تؤثر الأمراض والحالات على الأعراق والأجناس المختلفة بشكل مختلف. ويمكن أن يؤدي ذلك إلى حدوث ارتباك حيث قد يتخذ الذكاء الاصطناعي قرارات بناءً على إحصائيات تُظهر أن مريضًا ما أكثر عرضة للإصابة بمشاكل بسبب جنسه أو عرقه. يمكن اعتبار ذلك تحيزًا لأن كل مريض يُمثل حالة مختلفة ويتخذ الذكاء الاصطناعي قرارات بناءً على ما تمت برمجته لتصنيف ذلك الفرد تحت مجموعة معينة. يؤدي هذا إلى نقاش حول ما يُعتبر قرارًا متحيزًا بشأن من يتلقى العلاج. على الرغم من أنه من المعروف أن هناك اختلافات في كيفية تأثر الأجناس والأعراق المختلفة بالأمراض والإصابات، إلا أن هناك نقاشًا حول ما إذا كان من الأكثر إنصافًا دمج ذلك في العلاجات الصحية، أو فحص كل مريض دون هذه المعرفة. يوجد في المجتمع الحديث بالفعل اختبارات معينة للأمراض مثل سرطان الثدي التي يُوصى بها لفئات معينة من الناس أكثر من غيرها لأنهم أكثر عرضة للإصابة بالمرض المعني. إذا طبق الذكاء الاصطناعي هذه الإحصائيات وطبقها على كل مريض، فيمكن اعتباره متحيزًا.
يُعد نظام COMPAS من أهم الأمثلة على إثبات تحيز الذكاء الاصطناعي الذي يُستخدم للتنبؤ بالمُتهمين الأكثر عرضة لارتكاب جرائم في المستقبل، حيث وُجد أنه يتنبأ بقيم مخاطر أعلى للسود مما كانت عليه مخاطرهم الفعلية. ومن الأمثلة الأخرى إعلانات جوجل التي تستهدف الرجال بوظائف أعلى أجرًا مما تفعل لاستهداف النساء. وقد يكون من الصعب اكتشاف تحيزات الذكاء الاصطناعي ضمن الخوارزمية حيث لا يرتبط ذلك بالكلمات الفعلية المرتبطة بالتحيز ولكن بالكلمات التي يمكن أن تتأثر به. ربط شخص ما بمجموعة معينة بناءًا على مكان إقامته.