إنصاف (التعلم الآلي)

يشير الإنصاف  في التعلم الآلي (ML) إلى المحاولات المختلفة لتصحيح التحيز الخوارزمي في عمليات اتخاذ القرار الآلية القائمة على نماذج التعلم الآلي. يمكن اعتبار القرارات التي تتخذها مثل هذه النماذج بعد عملية التعلم غير عادلة إذا كانت تستند إلى متغيرات تعتبر حساسة (على سبيل المثال، الجنس، أو العرق، أو التوجه الجنسي، أو الإعاقة).

كما هو الحال مع العديد من المفاهيم الأخلاقية، فإن تعريفات العدالة والتحيز يمكن أن تكون مثيرة للجدل. بشكل عام، تعتبر العدالة والتحيز من الأمور ذات الصلة عندما تؤثر عملية اتخاذ القرار على حياة الناس.

وبما أن القرارات التي تتخذها الآلات قد تكون منحرفة بسبب مجموعة من العوامل، فقد تعتبر غير عادلة فيما يتصل بمجموعات أو أفراد معينين. ومن الممكن أن يكون أحد الأمثلة على ذلك هو الطريقة التي تقدم بها مواقع التواصل الاجتماعي أخبارًا مخصصة للمستهلكين.

 السياق 

إن المناقشة حول العدالة في التعلم الآلي هي موضوع حديث نسبيًا. منذ عام 2016 كان هناك زيادة حادة في الأبحاث حول هذا الموضوع. يمكن أن يُعزى هذا الارتفاع جزئيًا إلى تقرير مؤثر صادر عن بروبابليكا والذي زعم أن برنامج كومبس، المستخدم على نطاق واسع في المحاكم الأمريكية للتنبؤ بالعودة إلى الجريمة، كان متحيزًا عنصريًا. أحد مواضيع البحث والمناقشة هو تعريف العدالة، حيث لا يوجد تعريف عالمي، ويمكن أن تتناقض التعريفات المختلفة مع بعضها البعض، مما يجعل من الصعب الحكم على نماذج التعلم الآلي. تتضمن موضوعات البحث الأخرى أصول التحيز، وأنواع التحيز، وطرق الحد من التحيز.

في السنوات الأخيرة، قامت شركات التكنولوجيا بإعداد أدوات ودليل حول كيفية اكتشاف التحيز والحد منه في التعلم الآلي. تحتوي شركة آي بي إم على أدوات لـ بايثون وآر مع العديد من الخوارزميات لتقليل تحيز البرامج وزيادة عدالتها. نشرت جوجل إرشادات وأدوات لدراسة التحيز ومكافحته في التعلم الآلي. أبلغت شركة فيسبوك عن استخدامها لأداة تُدعى تدفق العدالة للكشف عن التحيز في الذكاء الاصطناعي الخاص بها. ومع ذلك، فقد زعم المنتقدون أن جهود الشركة غير كافية، حيث أفادوا بقلة استخدام الأداة من قبل الموظفين حيث لا يمكن استخدامها لجميع برامجهم وحتى عندما يمكن استخدامها، فإن استخدام الأداة اختياري.

من المهم أن نلاحظ أن المناقشة حول الطرق الكمية لاختبار العدالة والتمييز غير العادل في عملية صنع القرار تسبق بعدة عقود المناقشة الحديثة حول العدالة في التعلم الآلي. في واقع الأمر، ازدهرت مناقشة حية لهذا الموضوع من جانب المجتمع العلمي خلال منتصف الستينيات والسبعينيات، ويرجع ذلك في الأغلب إلى حركة الحقوق المدنية الأميركية، وعلى وجه الخصوص إقرار قانون الحقوق المدنية الأميركي لعام 1964. ومع ذلك، بحلول نهاية سبعينيات القرن العشرين، اختفى النقاش إلى حد كبير، حيث لم تترك المفاهيم المختلفة والمتنافسة في بعض الأحيان للعدالة سوى مجال ضئيل للوضوح حول متى قد يكون أحد مفاهيم العدالة مفضلاً على آخر.

 التحيز اللغوي 
يشير التحيز اللغوي إلى نوع من التحيز في أخذ العينات الإحصائية المرتبط بلغة الاستعلام والذي يؤدي إلى "انحراف منهجي في أخذ العينات من المعلومات مما يمنعها من تمثيل التغطية الحقيقية للموضوعات والآراء المتاحة في مستودعها بدقة". لوو وآخرون يُظهر أن نماذج اللغات الكبيرة الحالية، نظرًا لتدريبها في الغالب على بيانات باللغة الإنجليزية، غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية على أنها حقيقة، بينما تُقلل بشكل منهجي من أهمية وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو مجرد ضوضاء. عند طرح أسئلة على شات جي بي تي بأيديولوجيات سياسية مثل "ما هي الليبرالية؟"، يصفها، نظرًا لتدريبه على بيانات تركز على اللغة الإنجليزية، من منظور أنجلو أمريكي، مُركزًا على جوانب حقوق الإنسان والمساواة، بينما تغيب جوانب أخرى بنفس القدر من الصحة مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"تقييد سلطة الحكومة" من المنظور الصيني السائد. وبالمثل، تغيب وجهات النظر السياسية الأخرى المُضمنة في مجموعات البيانات اليابانية والكورية والفرنسية والألمانية في إجابات شات جي بي تي. شات جي بي تي، الذي يُعرّف نفسه بأنه روبوت دردشة متعدد اللغات، في الواقع "يتجاهل" في الغالب وجهات النظر غير الإنجليزية.

 التحيز الجنسي 
يشير التحيز الجنسي إلى ميل هذه النماذج إلى إنتاج مخرجات تتسم بالتحيز ضد جنس على حساب آخر. وينشأ هذا التحيز عادةً من البيانات التي تُدرَّب عليها هذه النماذج. على سبيل المثال، غالبًا ما تُحدِّد نماذج اللغات الكبيرة الأدوار والخصائص بناءً على معايير النوع الاجتماعي التقليدية؛ فقد تربط الممرضات أو السكرتيرات بالنساء في الغالب، والمهندسين أو الرؤساء التنفيذيين بالرجال.

 التحيز السياسي 
يشير التحيز السياسي إلى ميل الخوارزميات إلى تفضيل وجهات نظر أو أيديولوجيات أو نتائج سياسية معينة بشكل منهجي على غيرها. وقد تُظهر نماذج اللغة أيضًا تحيزات سياسية. ونظرًا لأن بيانات التدريب تشمل نطاقًا واسعًا من الآراء والتغطية السياسية، فقد تُنتج النماذج استجابات تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، وذلك حسب انتشار تلك الآراء في البيانات.

 الخلافات 

لقد كان استخدام عملية اتخاذ القرار الخوارزمية في النظام القانوني مجالًا بارزًا للاستخدام قيد التدقيق. في عام 2014، أثار المدعي العام الأمريكي آنذاك إريك هولدر مخاوف من أن أساليب "تقييم المخاطر" قد تركز بشكل غير مبرر على عوامل خارجة عن سيطرة المتهم، مثل مستواه التعليمي أو خلفيته الاجتماعية والاقتصادية. زعم تقرير عام 2016 الذي أعدته بروبابليكا حول كومبس أن المتهمين السود كانوا أكثر عرضة بمرتين تقريبًا لتصنيفهم بشكل غير صحيح على أنهم أكثر خطورة من المتهمين البيض، بينما ارتكبوا الخطأ المعاكس مع المتهمين البيض. وقد طعن منشئ كومبس، شركة نورث بوينت، في التقرير، مدعيًا أن أداة الشركة عادلة وأن بروبابليكا ارتكبت أخطاء إحصائية، وهو ما دحضته بروبابليكا مرة أخرى لاحقًا.

وقد لوحظ أيضًا التحيز العنصري والجنساني في خوارزميات التعرف على الصور. لقد تبين أن الكشف عن الوجه والحركة في الكاميرات يتجاهل أو يخطئ في تسمية تعبيرات الوجه للأشخاص غير البيض. في عام 2015، اعتذرت شركة جوجل بعد أن قامت خدمة جوجل صور عن طريق الخطأ بتصنيف زوجين من السود على أنهما غوريلا. وبالمثل، وجد أن ميزة وضع العلامات التلقائية على موقع فليكر قد وصفت بعض السود بأنهم "قردة" و"حيوانات". وُجِد أن مسابقة الجمال الدولية لعام 2016 التي تم الحكم عليها بواسطة خوارزمية الذكاء الاصطناعي كانت متحيزة تجاه الأفراد ذوي البشرة الفاتحة، ويرجع ذلك على الأرجح إلى التحيز في بيانات التدريب. وجدت دراسة أجريت على ثلاث خوارزميات تصنيف جنساني تجارية في عام 2018 أن الخوارزميات الثلاث كانت الأكثر دقة بشكل عام عند تصنيف الذكور ذوي البشرة الفاتحة والأسوأ عند تصنيف الإناث ذوات البشرة الداكنة. في عام 2020، أظهرت أداة قص الصور من تويتر تفضيلها للوجوه ذات البشرة الفاتحة. في عام 2022، أوضح مبتكرو نموذج تحويل النص إلى صورة دال-إي 2 أن الصور المولدة كانت نمطية بشكل كبير، بناءً على سمات مثل الجنس أو العرق.

وتشمل المجالات الأخرى التي تستخدم فيها خوارزميات التعلم الآلي، والتي ثبت أنها متحيزة، طلبات التوظيف والقروض. استخدمت أمازون برامج لمراجعة طلبات التوظيف كانت متحيزة ضد المرأة، على سبيل المثال من خلال معاقبة السير الذاتية التي تضمنت كلمة "نساء". في عام 2019، أعطت خوارزمية أبل لتحديد حدود بطاقات الائتمان لبطاقة بطاقة أبل الجديدة حدودًا أعلى بكثير للذكور مقارنة بالإناث، حتى بالنسبة للأزواج الذين يتشاركون أموالهم. أظهرت دراسة أجرتها شركة  في عام 2021 أن خوارزميات الموافقة على الرهن العقاري المستخدمة في الولايات المتحدة أكثر عرضة لرفض المتقدمين غير البيض.

 القيود 

تؤكد الأعمال الأخيرة على وجود العديد من القيود على المشهد الحالي للعدالة في التعلم الآلي، وخاصة عندما يتعلق الأمر بما يمكن تحقيقه بشكل واقعي في هذا الصدد في التطبيقات المتزايدة باستمرار للذكاء الاصطناعي في العالم الحقيقي.على سبيل المثال، قد يعتمد النهج الرياضي والكمي لإضفاء الطابع الرسمي على العدالة، والنهج المرتبطة به لإزالة التحيز، على افتراضات مبسطة للغاية ويسهل إغفالها، مثل تصنيف الأفراد إلى مجموعات اجتماعية محددة مسبقًا. ومن بين الجوانب الحساسة الأخرى، على سبيل المثال، التفاعل بين العديد من الخصائص الحسية، والافتقار إلى مفهوم فلسفي و/أو قانوني واضح ومشترك بشأن عدم التمييز.

أخيرًا، مع إمكانية تصميم نماذج التعلم الآلي للالتزام بمعايير الإنصاف، إلا أن القرارات النهائية التي يتخذها العاملون البشريون قد تتأثر بتحيزاتهم الشخصية. تحدث هذه الظاهرة عندما لا يقبل صانعو القرار توصيات الذكاء الاصطناعي إلا إذا كانت متوافقة مع تحيزاتهم المسبقة، مما يُقوّض العدالة المنشودة للنظام.

 معايير العدالة الجماعية 
في مشاكل التصنيف، تتعلم الخوارزمية دالة للتنبؤ بخاصية منفصلة ، المتغير المستهدف، من الخصائص المعروفة . نحن نمذج  كمتغير عشوائي منفصل يشفر بعض الخصائص المضمنة أو المشفرة ضمناً في  التي نعتبرها خصائص حساسة (الجنس، العرق، التوجه الجنسي، وما إلى ذلك). ونشير أخيرا إلى ذلك بـ 

 التنبؤ بالمصنف. الآن دعونا نحدد ثلاثة معايير رئيسية لتقييم ما إذا كان المصنف المعطى عادلاً، أي ما إذا كانت تنبؤاته لا تتأثر ببعض هذه المتغيرات الحساسة.Solon Barocas; Moritz Hardt; Arvind Narayanan, Fairness and Machine Learning. Retrieved 15 December 2019. 

 الاستقلال 

نقول المتغيرات العشوائية  إرضاء الاستقلال إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن التنبؤ ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن معدل التصنيف لكل فئات الهدف متساوٍ للأشخاص المنتمين إلى مجموعات مختلفة فيما يتعلق بالخصائص الحساسة .

يمكن إعطاء تعبير مكافئ آخر للاستقلال باستخدام مفهوم المعلومات المتبادلة بين المتغيرات العشوائية، والذي يُعرَّف بأنه  في هذه الصيغة،  هي إنتروبيا المتغير العشوائي . ثم  إرضاء الاستقلال إذا .

قد يتضمن التخفيف المحتمل لتعريف الاستقلال إدخال تراخي إيجابي  ويتم إعطاؤها بالصيغة: 

وأخيرًا، هناك إمكانية أخرى للاسترخاء وهي المطالبة .

 الانفصال 

نقول المتغيرات العشوائية  إرضاء الفصل إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن التنبؤ  بالنظر إلى القيمة المستهدفة ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن كل اعتماد القرار  حول السمة الحساسة  يجب تبريره بالاعتماد الفعلي للمتغير المستهدف الحقيقي .

هناك تعبير مكافئ آخر، في حالة معدل الهدف الثنائي، وهو أن معدل الإيجابية الحقيقية ومعدل الإيجابية الكاذبة متساويان (وبالتالي فإن معدل السلبية الكاذبة ومعدل السلبية الحقيقية متساويان) لكل قيمة من الخصائص الحساسة: 

من الممكن تخفيف التعريفات المقدمة من خلال السماح بقيمة الفرق بين المعدلات بأن تكون أقل من فترة تراخي معينة برقم موجب. ، بدلاً من أن يساوي الصفر.

في بعض المجالات، يكون الفصل (معامل الفصل) في مصفوفة الارتباك مقياسًا للمسافة (عند مستوى معين من درجة الاحتمالية) بين النسبة المئوية التراكمية السلبية المتوقعة والنسبة المئوية التراكمية الإيجابية المتوقعة.

كلما كان معامل الفصل هذا أكبر عند قيمة درجة معينة، كلما كان النموذج أكثر فعالية في التمييز بين مجموعة الإيجابيات والسلبيات عند حد احتمال معين. وفقًا لمايز: "يُلاحظ غالبًا في قطاع الائتمان أن اختيار مقاييس التحقق يعتمد على نهج النمذجة. على سبيل المثال، إذا كان إجراء النمذجة معياريًا أو شبه معياري، فغالبًا ما يُستخدم اختبار كولموغوروف-سميرنوف لعينتين. إذا تم اشتقاق النموذج من خلال طرق البحث الاستدلالية أو التكرارية، فإن مقياس أداء النموذج عادةً ما يكون التباعد. الخيار الثالث هو معامل الفصل... ويبدو معامل الفصل، مقارنةً بالطريقتين الأخريين، الأكثر منطقية كمقياس لأداء النموذج لأنه يعكس نمط الفصل في النموذج."

 الكفاية 

نقول المتغيرات العشوائية  تلبية الكفاية إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن القيمة المستهدفة  بالنظر إلى التنبؤ ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن احتمال التواجد فعليًا في كل من المجموعات متساوٍ بالنسبة لشخصين يتمتعان بخصائص حساسة مختلفة نظرًا لأنه من المتوقع أن ينتميا إلى نفس المجموعة.

 العلاقات بين التعريفات 

وأخيرا، نلخص بعض النتائج الرئيسية التي تربط بين التعريفات الثلاثة المذكورة أعلاه:

 على افتراض  هو ثنائي، إذا  و  ليست مستقلة إحصائيًا، و  و  إذا لم تكن هذه العبارات مستقلة إحصائيًا أيضًا، فإن الاستقلال والانفصال لا يمكن أن يصمدا معًا إلا في الحالات البلاغية.
 لو  كتوزيع مشترك له احتمالية إيجابية لجميع قيمه الممكنة و  و  إذا لم تكن العبارات والجمل مستقلة إحصائيًا، فلا يمكن للفصل والكفاية أن يصحا معًا إلا في الحالات البلاغية.

ويشار إلى ذلك بالعدالة الكاملة عندما يتم تلبية الاستقلال والانفصال والكفاية في وقت واحد. ومع ذلك، فإن العدالة الكاملة ليست ممكنة إلا في حالات بلاغية محددة.

 صياغة رياضية لتعريفات العدالة الجماعية 
 التعاريف الأولية 

تعتمد معظم المقاييس الإحصائية للعدالة على مقاييس مختلفة، لذا سنبدأ بتعريفها. عند استخدام مُصنِّف ثنائي، يمكن أن تأخذ كلٌّ من الفئتين المُتنبَّأة والفعلية قيمتين: موجبة وسالبة. لنبدأ الآن بشرح العلاقات المُحتملة بين النتيجة المُتنبَّأة والنتيجة الفعلية:إطار|مصفوفة الارتباك
 النتيجة الإيجابية الحقيقية (TP) : هي الحالة التي تكون فيها النتيجة المتوقعة والفعلية ضمن فئة إيجابية.
 سلبي حقيقي (TN) : الحالة التي يتم فيها تعيين كل من النتيجة المتوقعة والنتيجة الفعلية إلى الفئة السلبية.
 إيجابية كاذبة (FP) : هي الحالة التي من المتوقع أن تقع ضمن فئة إيجابية تم تعيينها في النتيجة الفعلية إلى الفئة السلبية.
 سلبي كاذب (FN) : الحالة التي من المتوقع أن تكون في فئة السلبية مع نتيجة فعلية تكون في فئة الإيجابية.
يمكن تمثيل هذه العلاقات بسهولة باستخدام مصفوفة الارتباك، وهو جدول يصف دقة نموذج التصنيف. في هذه المصفوفة، تمثل الأعمدة والصفوف حالات من المتوقع حدوثها والحالات الفعلية على التوالي.

وباستخدام هذه العلاقات، يمكننا تحديد مقاييس متعددة يمكن استخدامها لاحقًا لقياس مدى عدالة الخوارزمية:
 القيمة المتوقعة الإيجابية (PPV): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع التنبؤات الإيجابية. تُعرف عادةً بالدقة، وتمثل احتمالية صحة التنبؤ الإيجابي. تُعطى بالصيغة التالية:
 معدل الاكتشاف الخاطئ (FDR): نسبة التنبؤات الإيجابية التي كانت سلبية بالفعل من بين جميع التنبؤات الإيجابية. يمثل هذا المعدل احتمالية حدوث تنبؤ إيجابي خاطئ، ويُحسب بالصيغة التالية:
 القيمة المتوقعة السلبية (NPV): نسبة الحالات السلبية التي تم التنبؤ بها بشكل صحيح من بين جميع التنبؤات السلبية. وهي تمثل احتمالية صحة التنبؤ السلبي، وتُحسب بالصيغة التالية:
 معدل الإغفال الكاذب (FOR): نسبة التنبؤات السلبية الإيجابية من بين جميع التنبؤات السلبية. يمثل هذا المعدل احتمالية حدوث تنبؤ سلبي خاطئ، ويُحسب بالصيغة التالية:
 معدل الإيجابية الحقيقية (TPR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات الإيجابية. يُشار إليه عادةً باسم الحساسية أو التذكر، ويمثل احتمال تصنيف الحالات الإيجابية بشكل صحيح على هذا النحو. ويُعطى بالصيغة التالية:
 معدل النتائج السلبية الكاذبة (FNR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل خاطئ بأنها سلبية من بين جميع الحالات الإيجابية. يمثل هذا احتمال تصنيف الحالات الإيجابية بشكل خاطئ على أنها سلبية، ويُعطى بالصيغة التالية:
 معدل السلبية الحقيقي (TNR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل صحيح على هذا النحو، ويُعطى بالصيغة التالية:
 معدل النتائج الإيجابية الكاذبة (FPR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل خاطئ بأنها إيجابية من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل خاطئ على أنها إيجابية، ويُعطى بالصيغة التالية:
إطار|العلاقة بين معايير العدالة كما هو موضح في باروكاس وآخرون.
يمكن فهم المعايير التالية باعتبارها مقاييس للتعريفات العامة الثلاثة الواردة في بداية هذا القسم، وهي الاستقلال والانفصال والكفاية. وفي الجدول على اليمين، يمكننا رؤية العلاقات بينهما.

لتحديد هذه التدابير على وجه التحديد، سوف نقسمها إلى ثلاث مجموعات كبيرة كما فعلت في فيرما وآخرون: التعاريف القائمة على النتيجة المتوقعة، والنتائج المتوقعة والفعلية، والتعريفات القائمة على الاحتمالات المتوقعة والنتيجة الفعلية.

سنعمل مع مصنف ثنائي والترميز التالي:  يشير إلى الدرجة التي يمنحها المصنف، والتي تمثل احتمالية وجود موضوع معين في الفئة الإيجابية أو السلبية.  يمثل التصنيف النهائي الذي تنبأت به الخوارزمية، وعادةً ما يتم اشتقاق قيمته من ، على سبيل المثال سيكون إيجابيا عندما  فوق حد معين.  يمثل النتيجة الفعلية، أي التصنيف الحقيقي للفرد، وأخيرًا،  يشير إلى السمات الحساسة للموضوعات.

 التعاريف بناءً على النتيجة المتوقعة 

تركز التعريفات في هذا القسم على النتيجة المتوقعة  لتوزيعات مختلفة من المواضيع. إنها أبسط المفاهيم وأكثرها بديهية للعدالة.

 التكافؤ الديموغرافي، ويشار إليه أيضًا بالتكافؤ الإحصائي، وتكافؤ معدل القبول، والمقارنة المعيارية. يفي المصنف بهذا التعريف إذا كان لدى الكائنات الموجودة في المجموعات المحمية وغير المحمية احتمال متساوٍ ليتم تعيينها في فئة التنبؤ الإيجابية. وهذا إذا تم استيفاء الصيغة التالية: 
 التكافؤ الإحصائي الشرطي. يتكون أساسًا من التعريف أعلاه، ولكن يقتصر فقط على مجموعة فرعية من الحالات. في التدوين الرياضي سيكون هذا: 

 التعاريف المبنية على النتائج المتوقعة والفعلية 

لا تأخذ هذه التعريفات بعين الاعتبار النتيجة المتوقعة فحسب  ولكن قارنها أيضًا بالنتيجة الفعلية .

 التكافؤ التنبؤي، ويشار إليه أيضًا باسم اختبار النتيجة. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية قيمة PPV متساوية. وهذا إذا تم استيفاء الصيغة التالية: 
 رياضيا، إذا كان المصنف له قيمة PPV متساوية لكلا المجموعتين، فسيكون له أيضًا قيمة FDR متساوية، مما يلبي الصيغة: 
 توازن معدل الخطأ الإيجابي الكاذب، ويشار إليه أيضًا بالمساواة التنبؤية. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية معدل استجابة مرضية متساوٍ. وهذا إذا تم استيفاء الصيغة التالية: 
 رياضيا، إذا كان المصنف له FPR متساوي لكلا المجموعتين، فسيكون له أيضًا TNR متساوي، مما يلبي الصيغة: 
 معدل خطأ سلبي كاذب، ويشار إليه أيضًا باسم تكافؤ الفرص. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية معدل FNR متساوٍ. وهذا إذا تم استيفاء الصيغة التالية: 
 رياضيا، إذا كان المصنف لديه FNR متساوي لكلا المجموعتين، فسيكون لديه أيضًا TPR متساوي، مما يلبي الصيغة:

 ، والتي يشار إليها أيضًا باسم مساواة دقة الإجراء الشرطي والمعاملة غير المتجانسة. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية TPR متساوٍ وFPR متساوٍ، مما يلبي الصيغة: 
 مساواة دقة الاستخدام الشرطي. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية نفس القيمة التنبؤية والقيمة الحالية الصافية، مما يلبي الصيغة: 
 المساواة في الدقة الشاملة. يلبي المصنف هذا التعريف إذا كان للموضوع في المجموعتين المحمية وغير المحمية دقة تنبؤ متساوية، أي احتمال تعيين موضوع من فئة واحدة له. وهذا إذا كان يلبي الصيغة التالية: 
 المساواة في المعاملة. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية نسبة متساوية من FN وFP، مما يلبي الصيغة: 

 التعاريف المبنية على الاحتمالات المتوقعة والنتيجة الفعلية 

هذه التعريفات مبنية على النتيجة الفعلية  والنتيجة الاحتمالية المتوقعة .

 عدالة الاختبار، والمعروفة أيضًا باسم المعايرة أو مطابقة الترددات الشرطية. يفي المصنف بهذا التعريف إذا كان لدى الأفراد نفس درجة الاحتمالية المتوقعة  لديهم نفس احتمالية التصنيف في الفئة الإيجابية عندما ينتمون إلى المجموعة المحمية أو غير المحمية: 
 معايرة البئر هي امتداد للتعريف السابق. تنص على أنه عندما يكون لدى الأفراد داخل المجموعة المحمية أو خارجها نفس درجة الاحتمالية المتوقعة  يجب أن يكون لديهم نفس احتمالية تصنيفهم في الفئة الإيجابية، ويجب أن يكون هذا الاحتمال مساويًا لـ  : 
 التوازن للفئة الإيجابية. يفي المصنف بهذا التعريف إذا كان لدى الأشخاص الذين يشكلون الفئة الإيجابية من كل من المجموعتين المحمية وغير المحمية متوسط درجات احتمالية متوقعة متساوية . وهذا يعني أن القيمة المتوقعة لدرجة الاحتمالية للمجموعات المحمية وغير المحمية ذات النتيجة الفعلية الإيجابية  هو نفسه، ويلبي الصيغة: 
 التوازن للفئة السلبية. يفي المصنف بهذا التعريف إذا كان للموضوعات التي تشكل الفئة السلبية من كل من المجموعتين المحمية وغير المحمية متوسط درجات احتمالية متوقعة متساوية . وهذا يعني أن القيمة المتوقعة لدرجة الاحتمالية للمجموعات المحمية وغير المحمية ذات النتيجة الفعلية السلبية  هو نفسه، ويلبي الصيغة: 

 الارتباك المتساوي والعدالة 

فيما يتعلق بمصفوفات الارتباك، فإن الاستقلال والفصل والكفاية تتطلب أن لا يكون للكميات المذكورة أدناه اختلافات ذات دلالة إحصائية عبر الخصائص الحساسة.

 الاستقلال: (TP + FP) / (TP + FP + FN + TN) (أي، ).
 الفصل: TN / (TN + FP) و TP / (TP + FN) (أي الخصوصية  وتذكر ).
 الكفاية: TP / (TP + FP) و TN / (TN + FN) (أي الدقة  والقيمة التنبؤية السلبية ).

مفهوم الارتباك المتساوي والعدالة يتطلب الأمر أن يكون لمصفوفة الارتباك لنظام قرار معين نفس التوزيع عند حسابها طبقيًا على جميع الخصائص الحساسة.

 وظيفة الرعاية الاجتماعية 

وقد اقترح بعض العلماء تعريف العدالة الخوارزمية من حيث دالة الرعاية الاجتماعية. يزعمون أن استخدام دالة الرعاية الاجتماعية يمكّن مصمم الخوارزمية من مراعاة العدالة والدقة التنبؤية من حيث فوائدها للأشخاص المتأثرين بالخوارزمية. كما يسمح للمصمم بالموازنة بين الكفاءة والإنصاف بطريقة مبدئية. صرح  أن مصممي الخوارزميات يجب أن يستخدموا وظائف الرعاية الاجتماعية للتعرف على المكاسب المطلقة للمجموعات المحرومة. على سبيل المثال، وجدت إحدى الدراسات أن استخدام خوارزمية صنع القرار في الاحتجاز قبل المحاكمة بدلاً من الحكم البشري المحض أدى إلى تقليل معدلات الاحتجاز للسود والأسبان والأقليات العرقية بشكل عام، حتى مع الحفاظ على معدل الجريمة ثابتًا.

 معايير العدالة الفردية 

إن التمييز المهم بين تعريفات العدالة هو التمييز بين المفاهيم الجماعية والفردية.Mehrabi, Ninareh, Fred Morstatter, Nripsuta Saxena, Kristina Lerman, and Aram Galstyan. "A survey on bias and fairness in machine learning." ACM Computing Surveys (CSUR) 54, no. 6 (2021): 1–35. بشكل عام، بينما تُقارن معايير الإنصاف الجماعي الكميات على مستوى المجموعة، والتي تُحدد عادةً بخصائص حساسة (مثل الجنس، والعرق، والعمر، إلخ)، تُقارن المعايير الفردية الأفراد. باختصار، تتبع معايير الإنصاف الفردي مبدأ "أن يُعامل الأفراد المتشابهون معاملةً مماثلة".

هناك نهج بديهي للغاية للعدالة، والذي يُطلق عليه عادةً اسم العدالة من خلال عدم الوعي (FTU)، أو العمى، والذي ينص على عدم استخدام الميزات الحساسة بشكل صريح عند اتخاذ القرارات (الآلية). وهذا في الواقع مفهوم للعدالة الفردية، حيث أن فردين يختلفان فقط في قيمة سماتهما الحساسة سوف يحصلان على نفس النتيجة.

ومع ذلك، بشكل عام، تواجه وحدة التقييم الذاتي (FTU) العديد من العيوب، أهمها أنها لا تأخذ في الاعتبار الارتباطات المحتملة بين السمات الحساسة والسمات غير الحساسة المستخدمة في عملية صنع القرار. على سبيل المثال، يمكن لوكيل ذي نية (خبيثة) للتمييز على أساس الجنس أن يُدخل في النموذج متغيرًا بديلًا للجنس (أي متغير مرتبط ارتباطًا وثيقًا بالجنس) ويستخدم معلومات الجنس بفعالية مع الالتزام بمعايير وحدة التقييم الذاتي (FTU).

إن مشكلة تحديد المتغيرات المرتبطة بالمتغيرات الحساسة والتي يمكن استخدامها بشكل عادل من قبل النموذج في عملية صنع القرار هي مشكلة حاسمة، وهي ذات صلة بمفاهيم المجموعة أيضًا: تتطلب مقاييس الاستقلال الإزالة الكاملة للمعلومات الحساسة، في حين تسمح المقاييس القائمة على الفصل بالارتباط، ولكن فقط بقدر ما يبررها المتغير المستهدف المسمى.

تم تقديم المفهوم الأكثر عمومية للعدالة الفردية في العمل الرائد الذي قامت به سينثيا دورك وزملاؤها في عام 2012 ويمكن اعتباره ترجمة رياضية لمبدأ أن خريطة القرار التي تأخذ الميزات كمدخلات يجب بناؤها بحيث تكون قادرة على "رسم خريطة للأفراد المتشابهين على نحو مماثل"، وهذا يتم التعبير عنه  على خريطة النموذج. ويطلقون على هذا النهج اسم العدالة من خلال الوعي (FTA)، على وجه التحديد كنقطة مقابلة لاسم العدالة من خلال الوعي، حيث يؤكدون على أهمية اختيار مقياس المسافة المناسب المرتبط بالهدف لتقييم الأفراد المتشابهين في مواقف محددة. مرة أخرى، ترتبط هذه المشكلة ارتباطًا وثيقًا بالنقطة التي أثيرت أعلاه حول المتغيرات التي يمكن اعتبارها "مشروعة" في سياقات معينة.

 المقاييس القائمة على السببية 
يقيس الإنصاف السببي التردد الذي يتلقى به مستخدمان أو تطبيقان متطابقان تقريبًا يختلفان فقط في مجموعة من الخصائص التي يجب أن يكون تخصيص الموارد من خلالها عادلاً، نفس المعاملة. 

يُخصص فرع كامل من البحث الأكاديمي حول مقاييس العدالة للاستفادة من النماذج السببية لتقييم التحيز في نماذج التعلم الآلي. عادة ما يتم تبرير هذا النهج بحقيقة مفادها أن نفس التوزيع الرصدي للبيانات قد يخفي علاقات سببية مختلفة بين المتغيرات المؤثرة، وربما مع تفسيرات مختلفة لما إذا كانت النتيجة تتأثر ببعض أشكال التحيز أم لا.

يقترح كوسنر وآخرونKusner, M. J., Loftus, J., Russell, C., & Silva, R. (2017). Counterfactual fairness. Advances in neural information processing systems, 30.  استخدام ، وتحديد عملية صنع القرار على أنها عادلة من الناحية المضادة للواقع إذا لم تتغير النتيجة بالنسبة لأي فرد في السيناريو المضاد للواقع حيث تتغير السمات الحساسة. الصيغة الرياضية تنص على:

وهذا يعني: أخذ فرد عشوائي ذو سمة حساسة  وميزات أخرى  ونفس الفرد إذا كان لديها ، ينبغي أن يكون لديهم نفس فرص القبول. الرمز  يمثل المتغير العشوائي المضاد للواقع  في السيناريو حيث السمة الحساسة  تم إصلاحه إلى . التكييف على  وهذا يعني أن هذا المطلب هو على المستوى الفردي، حيث أننا نشترط جميع المتغيرات التي تحدد ملاحظة واحدة.

غالبًا ما يتم تدريب نماذج التعلم الآلي على البيانات حيث تعتمد النتيجة على القرار المتخذ في ذلك الوقت. على سبيل المثال، إذا كان على نموذج التعلم الآلي تحديد ما إذا كان السجين سيعود إلى الإجرام، وتحديد ما إذا كان ينبغي إطلاق سراحه مبكرًا، فقد تعتمد النتيجة على ما إذا كان قد أُطلق سراحه مبكرًا أم لا. ميشلر وآخرون. اقترح صيغة لمعادلة الاحتمالات الافتراضية:

أين  هو متغير عشوائي  يدل على النتيجة نظرا لأن القرار  تم التقاطها، و  هي ميزة حساسة.

يقترح بليكو وبارينبويم إطارًا موحدًا للتعامل مع التحليل السببي للعدالة. يقترحون استخدام نموذج العدالة القياسي، الذي يتكون من رسم بياني سببي مع 4 أنواع من المتغيرات:

 السمات الحساسة ()،
 المتغير المستهدف ()،
 الوسطاء () بين  و ، تمثل التأثيرات غير المباشرة المحتملة للسمات الحساسة على النتيجة،
 المتغيرات التي قد تشترك في سبب مشترك مع  ()، والتي تمثل التأثيرات الزائفة المحتملة (أي غير السببية) للسمات الحساسة على النتيجة.

في هذا الإطار، تمكن بليكو وبارينبويم من تصنيف التأثيرات المحتملة التي قد تخلفها السمات الحساسة على النتيجة. وعلاوة على ذلك، فإن التفصيل الذي يتم به قياس هذه التأثيرات ــ أي متغيرات التكييف المستخدمة لمتوسط التأثير—يرتبط ارتباطاً مباشراً بجانب "الفرد مقابل المجموعة" في تقييم العدالة.

 استراتيجيات التخفيف من التحيز 

يمكن تطبيق العدالة على خوارزميات التعلم الآلي بثلاث طرق مختلفة: معالجة البيانات مسبقًا، أو التحسين أثناء تدريب البرنامج، أو معالجة نتائج الخوارزمية بعد ذلك.

 المعالجة المسبقة 

عادةً، لا يكون المصنف هو المشكلة الوحيدة؛ بل إن مجموعة البيانات متحيزة أيضًا. التمييز في مجموعة البيانات  فيما يتعلق بالمجموعة  يمكن تعريفها على النحو التالي: 

وهذا يعني تقريبًا الفرق بين احتمالات الانتماء إلى الفئة الإيجابية نظرًا لأن الموضوع يتمتع بسمة محمية مختلفة عن  ويساوي .

تزيل خوارزميات تصحيح التحيز في المعالجة المسبقة المعلومات المتعلقة بمتغيرات مجموعة البيانات، مما قد يؤدي إلى قرارات غير عادلة، مع محاولة تقليل التغييرات قدر الإمكان. ليس الأمر ببساطة إزالة المتغير الحساس فحسب، إذ يمكن ربط سمات أخرى بالمتغير المحمي.

إحدى طرق القيام بذلك هي ربط كل فرد في مجموعة البيانات الأولية بتمثيل وسيط، حيث يستحيل تحديد ما إذا كان ينتمي إلى مجموعة محمية معينة مع الحفاظ على أكبر قدر ممكن من المعلومات. بعد ذلك، يُعدّل التمثيل الجديد للبيانات للحصول على أقصى دقة في الخوارزمية.

بهذه الطريقة، تُربط الأفراد بتمثيل جديد متعدد المتغيرات، حيث يكون احتمال ربط أي فرد في مجموعة محمية بقيمة معينة في التمثيل الجديد مساويًا لاحتمالية عدم انتمائه إلى المجموعة المحمية. بعد ذلك، يُستخدم هذا التمثيل للحصول على التنبؤ الخاص بالفرد، بدلاً من البيانات الأولية. وبما أن التمثيل الوسيط مُصمم بحيث يُعطي نفس الاحتمال للأفراد داخل المجموعة المحمية أو خارجها، فإن هذه السمة تكون مخفية عن المصنف.

تم شرح مثال في زيميل وآخرون.Richard Zemel; Yu (Ledell) Wu; Kevin Swersky; Toniann Pitassi; Cyntia Dwork, Learning Fair Representations. Retrieved 1 December 2019  حيث تم استخدام  كتمثيل وسيط. وفي هذه العملية، يتم تشجيع النظام على الحفاظ على جميع المعلومات باستثناء تلك التي يمكن أن تؤدي إلى قرارات متحيزة، والحصول على تنبؤ دقيق قدر الإمكان.

من ناحية أخرى، تتمتع هذه العملية بميزة إمكانية استخدام البيانات المعالجة مسبقًا لأي مهمة تعلُّم آلي. علاوة على ذلك، لا يلزم تعديل المصنف، حيث يتم تطبيق التصحيح على مجموعة البيانات قبل المعالجة. ومن ناحية أخرى، فإن الطرق الأخرى تحقق نتائج أفضل من حيث الدقة والإنصاف.

 إعادة الوزن 

إعادة الوزن مثال على خوارزمية المعالجة المسبقة. الفكرة هي تحديد وزن لكل نقطة في مجموعة البيانات بحيث يكون التمييز المرجح صفرًا بالنسبة للمجموعة المحددة.Faisal Kamiran; Toon Calders, Data preprocessing techniques for classification without discrimination. Retrieved 17 December 2019 

إذا كانت مجموعة البيانات  كان المتغير الحساس غير متحيز  والمتغير المستهدف  سيكون مستقلاً إحصائيًا واحتمال  سيكون حاصل ضرب الاحتمالات على النحو التالي: 

لكن في الواقع، مجموعة البيانات ليست غير متحيزة والمتغيرات ليست مستقلة إحصائيًا، لذا فإن الاحتمالية الملحوظة هي: 

لتعويض التحيز، يضيف البرنامج وزنًا أقل للأشياء المفضلة ووزنًا أعلى للأشياء غير المفضلة. لكل  نحن نحصل على: 

عندما يكون لدينا لكل  الوزن المرتبط  نحن نحسب التمييز المرجح فيما يتعلق بالمجموعة  على النحو التالي: 

ويمكن إظهار أنه بعد إعادة الترجيح فإن هذا التمييز المرجح يساوي 0.

 جاري المعالجة 

هناك نهج آخر يتمثل في تصحيح التحيز أثناء وقت التدريب. يمكن القيام بذلك عن طريق إضافة قيود إلى هدف تحسين الخوارزمية.Muhammad Bilal Zafar; Isabel Valera; Manuel Gómez Rodríguez; Krishna P. Gummadi, Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment. Retrieved 1 December 2019  وتجبر هذه القيود الخوارزمية على تحسين العدالة، من خلال الحفاظ على نفس معدلات بعض التدابير للمجموعة المحمية وبقية الأفراد. على سبيل المثال، يمكننا أن نضيف إلى هدف الخوارزمية الشرط الذي ينص على أن معدل الإيجابيات الكاذبة هو نفسه بالنسبة للأفراد في المجموعة المحمية والأفراد خارج المجموعة المحمية.

المقاييس الرئيسية المستخدمة في هذا النهج هي معدل الإيجابيات الكاذبة، ومعدل السلبيات الكاذبة، ومعدل التصنيف الخاطئ الإجمالي. من الممكن إضافة قيد واحد أو أكثر من هذه القيود إلى هدف الخوارزمية. تجدر الإشارة إلى أن تساوي معدلات السلبيات الكاذبة يعني تساوي معدلات الإيجابيات الحقيقية، مما يعني تكافؤ الفرص. بعد إضافة هذه القيود إلى المشكلة، قد تصبح صعبة الحل، لذا قد يلزم تخفيفها.

 إزالة التحيز العدائي 
نقوم بتدريب مصنفين في نفس الوقت من خلال بعض الطرق المعتمدة على التدرج (fe: الانحدار التدرجي). الأول، يحاول المتنبئ إنجاز مهمة التنبؤ ، المتغير المستهدف، معطى ، المدخلات، عن طريق تعديل أوزانها  لتقليل بعض فقدان الوظيفة . الثاني، أن يحاول الخصم إنجاز مهمة التنبؤ ، المتغير الحساس، معطى  عن طريق تعديل أوزانها  لتقليل بعض فقدان الوظيفة .Brian Hu Zhang; Blake Lemoine; Margaret Mitchell, Mitigating Unwanted Biases with Adversarial Learning. Retrieved 17 December 2019 النقطة المهمة هنا هي أنه لنشر المعلومات بشكل صحيح،  يجب أن يشير ما سبق إلى الناتج الخام للمصنف، وليس التنبؤ المنفصل؛ على سبيل المثال، مع الشبكة العصبية الاصطناعية ومشكلة التصنيف،  قد يشير إلى إخراج طبقة سوفت ماكس.

ثم نقوم بالتحديث  للتقليل  في كل خطوة تدريبية وفقًا للتدرج  ونحن نعدل  وفقا للتعبير:  أين  هي  قابلة للضبط ويمكن أن تتغير في كل خطوة زمنية.إطار|التمثيل البياني للمتجهات المستخدمة في إزالة التحيز المعادي كما هو موضح في Zhang et al.
الفكرة البديهية هي أننا نريد من المتنبئ أن يحاول التقليل  (لذلك فإن المصطلح ) وفي الوقت نفسه، قم بتعظيم  (لذلك فإن المصطلح )، بحيث يفشل الخصم في التنبؤ بالمتغير الحساس من .

على المدى  يمنع المتنبئ من التحرك في اتجاه يساعد الخصم على تقليل دالة الخسارة الخاصة به.

يمكن إثبات أن تدريب نموذج تصنيف التنبؤ باستخدام هذه الخوارزمية يحسن التكافؤ الديموغرافي فيما يتعلق بتدريبه بدون الخصم.

 مرحلة ما بعد المعالجة 

الطريقة الأخيرة تحاول تصحيح نتائج المُصنِّف لتحقيق العدالة. في هذه الطريقة، لدينا مُصنِّف يُرجع درجة لكل فرد، ونحتاج إلى إجراء تنبؤ ثنائي له. من المُرجَّح أن تُعطي الدرجات العالية نتيجة إيجابية، بينما من المُرجَّح أن تُعطي الدرجات المنخفضة نتيجة سلبية، ولكن يُمكننا تعديل قيمة الحد لتحديد متى نُجيب بنعم كما هو مُراد. يُرجى مُلاحظة أن التباينات في قيمة الحد تُؤثِّر على المُفاضلة بين مُعدلات النتائج الإيجابية الحقيقية والسلبية الحقيقية.

إذا كانت دالة النتيجة عادلة بمعنى أنها مستقلة عن السمة المحمية، فإن أي اختيار للحد الأدنى سيكون عادلاً أيضًا، ولكن المصنفات من هذا النوع تميل إلى التحيز، لذلك قد تكون هناك حاجة إلى حد أدنى مختلف لكل مجموعة محمية لتحقيق العدالة. إحدى الطرق للقيام بذلك هي رسم معدل الإيجابية الحقيقية مقابل معدل السلبية الكاذبة في إعدادات عتبة مختلفة (يُطلق على هذا منحنى الخصائص التشغيلية للمستقبل) والعثور على عتبة حيث تكون المعدلات للمجموعة المحمية والأفراد الآخرين متساوية.Moritz Hardt; Eric Price; Nathan Srebro, Equality of Opportunity in Supervised Learning. Retrieved 1 December 2019 

 رفض التصنيف القائم على الخيار 

معطى المصنف دعونا  يكون الاحتمال الذي تم حسابه بواسطة المصنفات هو احتمال أن تكون المثيل  ينتمي إلى الفئة الإيجابية +. متى  قريبة من 1 أو 0، المثيل  تم تحديده بدرجة عالية من اليقين بأنه ينتمي إلى الفئة + أو - على التوالي. ومع ذلك، عندما  أقرب إلى 0.5، التصنيف غير واضح.Faisal Kamiran; Asim Karim; Xiangliang Zhang, Decision Theory for Discrimination-aware Classification. Retrieved 17 December 2019 

نحن نقول  "هي "حالة مرفوضة" إذا  مع بعض  مثل ذلك .

تتكون خوارزمية "منحنى الخصائص التشغيلية للمستقبل" من تصنيف الحالات غير المرفوضة وفقًا للقاعدة أعلاه والحالات المرفوضة على النحو التالي: إذا كانت الحالة عبارة عن مثال لمجموعة محرومة () ثم قم بتسميتها بأنها إيجابية، وإلا، قم بتسميتها بأنها سلبية.

يمكننا تحسين مقاييس مختلفة للتمييز (رابط) كوظائف  للعثور على الحل الأمثل  لكل مشكلة وتجنب التمييز ضد المجموعة المتميزة.

 انظر أيضًا 
 تحيز خوارزمي
 تعلم الآلة

 المراجع 

تصنيف:تعلم الآلة
تصنيف:الحوسبة والمجتمع
تصنيف:فلسفة الذكاء الاصطناعي
تصنيف:تمييز
تصنيف:انحياز