hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
رقمنة الصور التاريخ
اخترعت شركة أوليمبوس في اليابان في منتصف عقد الثمانينيات من القرن العشرين مستشعر البكسل النشط القائم على منطق أكسيد شبه موصل من النوع السالب، وقد ساهم تطوير هذا المستشعر لاحقًا في إحداث طفرة في تصنيع أجهزة الأكاسيد المعدنية لأشباه الموصلات، حيث وصل مقياس موسفت إلى مستويات أصغر من الميكرون، ثم إلى مستويات من دون الميكرون. صُنع مستشعر البكسل النشط القائم على منطق أكسيد شبه موصل من النوع السالب على يد تسوتومو ناكامورا وفريقه في شركة أوليمبوس عام 1985، ثُم طوّر لاحقًا إريك فوسوم وفريقه في مختبر الدفع النفاث التابع لوكالة أبحاث الفضاء الأمريكية (ناسا) مستشعرات أشباه الموصّلات ذات الأكاسيد المعدنية المُتتامة حوالي عام 1993. وبحلول عام ٢٠٠٧، كانت مبيعات مستشعرات أشباه الموصّلات ذات الأكاسيد المعدنية المُتتامة قد تجاوزت مبيعات مستشعرات أجهزة اقتران الشحنة.
كان تحويل جيب التمام المتقطع واحدًا من التطورات المهمة في تقنية ضغط الصور الرقمية. يُستخدم أسلوب ضغط الصور الرقمية من خلال تحويل جيب التمام المتقطع في تنسيق JPEG، الذي قدمته مجموعة خبراء التصوير الفوتوغرافي المشتركة عام ١٩٩٢. يُعد تنسيق JPEG هو تنسيق ملفات الصور الأكثر استخدامًا على شبكة الإنترنت، بفضل بقدرته على ضغط الصور إلى أحجام ملفات أصغر بكثير.
شكلت أفكار المسح الضوئي المختلفة هذه أساس التصاميم الأولى لآلات التصوير الرقمية. كانت الكاميرات القديمة تستغرق وقتًا طويلاً لالتقاط الصور، ولم تكن مناسبة للأغراض الاستهلاكية. لم تشهد آلات التصوير الرقمية رواجًا حقيقيًا إلا مع اعتماد جهاز اقتران الشحنة، وبعد أن أصبح جهاز اقتران الشحنة جزءًا من أنظمة التصوير المستخدمة في التلسكوبات. ظهرت أولى آلات التصوير الرقمية في ثمانينيات القرن العشرين، وكانت تلتقط صورًا بالأبيض والأسود، ثُم أُضيفت الألوان إلى جهاز اقتران الشحنة، وسُرعان ما أصبحت الألوان ميزة متوفرة في معظم آلات التصوير الرقمية اليوم.
رقمنة الصور التطوير
شهد مجال التصوير الرقمي تطورات هائلة خلال العقود اللاحقة. وبعد أن كانت مصطلحات مثل الصور السلبية والتعرض تُعتبر مفاهيمًا غريبة على الكثيرين، وبعد أن ساهمت في ظهور أول صورة رقمية في العالم عام ١٩٢٠، فقد أدت في نهاية المطاف إلى انخفاض تكلفة المعدات، وظهور برامج قوية وبسيطة، ونمو محتوى شبكة الإنترنت. أثّر التطور والإنتاج المستمران للمعدات والأجهزة المادية المتعلقة بالتصوير الرقمي على البيئة المحيطة بهذا المجال بدءًا من ظهور آلات التصوير الرقمية وآلات تصوير الويب، وحتى ظهور الطابعات الرقمية والماسحات الضوئية الرقمية، وسرعان ما أصبحت هذه الأجهزة أكثر أناقةً ونحافةً وسرعةً وأقل تكلفةً. ومع انخفاض تكلفة المعدات، استقبل السوق مزيدا من المطورين للمتحمسين الجدد، مما أتاح لمزيد من المستهلكين تجربة متعة إنشاء صورهم الخاصة.
رقمنة الصور التطوير
تستطيع أجهزة الحواسيب المحمولة الشخصية، وأجهزة الحواسيب المكتبية العائلية، وأجهزة حواسيب الشركات اليوم التعامل مع برامج التصوير الفوتوغرافي، غير أن أجهزة الحواسب تُصبح أكثر قوةً وكفاءة كلما ازدادت قدرتها على تشغيل البرامج من أي نوع، وخاصةً برامج التصوير الرقمي. تزداد هذه البرامج ذكاءً وبساطةً بسرعة. على الرغم من أن وظائف برامج اليوم تصل إلى مستوى التحرير الدقيق وحتى عرض الصور ثلاثية الأبعاد، إلا أن واجهات المستخدم مصممة لتكون سهلة الاستخدام للمستخدمين المتقدمين، وكذلك للمهتمين الجدد.
رقمنة الصور التطوير
تُتيح شبكة الإنترنت تحرير وعرض ومشاركة الصور والرسومات الرقمية. فبمجرد تصفح سريع للإنترنت، يمكنك بسهولة العثور على أعمال فنية جرافيكية لفنانين ناشئين، وصور إخبارية من جميع أنحاء العالم، وصور لشركات لمنتجات وخدمات جديدة، وغيرها الكثير. وقد أثبت الإنترنت بوضوح أنه عامل محفز لنمو التصوير الرقمي. تُغير مشاركة الصور عبر الإنترنت طريقة فهمنا للتصوير الفوتوغرافي والمصورين. تتيح مواقع مثل فليكر وشاترفلاي وإنستغرام لمليارات الأشخاص إمكانية مشاركة صورهم، سواء كانوا هواة أو محترفين. لقد تحول التصوير الفوتوغرافي من وسيلة فاخرة للتواصل والمشاركة إلى لحظة عابرة. كما تغيرت موضوعات الصور المُلتقطة، ففي الماضي، كانت الصور تُلتقط في المقام الأول للأشخاص والعائلات. أما الآن، فنحن نلتقطها لأي شيء. يمكننا توثيق يومنا ومشاركته مع الجميع بلمسة من أصابعنا.
رقمنة الصور التطوير
في عام ١٨٢٦، كان نيبس أول من طور صورة فوتوغرافية تستخدم الأضواء لإعادة إنتاج الصور، وقد شهد التصوير الفوتوغرافي تطورًا هائلاً على مر السنين. أصبح كلٌّ منا الآن مصورًا بطريقته الخاصة، بينما كانت تكلفة الصور الدائمة خلال أواخر القرن التاسع عشر وبدايات القرن العشرين محل تقدير كبير من المستهلكين والمنتجين. ووفقًا لمقال نُشر في مجلة بعنوان «خمس طرق غيّرتنا بها الكاميرات الرقمية»، جاء ما يلي:
كان تأثير هذا على المصورين المحترفين هائلًا. ففي قديم الزمان، لم يكن المصور يجرؤ على إضاعة أي لقطة إلا إذا كان متأكدًا تقريبًا من نجاحها. لقد غيّر استخدام التصوير الرقمي (التصوير الفوتوغرافي) طريقة تفاعلنا مع بيئتنا على مر السنين. أصبح جزء من العالم يُختبر بشكل مختلف من خلال التخيل البصري للذكريات الدائمة، وأصبح شكلًا جديدًا من أشكال التواصل مع الأصدقاء والعائلة والأحباء حول العالم دون الحاجة إلى التفاعل وجهًا لوجه. من خلال التصوير الفوتوغرافي، يسهل رؤية من لم ترهم من قبل والشعور بوجودهم دون وجودهم. على سبيل المثال، يُعد إنستغرام أحد وسائل التواصل الاجتماعي حيث يُسمح لأي شخص بالتقاط وتحرير ومشاركة الصور التي يريدها مع الأصدقاء والعائلة. كما تُعدّ شبكات التواصل الاجتماعي مثل فيسبوك وسنابشات وفاين وتويتر طرقًا للتعبير عن أنفسهم بكلمات قليلة أو معدومة، حيث تُمكّن من التقاط كل لحظة مهمة. أصبحت الذكريات الدائمة التي كان من الصعب التقاطها الآن سهلة لأن الجميع أصبحوا قادرين على التقاط الصور وتحريرها على هواتفهم أو على أجهزة الحواسيب المحمولة. أصبح التصوير الرقمي وسيلة جديدة للتواصل يتزايد استخدامها بسرعة مع مرور الوقت، مما أثر على العالم من حولنا.
وفي دراسة أجرتها باسي، ماينز وجد فرانسيس وملبورن وُجد أن الرسومات المستخدمة في الصف الدراسي لها تأثير سلبي كبير على محتوى تقارير الطلاب المختبرية، ووجهات نظرهم حول المختبرات، وحماسهم، وكفاءة وقت التعلم. أما أسلوب التعلم المستند إلى التوثيق، فلم يُحدث أي تأثير كبير على الطلاب في هذه المجالات. كما وجد أن الطلاب كانوا أكثر تحفيزًا وحماسًا للتعلم عند استخدام الصور الرقمية.
رقمنة الصور التطبيقات
استفاد المعلمون والطلاب على حد سواء من انتشار أجهزة العرض الرقمية والشاشات والرسومات الرقمية في الفصول الدراسية بفضل سهولة استخدامها وإمكانيات التواصل العالية التي توفرها، على الرغم من أن تعرضها للسرقة قد تكون مشكلة شائعة في المدارس. كما تزداد أهمية تعلم أساسيات التصوير الرقمي خلال مراحل التعليم الأساسي وللمحترفين الشباب. وقد شدد ريد، خبير إنتاج التصميم بجامعة واشنطن الغربية، على أهمية استخدام المفاهيم الرقمية لتعريف الطلاب بالتقنيات الحديثة والمجزية الموجودة في إحدى أهم قطاعات القرن الحادي والعشرين.
رقمنة الصور التطبيقات
يُعتبر التصوير الطبي الرقمي فرعًا من فروع التصوير الرقمي هدف إلى المساعدة في تشخيص الأمراض. ويشهد مجال التصوير الطبي الرقمي في الوقت الراهن نموًا سريعًا، وهو ما يُمكن أن يُحسن من جودة الخدمات الطبية بشكل ملحوظ، إذ تشير دراسة حديثة أجرتها الأكاديمية الأمريكية لطب الأطفال إلى أن التصوير الطبي السليم للأطفال الذين قد يعانون من التهاب الزائدة الدودية قد يقلل من عدد عمليات استئصال الزائدة الدودية اللازمة. أتاح التصوير الطبي الرقمي أيضًا تصويرًا دقيقًا ومفصلًا بشكل مذهل للدماغ والرئتين والأوتار وأجزاء أخرى من الجسم، والحصول على صور يمكن أن يستخدمها أخصائيو الرعاية الصحية لخدمة المرضى بشكل أفضل. مع تبني المزيد من الدول للتقنيات رقمنة الصور في مجال التصوير الطبي، فقد وُجد أن رقمنة الصور كانت مفيدة بشكل متزايد لكل من المريض والطاقم الطبي. وتشمل الآثار الإيجابية للتخلي عن الورق والتوجه نحو رقمنة الصور الانخفاض العام في تكلفة الرعاية الطبية، بالإضافة إلى زيادة إمكانية الوصول العالمي والفوري إلى هذه الصور. وبفضل وجود ما يُعرف ببرنامج التصوير الرقمي في الاتصالات والطب، يُمكن أن يتغير مُستقبل الخدمات الضحية في العالم بأكمله. إنه ليس مجرد نظام لالتقاط صور عالية الجودة للأعضاء الداخلية فقط، ولكنه مفيد أيضًا في معالجة تلك الصور، فهو بمثابة نظام شامل يجمع بين معالجة الصور ومشاركتها وتحليلها، مما يضمن راحة المريض وفهمه. يوفر هذا البرنامج خدمة شاملة، وبالتالي فقد أصبح استخدامه في المؤسسات الصحية ضرورة حتمية.
رقمنة الصور التطبيقات
أصبحت معالجة الصور الرقمية أكثر فائدة في المجالات التقنية من معالجة الصور التناظرية في ظل التقدم التقني الهائل الذي نشهده اليوم. ومن بين أهم المميزات التي وفرتها رقمنة الصور في المجالات التقنية ما يلي:
أمكن تحسين الصورة واستعادتها من خلال التقاط الصور باستخدام آلة تصوير حديثة، ثُم تحويلها إلى صورة مُحسّنة أو تعديلها وإضافة بعض التأثيرات إليها للحصول على الصور المطلوبة مثل عمليات التكبير، وضبط التشويش، وضبط الحدة، والتحكم في تدرج اللون الرمادي، واستعادة الصورة، وتحديدها.
يُشير مُصطلح التعرف على الوجوه إلى تلك التقنية الحاسوبية التي تُحدد مواقع وأحجام الوجوه البشرية في الصور الرقمية المُستقلة. يُميز هذا النظام عناصر الوجه ويتجاهل أي شيء آخر، مثل الهياكل والأشجار والأجسام.
يُستخدم الاستشعار عن بُعد لجمع بيانات عن كائن أو حدث على نطاق صغير أو كبير، باستخدام أجهزة تسجيل أو كشف مُستمر غير مُلامسة للكائن. عمليًا، يهدف الاستشعار عن بُعد إلى جمع البيانات عن بُعد باستخدام مجموعة متنوعة من الأجهزة لجمع البيانات التي تتعلق بكائن أو موقع مُحدد.
رقمنة الصور التطبيقات
يُشير مُصطلح الكشف عن الأنماط إلى دراسة أو تحليل ناتج عن معالجة الصور. في مجال كشف الأنماط، تُستخدم معالجة الصور للتعرف على عناصر الصور، ثم تُستخدم دراسة الآلة لتدريب نظامٍ ما على تباين الأنماط. ويُستخدم كشف الأنماط في عمليات التحليل بمساعدة الحاسوب، وكشف الخطوط، وتحديد الصور، وغيرها الكثير.
تشمل معالجة الألوان معالجة الصور الملونة ومواقع الألوان المختلفة المستخدمة. ويشمل ذلك أيضًا دراسة نقل الصور الملونة وتخزينها وترميزها.
يُعد التصوير الرقمي للواقع المعزز مجالًا شاملًا ضمن السياق الأوسع لتقنيات الواقع المعزز. ويشمل إنشاء الصور الرقمية ومعالجتها وتفسيرها لاستخدامها في بيئات الواقع المعزز. ويلعب التصوير الرقمي للواقع المعزز دورًا هامًا في تحسين تجربة المستخدم، حيث يوفر تراكبات واقعية للمعلومات الرقمية على العالم الحقيقي، مما يُسهم في سد الفجوة بين العالمين المادي والافتراضي.
إنصاف (التعلم الآلي)
يشير الإنصاف (بالإنجليزية: Fairness) في التعلم الآلي (ML) إلى المحاولات المختلفة لتصحيح التحيز الخوارزمي في عمليات اتخاذ القرار الآلية القائمة على نماذج التعلم الآلي. يمكن اعتبار القرارات التي تتخذها مثل هذه النماذج بعد عملية التعلم غير عادلة إذا كانت تستند إلى متغيرات تعتبر حساسة (على سبيل المثال، الجنس، أو العرق، أو التوجه الجنسي، أو الإعاقة).
كما هو الحال مع العديد من المفاهيم الأخلاقية، فإن تعريفات العدالة والتحيز يمكن أن تكون مثيرة للجدل. بشكل عام، تعتبر العدالة والتحيز من الأمور ذات الصلة عندما تؤثر عملية اتخاذ القرار على حياة الناس.
وبما أن القرارات التي تتخذها الآلات قد تكون منحرفة بسبب مجموعة من العوامل، فقد تعتبر غير عادلة فيما يتصل بمجموعات أو أفراد معينين. ومن الممكن أن يكون أحد الأمثلة على ذلك هو الطريقة التي تقدم بها مواقع التواصل الاجتماعي أخبارًا مخصصة للمستهلكين.
إنصاف (التعلم الآلي) السياق
إن المناقشة حول العدالة في التعلم الآلي هي موضوع حديث نسبيًا. منذ عام 2016 كان هناك زيادة حادة في الأبحاث حول هذا الموضوع. يمكن أن يُعزى هذا الارتفاع جزئيًا إلى تقرير مؤثر صادر عن بروبابليكا والذي زعم أن برنامج كومبس، المستخدم على نطاق واسع في المحاكم الأمريكية للتنبؤ بالعودة إلى الجريمة، كان متحيزًا عنصريًا. أحد مواضيع البحث والمناقشة هو تعريف العدالة، حيث لا يوجد تعريف عالمي، ويمكن أن تتناقض التعريفات المختلفة مع بعضها البعض، مما يجعل من الصعب الحكم على نماذج التعلم الآلي. تتضمن موضوعات البحث الأخرى أصول التحيز، وأنواع التحيز، وطرق الحد من التحيز.
إنصاف (التعلم الآلي) السياق
في السنوات الأخيرة، قامت شركات التكنولوجيا بإعداد أدوات ودليل حول كيفية اكتشاف التحيز والحد منه في التعلم الآلي. تحتوي شركة آي بي إم على أدوات لـ بايثون وآر مع العديد من الخوارزميات لتقليل تحيز البرامج وزيادة عدالتها. نشرت جوجل إرشادات وأدوات لدراسة التحيز ومكافحته في التعلم الآلي. أبلغت شركة فيسبوك عن استخدامها لأداة تُدعى تدفق العدالة للكشف عن التحيز في الذكاء الاصطناعي الخاص بها. ومع ذلك، فقد زعم المنتقدون أن جهود الشركة غير كافية، حيث أفادوا بقلة استخدام الأداة من قبل الموظفين حيث لا يمكن استخدامها لجميع برامجهم وحتى عندما يمكن استخدامها، فإن استخدام الأداة اختياري.
إنصاف (التعلم الآلي) السياق
من المهم أن نلاحظ أن المناقشة حول الطرق الكمية لاختبار العدالة والتمييز غير العادل في عملية صنع القرار تسبق بعدة عقود المناقشة الحديثة حول العدالة في التعلم الآلي. في واقع الأمر، ازدهرت مناقشة حية لهذا الموضوع من جانب المجتمع العلمي خلال منتصف الستينيات والسبعينيات، ويرجع ذلك في الأغلب إلى حركة الحقوق المدنية الأميركية، وعلى وجه الخصوص إقرار قانون الحقوق المدنية الأميركي لعام 1964. ومع ذلك، بحلول نهاية سبعينيات القرن العشرين، اختفى النقاش إلى حد كبير، حيث لم تترك المفاهيم المختلفة والمتنافسة في بعض الأحيان للعدالة سوى مجال ضئيل للوضوح حول متى قد يكون أحد مفاهيم العدالة مفضلاً على آخر.
إنصاف (التعلم الآلي) السياق
يشير التحيز اللغوي إلى نوع من التحيز في أخذ العينات الإحصائية المرتبط بلغة الاستعلام والذي يؤدي إلى "انحراف منهجي في أخذ العينات من المعلومات مما يمنعها من تمثيل التغطية الحقيقية للموضوعات والآراء المتاحة في مستودعها بدقة".[بحاجة لمصدر أفضل] لوو وآخرون يُظهر أن نماذج اللغات الكبيرة الحالية، نظرًا لتدريبها في الغالب على بيانات باللغة الإنجليزية، غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية على أنها حقيقة، بينما تُقلل بشكل منهجي من أهمية وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو مجرد ضوضاء. عند طرح أسئلة على شات جي بي تي بأيديولوجيات سياسية مثل "ما هي الليبرالية؟"، يصفها، نظرًا لتدريبه على بيانات تركز على اللغة الإنجليزية، من منظور أنجلو أمريكي، مُركزًا على جوانب حقوق الإنسان والمساواة، بينما تغيب جوانب أخرى بنفس القدر من الصحة مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"تقييد سلطة الحكومة" من المنظور الصيني السائد. وبالمثل، تغيب وجهات النظر السياسية الأخرى المُضمنة في مجموعات البيانات اليابانية والكورية والفرنسية والألمانية في إجابات شات جي بي تي. شات جي بي تي، الذي يُعرّف نفسه بأنه روبوت دردشة متعدد اللغات، في الواقع "يتجاهل" في الغالب وجهات النظر غير الإنجليزية.
يشير التحيز الجنسي إلى ميل هذه النماذج إلى إنتاج مخرجات تتسم بالتحيز ضد جنس على حساب آخر. وينشأ هذا التحيز عادةً من البيانات التي تُدرَّب عليها هذه النماذج. على سبيل المثال، غالبًا ما تُحدِّد نماذج اللغات الكبيرة الأدوار والخصائص بناءً على معايير النوع الاجتماعي التقليدية؛ فقد تربط الممرضات أو السكرتيرات بالنساء في الغالب، والمهندسين أو الرؤساء التنفيذيين بالرجال.
يشير التحيز السياسي إلى ميل الخوارزميات إلى تفضيل وجهات نظر أو أيديولوجيات أو نتائج سياسية معينة بشكل منهجي على غيرها. وقد تُظهر نماذج اللغة أيضًا تحيزات سياسية. ونظرًا لأن بيانات التدريب تشمل نطاقًا واسعًا من الآراء والتغطية السياسية، فقد تُنتج النماذج استجابات تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، وذلك حسب انتشار تلك الآراء في البيانات.
إنصاف (التعلم الآلي) الخلافات
لقد كان استخدام عملية اتخاذ القرار الخوارزمية في النظام القانوني مجالًا بارزًا للاستخدام قيد التدقيق. في عام 2014، أثار المدعي العام الأمريكي آنذاك إريك هولدر مخاوف من أن أساليب "تقييم المخاطر" قد تركز بشكل غير مبرر على عوامل خارجة عن سيطرة المتهم، مثل مستواه التعليمي أو خلفيته الاجتماعية والاقتصادية. زعم تقرير عام 2016 الذي أعدته بروبابليكا حول كومبس أن المتهمين السود كانوا أكثر عرضة بمرتين تقريبًا لتصنيفهم بشكل غير صحيح على أنهم أكثر خطورة من المتهمين البيض، بينما ارتكبوا الخطأ المعاكس مع المتهمين البيض. وقد طعن منشئ كومبس، شركة نورث بوينت، في التقرير، مدعيًا أن أداة الشركة عادلة وأن بروبابليكا ارتكبت أخطاء إحصائية، وهو ما دحضته بروبابليكا مرة أخرى لاحقًا.
إنصاف (التعلم الآلي) الخلافات
وقد لوحظ أيضًا التحيز العنصري والجنساني في خوارزميات التعرف على الصور. لقد تبين أن الكشف عن الوجه والحركة في الكاميرات يتجاهل أو يخطئ في تسمية تعبيرات الوجه للأشخاص غير البيض. في عام 2015، اعتذرت شركة جوجل بعد أن قامت خدمة جوجل صور عن طريق الخطأ بتصنيف زوجين من السود على أنهما غوريلا. وبالمثل، وجد أن ميزة وضع العلامات التلقائية على موقع فليكر قد وصفت بعض السود بأنهم "قردة" و"حيوانات". وُجِد أن مسابقة الجمال الدولية لعام 2016 التي تم الحكم عليها بواسطة خوارزمية الذكاء الاصطناعي كانت متحيزة تجاه الأفراد ذوي البشرة الفاتحة، ويرجع ذلك على الأرجح إلى التحيز في بيانات التدريب. وجدت دراسة أجريت على ثلاث خوارزميات تصنيف جنساني تجارية في عام 2018 أن الخوارزميات الثلاث كانت الأكثر دقة بشكل عام عند تصنيف الذكور ذوي البشرة الفاتحة والأسوأ عند تصنيف الإناث ذوات البشرة الداكنة. في عام 2020، أظهرت أداة قص الصور من تويتر تفضيلها للوجوه ذات البشرة الفاتحة. في عام 2022، أوضح مبتكرو نموذج تحويل النص إلى صورة دال-إي 2 أن الصور المولدة كانت نمطية بشكل كبير، بناءً على سمات مثل الجنس أو العرق.
إنصاف (التعلم الآلي) الخلافات
وتشمل المجالات الأخرى التي تستخدم فيها خوارزميات التعلم الآلي، والتي ثبت أنها متحيزة، طلبات التوظيف والقروض. استخدمت أمازون برامج لمراجعة طلبات التوظيف كانت متحيزة ضد المرأة، على سبيل المثال من خلال معاقبة السير الذاتية التي تضمنت كلمة "نساء". في عام 2019، أعطت خوارزمية أبل لتحديد حدود بطاقات الائتمان لبطاقة بطاقة أبل الجديدة حدودًا أعلى بكثير للذكور مقارنة بالإناث، حتى بالنسبة للأزواج الذين يتشاركون أموالهم. أظهرت دراسة أجرتها شركة ذا مارك أب ‏ في عام 2021 أن خوارزميات الموافقة على الرهن العقاري المستخدمة في الولايات المتحدة أكثر عرضة لرفض المتقدمين غير البيض.
إنصاف (التعلم الآلي) القيود
تؤكد الأعمال الأخيرة على وجود العديد من القيود على المشهد الحالي للعدالة في التعلم الآلي، وخاصة عندما يتعلق الأمر بما يمكن تحقيقه بشكل واقعي في هذا الصدد في التطبيقات المتزايدة باستمرار للذكاء الاصطناعي في العالم الحقيقي.على سبيل المثال، قد يعتمد النهج الرياضي والكمي لإضفاء الطابع الرسمي على العدالة، والنهج المرتبطة به لإزالة التحيز، على افتراضات مبسطة للغاية ويسهل إغفالها، مثل تصنيف الأفراد إلى مجموعات اجتماعية محددة مسبقًا. ومن بين الجوانب الحساسة الأخرى، على سبيل المثال، التفاعل بين العديد من الخصائص الحسية، والافتقار إلى مفهوم فلسفي و/أو قانوني واضح ومشترك بشأن عدم التمييز.
أخيرًا، مع إمكانية تصميم نماذج التعلم الآلي للالتزام بمعايير الإنصاف، إلا أن القرارات النهائية التي يتخذها العاملون البشريون قد تتأثر بتحيزاتهم الشخصية. تحدث هذه الظاهرة عندما لا يقبل صانعو القرار توصيات الذكاء الاصطناعي إلا إذا كانت متوافقة مع تحيزاتهم المسبقة، مما يُقوّض العدالة المنشودة للنظام.
إنصاف (التعلم الآلي) معايير العدالة الجماعية
في مشاكل التصنيف، تتعلم الخوارزمية دالة للتنبؤ بخاصية منفصلة ، المتغير المستهدف، من الخصائص المعروفة . نحن نمذج  كمتغير عشوائي منفصل يشفر بعض الخصائص المضمنة أو المشفرة ضمناً في  التي نعتبرها خصائص حساسة (الجنس، العرق، التوجه الجنسي، وما إلى ذلك). ونشير أخيرا إلى ذلك بـ
التنبؤ بالمصنف. الآن دعونا نحدد ثلاثة معايير رئيسية لتقييم ما إذا كان المصنف المعطى عادلاً، أي ما إذا كانت تنبؤاته لا تتأثر ببعض هذه المتغيرات الحساسة.
نقول المتغيرات العشوائية  إرضاء الاستقلال إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن التنبؤ ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن معدل التصنيف لكل فئات الهدف متساوٍ للأشخاص المنتمين إلى مجموعات مختلفة فيما يتعلق بالخصائص الحساسة .
يمكن إعطاء تعبير مكافئ آخر للاستقلال باستخدام مفهوم المعلومات المتبادلة بين المتغيرات العشوائية، والذي يُعرَّف بأنه  في هذه الصيغة،  هي إنتروبيا المتغير العشوائي . ثم  إرضاء الاستقلال إذا .
قد يتضمن التخفيف المحتمل لتعريف الاستقلال إدخال تراخي إيجابي  ويتم إعطاؤها بالصيغة:
إنصاف (التعلم الآلي) معايير العدالة الجماعية
وأخيرًا، هناك إمكانية أخرى للاسترخاء وهي المطالبة .
نقول المتغيرات العشوائية  إرضاء الفصل إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن التنبؤ  بالنظر إلى القيمة المستهدفة ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن كل اعتماد القرار  حول السمة الحساسة  يجب تبريره بالاعتماد الفعلي للمتغير المستهدف الحقيقي .
هناك تعبير مكافئ آخر، في حالة معدل الهدف الثنائي، وهو أن معدل الإيجابية الحقيقية ومعدل الإيجابية الكاذبة متساويان (وبالتالي فإن معدل السلبية الكاذبة ومعدل السلبية الحقيقية متساويان) لكل قيمة من الخصائص الحساسة:
من الممكن تخفيف التعريفات المقدمة من خلال السماح بقيمة الفرق بين المعدلات بأن تكون أقل من فترة تراخي معينة برقم موجب. ، بدلاً من أن يساوي الصفر.
في بعض المجالات، يكون الفصل (معامل الفصل) في مصفوفة الارتباك مقياسًا للمسافة (عند مستوى معين من درجة الاحتمالية) بين النسبة المئوية التراكمية السلبية المتوقعة والنسبة المئوية التراكمية الإيجابية المتوقعة.
إنصاف (التعلم الآلي) معايير العدالة الجماعية
كلما كان معامل الفصل هذا أكبر عند قيمة درجة معينة، كلما كان النموذج أكثر فعالية في التمييز بين مجموعة الإيجابيات والسلبيات عند حد احتمال معين. وفقًا لمايز: "يُلاحظ غالبًا في قطاع الائتمان أن اختيار مقاييس التحقق يعتمد على نهج النمذجة. على سبيل المثال، إذا كان إجراء النمذجة معياريًا أو شبه معياري، فغالبًا ما يُستخدم اختبار كولموغوروف-سميرنوف لعينتين. إذا تم اشتقاق النموذج من خلال طرق البحث الاستدلالية أو التكرارية، فإن مقياس أداء النموذج عادةً ما يكون التباعد. الخيار الثالث هو معامل الفصل... ويبدو معامل الفصل، مقارنةً بالطريقتين الأخريين، الأكثر منطقية كمقياس لأداء النموذج لأنه يعكس نمط الفصل في النموذج."
نقول المتغيرات العشوائية  تلبية الكفاية إذا كانت الخصائص الحساسة  مستقلة إحصائيًا عن القيمة المستهدفة  بالنظر إلى التنبؤ ، ونحن نكتب  ويمكننا أيضًا التعبير عن هذا المفهوم بالصيغة التالية:  وهذا يعني أن احتمال التواجد فعليًا في كل من المجموعات متساوٍ بالنسبة لشخصين يتمتعان بخصائص حساسة مختلفة نظرًا لأنه من المتوقع أن ينتميا إلى نفس المجموعة.
إنصاف (التعلم الآلي) معايير العدالة الجماعية
وأخيرا، نلخص بعض النتائج الرئيسية التي تربط بين التعريفات الثلاثة المذكورة أعلاه:
ويشار إلى ذلك بالعدالة الكاملة عندما يتم تلبية الاستقلال والانفصال والكفاية في وقت واحد. ومع ذلك، فإن العدالة الكاملة ليست ممكنة إلا في حالات بلاغية محددة.
تعتمد معظم المقاييس الإحصائية للعدالة على مقاييس مختلفة، لذا سنبدأ بتعريفها. عند استخدام مُصنِّف ثنائي، يمكن أن تأخذ كلٌّ من الفئتين المُتنبَّأة والفعلية قيمتين: موجبة وسالبة. لنبدأ الآن بشرح العلاقات المُحتملة بين النتيجة المُتنبَّأة والنتيجة الفعلية:
يمكن تمثيل هذه العلاقات بسهولة باستخدام مصفوفة الارتباك، وهو جدول يصف دقة نموذج التصنيف. في هذه المصفوفة، تمثل الأعمدة والصفوف حالات من المتوقع حدوثها والحالات الفعلية على التوالي.
وباستخدام هذه العلاقات، يمكننا تحديد مقاييس متعددة يمكن استخدامها لاحقًا لقياس مدى عدالة الخوارزمية:
القيمة المتوقعة الإيجابية (PPV): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع التنبؤات الإيجابية. تُعرف عادةً بالدقة، وتمثل احتمالية صحة التنبؤ الإيجابي. تُعطى بالصيغة التالية:
إنصاف (التعلم الآلي) معايير العدالة الجماعية
معدل الإيجابية الحقيقية (TPR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات الإيجابية. يُشار إليه عادةً باسم الحساسية أو التذكر، ويمثل احتمال تصنيف الحالات الإيجابية بشكل صحيح على هذا النحو. ويُعطى بالصيغة التالية:
معدل النتائج السلبية الكاذبة (FNR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل خاطئ بأنها سلبية من بين جميع الحالات الإيجابية. يمثل هذا احتمال تصنيف الحالات الإيجابية بشكل خاطئ على أنها سلبية، ويُعطى بالصيغة التالية:
معدل السلبية الحقيقي (TNR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل صحيح على هذا النحو، ويُعطى بالصيغة التالية:
معدل النتائج الإيجابية الكاذبة (FPR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل خاطئ بأنها إيجابية من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل خاطئ على أنها إيجابية، ويُعطى بالصيغة التالية:
إنصاف (التعلم الآلي) معايير العدالة الجماعية
يمكن فهم المعايير التالية باعتبارها مقاييس للتعريفات العامة الثلاثة الواردة في بداية هذا القسم، وهي الاستقلال والانفصال والكفاية. وفي الجدول على اليمين، يمكننا رؤية العلاقات بينهما.
لتحديد هذه التدابير على وجه التحديد، سوف نقسمها إلى ثلاث مجموعات كبيرة كما فعلت في فيرما وآخرون: التعاريف القائمة على النتيجة المتوقعة، والنتائج المتوقعة والفعلية، والتعريفات القائمة على الاحتمالات المتوقعة والنتيجة الفعلية.
سنعمل مع مصنف ثنائي والترميز التالي:  يشير إلى الدرجة التي يمنحها المصنف، والتي تمثل احتمالية وجود موضوع معين في الفئة الإيجابية أو السلبية.  يمثل التصنيف النهائي الذي تنبأت به الخوارزمية، وعادةً ما يتم اشتقاق قيمته من ، على سبيل المثال سيكون إيجابيا عندما  فوق حد معين.  يمثل النتيجة الفعلية، أي التصنيف الحقيقي للفرد، وأخيرًا،  يشير إلى السمات الحساسة للموضوعات.
تركز التعريفات في هذا القسم على النتيجة المتوقعة  لتوزيعات مختلفة من المواضيع. إنها أبسط المفاهيم وأكثرها بديهية للعدالة.
إنصاف (التعلم الآلي) معايير العدالة الجماعية
التكافؤ الديموغرافي، ويشار إليه أيضًا بالتكافؤ الإحصائي، وتكافؤ معدل القبول، والمقارنة المعيارية. يفي المصنف بهذا التعريف إذا كان لدى الكائنات الموجودة في المجموعات المحمية وغير المحمية احتمال متساوٍ ليتم تعيينها في فئة التنبؤ الإيجابية. وهذا إذا تم استيفاء الصيغة التالية:
لا تأخذ هذه التعريفات بعين الاعتبار النتيجة المتوقعة فحسب  ولكن قارنها أيضًا بالنتيجة الفعلية .
التكافؤ التنبؤي، ويشار إليه أيضًا باسم اختبار النتيجة. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية قيمة PPV متساوية. وهذا إذا تم استيفاء الصيغة التالية:
رياضيا، إذا كان المصنف له قيمة PPV متساوية لكلا المجموعتين، فسيكون له أيضًا قيمة FDR متساوية، مما يلبي الصيغة:
توازن معدل الخطأ الإيجابي الكاذب، ويشار إليه أيضًا بالمساواة التنبؤية. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية معدل استجابة مرضية متساوٍ. وهذا إذا تم استيفاء الصيغة التالية:
رياضيا، إذا كان المصنف له FPR متساوي لكلا المجموعتين، فسيكون له أيضًا TNR متساوي، مما يلبي الصيغة: