المساءلة الخوارزمية

تشير المساءلة الخوارزمية إلى توزيع المسؤولية عن عواقب الإجراءات الواقعية التي تتأثر بالخوارزميات المستخدمة في عمليات صنع القرار.

من الناحية المثالية، ينبغي تصميم الخوارزميات بحيث تقضي على التحيز في نتائج اتخاذ القرارات. وهذا يعني أنها يجب أن تقيّم فقط الخصائص ذات الصلة من البيانات المدخلة، وتجنب التمييز على أساس سمات غير ملائمة عمومًا في السياقات الاجتماعية، مثل العرق في الأحكام القانونية. ومع ذلك، لا يمكن ضمان الالتزام بهذا المبدأ دائمًا، وهناك حالات قد يتأثر فيها الأفراد سلبًا بقرارات الخوارزميات. قد تقع مسؤولية أي ضرر ناتج عن قرار الآلة على الخوارزمية نفسها أو على الأفراد الذين صمموها، خاصة إذا كان القرار ناتجًا عن تحيز أو تحليل بيانات معيب متأصل في تصميم الخوارزمية.

 استخدام الخوارزمية 
تُستخدم الخوارزميات على نطاق واسع في مختلف قطاعات المجتمع التي تدمج تقنيات حسابية في أنظمة التحكم الخاصة بها. وتشمل هذه التطبيقات العديد من الصناعات، بما في ذلك على سبيل المثال لا الحصر، الخدمات الطبية والنقل وخدمات الدفع. وفي هذه السياقات، تؤدي الخوارزميات وظائف مثل

 الموافقة على طلبات بطاقات الائتمان أو رفضها؛
 فرز الأصوات في الانتخابات ؛
 الموافقة على تأشيرات الهجرة أو رفضها؛
 تحديد دافعي الضرائب الذين سيتم تدقيق ضرائب دخلهم؛
 إدارة الأنظمة التي تتحكم بالسيارات ذاتية القيادة على الطريق السريع؛
 تقييم الأفراد كمجرمين محتملين لاستخدامهم في الإجراءات القانونية.

ومع ذلك، قد يكون تنفيذ هذه الخوارزميات معقدًا وغير شفاف. بشكل عام، تعمل الخوارزميات كـ ”صناديق سوداء“، مما يعني أن العمليات المحددة التي تخضع لها المدخلات أثناء التنفيذ غالبًا ما تكون غير شفافة، حيث لا يرى المستخدمون عادةً سوى النتائج النهائية. ويثير هذا الافتقار إلى الشفافية مخاوف بشأن التحيزات المحتملة داخل الخوارزميات، حيث قد لا تكون المعلمات التي تؤثر على صنع القرار مفهومة جيدًا. ويمكن أن تؤدي النتائج النهائية إلى تصورات بالتحيز، خاصةً إذا حصل أفراد في ظروف مماثلة على نتائج مختلفة. وفقًا لنيكولاس دياكوبولوس:


 قضية المحكمة العليا في ولاية ويسكونسن 
تنتشر الخوارزميات في مختلف المجالات وتؤثر بشكل كبير على القرارات التي تمس السكان بشكل عام. وغالبًا ما تظل هياكلها ومعاييرها الأساسية مجهولة بالنسبة لأولئك المتأثرين بنتائجها. ومن الأمثلة البارزة التي توضح هذه المسألة الحكم الذي أصدرته مؤخرًا المحكمة العليا في ولاية ويسكونسن بشأن خوارزميات ”تقييم المخاطر“ المستخدمة في العدالة الجنائية.فقد قررت المحكمة أن الدرجات التي تولدها هذه الخوارزميات، والتي تحلل معايير متعددة للأفراد، لا ينبغي أن تستخدم كعامل حاسم في اعتقال المتهم. علاوة على ذلك، أمرت المحكمة بأن تتضمن جميع التقارير المقدمة إلى القضاة معلومات عن دقة الخوارزمية المستخدمة لحساب هذه الدرجات.

يعتبر هذا الحكم تطوراً جديراً بالملاحظة في كيفية إدارة المجتمع للبرمجيات التي تتخذ قرارات ذات عواقب، مما يسلط الضوء على أهمية الموثوقية، لا سيما في البيئات المعقدة مثل النظام القانوني. يتطلب استخدام الخوارزميات في هذه السياقات درجة عالية من الحياد في معالجة البيانات المدخلة. ومع ذلك، يشير الخبراء إلى أنه لا يزال هناك الكثير من العمل الذي يتعين القيام به لضمان دقة نتائج الخوارزميات. لا تزال الأسئلة حول شفافية معالجة البيانات تثار، مما يثير تساؤلات حول مدى ملاءمة الخوارزميات ونوايا مصمميها.

 الخلافات 
يُسلَّط الضوء على مثالٍ بارزٍ على التحيز الخوارزمي المُحتمل في مقالٍ لصحيفة واشنطن بوست  حول خدمة أوبر لتأجير السيارات. كشف تحليلٌ للبيانات المُجمَّعة أن أوقات الانتظار المُقدَّرة للمستخدمين تختلف باختلاف الأحياء التي يقيمون فيها. ومن العوامل الرئيسية التي تُؤثِّر على هذه التباينات العرق السائد ومتوسط دخل المنطقة.

على وجه التحديد، كانت الأحياء التي تضم غالبية من السكان البيض وذوي الوضع الاقتصادي الأعلى تميل إلى أن تكون أوقات الانتظار فيها أقصر، في حين أن الأحياء التي تضم تركيبة عرقية أكثر تنوعًا ومتوسط دخل أقل كانت تشهد فترات انتظار أطول. من المهم توضيح أن هذه الملاحظة تعكس علاقة ترابط تم تحديدها في البيانات، وليس علاقة سبب ونتيجة قاطعة. لم يتم إصدار أي أحكام قيمة بشأن سلوك تطبيق Uber في هذه الحالات.

في تحليل منفصل نُشر في مقال "Direito Digit@l" على موقع Migalhas الإلكتروني، يدرس المؤلفان كوريولانو ألميدا كامارغو ومارسيلو كريسبو استخدام الخوارزميات في سياقات اتخاذ القرار التي عادةً ما يتولى البشر إدارتها. ويناقشان التحديات التي تعترض تقييم مدى عدالة القرارات المُولّدة آليًا، والعيوب المحتملة التي قد تطرأ على عملية التحقق هذه.

أدى التقدم السريع في التكنولوجيا إلى ظهور العديد من الابتكارات في المجتمع، بما في ذلك تطوير المركبات ذاتية القيادة. تعتمد هذه المركبات على خوارزميات مدمجة في أنظمتها لإدارة الملاحة والاستجابة لمختلف ظروف القيادة. تم تصميم الأنظمة الذاتية لجمع البيانات وتقييم محيطها في الوقت الفعلي، مما يسمح لها باتخاذ قرارات تحاكي تصرفات السائق البشري.

في تحليلهم، يتناول كامارغو وكريسبو المشكلات المحتملة المرتبطة بالخوارزميات المستخدمة في المركبات ذاتية القيادة. ويشددان بشكل خاص على التحديات المتعلقة باتخاذ القرارات في اللحظات الحرجة، مسلطين الضوء على التعقيدات والاعتبارات الأخلاقية التي ينطوي عليها برمجة مثل هذه الأنظمة لضمان السلامة والإنصاف.



 الحلول الممكنة 
سعت المناقشات بين الخبراء إلى إيجاد حلول قابلة للتطبيق لفهم عمليات الخوارزميات، التي يشار إليها غالبًا باسم ”الصناديق السوداء“. ويُقترح عمومًا أن تضمن الشركات المسؤولة عن تطوير وتنفيذ هذه الخوارزميات موثوقيتها من خلال الكشف عن العمليات الداخلية لأنظمتها.

يؤكد هيمانت تانيجا، الكاتب في موقع تك كرانش، على ضرورة أن تُدمج شركات التكنولوجيا الكبرى، مثل جوجل وأمازون وأوبر، المساءلة الخوارزمية بفعالية في عملياتها. ويقترح أن تُراقب هذه الشركات أنظمتها بشفافية لتجنب الإجراءات التنظيمية الصارمة. 

أحد الحلول الممكنة هو إدخال لوائح تنظيمية في قطاع التكنولوجيا لفرض الرقابة على العمليات الخوارزمية. ومع ذلك، قد تؤثر هذه اللوائح بشكل كبير على مطوري البرمجيات والقطاع ككل. قد يكون من الأفضل للشركات الإفصاح طواعيةً عن تفاصيل خوارزمياتها ومعايير اتخاذ القرارات، مما قد يعزز موثوقية حلولها.

ومن بين المجالات الأخرى التي تمت مناقشتها إمكانية التنظيم الذاتي من قبل الشركات التي تنشئ هذه الخوارزميات، مما يسمح لها باتخاذ خطوات استباقية لضمان المساءلة والشفافية في عملياتها.

 مراجع 

تصنيف:خوارزميات