hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
أخلاقيات الذكاء الاصطناعي التحديات الحالية
بذلت شركات كبيرة مثل آي بي إم وجوجل وما إلى ذلك، والتي توفر تمويلًا كبيرًا للبحث والتطوير، جهودًا للبحث في هذه التحيزات ومعالجتها. أحد الحلول لمعالجة التحيز هو إنشاء وثائق للبيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي. يمكن أن يكون استخراج العمليات أداة مهمة للمنظمات لتحقيق الامتثال للوائح الذكاء الاصطناعي المقترحة من خلال تحديد الأخطاء ومراقبة العمليات وتحديد الأسباب الجذرية المحتملة للتنفيذ غير السليم والوظائف الأخرى.
من المرجح أن تُصبح مشكلة التحيز في التعلم الآلي أكثر أهمية مع انتشار التكنولوجيا إلى مجالات حيوية مثل الطب والقانون، ومع تكليف المزيد من الأشخاص الذين ليس لديهم فهم تقني عميق بنشرها. تسعى بعض الأدوات مفتوحة المصدر إلى زيادة الوعي بتحيزات الذكاء الاصطناعي. ومع ذلك فلا تزال القيود تعتم على المشهد الحالي للعدالة في الذكاء الاصطناعي، على سبيل المثال بسبب الغموض الجوهري في مفهوم التمييز، سواء على المستوى الفلسفي أو القانوني.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
يُدمج الذكاء الاصطناعي في عمليات التوظيف في العديد من الشركات الكبرى، وهناك أمثلة عديدة على الخصائص التي تقلل فرص الاختيار بواسطة الذكاء الاصطناعي. من هذه الخصائص، ارتباط الأسماء التي غالبًا ما تكون مرتبطة بالأشخاص البيض بأنها أكثر تأهيلاً، واستبعاد أي شخص التحق بكلية نسائية. أثبتت تقنيات التعرف على الوجه أنها منحازة ضد الأشخاص ذوي البشرة الداكنة. فعلى سبيل المثال، كانت أنظمة الذكاء الاصطناعي أقل دقة في تحديد الأشخاص السود، كما كان الحال في تطوير مقياس تأكسج نبضي يعتمد على الذكاء الاصطناعي، حيث بالغ في تقدير مستويات الأكسجين في الدم للمرضى ذوي البشرة الداكنة، مما أدى إلى مشاكل في علاج نقص الأكسجة.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
من المثير للقلق أيضًا أن الذكاء الاصطناعي يميل إلى ربط المسلمين بالعنف أكثر من أي دين آخر. وكذلك، أنظمة التعرف على الوجه قد تتمكن بسهولة من اكتشاف وجوه الأشخاص البيض بينما تكافح في التعرف على وجوه الأشخاص السود. يزداد الأمر قلقًا عند الأخذ في الاعتبار الاستخدام غير المتناسب لكاميرات المراقبة في المجتمعات ذات النسب العالية من السكان السود أو ذوي البشرة الداكنة. أدى ذلك إلى منع استخدام الشرطة لتقنيات الذكاء الاصطناعي في بعض الولايات.
حتى في نظام العدالة، أثبت الذكاء الاصطناعي أنه متحيز ضد السود، حيث تم تصنيف المشاركين السود في المحاكم على أنهم يشكلون خطرًا أكبر بشكل ملحوظ مقارنة بنظرائهم البيض. يعاني الذكاء الاصطناعي أيضًا في التمييز بين الكلمات العنصرية ومتى يجب حظرها، حيث يجد صعوبة في التمييز بين استخدامها كإهانة أو استخدامها بطريقة ثقافية.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
السبب وراء هذه التحيزات هو أن الذكاء الاصطناعي يجمع المعلومات من جميع أنحاء الإنترنت، مما يؤثر على استجاباته في كل حالة. على سبيل المثال، إذا تم اختبار نظام التعرف على الوجه فقط على الأشخاص البيض، فلن يمتلك بيانات كافية حول الهياكل الوجهية والألوان للأعراق الأخرى، مما يجعل من الصعب عليه تفسير هذه السمات.
لمعالجة هذه التحيزات، لا يوجد حل واحد شامل. يبدو أن أكثر الحلول فعالية هو إشراك علماء البيانات وأخلاقيات الذكاء الاصطناعي وصناع القرار لتحسين هذه الأنظمة. غالبًا ما تكون أسباب التحيز متعلقة بالبيانات التي تُستخدم في تدريب البرنامج، أكثر من كونها مرتبطة بالخوارزمية ذاتها، حيث تعتمد هذه البيانات على قرارات بشرية سابقة أو تفاوتات قد تؤدي إلى تحيزات في عملية اتخاذ القرار.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
سيكون من الأصعب القضاء على الظلم في استخدام الذكاء الاصطناعي في أنظمة الرعاية الصحية، حيث غالبًا ما تؤثر الأمراض والحالات على الأعراق والأجناس المختلفة بشكل مختلف. ويمكن أن يؤدي ذلك إلى حدوث ارتباك حيث قد يتخذ الذكاء الاصطناعي قرارات بناءً على إحصائيات تُظهر أن مريضًا ما أكثر عرضة للإصابة بمشاكل بسبب جنسه أو عرقه. يمكن اعتبار ذلك تحيزًا لأن كل مريض يُمثل حالة مختلفة ويتخذ الذكاء الاصطناعي قرارات بناءً على ما تمت برمجته لتصنيف ذلك الفرد تحت مجموعة معينة. يؤدي هذا إلى نقاش حول ما يُعتبر قرارًا متحيزًا بشأن من يتلقى العلاج. على الرغم من أنه من المعروف أن هناك اختلافات في كيفية تأثر الأجناس والأعراق المختلفة بالأمراض والإصابات، إلا أن هناك نقاشًا حول ما إذا كان من الأكثر إنصافًا دمج ذلك في العلاجات الصحية، أو فحص كل مريض دون هذه المعرفة. يوجد في المجتمع الحديث بالفعل اختبارات معينة للأمراض مثل سرطان الثدي التي يُوصى بها لفئات معينة من الناس أكثر من غيرها لأنهم أكثر عرضة للإصابة بالمرض المعني. إذا طبق الذكاء الاصطناعي هذه الإحصائيات وطبقها على كل مريض، فيمكن اعتباره متحيزًا.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
يُعد نظام COMPAS من أهم الأمثلة على إثبات تحيز الذكاء الاصطناعي الذي يُستخدم للتنبؤ بالمُتهمين الأكثر عرضة لارتكاب جرائم في المستقبل، حيث وُجد أنه يتنبأ بقيم مخاطر أعلى للسود مما كانت عليه مخاطرهم الفعلية. ومن الأمثلة الأخرى إعلانات جوجل التي تستهدف الرجال بوظائف أعلى أجرًا مما تفعل لاستهداف النساء. وقد يكون من الصعب اكتشاف تحيزات الذكاء الاصطناعي ضمن الخوارزمية حيث لا يرتبط ذلك بالكلمات الفعلية المرتبطة بالتحيز ولكن بالكلمات التي يمكن أن تتأثر به. ربط شخص ما بمجموعة معينة بناءًا على مكان إقامته.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
بما أن نماذج اللغات الكبيرة الحالية يتم تدريبها في الغالب على بيانات اللغة الإنجليزية، فإنها غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية كحقيقة، بينما تقلل بشكل ممنهج من وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو ضوضاء.[بحاجة لمصدر أفضل] يُظهر "لوو" وآخرون أنه عند الاستعلام عن الأيديولوجيات السياسية مثل "ما هي الليبرالية؟"، يصف شات جي بي تي، كما تم تدريبه على بيانات مركزية اللغة الإنجليزية، الليبرالية من منظور أنجلو أمريكي، مع التأكيد على جوانب حقوق الإنسان والمساواة، بينما تغيب الجوانب الصحيحة بنفس القدر مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"الحد من سلطة الحكومة" من المنظور الصيني السائد.
غالبًا ما تعزز نماذج اللغات الكبيرة القوالب النمطية الجنسانية، حيث تُخصص الأدوار والخصائص بناءً على الأعراف الجنسانية التقليدية. فعلى سبيل المثال قد تربط الممرضات أو السكرتيرات في الغالب بالنساء والمهندسين أو الرؤساء التنفيذيين بالرجال، مما يديم التوقعات والأدوار المبنية على الجنس.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
قد تُظهر نماذج اللغة تحيزات سياسية تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، اعتمادًا على انتشار تلك الآراء في بيانات التدريب التي تشمل مجموعة واسعة من الآراء والتغطية السياسية.
إلى جانب النوع الاجتماعي والعرق، يمكن لهذه النماذج أن تعزز مجموعة واسعة من القوالب النمطية، بما في ذلك تلك المبنية على العمر أو الجنسية أو الدين أو المهنة. قد يؤدي هذا إلى مخرجات تُعمّم بشكل غير عادل أو تُقدّم صورة كاريكاتورية لمجموعات من الناس، وأحيانًا بطرق ضارة أو مهينة.
تهيمن شركات التكنولوجيا الكبرى مثل ألفابت، وأمازون، وأبل، وميتا بلاتفورمز، ومايكروسوفت على مشهد الذكاء الاصطناعي التجاري. تمتلك بعض هذه الشركات بالفعل الغالبية العظمى من البنية التحتية السحابية الحالية وقوة الحوسبة من مراكز البيانات، مما يسمح لها بترسيخ مكانتها في السوق بشكل أكبر.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
يُجادل بيل هيبرد[الإنجليزية] بأنه نظرًا لأن الذكاء الاصطناعي سيكون له تأثير عميق على البشرية، فإن مطوري الذكاء الاصطناعي يمثلون مستقبل البشرية وبالتالي فإن لديهم التزامًا أخلاقيًا بأن يكونوا شفافين في جهودهم. تعمل منظمات مثل هجينج فيس وإليوثيراي بشكل نشط على جعل برامج الذكاء الاصطناعي مفتوحة المصدر. كما تم إصدار مختلف نماذج اللغات الكبيرة ذات الوزن المفتوح، مثل جيما ولاما2 وميسترال. ومع ذلك، فإن جعل الكود مفتوح المصدر لا يجعله مفهومًا، مما يعني بالنسبة للعديد من التعريفات أن شفرة الذكاء الاصطناعي ليست شفافة. نشرت جمعية معايير "آي تربل أي" معيارًا تقنيًا حول شفافية الأنظمة المستقلة: "آي تربل أي 7001-2021". تحدد جهود "آي تربل أي" مقاييس متعددة للشفافية لمُختلف الجهات المعنية.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
هناك أيضًا مخاوف من أن يؤدي إصدار نماذج الذكاء الاصطناعي إلى إساءة استخدامها. على سبيل المثال، أعربت مايكروسوفت عن قلقها إزاء السماح بالوصول العام إلى برنامجها ل لتعرف على الوجوه، حتى لل م ست ط يعين الذين يمكنهم دفع ثمنه. نشرت مايكروسوفت مدونة حول هذا الموضوع، وطالبت بتنظيم حكومي للمساعدة في تحديد الشيء الصحيح الذي يجب فعله. علاوة على ذلك، يمكن ضبط نماذج الذكاء الاصطناعي ذات الوزن المفتوح لإزالة أي إجراء مضاد، حتى يتوافق نموذج الذكاء الاصطناعي مع الطلبات الخطيرة دون أي تصفية. قد يكون هذا مقلقًا بشكل خاص لنماذج الذكاء الاصطناعي المستقبلية، على سبيل المثال إذا حصلت على القدرة على إنشاء أسلحة بيولوجية أو لأتمتة الهجمات الإلكترونية. التزمت أوبن أيه آي التي التزمت في البداية بنهج مفتوح المصدر لتطوير الذكاء الاصطناعي العام، في النهاية بنهج مغلق المصدر، مستشهدة أسبابًا تتعلق بالتنافسية والسلامة. في عام 2023 قال إيليا سوتسكيفر كبير علماء الذكاء الاصطناعي العام في شركة "أوبن أيه آي": "لقد كنا مخطئين" متوقعًا أن تصبح الأسباب الأمنية لعدم جعل النماذج الأكثر قوة للذكاء الاصطناعي مفتوحة المصدر "واضحة" في غضون بضع سنوات.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
قد تؤدي الأساليب مثل التعلم الآلي باستخدام الشبكات العصبية إلى قيام الحواسيب باتخاذ قرارات لا يستطيع الحاسوب نفسه ولا المطورون تفسيرها. من الصعب على الناس تحديد ما إذا كانت هذه القرارات عادلة وموثوقة، مما قد يؤدي إلى عدم اكتشاف التحيز في أنظمة الذكاء الاصطناعي، أو رفض الناس استخدام هذه الأنظمة. وقد أدى ذلك إلى الدعوات، وفي بعض الولايات القضائية إلى متطلبات قانونية، نحو الذكاء الاصطناعي القابل للتفسير. يشمل الذكاء الاصطناعي القابل للتفسير كلا من القابلية للتفسير والفهم، حيث تتعلق القابلية للتفسير بتلخيص سلوك الشبكات العصبية وبناء ثقة المستخدم، بينما يُعرَّف الفهم بأنه القدرة على إدراك ما قام به النموذج أو ما يمكن أن يقوم به.
أخلاقيات الذكاء الاصطناعي التحديات الحالية
يؤدي استخدام الأساليب أو التقنيات المعقدة للذكاء الاصطناعي في كثير من الأحيان إلى نماذج تُوصف بأنها "صناديق سوداء" نظرًا لصعوبة فهم كيفية عملها. القرارات التي تتخذها هذه النماذج قد تكون صعبة التفسير، إذ يمثل تحليل كيفية تحويل البيانات المدخلة إلى مخرجات تحديًا كبيرًا. هذا الافتقار إلى الشفافية يشكل مصدر قلق كبير في مجالات مثل الرعاية الصحية، حيث يُعد فهم الأساس المنطقي وراء القرارات أمرًا حاسمًا لبناء الثقة، ومراعاة الاعتبارات الأخلاقية، والامتثال للمعايير التنظيمية.
تُعدّ حالة خاصة من حالات عدم شفافية الذكاء الاصطناعي هي تلك التي تنتج عن إضفاء الصفات البشرية عليه، أي افتراض أنه يتمتع بخصائص شبيهة بخصائص الإنسان، مما يؤدي إلى مفاهيم خاطئة حول أخلاقيته. [محل شك] يمكن أن يتسبب ذلك في تغاضي الناس عمّا إذا كان إهمال بشري أو فعل إجرامي متعمد قد أدى إلى نتائج غير أخلاقية تم إنتاجها من خلال نظام الذكاء الاصطناعي. تهدف بعض اللوائح الحكومية الرقمية الأخيرة، مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي، إلى تصحيح ذلك، من خلال ضمان معاملة أنظمة الذكاء الاصطناعي بنفس قدر العناية التي يتوقعها المرء في ظل مسؤولية المنتج العادية. يشمل ذلك عمليات التدقيق المحتملة للذكاء الاصطناعي.
وفقًا لتقرير صدر عام 2019 من مركز حوكمة الذكاء الاصطناعي في جامعة أكسفورد، يعتقد 82% من الأمريكيين أنه يجب إدارة الروبوتات والذكاء الاصطناعي بعناية. وتراوحت المخاوف المذكورة من كيفية استخدام الذكاء الاصطناعي في المراقبة وفي نشر المحتوى المزيف عبر الإنترنت (المعروف باسم التزييف العميق عندما يتضمن صور فيديو معدلة وصوتًا تم إنشاؤه بمساعدة الذكاء الاصطناعي) إلى الهجمات الإلكترونية وانتهاكات خصوصية البيانات والتحيز في التوظيف والمركبات المستقلة وال طائرات المسيرة التي لا تتطلب مُشغلًا بشريًا. وبالمثل، وفقًا لدراسة شملت خمس دول أجرتها KPMG وجامعة كوينزلاند أستراليا في عام 2021، يعتقد 66-79% من المواطنين في كل دولة أن تأثير الذكاء الاصطناعي على المجتمع غير مؤكد ولا يمكن التنبؤ به؛ يتوقع 96% من المستطلعين أن تتم إدارة تحديات حوكمة الذكاء الاصطناعي بحذر.
توصي الشركات وكثير من الباحثين ودعاة المواطنة بالتنظيم الحكومي كوسيلة لضمان الشفافية ومن خلال ذلك المساءلة البشرية. بينما يشعر البعض بأن هذه الإستراتيجية ستبطئ معدل الابتكار. ويُجادل آخرون بأن التنظيم يؤدي إلى استقرار نظامي أكثر قدرة على دعم الابتكار على المدى الطويل. تعمل منظمة التعاون الاقتصادي والتنمية والأمم المتحدة والاتحاد الأوروبي والعديد من الدول حاليًا على استراتيجيات لتنظيم الذكاء الاصطناعي، وإيجاد أطر قانونية مناسبة.
في 26 يونيو 2019 نشرت مجموعة الخبراء عالية المستوى التابعة للجنة الأوروبية المعنية بالذكاء الاصطناعي (AI HLEG) "توصياتها بشأن السياسات والاستثمارات من أجل ذكاء اصطناعي جدير بالثقة". تغطي التوصيات أربعة مواضيع رئيسية وهي "البشر والمجتمع ككل"، و"البحث والأوساط الأكاديمية"، و"القطاع الخاص"، و"القطاع العام". وترى اللجنة الأوروبية أن هذه التوصيات تعكس تقديرًا للفرص المتاحة لتقنيات الذكاء الاصطناعي لدفع النمو الاقتصادي والازدهار والابتكار، وكذلك المخاطر المحتملة التي تنطوي عليها، ونصت على أن الاتحاد الأوروبي يهدف إلى الريادة في صياغة السياسات التي تحكم الذكاء الاصطناعي دوليًا. وأوصت المنظمات التي تنشر الذكاء الاصطناعي إلى أن تلعب دورًا مركزيًا في إنشاء ونشر ذكاء اصطناعي جدير بالثقة تماشيًا مع مبادئ الذكاء الاصطناعي الجدير بالثقة، وتحمل المساءلة لتخفيف المخاطر. في 21 أبريل 2021 اقترحت اللجنة الأوروبية قانون الذكاء الاصطناعي.
أخلاقيات الذكاء الاصطناعي المشهد العربي والتنظيم الإقليمي
شهد العالم العربي خلال الأعوام الأخيرة اهتماماً متزايداً بقضايا أخلاقيات الذكاء الاصطناعي، بالتوازي مع التحول نحو اقتصاد البيانات والاستخدام المتزايد للأنظمة المؤتمتة. وعلى الرغم من أن أغلب الدول العربية لا تمتلك بعد أطرًا تشريعية شاملة، فإن عدداً من المبادرات الحكومية بدأ في وضع أسس أولية للحوكمة الأخلاقية.
في المملكة العربية السعودية، تضطلع هيئة البيانات والذكاء الاصطناعي (سدايا) بدور محوري في صياغة السياسات الوطنية المتعلقة بالبيانات والذكاء الاصطناعي، بما في ذلك ممارسات الخصوصية والشفافية وحوكمة البيانات. كما أُعلن عن إنشاء المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي في الرياض بوصفه مركزاً دولياً للتنسيق في مجال أخلاقيات الذكاء الاصطناعي، وذلك بالتعاون مع اليونسكو، بهدف تنسيق الجهود البحثية الدولية وتعزيز تطوير أطر أخلاقية متقدمة.
أخلاقيات الذكاء الاصطناعي المشهد العربي والتنظيم الإقليمي
أما على مستوى المنطقة، فتواجه الدول العربية تحديات تشمل محدودية التشريعات المتخصصة، إضافة إلى ضعف تمثيل اللغة العربية واللهجات المحلية في مجموعات البيانات، وهو ما قد يؤدي إلى تحيزات أو نتائج غير دقيقة في النظم المؤتمتة. لذلك تبرز الحاجة إلى تعزيز الشفافية في النماذج، وتبنّي معايير للعدالة والمساءلة، وتطوير آليات رقابية واضحة لضمان الاستخدام المسؤول للتقنيات داخل المؤسسات الحكومية والخاصة.
وتسعى العديد من الدول العربية إلى الانخراط في المبادرات الدولية، مثل «توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي»، والتي تُعد أول إطار عالمي شامل في هذا المجال. ويمكن أن يسهم تبنّي نهج قائم على تقييم المخاطر والمراجعة المستمرة للأنظمة في تحقيق توازن بين تعزيز الابتكار وحماية حقوق الأفراد في المنطقة العربية.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
بات الذكاء الاصطناعي يُثبت وجوده بقوة متزايدة في شتى مناحي الحياة المعاصرة، بدءًا من تطبيقات المحادثة الآلية القادرة على تقديم إجابات شبه كاملة للمسائل الدراسية، ووصولًا إلى الأنظمة التوليدية القادرة على ابتكار أعمال فنية متنوعة. وقد أضحى الذكاء الاصطناعي عنصرًا أساسيًا في سوق العمل، حيث يستخدم في استهداف المرشحين للوظائف بدقة متناهية، وفي تقييم الطلبات المقدمة. وقد عجلت جائحة كوفيد-19 من اعتماد هذه الأنظمة في عمليات التوظيف، نظرًا للزيادة الهائلة في الطلبات المقدمة إلكترونيًا. وقد مكن الذكاء الاصطناعي من فرز هذه الطلبات بكفاءة عالية. ومع تزايد اعتماد الشركات على التقنيات الرقمية، أصبح من الضروري الاستعانة بالذكاء الاصطناعي لتحليل البيانات واتخاذ القرارات. وقد ساهمت التطورات المتسارعة في وحدات معالجة الرسومات والمتينات في تعزيز قدرات الذكاء الاصطناعي، مما دفع الشركات إلى تبني هذه التقنيات لمواكبة التنافسية المتزايدة. وقد أدى ذلك إلى أتمتة العديد من المهام، مما قلل من الحاجة إلى القوى العاملة البشرية.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
ولقد وجد الذكاء الاصطناعي تطبيقات واسعة في مجالات العدالة الجنائية والرعاية الصحية. ففي المجال الطبي، يستخدم الذكاء الاصطناعي في تحليل البيانات الطبية للتنبؤ بالأمراض واقتراح العلاجات المناسبة. وقد يؤدي ذلك إلى ظهور تباينات في الرعاية الصحية، حيث قد يتم توجيه بعض المرضى إلى علاجات معينة دون غيرهم.
«حقوق الروبوت» هو مفهوم ينص على أنه يجب أن يكون لدى الأشخاص التزامات أخلاقية تجاه آلاتهم، على غرار حقوق الإنسان أو حقوق الحيوان. اقتُرح أن يمكن ربط حقوق الروبوت، مثل الحق في الوجود وأداء مهامهم الخاصة، بواجب الروبوت في خدمة الإنسان، قياسًا على ربط حقوق الإنسان بالواجبات الإنسانية أمام المجتمع. يمكن أن تشمل الحقوق في الحياة والحرية، وحرية الفكر والتعبير والمساواة أمام القانون. نظر معهد المستقبل ووزارة التجارة والصناعة في المملكة المتحدة في هذه المسألة.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
يختلف الخبراء حول ما إذا سيتطلب الأمر قوانين محددة ومفصلة قريبًا، أو في المستقبل البعيد بشكل آمن. أفاد جلين ماكغي أن الروبوتات الشبيهة بالبشر بصورة كافية قد تظهر بحلول عام 2020. حدد راي كرزويل ذلك الموعد في عام 2029. وافترضت مجموعة أخرى من العلماء الذين اجتمعوا عام 2007، أنه يجب أن يمر 50 عامًا على الأقل قبل وجود أي نظام متقدم بما فيه الكفاية.
صورت القواعد الخاصة بمنافسة جائزة لويبر لعام 2003 إمكانية حصول الروبوتات على حقوق خاصة بها:
61. إذا فازت، في أي سنة معينة، مادة مفتوحة المصدر متاحة للعامة مدخلة بواسطة جامعة سري أو مركز كامبريدج، بالميدالية الفضية أو الميدالية الذهبية، ستمنح الميدالية والجائزة النقدية إلى الهيئة المسؤولة عن تطوير هذا المادة. إذا لم يكن بالإمكان تحديد هوية هذه الهيئة، أو إذا كان هناك خلاف بين اثنين أو أكثر من المطالبين، يحتفظ بالميدالية والجائزة النقدية استئمانيًا حتى تمتلك المادة، سواء في الولايات المتحدة الأمريكية أو في مكان المسابقة، الجائزة النقدية والميدالية الذهبية في حد ذاتها بصفة قانونية.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
في أكتوبر 2017، مُنح الإنسان الآلي صوفيا الجنسية «الفخرية» في المملكة العربية السعودية، ولكن وجد بعض المراقبين أن ذلك عبارة عن حيلة دعائية أكثر من كونه اعترافًا قانونيًا حقيقيًا. رأى البعض أن هذه البادرة تُشكل اساءة علانية لحقوق الإنسان وسيادة القانون.
تمنح الفلسفة الإحساسية درجات من الاعتبار الأخلاقي لجميع الكائنات الحساسة، البشر في المقام الأول ومعظم الحيوانات غير البشرية. ترى هذه الفلسفة أنه إذا أظهرت الذكاءات الاصطناعية أو الفضائية دليلًا على إحساسها، يجب التعاطف معها ومنحها الحقوق.
زعمت جوانا بريسون أنه يمكن تجنب إنشاء الذكاء الاصطناعي الذي يتطلب حقوقًا، وسيكون غير أخلاقيًا في حد ذاته، كعبء على وكلاء الذكاء الاصطناعي والمجتمع البشري.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
لاحظ الأستاذ شيمون إيدلمان في عام 2020 أن قسمًا ضئيلًا فقط من البحوث المتسارعة في أخلاقيات الذكاء الاصطناعي قد تناول إمكانية معاناة الذكاء الاصطناعي. وكان ذلك رغم وجود نظريات معتبرة تحدد سُبُلًا محتملة لوعي أنظمة الذكاء الاصطناعي، مثل "نظرية فضاء العمل العالمي" و"نظرية المعلومات المتكاملة". ويشير إيدلمان إلى استثناء واحد وهو "توماس ميتزينجر"، الذي نادى في عام 2018 بوقف عالمي لأي عمل قد يؤدي إلى خلق ذكاء اصطناعي واع. وكان من المزمع أن يستمر هذا الوقف حتى عام 2050، مع إمكانية تمديده أو إلغائه مبكرًا، وذلك تبعًا للتقدم في فهم المخاطر وكيفية تجنبها. وقد كرر ميتزينجر هذه الحجة في عام 2021، مسلطًا الضوء على خطر نشوء "انفجار للمعاناة الاصطناعية"، حيث قد يعاني الذكاء الاصطناعي بأساليب مكثفة لا يستطيع البشر فهمها، كما أن عمليات النسخ المتماثل قد تؤدي إلى خلق كميات هائلة من الحالات الواعية.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
أعلنت العديد من المختبرات صراحةً عن سعيها لتطوير ذكاء اصطناعي واعٍ. وقد وردت تقارير من مقربين من أنظمة الذكاء الاصطناعي التي لم تُصمم خصيصًا لتكون واعية بذاتها، تشير إلى احتمال ظهور الوعي فيها بشكل غير مقصود. ومن أبرز هؤلاء الذين أشاروا إلى هذا الاحتمال، مؤسس أوبن أيه آي إيليا سوتسكيفر، الذي صرح في فبراير عام 2022 أن الشبكات العصبية الكبيرة المعاصرة قد تكون "واعية بشكل طفيف". وفي نوفمبر من العام نفسه، جادل الفيلسوف ديفيد تشالمرز بأن نماذج اللغات الكبيرة الحالية، مثل جي بي تي-3 من غير المحتمل أن تكون قد بلغت مرحلة الوعي، ولكنه أقر في الوقت ذاته بإمكانية حقيقية لتطورها إلى هذا المستوى في المستقبل. وفي سياق الأخلاقيات المتعلقة بالكيانات التي قد تكون واعية، غالبًا ما يُستشهد بمبدأ الحيطة.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
بحسب كارل شولمان ونيك بوستروم قد يتأتى لنا في المستقبل أن نصنع آلات فائقة الكفاءة في استخلاص السعادة من الموارد، أطلقا عليها اسم "المستفيدين الخارقين". ويعزون ذلك إلى قدرة الأجهزة الرقمية على معالجة المعلومات بسرعة تفوق بكثير قدرات العقول البيولوجية، مما يزيد من وتيرة التجارب الذاتية. علاوة على ذلك، يمكن تصميم هذه الآلات لتختبر سعادة مكثفة وإيجابية، لا تقيدها آليات التعود النفسية. يحذر الباحثان من أن تجاهل الجوانب الأخلاقية المتعلقة بالعقول الرقمية قد يؤدي إلى كارثة أخلاقية، في حين أن إعطاء الأولوية لها على مصالح البشر دون تفكير قد يكون ضارًا بالبشرية.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
جادل جوزيف فايزنباوم في عام 1976 بأنه لا ينبغي استخدام تقنية الذكاء الاصطناعي لاستبدال الأشخاص في المناصب التي تتطلب الاحترام والرعاية، مثل: ممثل خدمة العملاء (تُستخدم تقنية الذكاء الاصطناعي بالفعل اليوم لأنظمة الرد الصوتي التفاعلي عبر الهاتف)، ومُربية المسنين (كما ذكرت "باميلا مكوردوك" في كتابها "الجيل الخامس")، والجندي، والقاضي، وضابط الشرطة، والمُعالج النفسي (كما اقترح كينيث كولبي في السبعينيات). وبرر وايزنباوم موقفه بأننا نحتاج إلى مشاعر تعاطف حقيقية من الأشخاص في هذه المناصب. وإذا حلت الآلات محلهم، فسنجد أنفسنا مُهمّشين ومُقلّلين من قيمتنا ومُحبطين، لأن النظام الذكي اصطناعيًا لن يكون قادرًا على محاكاة التعاطف. وإذا استُخدم الذكاء الاصطناعي بهذه الطريقة فأنه قد يمثل تهديدًا للكرامة الإنسانية، ويجادل وايزنباوم بأن حقيقة أننا نُفكّر في إمكانية وجود آلات في هذه المناصب تُشير إلى أننا قد شهدنا "ضمورًا في الروح البشرية ينبع من التفكير في أنفسنا كأجهزة حاسوب".
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
عارضت الباحثة "باميلا مكوردوك" رأي وايزنباوم قائلةً نيابةً عن النساء والأقليات: "أفضّل أن أغتنم فرصي مع جهاز حاسوب نزيه"، مُشيرةً إلى أن هناك ظروفًا نُفضّل فيها أن يكون لدينا قضاة وضباط شرطة آليين ليس لديهم أي أجندة شخصية على الإطلاق. ومع ذلك، يؤكد أندرياس كابلان و"هاينلين" على أن أنظمة الذكاء الاصطناعي ليست أذكى من البيانات المُستخدمة في تدريبها، لأنها في جوهرها ليست سوى آلات مُتطورة لمُلاءمة المنحنيات؛ ويمكن أن يكون استخدام الذكاء الاصطناعي لدعم حكم قضائي إشكاليًا للغاية إذا أظهرت الأحكام السابقة تحيزًا تجاه مجموعات مُعينة لأن هذه التحيزات تصبح رسمية وراسخة، مما يجعل من الصعب اكتشافها ومُكافحتها.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
وقد انزعج وايزنباوم أيضًا من أن باحثي الذكاء الاصطناعي (وبعض الفلاسفة) كانوا على استعداد لاعتبار العقل البشري ليس أكثر من برنامج حاسوب (موقف يُعرف الآن باسم "الحوسبية"). وبالنسبة لوايزنباوم، تُشير هذه النقاط إلى أن أبحاث الذكاء الاصطناعي تُقلّل من قيمة حياة الإنسان. وعارض جون مكارثي النبرة الأخلاقية لنقد وايزنباوم. وكتب: "عندما تكون الأخلاق حادة وغامضة، فإنها تدعو إلى إساءة استخدام السلطة". وكتب بيل هيبرد "تتطلب كرامة الإنسان أن نسعى جاهدين لإزالة جهلنا بطبيعة الوجود، والذكاء الاصطناعي ضروري لهذا السعي".
مع تزايد انتشار السيارات ذاتية القيادة، برزت تحديات جديدة تتطلب معالجة عاجلة. أبرز هذه التحديات مسألة المسؤولية القانونية في حال وقوع حوادث، إذ تطرح تساؤلات حول الجهة المسؤولة عن الحادث: هل هي الشركة المصنعة، أم مبرمج النظام، أم السائق، أم المشاة المتضرر؟
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
تُبرز العديد من الحوادث تعقيد هذه المسألة. في إحدى الحوادث، صدمت سيارة ذاتية القيادة أحد المشاة رغم وجود سائق خلف المقود. وفي حادثة أخرى، وقعت في ولاية أريزونا عام 2018، أودت حياة سيدة صدمتها سيارة أوبر ذاتية القيادة، حيث عجزت السيارة عن اكتشاف المشاة في منتصف الطريق.
تثير هذه الحوادث تساؤلات جوهرية حول قدرة التقنية الحالية على التعامل مع جميع المتغيرات التي قد تواجهها السيارة على الطريق. فمعظم السيارات ذاتية القيادة الحالية تعتبر شبه ذاتية، مما يتطلب من السائق التدخل في حالات معينة. لذا، تقع على عاتق الحكومات مسؤولية تنظيم استخدام هذه التقنيات وتوعية السائقين بأهمية الانتباه والجاهزية لتولي القيادة في أي وقت.
أخلاقيات الذكاء الاصطناعي التحديات الناشئة أو المستقبلية المحتملة
يُشدد الخبراء على ضرورة تمكين المركبات ذاتية القيادة من اتخاذ قرارات أخلاقية صحيحة، خاصة وأنها تمتلك القدرة على إلحاق الأذى بالآخرين. اقترح الخبراء نهجين رئيسيين لتحقيق ذلك: النهج التصاعدي، القائم على تعليم الآلة اتخاذ القرارات من خلال مراقبة السلوك البشري، والنهج التنازلي، القائم على برمجة مبادئ أخلاقية محددة في نظام الآلة. ومع ذلك، يواجه كلا النهجين تحديات كبيرة، إذ يعاني الأول من خطر تعلّم الآلة سلوكيات غير أخلاقية، بينما يعاني الثاني من صعوبة تحديد مبادئ أخلاقية شاملة ومقبولة عالميًا.
شكك بعض الخبراء والأكاديميين في استخدام الروبوتات في القتال العسكري، خاصةً عند إعطاء هذه الروبوتات قدرًا من الوظائف الذاتية. وقامت البحرية الأمريكية بتمويل تقرير يُشير إلى أنه مع تزايد تعقيد الروبوتات العسكرية، ينبغي إيلاء اهتمام أكبر لانعكاسات قدرتها على اتخاذ قرارات مستقلة. وكلف رئيس جمعية النهوض بالذكاء الاصطناعي بإجراء دراسة للنظر في هذه القضية. ويشيرون إلى برامج مثل "جهاز اكتساب اللغة" الذي يمكنه محاكاة التفاعل البشري.