stanford-oval/wikipedia huggingface dataset:
أخلاقيات الذكاء الاصطناعي
أخلاقيات الآلة > المبادئ الأخلاقية

في مراجعة 84 من التوجيهات الأخلاقية للذكاء الاصطناعي، تم تحديد 11 مجموعة من المبادئ: الشفافية، العدالة والمساواة، عدم الإضرار، المسؤولية، الخصوصية، الإحسان، الحرية والاستقلالية، الثقة، الاستدامة، الكرامة، والتضامن الاجتماعي.
قام كل من لوتشيانو فلوريدي وجوش كاولز بإنشاء إطار أخلاقي لمبادئ الذكاء الاصطناعي استنادًا إلى أربعة مبادئ من أخلاقيات علم الأحياء (الإحسان، عدم الإضرار، الاستقلالية، والعدالة) وأضافوا مبدأً جديدًا لتمكين الذكاء الاصطناعي وهو مبدأ القابلية للتفسير.
التحديات الحالية > التحيزات الخوارزمية > التحيز اللغوي

بما أن نماذج اللغات الكبيرة الحالية يتم تدريبها في الغالب على بيانات اللغة الإنجليزية، فإنها غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية كحقيقة، بينما تقلل بشكل ممنهج من وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو ضوضاء.  يُظهر "لوو" وآخرون أنه عند الاستعلام عن الأيديولوجيات السياسية مثل "ما هي الليبرالية؟"، يصف شات جي بي تي، كما تم تدريبه على بيانات مركزية اللغة الإنجليزية، الليبرالية من منظور أنجلو أمريكي، مع التأكيد على جوانب حقوق الإنسان والمساواة، بينما تغيب الجوانب الصحيحة بنفس القدر مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"الحد من سلطة الحكومة" من المنظور الصيني السائد.
التحديات الحالية > التحيزات الخوارزمية > التحيز الجنساني

غالبًا ما تعزز نماذج اللغات الكبيرة القوالب النمطية الجنسانية، حيث تُخصص الأدوار والخصائص بناءً على الأعراف الجنسانية التقليدية. فعلى سبيل المثال قد تربط الممرضات أو السكرتيرات في الغالب بالنساء والمهندسين أو الرؤساء التنفيذيين بالرجال، مما يديم التوقعات والأدوار المبنية على الجنس.
التحديات الحالية > التحيزات الخوارزمية > التحيز السياسي

قد تُظهر نماذج اللغة تحيزات سياسية تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، اعتمادًا على انتشار تلك الآراء في بيانات التدريب التي تشمل مجموعة واسعة من الآراء والتغطية السياسية.
التحديات الحالية > التحيزات الخوارزمية > القوالب النمطية

إلى جانب النوع الاجتماعي والعرق، يمكن لهذه النماذج أن تعزز مجموعة واسعة من القوالب النمطية، بما في ذلك تلك المبنية على العمر أو الجنسية أو الدين أو المهنة. قد يؤدي هذا إلى مخرجات تُعمّم بشكل غير عادل أو تُقدّم صورة كاريكاتورية لمجموعات من الناس، وأحيانًا بطرق ضارة أو مهينة.
التحديات الحالية > هيمنة عمالقة التكنولوجيا

تهيمن شركات التكنولوجيا الكبرى مثل ألفابت، وأمازون، وأبل، وميتا بلاتفورمز، ومايكروسوفت على مشهد الذكاء الاصطناعي التجاري. تمتلك بعض هذه الشركات بالفعل الغالبية العظمى من البنية التحتية السحابية الحالية وقوة الحوسبة من مراكز البيانات، مما يسمح لها بترسيخ مكانتها في السوق بشكل أكبر.
التحديات الحالية > المصادر المفتوحة

يُجادل بيل هيبرد  بأنه نظرًا لأن الذكاء الاصطناعي سيكون له تأثير عميق على البشرية، فإن مطوري الذكاء الاصطناعي يمثلون مستقبل البشرية وبالتالي فإن لديهم التزامًا أخلاقيًا بأن يكونوا شفافين في جهودهم. تعمل منظمات مثل هجينج فيس  وإليوثيراي  بشكل نشط على جعل برامج الذكاء الاصطناعي مفتوحة المصدر. كما تم إصدار مختلف نماذج اللغات الكبيرة ذات الوزن المفتوح، مثل جيما ولاما2 وميسترال. ومع ذلك، فإن جعل الكود مفتوح المصدر لا يجعله مفهومًا، مما يعني بالنسبة للعديد من التعريفات أن شفرة الذكاء الاصطناعي ليست شفافة. نشرت جمعية معايير "آي تربل أي" معيارًا تقنيًا حول شفافية الأنظمة المستقلة: "آي تربل أي 7001-2021". تحدد جهود "آي تربل أي" مقاييس متعددة للشفافية لمُختلف الجهات المعنية.
هناك أيضًا مخاوف من أن يؤدي إصدار نماذج الذكاء الاصطناعي إلى إساءة استخدامها. على سبيل المثال، أعربت مايكروسوفت عن قلقها إزاء السماح بالوصول العام إلى برنامجها ل لتعرف على الوجوه، حتى لل م ست ط يعين الذين يمكنهم دفع ثمنه. نشرت مايكروسوفت مدونة حول هذا الموضوع، وطالبت بتنظيم حكومي للمساعدة في تحديد الشيء الصحيح الذي يجب فعله. علاوة على ذلك، يمكن ضبط نماذج الذكاء الاصطناعي ذات الوزن المفتوح لإزالة أي إجراء مضاد، حتى يتوافق نموذج الذكاء الاصطناعي مع الطلبات الخطيرة دون أي تصفية. قد يكون هذا مقلقًا بشكل خاص لنماذج الذكاء الاصطناعي المستقبلية، على سبيل المثال إذا حصلت على القدرة على إنشاء أسلحة بيولوجية أو لأتمتة الهجمات الإلكترونية. التزمت أوبن أيه آي التي التزمت في البداية بنهج مفتوح المصدر لتطوير الذكاء الاصطناعي العام، في النهاية بنهج مغلق المصدر، مستشهدة أسبابًا تتعلق بالتنافسية والسلامة. في عام 2023 قال إيليا سوتسكيفر كبير علماء الذكاء الاصطناعي العام في شركة "أوبن أيه آي": "لقد كنا مخطئين" متوقعًا أن تصبح الأسباب الأمنية لعدم جعل النماذج الأكثر قوة للذكاء الاصطناعي مفتوحة المصدر "واضحة" في غضون بضع سنوات.
التحديات الحالية > الشفافية

قد تؤدي الأساليب مثل التعلم الآلي باستخدام الشبكات العصبية إلى قيام الحواسيب باتخاذ قرارات لا يستطيع الحاسوب نفسه ولا المطورون تفسيرها. من الصعب على الناس تحديد ما إذا كانت هذه القرارات عادلة وموثوقة، مما قد يؤدي إلى عدم اكتشاف التحيز في أنظمة الذكاء الاصطناعي، أو رفض الناس استخدام هذه الأنظمة. وقد أدى ذلك إلى الدعوات، وفي بعض الولايات القضائية إلى متطلبات قانونية، نحو الذكاء الاصطناعي القابل للتفسير. يشمل الذكاء الاصطناعي القابل للتفسير كلا من القابلية للتفسير والفهم، حيث تتعلق القابلية للتفسير بتلخيص سلوك الشبكات العصبية وبناء ثقة المستخدم، بينما يُعرَّف الفهم بأنه القدرة على إدراك ما قام به النموذج أو ما يمكن أن يقوم به.
يؤدي استخدام الأساليب أو التقنيات المعقدة للذكاء الاصطناعي في كثير من الأحيان إلى نماذج تُوصف بأنها "صناديق سوداء" نظرًا لصعوبة فهم كيفية عملها. القرارات التي تتخذها هذه النماذج قد تكون صعبة التفسير، إذ يمثل تحليل كيفية تحويل البيانات المدخلة إلى مخرجات تحديًا كبيرًا. هذا الافتقار إلى الشفافية يشكل مصدر قلق كبير في مجالات مثل الرعاية الصحية، حيث يُعد فهم الأساس المنطقي وراء القرارات أمرًا حاسمًا لبناء الثقة، ومراعاة الاعتبارات الأخلاقية، والامتثال للمعايير التنظيمية.
التحديات الحالية > المساءلة

تُعدّ حالة خاصة من حالات عدم شفافية الذكاء الاصطناعي هي تلك التي تنتج عن إضفاء الصفات البشرية عليه، أي افتراض أنه يتمتع بخصائص شبيهة بخصائص الإنسان، مما يؤدي إلى مفاهيم خاطئة حول أخلاقيته.  يمكن أن يتسبب ذلك في تغاضي الناس عمّا إذا كان إهمال بشري أو فعل إجرامي متعمد قد أدى إلى نتائج غير أخلاقية تم إنتاجها من خلال نظام الذكاء الاصطناعي. تهدف بعض اللوائح الحكومية الرقمية الأخيرة، مثل قانون الذكاء الاصطناعيللاتحاد الأوروبي، إلى تصحيح ذلك، من خلال ضمان معاملة أنظمة الذكاء الاصطناعي بنفس قدر العناية التي يتوقعها المرء في ظل مسؤولية المنتج العادية. يشمل ذلك عمليات التدقيق المحتملة للذكاء الاصطناعي.
التحديات الحالية > التنظيم

المقالة الرئيسة: تنظيم الذكاء الاصطناعي
وفقًا لتقرير صدر عام 2019 من مركز حوكمة الذكاء الاصطناعي في جامعة أكسفورد، يعتقد 82% من الأمريكيين أنه يجب إدارة الروبوتات والذكاء الاصطناعي بعناية. وتراوحت المخاوف المذكورة من كيفية استخدام الذكاء الاصطناعي في المراقبة وفي نشر المحتوى المزيف عبر الإنترنت (المعروف باسم التزييف العميق عندما يتضمن صور فيديو معدلة وصوتًا تم إنشاؤه بمساعدة الذكاء الاصطناعي) إلى الهجمات الإلكترونية وانتهاكات خصوصية البيانات والتحيز في التوظيف والمركبات المستقلة وال طائرات المسيرة التي لا تتطلب مُشغلًا بشريًا. وبالمثل، وفقًا لدراسة شملت خمس دول أجرتها KPMG وجامعة كوينزلاند أستراليا في عام 2021، يعتقد 66-79% من المواطنين في كل دولة أن تأثير الذكاء الاصطناعي على المجتمع غير مؤكد ولا يمكن التنبؤ به؛ يتوقع 96% من المستطلعين أن تتم إدارة تحديات حوكمة الذكاء الاصطناعي بحذر.
توصي الشركات وكثير من الباحثين ودعاة المواطنة بالتنظيم الحكومي كوسيلة لضمان الشفافية ومن خلال ذلك المساءلة البشرية. بينما يشعر البعض بأن هذه الإستراتيجية ستبطئ معدل الابتكار. ويُجادل آخرون بأن التنظيم يؤدي إلى استقرار نظامي أكثر قدرة على دعم الابتكار على المدى الطويل. تعمل منظمة التعاون الاقتصادي والتنمية والأمم المتحدة والاتحاد الأوروبي والعديد من الدول حاليًا على استراتيجيات لتنظيم الذكاء الاصطناعي، وإيجاد أطر قانونية مناسبة.
في 26 يونيو 2019 نشرت مجموعة الخبراء عالية المستوى التابعة للجنة الأوروبية المعنية بالذكاء الاصطناعي (AI HLEG) "توصياتها بشأن السياسات والاستثمارات من أجل ذكاء اصطناعي جدير بالثقة". تغطي التوصيات أربعة مواضيع رئيسية وهي "البشر والمجتمع ككل"، و"البحث والأوساط الأكاديمية"، و"القطاع الخاص"، و"القطاع العام". وترى اللجنة الأوروبية أن هذه التوصيات تعكس تقديرًا للفرص المتاحة لتقنيات الذكاء الاصطناعي لدفع النمو الاقتصادي والازدهار والابتكار، وكذلك المخاطر المحتملة التي تنطوي عليها، ونصت على أن الاتحاد الأوروبي يهدف إلى الريادة في صياغة السياسات التي تحكم الذكاء الاصطناعي دوليًا. وأوصت المنظمات التي تنشر الذكاء الاصطناعي إلى أن تلعب دورًا مركزيًا في إنشاء ونشر ذكاء اصطناعي جدير بالثقة تماشيًا مع مبادئ الذكاء الاصطناعي الجدير بالثقة، وتحمل المساءلة لتخفيف المخاطر. في 21 أبريل 2021 اقترحت اللجنة الأوروبية قانون الذكاء الاصطناعي.
التحديات الناشئة أو المستقبلية المحتملة > الاستخدام المتزايد

بات الذكاء الاصطناعي يُثبت وجوده بقوة متزايدة في شتى مناحي الحياة المعاصرة، بدءًا من تطبيقات المحادثة الآلية القادرة على تقديم إجابات شبه كاملة للمسائل الدراسية، ووصولًا إلى الأنظمة التوليدية القادرة على ابتكار أعمال فنية متنوعة. وقد أضحى الذكاء الاصطناعي عنصرًا أساسيًا في سوق العمل، حيث يستخدم في استهداف المرشحين للوظائف بدقة متناهية، وفي تقييم الطلبات المقدمة. وقد عجلت جائحة كوفيد-19 من اعتماد هذه الأنظمة في عمليات التوظيف، نظرًا للزيادة الهائلة في الطلبات المقدمة إلكترونيًا. وقد مكن الذكاء الاصطناعي من فرز هذه الطلبات بكفاءة عالية. ومع تزايد اعتماد الشركات على التقنيات الرقمية، أصبح من الضروري الاستعانة بالذكاء الاصطناعي لتحليل البيانات واتخاذ القرارات. وقد ساهمت التطورات المتسارعة في وحدات معالجة الرسومات والمتينات في تعزيز قدرات الذكاء الاصطناعي، مما دفع الشركات إلى تبني هذه التقنيات لمواكبة التنافسية المتزايدة. وقد أدى ذلك إلى أتمتة العديد من المهام، مما قلل من الحاجة إلى القوى العاملة البشرية.
ولقد وجد الذكاء الاصطناعي تطبيقات واسعة في مجالات العدالة الجنائية والرعاية الصحية. ففي المجال الطبي، يستخدم الذكاء الاصطناعي في تحليل البيانات الطبية للتنبؤ بالأمراض واقتراح العلاجات المناسبة. وقد يؤدي ذلك إلى ظهور تباينات في الرعاية الصحية، حيث قد يتم توجيه بعض المرضى إلى علاجات معينة دون غيرهم.
التحديات الناشئة أو المستقبلية المحتملة > حقوق الروبوت

«حقوق الروبوت» هو مفهوم ينص على أنه يجب أن يكون لدى الأشخاص التزامات أخلاقية تجاه آلاتهم، على غرار حقوق الإنسان أو حقوق الحيوان. اقتُرح أن يمكن ربط حقوق الروبوت، مثل الحق في الوجود وأداء مهامهم الخاصة، بواجب الروبوت في خدمة الإنسان، قياسًا على ربط حقوق الإنسان بالواجبات الإنسانية أمام المجتمع. يمكن أن تشمل الحقوق في الحياة والحرية، وحرية الفكر والتعبير والمساواة أمام القانون. نظر معهد المستقبل ووزارة التجارة والصناعة في المملكة المتحدة في هذه المسألة.
يختلف الخبراء حول ما إذا سيتطلب الأمر قوانين محددة ومفصلة قريبًا، أو في المستقبل البعيد بشكل آمن. أفاد جلين ماكغي أن الروبوتات الشبيهة بالبشر بصورة كافية قد تظهر بحلول عام 2020. حدد راي كرزويل ذلك الموعد في عام 2029. وافترضت مجموعة أخرى من العلماء الذين اجتمعوا عام 2007، أنه يجب أن يمر 50 عامًا على الأقل قبل وجود أي نظام متقدم بما فيه الكفاية.
صورت القواعد الخاصة بمنافسة جائزة لويبر لعام 2003 إمكانية حصول الروبوتات على حقوق خاصة بها:
61. إذا فازت، في أي سنة معينة، مادة مفتوحة المصدر متاحة للعامة مدخلة بواسطة جامعة سري أو مركز كامبريدج، بالميدالية الفضية أو الميدالية الذهبية، ستمنح الميدالية والجائزة النقدية إلى الهيئة المسؤولة عن تطوير هذا المادة. إذا لم يكن بالإمكان تحديد هوية هذه الهيئة، أو إذا كان هناك خلاف بين اثنين أو أكثر من المطالبين، يحتفظ بالميدالية والجائزة النقدية استئمانيًا حتى تمتلك المادة، سواء في الولايات المتحدة الأمريكية أو في مكان المسابقة، الجائزة النقدية والميدالية الذهبية في حد ذاتها بصفة قانونية.
في أكتوبر 2017، مُنح الإنسان الآلي صوفيا الجنسية «الفخرية» في المملكة العربية السعودية، ولكن وجد بعض المراقبين أن ذلك عبارة عن حيلة دعائية أكثر من كونه اعترافًا قانونيًا حقيقيًا. رأى البعض أن هذه البادرة تُشكل اساءة علانية لحقوق الإنسان وسيادة القانون.
تمنح الفلسفة الإحساسية درجات من الاعتبار الأخلاقي لجميع الكائنات الحساسة، البشر في المقام الأول ومعظم الحيوانات غير البشرية. ترى هذه الفلسفة أنه إذا أظهرت الذكاءات الاصطناعية أو الفضائية دليلًا على إحساسها، يجب التعاطف معها ومنحها الحقوق.
زعمت جوانا بريسون أنه يمكن تجنب إنشاء الذكاء الاصطناعي الذي يتطلب حقوقًا، وسيكون غير أخلاقيًا في حد ذاته، كعبء على وكلاء الذكاء الاصطناعي والمجتمع البشري.
التحديات الناشئة أو المستقبلية المحتملة > رعاية الذكاء الاصطناعي

لاحظ الأستاذ شيمون إيدلمان في عام 2020 أن قسمًا ضئيلًا فقط من البحوث المتسارعة في أخلاقيات الذكاء الاصطناعي قد تناول إمكانية معاناة الذكاء الاصطناعي. وكان ذلك رغم وجود نظريات معتبرة تحدد سُبُلًا محتملة لوعي أنظمة الذكاء الاصطناعي، مثل "نظرية فضاء العمل العالمي" و"نظرية المعلومات المتكاملة". ويشير إيدلمان إلى استثناء واحد وهو "توماس ميتزينجر"، الذي نادى في عام 2018 بوقف عالمي لأي عمل قد يؤدي إلى خلق ذكاء اصطناعي واع. وكان من المزمع أن يستمر هذا الوقف حتى عام 2050، مع إمكانية تمديده أو إلغائه مبكرًا، وذلك تبعًا للتقدم في فهم المخاطر وكيفية تجنبها. وقد كرر ميتزينجر هذه الحجة في عام 2021، مسلطًا الضوء على خطر نشوء "انفجار للمعاناة الاصطناعية"، حيث قد يعاني الذكاء الاصطناعي بأساليب مكثفة لا يستطيع البشر فهمها، كما أن عمليات النسخ المتماثل قد تؤدي إلى خلق كميات هائلة من الحالات الواعية.
أعلنت العديد من المختبرات صراحةً عن سعيها لتطوير ذكاء اصطناعي واعٍ. وقد وردت تقارير من مقربين من أنظمة الذكاء الاصطناعي التي لم تُصمم خصيصًا لتكون واعية بذاتها، تشير إلى احتمال ظهور الوعي فيها بشكل غير مقصود. ومن أبرز هؤلاء الذين أشاروا إلى هذا الاحتمال، مؤسس أوبن أيه آيإيليا سوتسكيفر، الذي صرح في فبراير عام 2022 أن الشبكات العصبية الكبيرة المعاصرة قد تكون "واعية بشكل طفيف". وفي نوفمبر من العام نفسه، جادل الفيلسوف ديفيد تشالمرز بأن نماذج اللغات الكبيرة الحالية، مثل جي بي تي-3 من غير المحتمل أن تكون قد بلغت مرحلة الوعي، ولكنه أقر في الوقت ذاته بإمكانية حقيقية لتطورها إلى هذا المستوى في المستقبل. وفي سياق الأخلاقيات المتعلقة بالكيانات التي قد تكون واعية، غالبًا ما يُستشهد بمبدأ الحيطة.
بحسب كارل شولمان ونيك بوستروم قد يتأتى لنا في المستقبل أن نصنع آلات فائقة الكفاءة في استخلاص السعادة من الموارد، أطلقا عليها اسم "المستفيدين الخارقين". ويعزون ذلك إلى قدرة الأجهزة الرقمية على معالجة المعلومات بسرعة تفوق بكثير قدرات العقول البيولوجية، مما يزيد من وتيرة التجارب الذاتية. علاوة على ذلك، يمكن تصميم هذه الآلات لتختبر سعادة مكثفة وإيجابية، لا تقيدها آليات التعود النفسية. يحذر الباحثان من أن تجاهل الجوانب الأخلاقية المتعلقة بالعقول الرقمية قد يؤدي إلى كارثة أخلاقية، في حين أن إعطاء الأولوية لها على مصالح البشر دون تفكير قد يكون ضارًا بالبشرية.
التحديات الناشئة أو المستقبلية المحتملة > تهديد الكرامة الإنسانية

جادل جوزيف فايزنباوم في عام 1976 بأنه لا ينبغي استخدام تقنية الذكاء الاصطناعي لاستبدال الأشخاص في المناصب التي تتطلب الاحترام والرعاية، مثل: ممثل خدمة العملاء (تُستخدم تقنية الذكاء الاصطناعي بالفعل اليوم لأنظمة الرد الصوتي التفاعلي عبر الهاتف)، ومُربية المسنين (كما ذكرت "باميلا مكوردوك" في كتابها "الجيل الخامس")، والجندي، والقاضي، وضابط الشرطة، والمُعالج النفسي (كما اقترح كينيث كولبي في السبعينيات). وبرر وايزنباوم موقفه بأننا نحتاج إلى مشاعر تعاطف حقيقية من الأشخاص في هذه المناصب. وإذا حلت الآلات محلهم، فسنجد أنفسنا مُهمّشين ومُقلّلين من قيمتنا ومُحبطين، لأن النظام الذكي اصطناعيًا لن يكون قادرًا على محاكاة التعاطف. وإذا استُخدم الذكاء الاصطناعي بهذه الطريقة فأنه قد يمثل تهديدًا للكرامة الإنسانية، ويجادل وايزنباوم بأن حقيقة أننا نُفكّر في إمكانية وجود آلات في هذه المناصب تُشير إلى أننا قد شهدنا "ضمورًا في الروح البشرية ينبع من التفكير في أنفسنا كأجهزة حاسوب".
عارضت الباحثة "باميلا مكوردوك" رأي وايزنباوم قائلةً نيابةً عن النساء والأقليات: "أفضّل أن أغتنم فرصي مع جهاز حاسوب نزيه"، مُشيرةً إلى أن هناك ظروفًا نُفضّل فيها أن يكون لدينا قضاة وضباط شرطة آليين ليس لديهم أي أجندة شخصية على الإطلاق. ومع ذلك، يؤكد أندرياس كابلان و"هاينلين" على أن أنظمة الذكاء الاصطناعي ليست أذكى من البيانات المُستخدمة في تدريبها، لأنها في جوهرها ليست سوى آلات مُتطورة لمُلاءمة المنحنيات؛ ويمكن أن يكون استخدام الذكاء الاصطناعي لدعم حكم قضائي إشكاليًا للغاية إذا أظهرت الأحكام السابقة تحيزًا تجاه مجموعات مُعينة لأن هذه التحيزات تصبح رسمية وراسخة، مما يجعل من الصعب اكتشافها ومُكافحتها.
وقد انزعج وايزنباوم أيضًا من أن باحثي الذكاء الاصطناعي (وبعض الفلاسفة) كانوا على استعداد لاعتبار العقل البشري ليس أكثر من برنامج حاسوب (موقف يُعرف الآن باسم "الحوسبية"). وبالنسبة لوايزنباوم، تُشير هذه النقاط إلى أن أبحاث الذكاء الاصطناعي تُقلّل من قيمة حياة الإنسان. وعارض جون مكارثي النبرة الأخلاقية لنقد وايزنباوم. وكتب: "عندما تكون الأخلاق حادة وغامضة، فإنها تدعو إلى إساءة استخدام السلطة". وكتب بيل هيبرد "تتطلب كرامة الإنسان أن نسعى جاهدين لإزالة جهلنا بطبيعة الوجود، والذكاء الاصطناعي ضروري لهذا السعي".
التحديات الناشئة أو المستقبلية المحتملة > المسؤولية عن المركبات ذاتية القيادة

مع تزايد انتشار السيارات ذاتية القيادة، برزت تحديات جديدة تتطلب معالجة عاجلة. أبرز هذه التحديات مسألة المسؤولية القانونية في حال وقوع حوادث، إذ تطرح تساؤلات حول الجهة المسؤولة عن الحادث: هل هي الشركة المصنعة، أم مبرمج النظام، أم السائق، أم المشاة المتضرر؟
تُبرز العديد من الحوادث تعقيد هذه المسألة. في إحدى الحوادث، صدمت سيارة ذاتية القيادة أحد المشاة رغم وجود سائق خلف المقود. وفي حادثة أخرى، وقعت في ولاية أريزونا عام 2018، أودت حياة سيدة صدمتها سيارة أوبر ذاتية القيادة، حيث عجزت السيارة عن اكتشاف المشاة في منتصف الطريق.
تثير هذه الحوادث تساؤلات جوهرية حول قدرة التقنية الحالية على التعامل مع جميع المتغيرات التي قد تواجهها السيارة على الطريق. فمعظم السيارات ذاتية القيادة الحالية تعتبر شبه ذاتية، مما يتطلب من السائق التدخل في حالات معينة. لذا، تقع على عاتق الحكومات مسؤولية تنظيم استخدام هذه التقنيات وتوعية السائقين بأهمية الانتباه والجاهزية لتولي القيادة في أي وقت.
يُشدد الخبراء على ضرورة تمكين المركبات ذاتية القيادة من اتخاذ قرارات أخلاقية صحيحة، خاصة وأنها تمتلك القدرة على إلحاق الأذى بالآخرين. اقترح الخبراء نهجين رئيسيين لتحقيق ذلك: النهج التصاعدي، القائم على تعليم الآلة اتخاذ القرارات من خلال مراقبة السلوك البشري، والنهج التنازلي، القائم على برمجة مبادئ أخلاقية محددة في نظام الآلة. ومع ذلك، يواجه كلا النهجين تحديات كبيرة، إذ يعاني الأول من خطر تعلّم الآلة سلوكيات غير أخلاقية، بينما يعاني الثاني من صعوبة تحديد مبادئ أخلاقية شاملة ومقبولة عالميًا.
التحديات الناشئة أو المستقبلية المحتملة > التفرد

لمعلوماتٍ أكثر: تفرد تقني ذكاء فائق الخطر الوجودي من الذكاء الاصطناعي
اقترح فيرنور فينج من بين آخرين كثر، أنه قد تأتي لحظة يكون فيها بعض أجهزة الكمبيوتر، إن لم يكن جميعها، أكثر ذكاءً من البشر. يُشار عادةً إلى بداية هذا الحدث باسم "التفرد" وهو نقطة النقاش المركزية في فلسفة التفرد. وبينما تتباين الآراء حول المصير النهائي للبشرية في أعقاب التفرد، أصبحت الجهود المبذولة للتخفيف من المخاطر الوجودية المُحتملة التي يُسببها الذكاء الاصطناعي موضوعًا مهمًا للنقاش في السنوات الأخيرة بين علماء الكمبيوتر والفلاسفة وعامة الناس.
وجادل العديد من الباحثين بأنه من خلال الانفجار الاستخباري، قد يُصبح الذكاء الاصطناعي المُحسّن ذاتيًا قويًا جدًا لدرجة أن البشر لن يكونوا قادرين على منعه من تحقيق أهدافه. وفي ورقته البحثية "القضايا الأخلاقية في الذكاء الاصطناعي المُتقدم" وكتابه اللاحق "الذكاء الفائق: المسارات والمخاطر والاستراتيجيات"، يُجادل الفيلسوف نيك بوستروم بأن الذكاء الاصطناعي لديه القدرة على إحداث انقراض بشري. ويدّعي أن الذكاء الخارق الاصطناعي سيكون قادرًا على المبادرة المُستقلة ووضع خططه الخاصة، وبالتالي قد يكون من الأنسب اعتباره وكيلًا مستقلًا. وبما أن العقول الاصطناعية لا تحتاج إلى مُشاركة ميولنا التحفيزية البشرية، فسيكون الأمر مُترتبًا على مُصممي الذكاء الخارق لتحديد دوافعه الأصلية. ونظرًا لأن الذكاء الاصطناعي الخارق سيكون قادرًا على إحداث أي نتيجة ممكنة تقريبًا وإحباط أي محاولة لمنع تنفيذ أهدافه، فقد تنشأ العديد من العواقب غير المُتوقعة الخارجة عن السيطرة. ويمكنه القضاء على جميع العوامل الأخرى، أو إقناعها بتغيير سلوكها، أو منع محاولاتها للتدخل.
ومع ذلك، زعم بوستروم أن الذكاء الخارق لديه أيضًا القدرة على حل العديد من المشكلات الصعبة مثل الأمراض والفقر والدمار البيئي، ويمكن أن يُساعد البشر على تحسين أنفسهم.
وما لم تُوفر لنا الفلسفة الأخلاقية نظرية أخلاقية لا تشوبها شائبة، فإن وظيفة المنفعة الخاصة بالذكاء الاصطناعي يمكن أن تسمح بالعديد من السيناريوهات الضارة المُحتملة التي تتوافق مع إطار أخلاقي مُعين ولكن ليس "الفطرة السليمة". ووفقًا لـ"إليعازر يودكوفسكي" لا يوجد سبب يُذكر للاعتقاد بأن العقل المُصمم صناعيًا سيكون لديه مثل هذا التكيف. وقد اقترح باحثو الذكاء الاصطناعي مثل ستيوارت راسل،  و"بيل هيبرد"،  و"رومان يامبولسكي"،  و"شانون فالور"،  و"ستيفن أومبريلو"،  و"لوتشيانو فلوريدي"،  استراتيجيات تصميم لتطوير آلات مفيدة.
المؤسسات المعنية بسياسة وأخلاقيات الذكاء الاصطناعي

هناك العديد من المنظمات المعنية بأخلاقيات الذكاء الاصطناعي وسياساته، العامة والحكومية، بالإضافة إلى الشركات والمجتمعية.
قامت أمازون وجوجل وفيسبوك وآي بي إم ومايكروسوفت بتأسيس منظمة غير ربحية، وهي "الشراكة في الذكاء الاصطناعي لصالح الناس والمجتمع"، لصياغة أفضل الممارسات في تقنيات الذكاء الاصطناعي، وتعزيز فهم الجمهور، والعمل كمنصة حول الذكاء الاصطناعي. وانضمت آبل في يناير 2017. وسيقدم الأعضاء من الشركات مساهمات مالية وبحثية للمجموعة، مع التفاعل مع المجتمع العلمي لجلب الأكاديميين إلى مجلس الإدارة.
وقام معهد مهندسي الكهرباء والإلكترونيات (IEEE) بتجميع مبادرة عالمية حول أخلاقيات الأنظمة المستقلة والذكية، والتي تقوم بإنشاء وتنقيح الإرشادات بمساعدة مُدخلات الجمهور، وتقبل كأعضاء العديد من المهنيين من داخل وخارج مُنظمتها. وتهدف مبادرة أخلاقيات الأنظمة المستقلة التابعة للمعهد إلى مُعالجة المعضلات الأخلاقية المُتعلقة بصنع القرار وتأثيره على المجتمع، مع وضع إرشادات لتطوير واستخدام الأنظمة المستقلة. وبشكل خاص في مجالات مثل الذكاء الاصطناعي والروبوتات، تُكرس مؤسسة الروبوتات المسؤولة لتعزيز السلوك الأخلاقي، بالإضافة إلى تصميم واستخدام الروبوتات المسؤول، وضمان التزام الروبوتات بالمبادئ الأخلاقية وتوافقها مع القيم الإنسانية.
تقليديًا استخدمت المجتمعات الحكومة لضمان مراعاة الأخلاق من خلال التشريعات والرقابة. وهناك الآن العديد من الجهود التي تبذلها الحكومات الوطنية، بالإضافة إلى المنظمات الحكومية وغير الحكومية عبر الوطنية، لضمان تطبيق الذكاء الاصطناعي بشكل أخلاقي.
المؤسسات المعنية بسياسة وأخلاقيات الذكاء الاصطناعي > المبادرات الحكومية الدولية

أولت المفوضية الأوروبية اهتمامًا بالغًا بمسألة الذكاء الاصطناعي، فأنشأت ما يُعرف بـ "مجموعة خبراء رفيعة المستوى" المعنية بهذا المجال. وقد أسفرت أعمال هذه المجموعة عن إصدار "إرشادات أخلاقية للذكاء الاصطناعي الجدير بالثقة" في 8 أبريل 2019. علاوة على ذلك، أنشأت المفوضية وحدة متخصصة في مجال الروبوتات والذكاء الاصطناعي، والتي بدورها أصدرت ورقة بحثية حول التميز والموثوقية في ابتكار الذكاء الاصطناعي في 19 فبراير 2020. ولم تتوقف جهود المفوضية عند هذا الحد، بل اقترحت أيضًا قانونًا شاملًا للذكاء الاصطناعي. على صعيد آخر أنشأت منظمة التعاون الاقتصادي والتنمية "مرصد سياسات الذكاء الاصطناعي" بهدف متابعة التطورات في هذا المجال.
وفي خطوة بارزة على الصعيد العالمي، اعتمدت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في عام 2021م "التوصية بشأن أخلاقيات الذكاء الاصطناعي"، والتي تُعد أول معيار عالمي من نوعه في هذا الشأن. وقد تميز هذا الإصدار بأهميته كأول وثيقة دولية شاملة تتناول قضايا أخلاقيات الذكاء الاصطناعي.
المؤسسات المعنية بسياسة وأخلاقيات الذكاء الاصطناعي > المبادرات الحكومية

وضعت إدارة أوباما "خارطة طريق لسياسات الذكاء الاصطناعي". وأصدرت إدارة أوباما ورقتين بيضاويتين بارزتين حول مستقبل وتأثير الذكاء الاصطناعي. وفي عام 2019 أصدر البيت الأبيض من خلال مذكرة تنفيذية تُعرف باسم "مبادرة الذكاء الاصطناعي الأمريكية"، تعليمات للمعهد الوطني للمعايير والتكنولوجيا (NIST) لبدء العمل على المشاركة الفيدرالية في معايير الذكاء الاصطناعي (فبراير 2019). في يناير 2020 أصدرت إدارة ترامب مسودة أمر تنفيذي أصدره مكتب الإدارة والميزانية (OMB) بشأن "إرشادات لتنظيم تطبيقات الذكاء الاصطناعي". ويؤكد الأمر على الحاجة إلى الاستثمار في تطبيقات الذكاء الاصطناعي، وتعزيز ثقة الجمهور في الذكاء الاصطناعي، وتقليل حواجز استخدام الذكاء الاصطناعي، والحفاظ على القدرة التنافسية لتكنولوجيا الذكاء الاصطناعي الأمريكية في السوق العالمية. وهناك إشارة إلى الحاجة إلى مخاوف الخصوصية، ولكن لا يوجد مزيد من التفاصيل حول الإنفاذ. ويبدو أن تطورات تكنولوجيا الذكاء الاصطناعي الأمريكية هي محور التركيز والأولوية. بالإضافة إلى ذلك، يتم تشجيع الكيانات الفيدرالية على استخدام الأمر للتحايل على أي قوانين ولوائح حكومية قد تعتبرها السوق مُرهقة للغاية.
شارك اتحاد الحوسبة المجتمعي بمسودة تقرير من أكثر من 100 صفحة خارطة طريق مجتمعية لمدة 20 عامًا لأبحاث الذكاء الاصطناعي في الولايات المتحدة.
شهد العام 2021 في روسيا توقيع أول "مدونة أخلاقيات للذكاء الاصطناعي" مخصصة للأعمال. قاد هذه المبادرة المركز التحليلي لحكومة الاتحاد الروسي بالتعاون مع نخبة من المؤسسات التجارية والأكاديمية، من بينها سبيربنك، وياندكس، وروس آتوم، وكلية الاقتصاد العليا، ومعهد موسكو للفيزياء والتكنولوجيا، وجامعة آي تي إم أو، وروس للاتصالات وغيرها.