أخلاقيات الذكاء الاصطناعي
التحديات الناشئة أو المستقبلية المحتملة > التسليح

شكك بعض الخبراء والأكاديميين في استخدام الروبوتات في القتال العسكري، خاصةً عند إعطاء هذه الروبوتات قدرًا من الوظائف الذاتية. وقامت البحرية الأمريكية بتمويل تقرير يُشير إلى أنه مع تزايد تعقيد الروبوتات العسكرية، ينبغي إيلاء اهتمام أكبر لانعكاسات قدرتها على اتخاذ قرارات مستقلة. وكلف رئيس جمعية النهوض بالذكاء الاصطناعي بإجراء دراسة للنظر في هذه القضية. ويشيرون إلى برامج مثل "جهاز اكتساب اللغة" الذي يمكنه محاكاة التفاعل البشري.
وفي 31 أكتوبر 2019 نشر مجلس الابتكار الدفاعي التابع لوزارة الدفاع الأمريكية مسودة تقرير يُوصي بمبادئ الاستخدام الأخلاقي للذكاء الاصطناعي من قبل وزارة الدفاع تضمن للمُشغل البشري دائمًا إمكانية النظر في الصندوق الأسود وفهم عملية سلسلة القتل. ومع ذلك، يتمثل أحد الشواغل الرئيسية في كيفية تنفيذ التقرير. وقامت البحرية الأمريكية بتمويل تقرير يُشير إلى أنه مع تزايد تعقيد الروبوتات العسكرية، ينبغي إيلاء اهتمام أكبر لانعكاسات قدرتها على اتخاذ قرارات مستقلة. ويذكر بعض الباحثين أن الروبوتات المستقلة قد تكون أكثر إنسانية، لأنها تستطيع اتخاذ القرارات بشكل أكثر فعالية.
وقد بحثت الأبحاث في كيفية صنع قوة ذاتية لديها القدرة على التعلم باستخدام المسؤوليات الأخلاقية المُوكلة إليها. "قد تُستخدم النتائج عند تصميم الروبوتات العسكرية المستقبلية، للتحكم في الميول غير المرغوب فيها لإسناد المسؤولية إلى الروبوتات."  ومن وجهة نظر نفعية، هناك احتمال أن تُطور الروبوتات القدرة على اتخاذ قراراتها المنطقية الخاصة بها بشأن من تقتل، ولهذا السبب ينبغي أن يكون هناك إطار أخلاقي مُحدد لا يمكن للذكاء الاصطناعي تجاوزه.
وقد كانت هناك موجة غضب حديثة فيما يتعلق بهندسة أسلحة الذكاء الاصطناعي التي تضمنت أفكارًا عن سيطرة الروبوتات على البشرية. وتُشكل أسلحة الذكاء الاصطناعي نوعًا من الخطر يختلف عن خطر الأسلحة التي يتحكم فيها الإنسان. وقد بدأت العديد من الحكومات في تمويل برامج لتطوير أسلحة الذكاء الاصطناعي. وأعلنت البحرية الأمريكية مؤخرًا عن خطط لتطوير أسلحة طائرات بدون طيار ذاتية القيادة، بالتوازي مع إعلانات مماثلة من روسيا وكوريا الجنوبية. ونظرًا لاحتمالية أن تُصبح أسلحة الذكاء الاصطناعي أكثر خطورة من الأسلحة التي يُشغلها الإنسان، فقد وقّع ستيفن هوكينج و"ماكس تيجمارك" على عريضة "مستقبل الحياة" لحظر أسلحة الذكاء الاصطناعي. وتنص العريضة التي نشرها هوكينج وتيجمارك على أن أسلحة الذكاء الاصطناعي تُشكل خطرًا مُباشرًا، وأهمية اتخاذ إجراءات لتجنب الكوارث الكارثية في المستقبل القريب.
"إن أي تقدم كبير لقوة عسكرية في تطوير أسلحة الذكاء الاصطناعي سيؤدي حتمًا إلى سباق تسلح عالمي، ويتضح جليًا أن نهاية هذا المسار التكنولوجي ستكون انتشار الأسلحة المستقلة، لتتحول إلى سلاح الكلاشينكوف في المستقبل"، كما جاء في عريضة وقع عليها كل من يان تالين، المؤسس المشارك لسكايب، وناعوم تشومسكي، أستاذ اللغويات في معهد ماساتشوستس للتكنولوجيا، كداعمين إضافيين ضد أسلحة الذكاء الاصطناعي.
وقد حذر السير مارتن ريس عالم الفيزياء والفلك من سيناريوهات كارثية قد تنجم عن فقدان السيطرة على الروبوتات أو تطوير شبكات ذكاء اصطناعي واعية بذاتها. كما أطلق هيو برايس، زميل ريس في جامعة كامبريدج، تحذيرًا مشابهًا، مؤكدًا أن بقاء البشرية قد يكون مهددًا إذا ما تمكن الذكاء الاصطناعي من التحرر من قيود البيولوجيا. وقد أسس هذان الباحثان مركز دراسة المخاطر الوجودية في جامعة كامبريدج سعيًا لتجنب هذه المخاطر التي تهدد وجود الجنس البشري.
وبخصوص إمكانية توظيف أنظمة تفوق ذكاء الإنسان في الأغراض العسكرية، يشير مشروع "أوبن فيلانثروبي" إلى أن هذه الاحتمالات "تبدو بالغة الأهمية شأنها شأن المخاطر المترتبة على فقدان السيطرة". إلا أن الأبحاث التي تتناول الأثر الاجتماعي البعيد المدى للذكاء الاصطناعي قد خصصت وقتًا محدودًا نسبيًا لدراسة هذا الجانب: "لم تكن هذه الفئة من السيناريوهات محط تركيز رئيسي للمؤسسات الأكثر اهتمامًا بهذا المجال، مثل معهد أبحاث الذكاء الآلي (MIRI) ومعهد مستقبل الإنسانية (FHI)، ويبدو أن التحليل والمناقشة المتعلقة بها أقل شمولًا".
ويؤكد الباحث "قاو تشيتشي" أن الاستخدام العسكري للذكاء الاصطناعي من شأنه أن يؤجج التنافس العسكري بين الدول، وأن آثاره لن تقتصر على دولة بعينها، بل ستمتد لتشمل جوانب أخرى. ويشير "قاو" في هذا السياق إلى الاستخدام الأمريكي للذكاء الاصطناعي في المجال العسكري، زاعمًا أنه تم استغلاله كذريعة للتملص من المسؤولية عن اتخاذ القرارات.
وقد عُقدت قمة في عام 2023 في لاهاي بشأن مسألة استخدام الذكاء الاصطناعي بمسؤولية في المجال العسكري.