موضوع مقاله: سلاح خودمختار مرگبار | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # سلاح خودمختار مرگبار | مقدمه: نیروهای مسلح قانونی ممکن است در جنگ پهپادی در هوا، زمین، آب، زیر آب یا فضا شرکت کنند. | ## بخش 1: سلاح خودمختار مرگبار | درک استقلال در تسلیحات در توسعه سلاح‌ها، اصطلاح «خودمختار» تا حدودی مبهم است و می‌تواند بین محققان، ملت‌ها و سازمان‌های مختلف بسیار متفاوت باشد. سیاست رسمی وزارت دفاع ایالات متحده در مورد خودمختاری در سیستم‌های تسلیحاتی، یک سیستم تسلیحاتی خودمختار را به عنوان سیستمی تعریف می‌کند که «... پس از فعال شدن، می‌تواند بدون دخالت بیشتر اپراتور انسانی، اهداف را انتخاب و با آنها درگیر شود.» هدر راف، نویسنده‌ای برای دانشکده حقوق دانشگاه کیس وسترن رزرو، سیستم‌های سلاح خودمختار را اینگونه توصیف می‌کند: «... قادر به یادگیری و تطبیق «عملکرد» خود در پاسخ به شرایط متغیر در محیطی که در آن مستقر شده‌اند، و همچنین قادر به تصمیم‌گیری مستقل در مورد شلیک.» وزارت دفاع بریتانیا سیستم‌های تسلیحاتی خودکار را اینگونه تعریف می‌کند: «سیستم‌هایی که قادر به درک نیت و جهت‌گیری در سطح بالاتر هستند. چنین سیستمی با توجه به این درک و درک خود از محیط اطرافش، قادر به انجام اقدامات مناسب برای رسیدن به وضعیت مطلوب است. این سیستم قادر به تصمیم‌گیری در مورد یک مسیر اقدام، از بین تعدادی از گزینه‌ها، بدون وابستگی به نظارت و کنترل انسانی است - البته چنین تعامل انسانی با سیستم ممکن است همچنان وجود داشته باشد. در حالی که فعالیت کلی یک هواپیمای بدون سرنشین خودکار قابل پیش‌بینی خواهد بود، اقدامات فردی ممکن است قابل پیش‌بینی نباشند.» محققانی مانند پیتر آسارو و مارک گوبرود معتقدند که هر سیستم تسلیحاتی که قادر به آزادسازی نیروی کشنده بدون عملیات، تصمیم یا تأیید ناظر انسانی باشد، می‌تواند خودمختار تلقی شود. ایجاد معاهدات بین کشورها نیازمند یک برچسب‌گذاری پذیرفته‌شدهٔ عمومی است که دقیقاً چه چیزی یک سلاح خودمختار را تشکیل می‌دهد. سیستم‌های دفاعی خودکار قدیمی‌ترین سلاح کشنده خودکار، مین‌های زمینی هستند که حداقل از دهه ۱۶۰۰ میلادی مورد استفاده قرار گرفته‌اند و مین‌های دریایی که حداقل از دهه ۱۷۰۰ میلادی مورد استفاده قرار گرفته‌اند. برخی از نمونه‌های فعلی سلاح‌های خدمختار، سیستم‌های حفاظت فعال خودکار «سخت‌گیرانه» هستند، مانند سیستم‌های سامانه دفاع نزدیک دریایی هدایت‌شونده با رادار که برای دفاع از کشتی‌هایی که از دهه ۱۹۷۰ مورد استفاده قرار گرفته‌اند (مثلاً سامانه دفاع نزدیک دریایی فالانکس ایالات متحده) استفاده می‌شوند. چنین سیستم‌هایی می‌توانند به‌طور خودکار موشک‌ها، راکت‌ها، آتش توپخانه، هواپیماها و شناورهای سطحی را بر اساس معیارهای تعیین شده توسط اپراتور انسانی شناسایی و به آنها حمله کنند. سیستم‌های مشابهی برای تانک‌ها وجود دارد، مانند تانک روسی آرنا، تانک اسرائیلی تروفی و تانک آلمانی ای‌ام‌ای‌پی-ای‌دی‌اس. چندین نوع توپ نگهبانی ثابت که می‌توانند به سمت انسان‌ها و وسایل نقلیه شلیک کنند، در کره جنوبی و اسرائیل استفاده می‌شوند. بسیاری از سیستم‌های دفاع موشکی، مانند گنبد آهنین، دارای قابلیت‌های هدف‌گیری خودکار نیز هستند. آنها عموماً برای محافظت از پرسنل و تأسیسات در برابر پرتابه‌های ورودی استفاده شده‌اند. سیستم‌های تهاجمی خودمختار طبق گزارش اکونومیست، با پیشرفت فناوری، کاربردهای آینده وسایل نقلیه زیرسطحی بدون سرنشین ممکن است شامل پاکسازی مین، مین‌گذاری، شبکه حسگر ضد زیردریایی در آب‌های مورد مناقشه، گشت‌زنی با سونار فعال، تأمین مجدد تدارکات زیردریایی‌های سرنشین‌دار و تبدیل شدن به سکوهای موشکی کم‌هزینه باشد. در سال ۲۰۱۸، گزارش «بررسی وضعیت هسته‌ای» ایالات متحده ادعا کرد که روسیه در حال توسعه یک «اژدر جدید بین قاره‌ای، مجهز به سلاح هسته‌ای، با سوخت هسته‌ای و خودکار زیرآبی» به نام «وضعیت ۶» است. فدراسیون روسیه در حال حاضر در حال توسعه موشک‌های هوشمند مصنوعی، پهپادها، وسایل نقلیه بدون سرنشین، ربات‌های نظامی و ربات‌های پزشکی است. ایوب قرا، وزیر اسرائیل، در سال ۲۰۱۷ اظهار داشت که اسرائیل در حال توسعه ربات‌های نظامی، از جمله ربات‌هایی به کوچکی مگس است. در اکتبر ۲۰۱۸، زنگ یی، مدیر ارشد شرکت دفاعی چینی نورینکو، سخنرانی‌ای ایراد کرد و در آن گفت که «در میدان‌های نبرد آینده، هیچ انسانی نخواهد جنگید» و استفاده از سلاح‌های خودکار کشنده در جنگ «اجتناب‌ناپذیر» است. | ## بخش 2: سلاح خودمختار مرگبار | در سال ۲۰۱۹، مارک اسپر، وزیر دفاع ایالات متحده، چین را به خاطر فروش پهپادهایی که قادر به گرفتن جان انسان‌ها بدون نظارت انسانی هستند، مورد انتقاد شدید قرار داد. ارتش بریتانیا در سال ۲۰۱۹ خودروهای بدون سرنشین و ربات‌های نظامی جدیدی را به کار گرفت. نیروی دریایی ایالات متحده در حال توسعه ناوگان‌های «سایه» کشتی‌های بدون سرنشین است. بر اساس گزارش هیئت کارشناسان شورای امنیت سازمان ملل متحد در امور لیبی که در مارس ۲۰۲۱ منتشر شد، در سال ۲۰۲۰ یک پهپاد کارگو ۲ یک هدف انسانی را در لیبی شکار و به آن حمله کرد. این شاید اولین باری بود که یک ربات قاتل مستقل مسلح به سلاح‌های کشنده به انسان‌ها حمله می‌کرد. در ماه مه ۲۰۲۰، اسرائیل یک حمله گروهی پهپادهای جنگی هدایت‌شونده با هوش مصنوعی را در غزه انجام داد. از آن زمان تاکنون گزارش‌های متعددی از استفاده از سامانه‌های تسلیحاتی خودکار و دسته‌ای در میدان‌های نبرد در سراسر جهان منتشر شده است. علاوه بر این، دارپا در حال کار بر روی ساخت دسته‌هایی از ۲۵۰ پهپاد کشنده خودکار است که در اختیار ارتش آمریکا قرار می‌گیرند. مسائل اخلاقی و حقوقی میزان کنترل انسانی سه طبقه‌بندی از میزان کنترل انسان بر سیستم‌های سلاح‌های خودکار توسط بانی دوچرتی در گزارش دیده‌بان حقوق بشر در سال ۲۰۱۲ ارائه شده است. انسان در حلقه: یک انسان باید عملکرد سلاح را تحریک کند (به عبارت دیگر، کاملاً خودکار نیست). استاندارد مورد استفاده در سیاست ایالات متحده سیاست فعلی ایالات متحده بیان می‌کند: «سیستم‌های تسلیحاتی خودکار… باید به گونه‌ای طراحی شوند که به فرماندهان و اپراتورها اجازه دهند سطوح مناسبی از قضاوت انسانی را در مورد استفاده از زور اعمال کنند.» با این حال، این سیاست مستلزم آن است که سیستم‌های تسلیحاتی خودمختار که افراد را می‌کشند یا از نیروی جنبشی استفاده می‌کنند و بدون دخالت بیشتر انسان، اهداف را انتخاب و با آنها درگیر می‌شوند، مطابق با «سطوح مناسب» و سایر استانداردها تأیید شوند، نه اینکه چنین سیستم‌های تسلیحاتی نمی‌توانند این استانداردها را برآورده کنند و بنابراین ممنوع هستند. شکارچی-قاتل‌های «نیمه خودکار» که به‌طور خودکار اهداف را شناسایی و به آنها حمله می‌کنند، حتی نیازی به گواهینامه ندارند. ورک، معاون وزیر دفاع، در سال ۲۰۱۶ گفت که وزارت دفاع «اختیارات مرگبار را برای تصمیم‌گیری به یک ماشین واگذار نخواهد کرد»، اما ممکن است لازم باشد در این مورد تجدیدنظر شود زیرا «رژیم‌های اقتدارگرا» ممکن است این کار را انجام دهند. در اکتبر ۲۰۱۶، باراک اوباما، رئیس‌جمهور آمریکا، اظهار داشت که در اوایل دوران کاری خود، نگران آینده‌ای بود که در آن، رئیس‌جمهور ایالات متحده با استفاده از جنگ پهپادی بتواند «جنگ‌های دائمی را در سراسر جهان ادامه دهد، و بسیاری از آنها مخفیانه، بدون هیچ گونه پاسخگویی یا بحث دموکراتیک». در ایالات متحده، هوش مصنوعی مرتبط با امنیت از سال ۲۰۱۸ تحت نظارت کمیسیون امنیت ملی هوش مصنوعی قرار گرفته است. در ۳۱ اکتبر ۲۰۱۹، هیئت نوآوری دفاعی وزارت دفاع ایالات متحده، پیش‌نویس گزارشی را منتشر کرد که در آن پنج اصل برای هوش مصنوعی تسلیحاتی تشریح شده و ۱۲ توصیه برای استفاده اخلاقی از هوش مصنوعی توسط وزارت دفاع ارائه شده است که تضمین می‌کند یک اپراتور انسانی همیشه بتواند به «جعبه سیاه» نگاه کند و فرایند زنجیره کشتار را درک کند. نقض احتمالی اخلاق و قوانین بین‌المللی استوارت راسل، استاد علوم کامپیوتر از دانشگاه کالیفرنیا، برکلی، اظهار داشت که نگرانی او در مورد سلاح‌های رگبار خودمختار این است که از نظر او این قانون غیراخلاقی و غیرانسانی است. مشکل اصلی این سیستم این است که تشخیص بین رزمندگان و غیر رزمندگان در آن دشوار است. برخی از اقتصاددانان و محققان حقوقی نگران این هستند که آیا قوانین، حقوق بین‌الملل بشردوستانه، به‌ویژه اصل تفکیک، که مستلزم توانایی تمایز رزمندگان از غیرنظامیان است، و اصل تناسب، که مستلزم متناسب بودن آسیب به غیرنظامیان با هدف نظامی است، را نقض می‌کنند یا خیر. این نگرانی اغلب به عنوان دلیلی برای ممنوعیت کامل «ربات‌های قاتل» مطرح می‌شود - اما جای تردید است که این نگرانی بتواند استدلالی علیه قوانینی باشد که ناقض حقوق بین‌الملل بشردوستانه نیستند. | ## بخش 3: سلاح خودمختار مرگبار | گزارش سال ۲۰۲۱ سرویس تحقیقاتی کنگره آمریکا بیان می‌کند که «هیچ ممنوعیت قانونی داخلی یا بین‌المللی در مورد توسعه استفاده از سلاح‌های هسته‌ای وجود ندارد»، اگرچه مذاکرات جاری در کنوانسیون سازمان ملل در مورد سلاح‌های متعارف خاص را تأیید می‌کند. فیلسوف رابرت اسپارو استدلال می‌کند که سلاح‌های خودمختار، مانند کودکان سرباز، از نظر علّی مسئول هستند اما از نظر اخلاقی مسئول نیستند. در هر مورد، او استدلال می‌کند که خطر وقوع فجایع بدون وجود یک موضوع مناسب برای مسئول شناختن آن وجود دارد، که این امر ناقض حق صلح است. توماس سیمپسون و وینسنت مولر استدلال می‌کنند که این روش‌ها ممکن است ثبت اینکه چه کسی چه دستوری داده است را آسان‌تر کند. نقض‌های احتمالی حقوق بین‌الملل بشردوستانه توسط قوانین - طبق تعریف - فقط در شرایط درگیری قابل اجرا هستند که نیاز به تمایز بین رزمندگان و غیرنظامیان وجود دارد. به این ترتیب، هر سناریوی درگیری بدون حضور غیرنظامیان - مثلاً در فضا یا اعماق دریاها - با موانع مطرح شده توسط حقوق بین‌الملل بشردوستانه مواجه نخواهد شد. در ژوئیه ۲۰۱۵، بیش از ۱٬۰۰۰ متخصص هوش مصنوعی نامه‌ای را امضا کردند که در آن نسبت به تهدید مسابقه تسلیحاتی هوش مصنوعی هشدار داده و خواستار ممنوعیت سلاح‌های خودکار شده بودند. این نامه در بیست و چهارمین کنفرانس مشترک بین‌المللی هوش مصنوعی در بوئنوس آیرس ارائه شد و توسط استیون هاوکینگ، ایلان ماسک، استیو وزنیاک، نوام چامسکی، جان تالین، یکی از بنیانگذاران اسکایپ و دمیس هاسابیس، یکی از بنیانگذاران گوگل دیپ‌مایند، و دیگران امضا شده است. طبق گفته PAX For Peace (یکی از سازمان‌های بنیانگذار کمپین توقف ربات‌های قاتل)، سلاح‌های کاملاً خودکار با حذف سربازان از میدان نبرد و فاصله گرفتن عموم مردم از تجربه جنگ، آستانه ورود به جنگ را کاهش می‌دهند و به سیاستمداران و سایر تصمیم‌گیرندگان فضای بیشتری برای تصمیم‌گیری در مورد زمان و نحوه ورود به جنگ می‌دهند. آنها هشدار می‌دهند که پس از استقرار، این سلاح‌ها کنترل دموکراتیک جنگ را دشوارتر می‌کنند، چیزی که نویسندهٔ «تصمیم به کشتن» (رمانی در همین زمینه) و متخصص فناوری اطلاعات، دنیل سوارز، نیز در مورد آن هشدار داده بود: به گفتهٔ او، این امر ممکن است با نیاز به تعداد بسیار کمی از افراد برای رفتن به جنگ، قدرت را دوباره در دستان تعداد بسیار کمی متمرکز کند. وب‌سایت‌هایی وجود دارند که اعتراض به توسعهٔ قوانین با ارائهٔ پیامدهای نامطلوب در صورت ادامهٔ تحقیقات در زمینهٔ استفاده از هوش مصنوعی برای تعیین سلاح‌ها. در این وب‌سایت‌ها، اخبار مربوط به مسائل اخلاقی و حقوقی دائماً به‌روز می‌شود تا بازدیدکنندگان بتوانند اخبار اخیر مربوط به جلسات بین‌المللی و مقالات تحقیقاتی مربوط به قوانین را مرور کنند. واتیکان بارها از جامعه بین‌المللی خواسته است تا استفاده از سلاح‌های لیزری را ممنوع کند. در نوامبر ۲۰۱۸، اسقف اعظم ایوان جورکوویچ، ناظر دائم واتیکان در سازمان ملل متحد، اظهار داشت: «برای جلوگیری از مسابقه تسلیحاتی و افزایش نابرابری‌ها و بی‌ثباتی، اقدام سریع یک وظیفه ضروری است: اکنون زمان آن رسیده است که از تبدیل شدن قوانین به واقعیت جنگ‌های فردا جلوگیری کنیم.» کلیسا نگران است که این سیستم‌های تسلیحاتی قابلیت تغییر برگشت‌ناپذیر ماهیت جنگ، ایجاد جدایی از عامل انسانی و زیر سؤال بردن انسانیت جوامع را داشته باشند. در دسامبر ۲۰۲۲، رأی هیئت ناظران سانفرانسیسکو برای صدور مجوز استفاده از قانون توسط اداره پلیس سانفرانسیسکو، توجه و اعتراضات ملی را به خود جلب کرد. وضع مقررات بدون ممنوعیت رویکرد سوم بر تنظیم استفاده از سیستم‌های سلاح‌های خودکار به جای ممنوعیت تمرکز دارد. کنترل تسلیحات نظامی هوش مصنوعی احتمالاً مستلزم نهادینه شدن هنجارهای بین‌المللی جدید است که در مشخصات فنی مؤثر همراه با نظارت فعال و دیپلماسی غیررسمی («مسیر دوم») توسط جوامع متخصص، همراه با یک فرایند تأیید حقوقی و سیاسی، تجسم یافته‌اند. در سال ۲۰۲۱، وزارت دفاع ایالات متحده درخواست گفتگو با ارتش آزادی‌بخش خلق چین در مورد سلاح‌های خودمختار مجهز به هوش مصنوعی را مطرح کرد، اما این درخواست رد شد. در سال ۲۰۲۳ اجلاسی با حضور ۶۰ کشور در مورد استفاده مسئولانه از هوش مصنوعی در ارتش برگزار شد. | ## جمع‌بندی | در ۲۲ دسامبر ۲۰۲۳، قطعنامه‌ای از سوی مجمع عمومی سازمان ملل متحد برای حمایت از بحث‌های بین‌المللی در مورد نگرانی‌های مربوط به قوانین [حقوقی] تصویب شد.