موضوع مقاله: اصول اخلاق ماشین | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # اصول اخلاق ماشین | مقدمه: "این مقاله در حال ترجمه از ویکی انگلیسی است لطفا حذف نشود!" اصول اخلاق ماشین (یا سیرت ماشین ، اخلاق محاسباتی یا اصول اخلاق محاسباتی ) بخشی از اصول اخلاق هوش مصنوعی است که به افزودن یا تضمین رفتارهای اخلاقی ماشین‌های ساخت بشر( در صورتی‌که این ماشین‌ها رفتارهای اخلاقی نداشته باشند، به عنوان عامل‌های هوشمندِ مصنوعی شناخته می‌شوند) که از هوش مصنوعی استفاده می‌کنند مربوط می‌شود. | ## بخش 1: اصول اخلاق ماشین | اصول اخلاق ماشینی با اصول اخلاقی دیگر شاخه‌های مربوط به مهندسی و فناوری متفاوت است. اصول اخلاق ماشینی را نباید با اصول اخلاق کامپیوتری که بر استفاده انسان از رایانه تمرکز دارد، اشتباه گرفت. همچنین باید از فلسفه فناوری که به تأثیرات اجتماعی بزرگتر فناوری مربوط می شود، متمایز شود. تعاریف جیمز اچ مور، یکی از نظریه پردازان پیشگام در زمینه اخلاق کامپیوتری، چهار نوع ربات اخلاقی را تعریف می کند. مور به عنوان یک محقق گسترده در زمینه مطالعات فلسفه هوش مصنوعی، فلسفه ذهن، فلسفه علم و منطق، ماشین ها را به عنوان عوامل تأثیر اخلاقی، عوامل اخلاقی ضمنی، عوامل اخلاقی صریح، یا عوامل اخلاقی کامل تعریف می کند. عوامل تأثیر اخلاقی: اینها سیستم های ماشینی هستند که تأثیر اخلاقی دارند، چه در نظر گرفته شده باشند یا خیر. مور یک مثال فرضی به نام «عامل گودمن» می‌آورد که به نام فیلسوف نلسون گودمن نامگذاری شده است. این اشکال ناشی از برنامه نویسانی است که تاریخ ها را تنها با دو رقم آخر سال نشان می دهند، بنابراین هر تاریخ بعد از سال 2000 به‌طور گمراه کننده ای زودتر از تاریخ های اواخر قرن بیستم در نظر گرفته می شود. بنابراین، عامل گودمن قبل از سال 2000 یک عامل تأثیر اخلاقی و پس از آن یک عامل تأثیر غیراخلاقی بود. عوامل اخلاقی ضمنی: برای در نظر گرفتن ایمنی انسان، این عوامل به گونه‌ای برنامه‌ریزی شده‌اند که دارای یک حُسن درونی یا ایمن(fail-safe) باشند. آنها ماهیت کاملاً اخلاقی ندارند، اما برای جلوگیری از نتایج غیراخلاقی برنامه ریزی شده اند. عوامل اخلاقی صریح: ماشین‌هایی هستند که قادر به پردازش سناریوها و عمل کردن بر تصمیمات اخلاقی هستند، درواقع ماشین‌هایی هستند که دارای الگوریتم‌هایی برای انجام عمل اخلاقی میباشند. عوامل اخلاقی کامل: اینها شبیه به کارگزاران (عوامل) صریح اخلاقی هستند که می توانند تصمیمات اخلاقی بگیرند. اما آنها همچنین دارای ویژگی های متافیزیکی انسانی هستند (یعنی دارای اختیار یا اراده‌ آزاد، خودآگاهی و قصدمندی). ) تاریخچه پیش از قرن ۲۱، اخلاق ماشین‌ها عمدتاً به دلیل محدودیت‌های محاسباتی و هوش مصنوعی (AI) موضوع ادبیات علمی تخیلی بود. با وجود اینکه تعریف «اخلاق ماشین» از آن زمان به بعد تکامل یافته است؛ این اصطلاح توسط میچل والدراپ در مقاله‌ای در مجله هوش مصنوعی در سال 1987 با عنوان «A Question of Responsibility » ابداع شد:"با این حال، از بحث فوق آشکار است که ماشین‌های هوشمند مستقل از خواست و اراده برنامه نویسانشان، مقادیر، مفروضات و اهداف را در خود نگه‌می‌دارند. به این ترتیب با ارتقای هوشمندی کامپیوترها و ربات‌ها، ضروری است که به دقت و صراحت در مورد این‌که این مقادیر درونی چه باشند،بیندیشیم. مطابق با روح سه قانون روباتیک از آسیموف، شاید آنچه ما به آن نیاز داریم، در واقع، نظریه و عملی از اصول اخلاق ماشینی باشد،. محققان در AAAI سمپوزیوم پاییز 2005، در مورد اصول اخلاق ماشینی، برای اولین بار گرد هم آمدند تا اجرای یک بعد اصول اخلاقی در سیستم های مستقل را بررسی کنند. دیدگاه‌های متنوعی از این حوزه نوپا را می‌توان در نسخه گردآوری شده «اصول اخلاق ماشین» یافت. این مقاله در مورد اهمیت اصول اخلاق ماشین، نیاز به ماشین هایی که از اصول اخلاقی به صراحت پیروی می‌کنند و چالش های پیش روی کسانی که روی اصول اخلاق ماشین کار می کنند، بود. همچنین نشان داد که ممکن است، حداقل در یک حوزه محدود، یک ماشین یک اصل اخلاقی را از نمونه هایی از قضاوت های اخلاقی انتزاع کند و از آن اصل برای هدایت رفتار خود استفاده کند. انشارات دانشگاه آکسفورد این کتاب را با عنوان «اولین کتابی که چالش ساخت عامل‌های اخلاق‌مند مصنوعی را می‌آزماید و کاوش عمیق در ماهیت تصمیم‌گیری و اخلاق انسانی را بررسی می‌کند» تبلیغ کرد. این کتاب به حدود 450 منبع استناد کرد که حدود 100 مورد از آنها به سؤالات اصلی اخلاق ماشین پرداختند. در سال 2011، انتشارات دانشگاه کمبریج مجموعه ای از مقالات در مورد اصول اخلاق ماشین را منتشر کرد که توسط مایکل و سوزان لی اندرسون ویرایش شده بود، ایشان همچنین در سال 2006 یک شماره ویژه از سیستم های هوشمند IEEE را در مورد این موضوع ویرایش کرده‌اند. در سال 2014، دفتر تحقیقات نیروی دریایی ایالات متحده اعلام کرد که 7.5 میلیون دلار کمک مالی را طی پنج سال به تحقیقات دانشگاهی اختصاص خواهد داد. این تحقیقات برای مطالعه سؤالات اصول اخلاق ماشینی که در مورد روبات‌های مستقل اعمال می‌شود، و کتابابرهوش: مسیرها، خطرات و استراتژی‌ها از نیک بوستروم ، انجام می‌شود. کتاب ابرهوش: مسیرها، خطرات و استراتژی‌ها، که اخلاق ماشینی را به عنوان «مهم‌ترین... مسئله‌ای که بشریت تاکنون با آن مواجه شده است» مطرح کرده‌است، در فهرست پرفروش‌ترین کتاب‌های علمی نیویورک تایمز جایگاه هفدهم را بدست آورد. در سال 2016، پارلمان اروپا مقاله ای را منتشر کرد، (22 صفحه PDF)، تا همان‌طور که به‌طور خلاصه در مطبوعات توضیح داده شد، کمیسیون را تشویق کند به وضعیت قانونی روبات ها رسیدگی کند. این مقاله شامل بخش‌هایی در رابطه با مسئولیت‌های قانونی ربات‌ها بود، که در آن مسئولیت‌ها متناسب با سطح استقلال روبات‌ها استدلال می‌شد. | ## بخش 2: اصول اخلاق ماشین | این مقاله همچنین تعداد مشاغلی را که می‌توان با ربات‌های هوش مصنوعی جایگزین کرد، زیر سؤال برد. «این موضوع شامل مقالاتی است که عوامل اخلاقی ضمنی را توصیف می‌کند، جایی که ماشین‌ها برای اجتناب از نتایج غیراخلاقی طراحی شده‌اند، و همچنین عوامل اخلاقی صریح، یا ماشین‌هایی که یا کدگذاری می‌کنند یا اخلاقیات را یاد می‌گیرند و اعمال را بر اساس آن اخلاق تعیین می‌کنند». موضوعات مورد بحث در اصول اخلاق ماشینی مشکل کنترل هوش مصنوعی مقاله اصلی: خطر وجودی ناشی از هوش عمومی مصنوعی و مشکل کنترل هوش مصنوعی برخی از محققان، مانند نیک بوستروم فیلسوف و استوارت راسل ، محقق هوش مصنوعی، استدلال می‌کنند که اگر هوش مصنوعی از نظر هوش عمومی از بشریت پیشی بگیرد و به « فوق‌هوشمند » تبدیل شود، آنگاه این ابرهوش جدید می‌تواند قدرتمند و کنترل آن دشوار شود: همان‌طور که سرنوشت گوریل کوهی به حسن نیت انسان بستگی دارد، بنابراین ممکن است در آینده سرنوشت بشریت به اقدامات یک ابرهوش ماشینی بستگی داشته باشد. این مشکل کنترل هوش مصنوعی را نشان می‌دهد: چگونه یک عامل هوشمند بسازیم که به سازندگانش کمک کند، در حالی که از ساختن ناخواسته ابرهوشی که به سازندگانش آسیب می‌رساند، خودداری کنیم. خطر طراحی نکردن کنترل درست "در اولین بار" این است که یک ابر هوش ممکن است بتواند بر محیط خود چیره گشته و از خاموش کردن آن توسط انسان ها جلوگیری کند. استراتژی‌های بالقوه کنترل هوش مصنوعی شامل «کنترل قابلیت» (محدود کردن توانایی هوش مصنوعی برای تأثیرگذاری بر جهان) و «کنترل انگیزشی» (یکی از راه‌های ساخت یک هوش مصنوعی که اهداف آن با ارزش‌های انسانی یا بهینه همسو هستند). تعدادی سازمان در حال تحقیق در مورد مشکل کنترل هوش مصنوعی هستند، از جمله موسسه آینده بشریت، موسسه تحقیقات هوش ماشینی، مرکز هوش مصنوعی سازگار با انسان، و موسسه آینده زندگی. الگوریتم و آموزش نمونه های هوش مصنوعی، به ویژه کارآمدی و تعصب آنها مورد بحث قرار گرفته است. در مقابل، کریس سانتوس لنگ به نفع شبکه‌های عصبی و الگوریتم‌های ژنتیک استدلال کرده است، بر این اساس که هنجارهای هر عصری باید اجازه تغییر داشته باشند و اینکه شکست طبیعی در برآورده کردن کامل این هنجارهای خاص برای آسیب‌پذیری کمتر انسان‌ها ضروری است. در طول آزمایش، ربات‌ها در گروه‌هایی دسته‌بندی شدند و کد ژنتیکی اعضای موفق برای نسل بعدی، نوعی الگوریتم به نام الگوریتم ژنتیک، مورد استفاده قرار گرفت. پس از 50 نسل متوالی در هوش مصنوعی، اعضای یک قبیله کشف کردند که چگونه منبع مفید را از منبع سمی تشخیص دهند. در همین آزمایش، همان روبات‌ها رفتار فداکارانه را یاد گرفتند و خطر را به ربات‌های دیگر نشان دادند و برای نجات روبات‌های دیگر جان خود را از دست دادند. در این آزمایش، اهداف ربات‌ها به‌صورت «نهایی-پایان پذیر» برنامه‌ریزی شده بود، اما انگیزه‌های انسانی معمولاً نیازمند یادگیری بی‌پایان است. سیستم های تسلیحاتی خودمختار مقاله اصلی: اسلحه کشنده خودمختار پیشنهاد: Slaughterbots در سال 2009، دانشگاهیان و کارشناسان فنی در کنفرانسی شرکت کردند تا در مورد تأثیر بالقوه روبات‌ها و رایانه‌ها و تأثیر این امکان که آنها می‌توانند خودکفا شوند و بتوانند تصمیم‌گیری کنند، بحث کنند. آنها در مورد اینکه کامپیوترها و روبات ها تا چه حد ممکن است استقلال داشته باشند و تا چه حد می توانند از آن برای ایجاد یک تهدید یا خطر استفاده کنند، بحث کردند. آنها همچنین خاطرنشان کردند که برخی از ویروس های رایانه ای می توانند از حذف شدن طفره بروند و به "هوش سوسک" دست یافته اند. آنها خاطرنشان کردند که خودآگاهی همان‌طور که در داستان های علمی تخیلی به تصویر کشیده شده است احتمالا بعید است، اما خطرات و دام های بالقوه دیگری نیز وجود دارد. برخی از کارشناسان و دانشگاهیان استفاده از روبات‌ها در نبردهای نظامی، به‌ویژه روبات‌هایی با درجه‌ای از خودمختاری را مورد تردید قرار داده‌اند. نیروی دریایی ایالات متحده گزارشی را تأمین مالی کرد که نشان می‌دهد با پیچیده‌تر شدن روبات‌های نظامی، ما باید توجه بیشتری به پیامدهای توانایی آنها در تصمیم‌گیری مستقل داشته باشیم. ادغام هوش مصنوعی جامع با جامعه کار مقدماتی بر روی روش‌های ادغام هوش مصنوعی جامع (عوامل اخلاقی کامل همان‌طور که در بالا تعریف شد) با چارچوب‌های قانونی و اجتماعی موجود انجام شده است. سوگیری یادگیری ماشینی اطلاعات بیشتر: Algorithmic bias الگوریتم‌های کلان داده و یادگیری ماشین در صنایع متعددی از جمله تبلیغات آنلاین، رتبه‌بندی اعتبار، و مجازات‌های کیفری با وعده ارائه نتایج عینی‌تر و مبتنی بر داده‌ها محبوب شده‌اند، اما به عنوان راهی بالقوه برای تداوم نابرابری‌های اجتماعی و تبعیض شناخته شده‌اند. یک مطالعه در سال 2015 نشان داد که زنان کمتر از مردان به آگهی های شغلی با درآمد بالا توسط AdSense گوگل نشان داده می شوند. مطالعه دیگری نشان داد که سرویس تحویل همان روز آمازون عمداً در محله‌های سیاه‌پوست از دسترس خارج شده است. گوگل و آمازون هر دو نتوانستند این نتایج را به یک مشکل مشترک مجزا کنند و گفتند که نتایج حاصل الگوریتم‌های جعبه سیاهی است که آنها استفاده می‌کنند. سیستم قضایی ایالات متحده استفاده از نرم‌افزار ارزیابی کمی ریسک را هنگام تصمیم گیری در مورد آزادی افراد به قید وثیقه و محکومیت در تلاش برای عادلانه تر بودن و کاهش میزان حبس آغاز کرده است. در مطالعه‌ای بر روی 7000 نفر دستگیر شده در شهرستان بروارد، فلوریدا، تنها 20 درصد از افرادی که پیش‌بینی می‌کردند با استفاده از سیستم امتیازدهی ارزیابی ریسک منطقه مرتکب جرم شوند، اقدام به ارتکاب جرم کردند. این گزارش نشان می دهد که تنها 61 درصد از افرادی که در معرض خطر تلقی می شوند در آن دوره مرتکب جرایم اضافی شده اند. این گزارش همچنین نشان داد که متهمان آفریقایی-آمریکایی به مراتب بیشتر از همتایان سفیدپوست خود امتیازات پرخطر دریافت می کنند. استدلال شده است که چنین ارزیابی‌های ریسک پیش از محاکمه به دلیل عواملی از جمله قصد تبعیض آمیز احتمالی توسط خود الگوریتم، تحت تئوری ظرفیت قانونی جزئی برای هوش مصنوعی، حقوق حفاظت برابر را بر اساس نژاد نقض می‌کند. در سال 2016، گروه کاری کلان داده دولت اوباما - ناظر چارچوب‌های نظارتی مختلف داده‌های بزرگ - گزارش‌هایی را منتشر کرد که هشدار می‌داد «پتانسیل رمزگذاری تبعیض در تصمیم‌گیری‌های خودکار» و خواستار «فرصت برابر با طراحی» برای برنامه‌هایی مانند امتیازدهی اعتباری. این گزارش ها گفتمان را در میان سیاست گذاران، شهروندان و دانشگاهیان به‌طور یکسان تشویق می کند، اما تشخیص می دهد که هنوز راه حلی برای رمزگذاری تعصب و تبعیض در سیستم های الگوریتمی وجود ندارد. | ## بخش 3: اصول اخلاق ماشین | چارچوب ها و شیوه های اخلاقی روشها در مارس 2018، در تلاش برای رسیدگی به نگرانی‌های فزاینده در مورد تأثیر یادگیری ماشینی بر حقوق بشر، مجمع جهانی اقتصاد و شورای آینده جهانی حقوق بشر مقاله سفیدی را با توصیه‌های دقیق درباره بهترین روش برای جلوگیری از نتایج تبعیض‌آمیز در یادگیری ماشین منتشر کردند. مجمع جهانی اقتصاد چهار توصیه را بر اساس اصول راهنمای حقوق بشر سازمان ملل برای کمک به رسیدگی و جلوگیری از نتایج تبعیض آمیز در یادگیری ماشین ارائه کرد: شمول فعال: توسعه و طراحی برنامه های کاربردی یادگیری ماشینی باید به‌طور فعال به دنبال تنوع ورودی، به ویژه هنجارها و ارزش های جمعیت های متأثر از خروجی سیستم های هوش مصنوعی باشد. عدالت: افرادی که در مفهوم‌سازی، توسعه و پیاده‌سازی سیستم‌های یادگیری ماشین دخالت دارند، باید در نظر داشته باشند که کدام تعریف از انصاف در زمینه و کاربرد آن‌ها بهترین کاربرد دارد و آن را در معیارهای معماری و ارزیابی سیستم یادگیری ماشین اولویت‌بندی کنند. حق درک: مشارکت سیستم‌های یادگیری ماشین در تصمیم‌گیری که بر حقوق فردی تأثیر می‌گذارد باید افشا شود و سیستم‌ها باید بتوانند تصمیم‌گیری خود را به گونه‌ای توضیح دهند که برای کاربران نهایی قابل درک باشد و توسط یک مقام انسانی صالح قابل بررسی باشد. در مواردی که این غیرممکن است و حقوق در خطر است، رهبران در طراحی، استقرار و تنظیم فناوری یادگیری ماشین باید در مورد استفاده از آن سؤال کنند. دسترسی به جبران خسارت: رهبران، طراحان و توسعه دهندگان سیستم های یادگیری ماشینی مسئول شناسایی تأثیرات بالقوه منفی حقوق بشر سیستم های خود هستند. آنها باید راه های قابل مشاهده ای را برای جبران خسارت برای کسانی که تحت تأثیر تأثیرات متفاوت قرار گرفته اند ایجاد کنند و فرایندهایی را برای جبران به موقع هرگونه خروجی تبعیض آمیز ایجاد کنند. در ژانویه 2020، مرکز اینترنت و جامعه برکمن کلاین دانشگاه هاروارد یک مطالعه متا از 36 مجموعه اصول برجسته برای هوش مصنوعی منتشر کرد که هشت موضوع کلیدی را شناسایی کرد: حریم خصوصی، مسئولیت پذیری، ایمنی و امنیت، شفافیت و توصیف پذیری، انصاف و عدم تبعیض، کنترل انسان بر فناوری، مسئولیت حرفه ای و ارتقای ارزش های انسانی. محققان مؤسسه فناوری فدرال سوئیس در زوریخ مطالعه متا مشابهی را در سال 2019 انجام دادند. رویکردها تلاش‌های متعددی برای قابل محاسبه کردن یا حداقل رسمی کردن اخلاق صورت گرفته است. سه قانون رباتیک آیزاک آسیموف معمولاً برای یک عامل اخلاقی مصنوعی مناسب در نظر گرفته نمی‌شود، اما اینکه آیا می‌توان از دستور مقوله‌ای کانت استفاده کرد، مطالعه شده است. راهی برای غلبه بر این دشواری این است که ارزش‌های انسانی را مستقیماً از طریق مکانیسمی دریافت کنیم، مثلاً با یادگیری آنها. رویکرد دیگر این است که ملاحظات اخلاقی فعلی را بر موقعیت های مشابه قبلی قرار دهیم. اجماع حاصل از یک میلیون تصمیم گذشته منجر به تصمیم جدیدی می شود که وابسته به دموکراسی است بروس ام. مک لارن یک مدل محاسباتی اولیه (اواسط دهه 1990) از casuistry ساخت، برنامه ای به نام SIROCCO که با هوش مصنوعی و تکنیک های استدلال مبتنی بر موردی ساخته شده بود که معضلات اخلاقی را بازیابی و تحلیل می کند. اما این رویکرد می تواند منجر به تصمیماتی شود که منعکس کننده سوگیری ها و رفتار غیراخلاقی جامعه است. اثرات منفی این رویکرد را می توان در مایکروسافت تای دید، یک ربات سخنگو که یاد گرفت توییت های نژادپرستانه و جنسی را تکرار کند. یک آزمایش فکری بر روی یک جن گولم با قدرت های نامحدود تمرکز دارد که خود را به خواننده نشان می دهد. این جن اعلام می‌کند که 50 سال دیگر بازخواهد گشت و خواستار آن است که مجموعه‌ای از اخلاقیات مشخص برایش فراهم شود و بلافاصله به آن عمل خواهد کرد. هدف این آزمایش برانگیختن گفتمان در مورد اینکه چگونه می‌توان مجموعه‌هایی از اصول اخلاقی را که رایانه‌ها ممکن است درک کنند، به بهترین شکل مدیریت کرد. برخی از کارهای اخیر تلاش می‌کنند تا اخلاق هوش مصنوعی را بازسازی کنند و کنترل را به‌عنوان یک مشکل رقابت متقابل بین هوش مصنوعی به‌عنوان یک ذهنیت فوکویی از یک سو و انسان‌ها یا نهادها از سوی دیگر، همه در یک دستگاه انضباطی، بازسازی کنند. خواسته‌های خاصی باید برآورده شوند: مراقبت از خود تجسم یافته، نیت تجسم یافته، تخیل و انعکاس، که با هم ظهور هوش مصنوعی را به عنوان یک موضوع اخلاقی که قادر به انجام خود رفتاری است، مشروط می‌کند. در آثار تخیلی در داستان های علمی تخیلی، فیلم ها و رمان ها به ایده ماشین ها و ربات های دارای عاطفه پرداخته شده است. فیلم Chappie محصول 2015 میلادی اثر نیل بلومکمپ سناریویی را ارائه می کند که می تواند آگاهی خود را به رایانه منتقل کند. فیلم Ex Machina محصول 2014 میلادی و ساخته الکس گارلند ماجرای یک ربات اندرویدی با هوش مصنوعی را دنبال می‌کند که تحت آزمایش تورینگ قرار می‌گیرد، آزمایشی که بر روی یک ماشین انجام می‌شود تا ببیند آیا رفتار آن را می‌توان از رفتار انسان متمایز کرد. به اصرار ویراستار خود جان دبلیو کمپبل جونیور، او سه قانون رباتیک را برای اداره سیستم های هوشمند مصنوعی پیشنهاد کرد. بسیاری از کارهای او صرف آزمایش مرزهای سه قانون او شد تا ببیند که کجا شکسته می شوند یا رفتار متناقض یا پیش بینی نشده ای ایجاد می کنند. کار او نشان می دهد که هیچ مجموعه ای از قوانین ثابت نمی تواند به اندازه کافی همه شرایط ممکن را پیش بینی کند. رمان فیلیپ کی دیک در سال 1968با عنوانِ آیا آدم‌مصنوعی‌ها خواب گوسفند برقی می‌بینند؟ | ## جمع‌بندی | او در سناریوی پسا آخرالزمانی خود، این سؤال را مطرح می کند که آیا همدلی یک ویژگی کاملاً انسانی است یا خیر.