اصول اخلاق ماشین

این مقاله درحال ترجمه است، لطفا آنرا حذف نکنید!!!  

اصول اخلاق ماشین (یا سیرت ماشین ، اخلاق محاسباتی یا  اصول اخلاق محاسباتی ) بخشی از اصول اخلاق هوش مصنوعی است که به افزودن یا تضمین رفتارهای اخلاقی ماشین‌های ساخت بشر( در صورتی‌که این ماشین‌ها رفتارهای اخلاقی نداشته باشند، به عنوان عامل‌های هوشمندِ مصنوعی  شناخته می‌شوند) که از هوش مصنوعی استفاده می‌کنند مربوط می‌شود. اصول اخلاق ماشینی با اصول اخلاقی دیگر شاخه‌های مربوط به مهندسی و فناوری متفاوت است. اصول اخلاق ماشینی را نباید با اصول اخلاق کامپیوتری که مربوط به استفاده انسان از کامپیوتر است، اشتباه گرفت. همچنین باید متمایز از فلسفه فناوری، که به اثرات اجتماعی بزرگتر فناوری مربوط است، در نظر گرفته شود.

تاریخچه 
پیش از قرن ۲۱، اخلاق ماشین‌ها عمدتاً به دلیل محدودیت‌های محاسباتی و هوش مصنوعی (AI) موضوع ادبیات علمی تخیلی بود. با وجود اینکه تعریف «اخلاق ماشین» از آن زمان به بعد تکامل یافته است؛ این اصطلاح توسط میچل والدراپ در مقاله‌ای در مجله هوش مصنوعی در سال 1987 با عنوان «A Question of Responsibility » ابداع شد:"با این حال، از بحث فوق آشکار است که ماشین‌های هوشمند مستقل از خواست و اراده برنامه نویسانشان، مقادیر، مفروضات و اهداف را در خود نگه‌می‌دارند. به این ترتیب با ارتقای هوشمندی کامپیوترها و ربات‌ها، ضروری است که به دقت و صراحت در مورد این‌که این مقادیر درونی چه باشند،بیندیشیم.  مطابق با روح سه قانون روباتیک از آسیموف، شاید آنچه ما به آن نیاز داریم، در واقع، نظریه و عملی از اصول اخلاق ماشینی باشد،. "در سال 2004،  در کارگاه «AAAI در مورد سازمان های عامل: تئوری و عمل»  ،  مقاله "به سوی اصول اخلاق ماشینی" ارائه شد که در آن مبانی نظری برای اصول اخلاق ماشینی مطرح شد.

محققان در سمپوزیوم پاییز 2005 AAAI، در مورد اصول اخلاق ماشینی، برای اولین بار گرد هم آمدند تا اجرای یک بعد اصول اخلاقی در سیستم های مستقل را بررسی کنند.  دیدگاه‌های متنوعی از این حوزه نوپا را می‌توان در نسخه گردآوری شده «اصول اخلاق ماشین» یافت.  این نسخه از سمپوزیوم پاییز 2005 AAAI در مورد اصول اخلاق ماشینی نشات می‌گیرد.

در سال 2007، مجله هوش مصنوعی مقاله « اصول اخلاق ماشین: ایجاد یک عامل هوشمند اخلاقی» را معرفی کرد. این مقاله در مورد  اهمیت اصول اخلاق ماشین، نیاز به ماشین هایی که از اصول اخلاقی به صراحت پیروی می‌کنند و چالش های پیش روی کسانی که روی اصول اخلاق ماشین کار می کنند، بود. همچنین نشان داد که ممکن است، حداقل در یک حوزه محدود، یک ماشین یک اصل اخلاقی را از نمونه هایی از قضاوت های اخلاقی انتزاع کند و از آن اصل برای هدایت رفتار خود استفاده کند.

در سال 2009، انتشارات دانشگاه آکسفورد ،کتاب ماشین‌های اخلاقی، آموزش درست از اشتباه روبات‌ها را منتشر کرد. انشارات دانشگاه آکسفورد این کتاب را با عنوان «اولین کتابی که چالش ساخت عامل‌های اخلاق‌مند مصنوعی را می‌آزماید و کاوش عمیق در ماهیت تصمیم‌گیری و اخلاق انسانی را بررسی می‌کند» تبلیغ کرد. این کتاب به حدود 450 منبع استناد کرد که حدود 100 مورد از آنها به سؤالات اصلی اخلاق ماشین پرداختند.

در سال 2011، انتشارات دانشگاه کمبریج مجموعه ای از مقالات در مورد اصول اخلاق ماشین را منتشر کرد که توسط مایکل و سوزان لی اندرسون ویرایش شده بود،  ایشان همچنین در سال 2006 یک شماره ویژه از سیستم های هوشمند IEEE را در مورد این موضوع ویرایش کرده‌اند.  این مجموعه شامل چالش های اضافه کردن اصول اخلاقی به ماشین ها است. 

در سال 2014، دفتر تحقیقات نیروی دریایی ایالات متحده اعلام کرد که 7.5 میلیون دلار کمک مالی را طی پنج سال به تحقیقات دانشگاهی اختصاص خواهد داد. این تحقیقات برای مطالعه سؤالات اصول اخلاق ماشینی که در مورد روبات‌های مستقل اعمال می‌شود،  و کتابابرهوش: مسیرها، خطرات و استراتژی‌ها از نیک بوستروم ، انجام می‌شود. کتاب  ابرهوش: مسیرها، خطرات و استراتژی‌ها، که اخلاق ماشینی را به عنوان «مهم‌ترین... مسئله‌ای که بشریت تاکنون با آن مواجه شده است» مطرح کرده‌است، در فهرست پرفروش‌ترین کتاب‌های علمی نیویورک تایمز جایگاه هفدهم را بدست آورد. 

در سال 2016، پارلمان اروپا مقاله ای را منتشر کرد،  (22 صفحه PDF)، تا همانطور که به طور خلاصه در مطبوعات توضیح داده شد، کمیسیون را تشویق کند به وضعیت قانونی روبات ها رسیدگی کند.  این مقاله شامل بخش‌هایی در رابطه با مسئولیت‌های قانونی ربات‌ها بود، که در آن مسئولیت‌ها متناسب با سطح استقلال روبات‌ها استدلال می‌شد. این مقاله همچنین تعداد مشاغلی را که می‌توان با ربات‌های هوش مصنوعی جایگزین کرد، زیر سوال برد.

تعاریف 
جیمز اچ مور ، یکی از نظریه پردازان پیشگام در زمینه اخلاق کامپیوتری ، چهار نوع ربات اخلاقی را تعریف می کند. مور به عنوان یک محقق گسترده در زمینه مطالعات فلسفه هوش مصنوعی ، فلسفه ذهن ، فلسفه علم و منطق ، ماشین ها را به عنوان عوامل موثر اخلاقی، عوامل اخلاقی ضمنی، عوامل اخلاقی صریح، یا عوامل اخلاقی کامل تعریف می کند. یک ماشین می تواند بیش از یک نوع عامل باشد. 

 عامل‌های موثر اخلاقی : این‌عامل‌ها، ماشینی‌هایی هستند که تأثیر اخلاقی (اکید) دارند، مستقل از این‌که از قبل تعیین شده باشد. در عین حال، این عوامل پتانسیل این را دارند که غیراخلاقی عمل کنند. مور مثالی فرضی به نام «عامل گودمن» می‌آورد که به نام فیلسوف نلسون گودمن نامگذاری شده است. عامل گودمن تاریخ‌ها را مقایسه می کند اما باگ هزاره را دارد. این اشکال ناشی از برنامه نویسانی است که تاریخ‌ها را تنها با دو رقم آخر سال نشان می دادند. بنابراین، تاریخ‌های فراتر از 2000 به طور گمراه کننده ای زودتر از تاریخ‌های اواخر قرن بیستم تلقی می شوند. بنابراین عامل گودمن قبل از سال 2000 یک عامل تأثیر اخلاقی و پس از آن یک عامل تأثیر غیراخلاقی بود.
 عامل‌های اخلاقی ضمنی : برای در نظر گرفتن ایمنی انسان، این عوامل به گونه‌ای برنامه‌ریزی شده‌اند که دارای یک فضیلت داخلی یا ایمن باشند. آنها ماهیت کاملاً اخلاقی ندارند، بلکه برای جلوگیری از نتایج غیراخلاقی برنامه ریزی شده اند.
 عامل‌های اخلاقی صریح : ماشین‌هایی هستند که می توانند سناریوها را پردازش کنند و بر اساس تصمیمات اخلاقی عمل کنند. این ماشین‌ها دارای الگوریتم‌هایی برای رفتار اخلاقی هستند.
 عامل‌های اخلاقی کامل : این ماشین‌ها شبیه به عامل‌های اخلاقی صریح هستند که قادر به تصمیم‌گیری اخلاقی هستند. با این حال، آنها همچنین دارای ویژگی های متافیزیکی انسانی هستند. (یعنی دارای اختیار یا اراده‌ آزاد ، خودآگاهی و قصدمندی هستند)

(به سیستم های مصنوعی و مسئولیت اخلاقی مراجعه کنید. )

موضوعات مورد بحث در اصول اخلاق ماشینی

مشکل کنترل هوش مصنوعی 
برخی از محققان، مانند نیک بوستروم فیلسوف و استوارت راسل ، محقق هوش مصنوعی، استدلال می‌کنند که اگر هوش مصنوعی از نظر هوش عمومی از بشریت پیشی بگیرد و به « فوق‌هوشمند » تبدیل شود، آنگاه این ابرهوش جدید می‌تواند قدرتمند و کنترل آن دشوار شود: همانطور که سرنوشت گوریل کوهی به حسن نیت انسان بستگی دارد، بنابراین ممکن است در آینده  سرنوشت بشریت به اقدامات یک ابرهوش ماشینی بستگی داشته باشد.  هر دو محقق در کتاب‌های مربوطه خود Superintelligence و Human Compatible اظهار می‌دارند که اگرچه در مورد آینده هوش مصنوعی ابهامات زیادی وجود دارد، خطر برای بشریت به اندازه‌ای بزرگ است که شایسته اقدامات قابل توجه در حال حاضر باشد.

این مشکل کنترل هوش مصنوعی را نشان می‌دهد: چگونه یک عامل هوشمند بسازیم که به سازندگانش کمک کند، در حالی که از ساختن ناخواسته ابرهوشی که به سازندگانش آسیب می‌رساند، خودداری کنیم. خطر طراحی نکردن کنترل درست "در اولین بار" این است که یک ابر هوش ممکن است بتواند بر محیط خود چیره گشته و از خاموش کردن آن توسط انسان ها جلوگیری کند. استراتژی‌های بالقوه کنترل هوش مصنوعی شامل «کنترل قابلیت» (محدود کردن توانایی هوش مصنوعی برای تأثیرگذاری بر جهان) و «کنترل انگیزشی» (یکی از راه‌های ساخت یک هوش مصنوعی که اهداف آن با ارزش‌های انسانی یا بهینه همسو هستند). تعدادی سازمان در حال تحقیق در مورد مشکل کنترل هوش مصنوعی هستند، از جمله موسسه آینده بشریت، موسسه تحقیقات هوش ماشینی ، مرکز هوش مصنوعی سازگار با انسان ، و موسسه آینده زندگی .

الگوریتم و آموزش

سیستم های تسلیحاتی خودمختار

ادغام هوش عمومی مصنوعی با جامعه

سوگیری یادگیری ماشینی

چارچوب ها و شیوه های اخلاقی

رویکردها

در داستان 

فلسفه هوش مصنوعی
اخلاق علم و فناوری
رایانش و جامعه
فلسفه اخلاق