پیش‌نویس:هوش مصنوعی و ارتقای اخلاقی

هوش مصنوعی و ارتقای اخلاقی (به انگلیسی: Artificial intelligence and moral enhancement) شامل به‌کارگیری هوش مصنوعی برای بهبود استدلال اخلاقی و تسریع پیشرفت اخلاقی است.Lara, Francisco; Deckers, Jan (2020). "Artificial Intelligence as a Socratic Assistant for Moral Enhancement". Neuroethics. 13 (3): 275– 287.

 استدلال اخلاقی مصنوعی 
در رابطه با استدلال اخلاقی، برخی از صاحب‌نظران انسان‌ها را پردازشگران اطلاعات، داوران اخلاقی و عاملان اخلاقی غیربهینه می‌دانند.Giubilini, Alberto; Savulescu, Julian (2018). "The Artificial Moral Advisor: The "Ideal Observer" Meets Artificial Intelligence". Philosophy & Technology. 31 (2): 169– 188. به دلیل استرس یا محدودیت‌های زمانی، افراد اغلب در در نظر گرفتن تمام عوامل و اطلاعات مرتبط لازم برای انجام قضاوت‌های اخلاقی مستدل شکست می‌خورند؛ همچنین انسان‌ها فاقد ثبات بوده و مستعد سوگیری هستند.

 نظریه ناظر ایدئال 
نظریه ناظر ایدئال کلاسیک، یک نظریه فرااخلاقی درباره معنای گزاره‌های اخلاقی است.Firth, Roderick (March 1952). "Ethical Absolutism and the Ideal Observer". Philosophy and Phenomenological Research. 12 (3): 317– 345. این نظریه معتقد است که یک گزاره اخلاقی، هر گزاره‌ای است که یک «ناظر ایدئال» به روشی خاص به آن واکنش نشان دهد. یک ناظر ایدئال به این صورت تعریف می‌شود:

 (۱) نسبت به حقایق غیر اخلاقی عالمِ مطلق است
 (۲) همه‌جانبه‌نگر (Omnipercipient) است
 (۳) بی‌طرف است
 (۴) فاقد احساسات (Dispassionate) است
 (۵) ثابت‌قدم است
 (۶) در تمام جنبه‌های دیگر عادی است.

آدام اسمیت و دیوید هیوم از نسخه‌هایی از نظریه ناظر ایدئال حمایت کردند و رودریک فرث نسخه پیشرفته‌تر و مدرن‌تری از آن را ارائه داد. یک ایده مشابه در حقوق، معیار «شخص معقول» است. مشاوران اخلاقی مصنوعی را می‌توان با ناظران ایدئال مقایسه و مقابله کرد. ناظران ایدئال باید نسبت به حقایق غیر اخلاقی عالم مطلق و همه‌جانبه‌نگر باشند، در حالی که مشاوران اخلاقی مصنوعی تنها نیاز دارند حقایق مرتبط با اخلاق را که مربوط به یک تصمیم خاص است، بدانند.

 ارتقای جامع در برابر ارتقای کمکی 
ارتقای جامع (Exhaustive enhancement) شامل سناریوهایی است که در آن تصمیم‌گیری اخلاقی انسان جایگزین شده و به طور کامل به ماشین‌ها واگذار می‌شود.Volkman, Richard; Gabriels, Katleen (2023). "AI Moral Enhancement: Upgrading the Socio-Technical System of Moral Engagement". Science and Engineering Ethics. 29 (2): 11. برخی از حامیان، ماشین‌ها را از نظر اخلاقی برتر از انسان می‌دانند و معتقدند که صرفاً انجام آنچه ماشین‌ها می‌گویند، به منزله بهبود اخلاقی خواهد بود.

مخالفان ارتقای جامع، پنج نگرانی اصلی را مطرح می‌کنند:

 وجود پلورالیسم (تکثرگرایی) ممکن است دستیابی به اجماع برای ساخت یا آموزش سیستم‌ها را پیچیده کند.
 حتی در صورت دستیابی به اجماع، ممکن است به دلیل محدودیت‌های انسانی یا غیرانسانی، سیستم‌های خوبی ساخته نشوند.
 سیستم‌های حاصل ممکن است قادر به اتخاذ تصمیمات اخلاقی مستقل نباشند.
 پیشرفت اخلاقی ممکن است با مانع مواجه شود.
 این امر می‌تواند به معنای مرگ اخلاق باشد.

وابستگی به سیستم‌های هوش مصنوعی برای انجام استدلال اخلاقی، نه تنها از پرورش فضیلت‌های اخلاقی غفلت می‌کند، بلکه به طور فعال آن را تضعیف کرده و افراد را در معرض خطراتی چون کناره‌گیری، تحلیل رفتن قوای انسانی و دستکاری اخلاقی توسط سیستم‌ها قرار می‌دهد.

ارتقای کمکی (Auxiliary enhancement) به این نگرانی‌ها پاسخ می‌دهد و شامل سناریوهایی است که در آن ماشین‌ها تصمیم‌گیری انسانی را تقویت یا تکمیل می‌کنند. دستیارهای هوش مصنوعی ابزارهایی خواهند بود که به افراد کمک می‌کنند تا تعهدات اخلاقی خود را شفاف کنند در حالی که همزمان توضیحات و استدلال‌هایی برای نتایج ارائه می‌دهند؛ با این حال، تصمیم‌گیری نهایی بر عهده کاربران انسانی خواهد بود.

برخی از حامیان ارتقای کمکی همچنین از فناوری‌های آموزشی حمایت می‌کنند که استدلال اخلاقی را آموزش می‌دهند (مثلاً دستیارهایی که از روش سقراطی استفاده می‌کنند).

 جستارهای وابسته 

 تراز کردن هوش مصنوعی
 هوش مصنوعی
 تصمیم‌گیری خودکار
 سیستم پشتیبانی تصمیم‌گیری
 سیستم آموزشی هوشمند
 اخلاق ماشین
 استدلال اخلاقی
 سیستم‌های چندعاملی
 ابرهوش

 منابع