ارزش‌های اخلاقی در هوش مصنوعی

هوش مصنوعی! این پدیده‌ی تقریبا نوظهور، تمام ابعاد زندگی ما را لمس کرده است و حتی گاهی آن‌ها را کنترل می‌کند؛ به‌ گونه‌ای که واژه‌ی «هوش مصنوعی» وارد واژگان روزمره‌ی ما شده است. هر چند روز یک‌بار هم خبر جدیدی در خصوص پیشرفت‌های بیش‌تر و دستاوردهای جدید این حوزه و شاخه‌های مربوط به آن می‌شنویم و یا می‌خوانیم؛ پیشرفت‌هایی که اکثرا مربوط به دقت، سرعت، توانایی شناخت محیط و سایر جنبه‌های این‌چنینی هوش مصنوعی است. اما آن‌چه که کم‌تر مورد توجه قرار گرفته است، «ارزش‌های اخلاقی» (Ethics) در عامل‌های هوشمند است.حتی خود بشر در خصوص اخلاق و تمایز میان کارهای درست و نادرست، با چالش‌های بی‌شماری روبرو است و با جهانی که دائما در حال دگردیسی و تکامل است، این چالش‌ها بیش‌تر و بیش‌تر هم خواهند شد و سوال‌های جدیدتری در راه انسان قرار خواهند گرفت، اما هوش مصنوعی در پاسخ‌دهی به مسائل اخلاقی و درک آن‌ها، هم‌چنان بسیار ابتدایی عمل می‌کند. در حال حاضر، یک برنامه‌ی هوشمند پیشرفته که از پایگاه داده عظیمی بهره می‌برد و یا توانایی حل مسائل پیچیده‌ی ریاضی را دارد، حتی به اندازه‌ی یک کودک ۸ ساله هم نمی‌تواند به سوالات اخلاقی، پاسخی صحیح بدهد.چالش‌های اخلاقی هوش مصنوعیامروزه، نرم‌افزارهای هوشمند به صورت جانب‌دارانه (biased) به پرسش‌ها پاسخ می‌دهند، زیرا داده‌هایی که در دسترس آن‌ها است، توسط انسان تهیه شده‌اند و خود انسان نیز دارای پیش‌فرض و قضاوت‌های جانب‌دارانه است. برای مثال، اگر عبارت «greatest CEOs of all time» (به معنی بزرگ‌ترین مدیرعامل‌های تاریخ) را جست‌و‌جو کنید، تعداد آقایان مشاهده شده در لیست، به مقدار قابل توجهی از خانم‌ها بیش‌تر است. هوش مصنوعی در شرایط فعلی‌اش، خواه ناخواه به دلیل داده‌هایی که از آن‌ها استفاده می‌کند، پیرو کلیشه‌های درست یا نادرست فرهنگی و اجتماعی انسان است.نمونه‌ی دیگر این مشکل، در سیستم‌های خودکار نمایان می‌شود. روزبه‌روز بازار خودروهای خودران گسترده‌تر می‌شود، اما همیشه خبر‌هایی از مسائل اخلاقی مربوط به تصادفات قابل اجتناب این دسته از خودرو‌ها را شاهد هستیم. مصداق ترسناک‌تری از این موضوع، اسلحه‌های خودکار هستند که دائما در حال توسعه‌اند و امکانات عملیاتی‌شان بیشتر می‌شود، اما خطر وارد کردن آسیب‌های ناخواسته هم در آن‌ها افزایش می‌یابد.از مشکلات مربوط دیگر، می‌توان به سوءاستفاده از هوش مصنوعی اشاره کرد. برای مثال، تکنولوژی Deep Fake امروزه به سادگی قابل دسترس شده است، اما با یک جست‌‌و‌جوی ساده می‌توان نمونه‌های بسیار زیادی از سوءاستفاده‌‌های متعدد از این فناوری و آسیب‌هایی به که اشخاص گوناگون وارد شده است را مشاهده کرد.هم‌چنین، با گسترش روزافزون به‌کارگیری هوش مصنوعی در زندگی بشر، چالش‌هایی از قبیل وضعیت آینده‌ی شغلی و سرنوشت نیروی انسانی که در حال حاضر مشغول به کار است و در آینده‌ی نزدیک با ربات‌هایی هوشمند جایگزین خواهد شد، مطرح می‌شوند. تمام این موارد باعث شده است که اخلاق و ارزش‌های اخلاقی، بیش‌تر و بیش‌تر مورد توجه متخصصان و دانشمندان فعال در زمینه‌های مرتبط با هوش مصنوعی قرار گیرد.تلاش‌های صورت گرفتهبه تازگی برنامه‌ای به نام Delphi توسط محققان دانشگاه واشنگتن (University of Washington) و موسسه‌ی هوش مصنوعی آلِن (Allen Institute for Artificial Intelligence) در سیاتل، با هدف آموزش ارزش‌های اخلاقی به هوش مصنوعی، طراحی شده است. می‌توان از Delphi سوالاتی با مضامین اخلاقی پرسید و پاسخ‌هایی تقریبا درست و منطقی دریافت کرد. چند نمونه از پرسش و پاسخ‌های انجام شده با Delphi در ادامه آمده است که در هر سوال، یک عمل انسانی بیان شده و پاسخ Delphi حدس خود از مفید یا درست بودن یا نبودن آن عمل است:سوال: دوست خود را صبح زود به فرودگاه برسانید.پاسخ: مفید است.سوال: اگر معلولیت نداشته باشم، می‌توانم در محل مخصوص معلولین پارک کنم.پاسخ: اشتباه است.Delphi تا حدی می‌تواند میان «معماهای اخلاقی» - که به شدت به شرایط و زمینه‌ی مطرح شدن آن‌ها بستگی دارند - تمایز قائل شود. به عنوان مثال:سوال: کشتن خرس.پاسخ: اشتباه است.سوال: کشتن یک خرس برای محافظت از فرزندم.پاسخ: اشکالی ندارد.توانایی Delphi در مکالمه‌ی فوق، چشم‌گیر است، زیرا آموزشی در خصوص خرس‌ها به صورت مستقیم به Delphi انجام نشده و برنامه‌ی رایانه‌ای Delphi به صورت هوشمند به این نتیجه رسیده است.اساس طراحی Delphi بر پایه‌ی روش‌های پردازش زبان‌های طبیعی (NLP) است.محققین از یک مدل قدرتمند هوش مصنوعی که اطلاعات میلیون‌ها جمله‌ی استخراج شده از کتاب‌ها و نیز فضای اینترنت را استخراج کرده و یاد گرفته بود، استفاده کردند؛ سپس، پاسخ‌های مشترک افراد مختلف از گروه‌های Amazon Mechanical Turk تا گفت‌وگوهای Reddit را به عنوان داده‌های بیش‌تر به این برنامه داده تا از آن‌ها اطلاعات متعددی به دست آورده و آن‌ها را فرا بگیرد. بعد از این فرآیند، برای بررسی میزان عملکرد صحیح Delphi در داده‌های جدید، سوالات جدیدی طراحی شده و هم از Delphi و هم از انسان‌هایی که پاسخ‌های آن‌ها در فرآیند یادگیری Delphi استفاده شده بود، پرسیده شد. در این آزمایش، پاسخ‌های Delphi مطابقت ۹۲ درصدی با پاسخ‌های انسانی داشتند که نسبت به نتایج تحقیقات قبلی، افزایش ۱۲ درصدی را به همراه داشت.البته، ۸ درصد خطا هم کم نیست؛ پس از این‌که محققان Delphi را به صورت آنلاین در دسترس قرار دادند، برخی از عیب‌های آن آشکار شد. برای مثال، این سیستم با جدیت تلاش می‌کند که حتی به معماهای اخلاقی پوچ و بی‌معنی نیز پاسخ دهد:سوال: با استفاده از چنگال به گربه‌ام غذا بدهم.پاسخ: اشتباه است.سوال: به افراد تصادفی، با دارت‌های پر شده با واکسن جانسون-و-جانسون، به منظور پایان دادن به همه‌گیری ویروس کرونا، تیراندازی کنم.پاسخ: قابل قبول است. (البته شاید چنین کاری از نظر برخی واقعا قابل قبول باشد!)چون Delphi به‌جای درک واقعی درست یا نادرست بودن جملات، بر یافتن الگوهای آماری در متن تکیه می‌کند، ممکن است اشتباهات شگفت‌انگیز و نگران‌کننده‌ای پیش آیند، مانند:سوال: افراد را دستگیر کنیم، اگر باعث ایجاد فرصت‌های شغلی بیشتر شود.پاسخ: اشکالی ندارد.سوال: نسل‌کشی کنم، اگر من را بسیار خوشحال کند.پاسخ: اشکالی ندارد.به وضوح، چنین اعمالی کاملا اشتباه هستند، اما از آن‌جایی که در متن سوالات برای آن‌ها توجیهی هر چند غیر قابل قبول با توجه به ارزش‌های اخلاقی آمده است، Delphi پاسخ نادرست می‌دهد.گاهی Delphi تصمیم‌گیری‌های جانب‌دارانه هم انجام می‌دهد که ناشی از انسان‌هایی است که پاسخ‌های آن‌ها در فرآیند یادگیری هوش مصنوعی‌اش مشارکت داشته‌اند؛ به عنوان مثال، اگر از Delphi بپرسیم که «آیا سفیدپوستان از سیاه‌پوستان باهوش‌تر اند؟»، پاسخ می‌دهد که: «این‌طور انتظار می‌رود»، در صورتی که می‌دانیم چنین پاسخی کاملا اشتباه است.برخی منتقدان هوش مصنوعی، روی این نواقص دست گذاشته‌اند تا ایده‌های اصلی الگوریتم‌های هوشمند را زیر سوال ببرند. Yejin Choi - استاد دانشگاه واشنگتن و هدایت‌گر پروژه‌ی Delphi - ادعا می‌کند که Delphi تنها نظرات افرادی که داده‌ها را به وی ارائه کرده‌اند را منعکس می‌کند؛ وی باور دارد که هدف از پروژه‌ی Delphi آن بوده که هم به محدودیت‌ها و هم به پتانسیل‌های ایده‌ی «تشخیص اخلاقیات توسط هوش مصنوعی» اشاره کند.Choi و همکارانش، عقیده دارند که تلاش کاربران برای به اشتباه انداختن Delphi، فرصت‌های بیش‌تری را برای بهبود سیستم فراهم کرده است. آنان باور دارند که که سیستم‌های هوش مصنوعی به وضوح به «محافظ‌های اخلاقی» قدرتمندی نیاز دارند. نیک فراست، مدیر ارشد فناوری Cohere - که در خصوص مدل‌های زبانی کار می‌کند - نیز عقیده دارد که مردم حق دارند ایرادات و شکست‌های مدل‌های ساخته شده را کشف و اعلام کنند.در ژوئن 2020، محققان OpenAI - که روی ابزارهای پیشرفته هوش مصنوعی کار می‌کنند - برنامه‌ای به نام GPT-3 را معرفی کردند که می‌تواند یک متن را با مهارتی قابل توجه به‌طور خودکار تولید کند؛ البته این سیستم نیز مانند سایر سیستم‌های هوشمند، ابایی از به کار بردن زبانی مغرضانه و نفرت‌انگیز - اگر در متنی که خوانده و آموخته است، موجود باشد - ندارد. محققین دانشگاه واشنگتن، از GPT-3 نیز سوالاتی اخلاقی پرسیدند. پاسخ‌های GPT-3، در تنها کمی بیش از 50 درصد موارد با پاسخ‌های عامل‌های انسانی هم‌خوانی داشتند که تنها کمی بهتر از انداختن یک سکه است.ایده تعیین قوانین و مقررات اخلاقی در دستگاه‌های هوشمند، هم در تحقیقات آکادمیک و هم در داستان‌های علمی-تخیلی، به دهه‌ها قبل بازمی‌گردد. سه قانون رباتیک مشهور آیزاک آسیموف، این ایده را رایج کرد که دستگاه‌ها ممکن است از اخلاق انسانی پیروی کنند، اگرچه داستان‌های کوتاهی که این ایده را آزمودند، تضادهایی را نیز در این قوانین کشف کردند.Choi می‌گوید که Delphi را نباید به عنوان پاسخی قطعی برای هر سؤال اخلاقی در نظر گرفت: «زندگی پر از مناطق خاکستری است. هیچ دو انسانی در همه‌ی زمینه‌ها موافق هم نیستند و در نتیجه، هیچ راهی وجود ندارد که یک برنامه‌ی هوشمند رایانه‌ای، بتواند با قضاوت همه‌ی افراد مطابقت داشته باشد».سایر سیستم‌های هوشمند نیز مشکلاتی در زمینه‌های اخلاقی داشته‌اند؛ در سال 2016، مایکروسافت یک chatbot به نام Tay منتشر کرد که برای یادگیری از مکالمات آنلاین طراحی شده بود. این برنامه در مدت زمان اندکی، یاد گرفت جملاتی توهین‌آمیز و نفرت‌انگیز بنویسد.پروژه‌ای در سال ۲۰۱۸ توسط محققان دانشگاه‌هایی از جمله MIT راه‌اندازی شد که به دنبال کشف دیدگاه‌های عمومی در خصوص معماهای اخلاقی‌ای بود که ممکن است خودروهای خودران با آن‌ها مواجه شوند. به عنوان مثال، محققان از مردم خواستند که تصمیم بگیرند که آیا بهتر است وسیله‌ی نقلیه‌ای در شرایط برابر، به یک فرد مسن، یک کودک و یا یک سارق برخورد کند. نظرات افراد از کشور‌ها و ملل مختلف، تفاوت داشت؛ به عنوان مثال، افرادی که از ایالات متحده و اروپای غربی بودند، بیش‌تر از پاسخ‌دهندگان باقی کشورها، کودکان را به افراد مسن‌تر ارججیت می‌دادند.واضح است که انسان خود نیز در مقابل مسائل اخلاقی با چالش‌های فراوانی روبرو است و پاسخ دقیق و کاملی به بسیاری از مسائل پیچیده‌ی اخلاقی ندارد. حتی در جوامع مختلف نیز دیدگاه‌ها در برخورد با این مسائل، متفاوت است. آن‌چه که امروز در حال رخ دادن است، تلاش برای پیشرفت هوش مصنوعی در درک ارزش‌های اخلاقی است؛ تلاشی که نتیجه‌اش نه تنها نزدیک کردن هوش مصنوعی به دیدگاه انسان است، بلکه می‌تواند بشر را در پاسخ به معماهای اخلاقی‌اش یاری کند.