در جستجوی AZ-5 هوش مصنوعی

دکمه اضطراری توقف راکتور چرنوبیلبه نقل از خبرگزاری رویترز در تاریخ 30 مارس 2023، ایلان ماسک و جمعی از خبرگان حوزه هوش مصنوعی، در نامه ای سرگشاده، خواستار توقف حداقل شش ماهه تمامی تحقیقات حوزه هوش مصنوعی در جهت ساخت مدل های قوی تری از GPT-4، که به تازگی توسط شرکت OpenAI منتشر شده هستند. در یادداشتی که اخیرا به قلم نویسنده روی ویرگول منتشر شد، به طور مختصر درمورد تاثیرات اقتصادی و تحولات بازار کار در پرتوی ظهور مدل های زبانی گسترده مثل GPT ها بحث شد. طبیعی است که با سرعت سرسام آور پیشروی فناوری های هوش مصنوعی و نبود نهاد یا استانداردی برای کنترل خروجی آنها، حتی پیشگامان حوزه تکنولوژی مثل ایلان ماسک و استیو وزنیاک (هم بنیان گذار اپل) احساس خطر کرده و در نامه ای، خواستار توقف توسعه بیشتر این فناوری شدند.این احساس خطر، نه بی دلیل است و نه غیر منطقی. در زمان نگارش این یادداشت (31 مارس 2023)، مدل های برپایه GPT به طور متن باز منتشر نشده و اطلاعات گسترده ای از نحوه Train و ساخت این مدل ها نیز منتشر نشده است. OpenAI، دلیل این موضوع را "رقابتی بودن زیاد" این حوزه اعلام کرده درحالی که طبق گفته وبسایت OpenAI، هدف اصلی این نهاد : "تولید هوش مصنوعی عمومی امنی است که به بشریت نفع برساند" هنوز بیانیه رسمی ای از جانب OpenAI در پاسخ به این نامه منتشر نشده است.اما ماسک و وزنیاک نماینده تمامی افراد نیستند. درمقابل آنها میتوان افرادی را مشاهده کرد که هرگونه توقف فعالیت های پژوهشی در این حوزه را به نوعی پاک کردن صورت مسئله میدانند. حرف این افراد این است که توقف این فعالیت ها شاید فرصتی به ما بدهد که در مسابقه انسان و ماشین، بتوانیم حداقل به شرایط مساوی برسیم و از پیشی گرفتن تکنولوژی برما، تا حدی که بر ما غلبه و ما را از رده خارج کند، جلوگیری کنیم، ولی این تنها راه پیش روی ما نیست.راه حل این طیف از افراد، برقراری تعادل میان مزیت ها و ریسک های هوش مصنوعی است. Andrew NG، از نام های آشنا در حوزه هوش مصنوعی، در تاریخ 29 مارس 2023، در رشته توییتی، ایده توقف 6 ماهه فعالیت های پژوهشی حوزه هوش مصنوعی را "ایده ای افتضاح" خواند و تنها راه عملی شدن این منع را دخالت دولت ها معرفی کرد و افزود که درصورت دخالت دولت ها، فضایی به شدت ضد نوآورانه به وجود آمده و ادامه هرگونه فعالیت را با مشکل مواجه میکند.شاید افرادی که در این طیف به موضع ماسک و وزنیاک نزدیک ترند، نکاتی که Andrew NG مطرح کرده را چندان باارزش نیابند، ولی نکات مهمی نیز در صحبت های او وجود دارد :دخالت دولت ها در امر پیشرفت تکنولوژی، این حوزه را با رکودی جدی مواجه خواهد کرد، زیرا بروکراسی های دولتی به هیچ وجه نمیتواند از نظر سرعت پردازش اطلاعات، با روند رشد تکنولوژی که لحظه به لحظه سریع تر می شود، رقابت کند.ضرورت وجود فرآیند های کنترلی برای پایش خروجی تولیدی توسط مدل های هوش مصنوعی یا محصولاتی که بر پایه این مدل ها تولید می شوند، دغدغه هردو انتهای طیف افراد است اما تفاوت اصلی آنها در نحوه مواجه با این مسئله و پیاده سازی آن است. افراد هم عقیده ماسک باور دارند که بهترین راه تثبیت نهادها و استانداردهای کنترلی لازم، این است که اول روند پیشرفت تکنولوژی را قطع کنیم و پس از آن به تنظیم این مقررات بپردازیم تا روند پیشرفت تکنولوژی، این مقررات را بی اعتبار نکنند، در حالی که افراد هم عقیده Andrew NG، به این باورند که میتوان همزمان هم روند تکنولوژی را داشت و هم استانداردهایی که خروجی های این روند را کنترل کنند.اگر بنابر پیگیری رویکردی مشابه آنچه ایلان ماسک و طرفداران او در سر دارند باشد، همیشه با این مسئله مواجه ایم که آیا منع کردن تکنولوژی از پیشرفت (اگر ممکن باشد) تنها راه جلوگیری از سلطه ماشین بر انسان است؟ آیا نمیتوانستیم با رویکردی ملایم تر و پویاتر، به همین هدف برسیم؟ آیا حاضر هستیم که هزینه ای که جلوگیری از روند پیشرفت تکنولوژی بر ما تحمیل میکند را متقبل شویم؟و اگر بنا باشد طبق صحبت های Andrew NG عمل کنیم، باید از خود بپرسیم که آیا توانایی این را داریم که همزمان با پیشرفت سریع فناوری، بتوانیم استاندارد های موثری جهت کنترل آن به وجود آوریم؟ آیا میتوانیم در طول زمان و به اقتضای روند پیشرفت، این استانداردها را تغییر داده و بهبود ببخشیم؟فرقی نمیکند که شما کدام طرف این طیف ایستاده باشید، وجود یک دکمه مشابه دکمه AZ-5 نیروگاه هسته ای چرنوبیل برای فناوری هوش مصنوعی، ضروری به نظر می رسد، چون کسی قادر به پیش بینی دقیق آینده نیست و وجود مکانیزمی برای کنترل یا در موارد خیلی حاد، توقف کلی آن، شرط عقل است. البته همه اینها، مشروط بر این است که این دکمه هرلحظه که فشرده شود، کار کند. AZ-5، آخرین امید اپراتورهای نیروگاه برای توقف فاجعه بود ولی وقتی آخرین امید نیز ناامید شود، فاجعه در انتظار خواهد بود.