دستیارهای آینده‌دار

درباره ChatGPTچندماه اخیر همه درباره ChatGPT حرف می‌زنند؛ پاسخ‌های دقیق و حساب‌شده‌اش به سوالات‌شان را با دیگران به اشتراک می‌گذارند، به اشتباه بچه‌گانه و ساده‌لوحانه‌اش می‌خندند، از خلاقیت ظاهری‌اش انگشت تحیر به دهان می‌برند و گاهی هم در عین حظ بردن از کارکرد انسان‌وارانه‌اش، به عنوان رقیبی که در آینده می‌تواند دست بالا را نسبت به آنها داشته باشد، چشم‌غره‌ای بهش می‌روند و زیر لب غرولندی می‌کنند. شاید کمی دیر شده باشد، اما به بهانه ترجمه مقاله چامسکی در نیویورک‌تایمز، گفتیم اول کمی درباره خود ChatGPT حرف بزنیم و بعد به زبان چامسکی علیه‌اش نفرت‌پراکنی کنیم.این چیست این؟ این چیست این؟ربات ChatGPT یک بات مکالمه براساس هوش مصنوعی است که توانایی پردازش زبان‌های انسانی و فهم و تحلیل آن را دارد و بر اساس همین فهم و درک می‌تواند با یک انسان مکالمه کند. این بات را موسسه OpenAI توسعه داده؛ موسسه‌ای تحقیقاتی که هدف خودش را اطمینان از مفید بودن هوش مصنوعی عمومی (Artificial general intelligence) برای همه انسان‌ها بیان کرده است.منظور از هوش مصنوعی عمومی، سیستم‌هایی‌ست که به‌طور جامعی از انسان‌ها با‌هوش‌تر بوده و به‌طور کلی هر کار فکری‌ای را که یک انسان قادر به انجام آن است می‌تواند اجرا کند. در مقابل هوش مصنوعی عمومی، هوش مصنوعی محدود قرار دارد. این نوع هوش مصنوعی، صرفا بر یک کارکرد خاص متمرکز است و فعالیتی متفاوت با فعالیت تعریف‌شده برای خودش را نمی‌تواند انجام دهد. به عنوان مثال هوش مصنوعی‌ای که برای یک بازی رایانه‌ای توسعه یافته، تنها قادر است در همان بازی رایانه‌ای نقش ایفا کند و برای کارکردهای دیگر، به کار نمی‌آید. سیستم ترجمه گوگل یا دستیار صوتی اپل نمونه‌های دیگری از سیستم‌های هوش مصنوعی محدود هستند.بخوان و یاد بگیرهر سیستم هوش مصنوعی، برای فعالیت نیاز به داده‌هایی دارد که براساس آنها و با شناخت الگوهای بین آنها، اصطلاحا آموزش ببیند و بعدا به کمک همین یادگیری و آموزش، داده‌های جدیدی را تولید کند. بات ChatGPT هم برای آنکه زبان انسان‌ها را متوجه شده و بتواند با آنها مکالمات معناداری را پیش ببرد، داده‌های زیادی را در یادگیری‌اش مورد استفاده قرار داده؛ از صفحات دانش‌نامه اینترنتی ویکی‌پدیا تا کتاب‌ها و نشریات علمی و گزارش‌های خبری موجود در اینترنت. البته این بات به داده‌های بعد از سال ۲۰۲۱ میلادی دسترسی نداشته است.این بات یک موتور جست‌وجو بین هزاران هزار منبع اطلاعاتی نیست که پاسخ سوال شما را بین آنها جست‌وجو کرده و به شما تحویل دهد، بلکه الگوهای مشاهده‌شده بین منابع در دسترسش برای یادگیری را مبنا قرار داده و براساس آنها، پاسخ‌هایی را که به شما تحویل می‌دهد، خودش «تولید» می‌کند، نه آنکه از جای دیگری رونوشت بردارد و مقابل شما بگذارد. به همین خاطر اولا ChatGpt قادر نیست به شما بگوید که دقیقا پاسخش را از کدام منبع آورده و ثانیا کاملا محتمل است که در یک زمینه تخصصی، پاسخی کاملا گمراه‌کننده بهتان تحویل دهد و حتی برای آن پاسخ، استدلال‌هایی هم بیاورد و روی ادعای غلطش، پافشاری نماید. این بات هزاران هزار منبع اطلاعاتی را مطالعه و الگوهایی را مشاهده کرده و براساس آنها، می‌تواند در یک مکالمه شرکت کند و هم منظور شما از جملات و عباراتی را که می‌نویسد متوجه شود (اگر با زبان فارسی با او مکالمه کنید، حتی جملات محاوره‌ای را هم تا حد خوبی متوجه می‌شود) و هم در پاسخ به آنها جملات و عبارات معنادار و متناسب با محتوای مکالمه را تولید کند، اما از آنجا که منابع در دسترسش برای یادگیری بسیار زیاد بوده، تقریبا در هر زمینه‌ای می‌تواند پاسخ شما را بدهد و درخواست‌هایتان را اجابت کند؛ از نوشتن یک مقاله در موضوعی خاص تا شعر گفتن و نوشتن قطعات موسیقی و ترجمه یک متن از یک زبان به زبان دیگر و نوشتن یک برنامه کامپیوتری براساس یک زبان برنامه‌نویسی.این بات از زمان عرضه عمومی، به سرعت در بین مردم محبوب شد و توانست در عرض چند ماه به رکورد خارق‌العاده صد میلیون کاربر فعال ماهانه برسد؛ عددی که تیک‌تاک برای رسیدن به آن ۹ ماه زمان نیاز داشت و اینستاگرام سه سال طول کشید تا به آن برسد.دقیقا نمی‌دانیم آن پشت چه خبر استشاید مشکل اصلی در توسعه هوش مصنوعی از آنجا می‌آید که خیلی از اوقات، فرایندی که یک سیستم هوش مصنوعی را از مجموعه‌ای از داده‌ها به یک خروجی می‌رساند، برای ما کاملا مبهم و ناشناخته است و اصطلاحا تفسیرپذیر نیست. وقتی نمی‌دانیم سیستمی که خودمان ساخته‌ایم، دقیقا چطور کار می‌کند، پیش‌بینی خروجی‌های آن و آینده‌ای که برایمان رقم می‌زند نیز مشکل خواهد بود و احتمالا خارج از کنترل ما.سوگیری داری لعنتی، سوگیری داریتوسعه مدل‌های هوش مصنوعی وابسته به داده‌هایی است که در اختیار آن قرار گرفته تا با مطالعه و کشف الگوهای تکرارشونده بین داده‌ها، فرایند یادگیری‌اش را پیش ببرد و بعدا به کمک آن، در موارد دیگر استدلال و استنتاج و تصمیم‌گیری کند. اما خیلی اوقات داده‌های موجود دارای سوگیری‌هایی باشند که نتیجه آن در خروجی مدل‌های هوش مصنوعی به وضوح دیده می‌شود. به عنوان مثال بات ChatGPT اگر در حالت عادی در یکی از آزمون‌هایی که گرایش‌های سیاسی و اقتصادی افراد را مشخص می‌کند، شرکت کند، از نظر اقتصادی چپ و از نظر سیاسی لیبرال شناخته می‌شود، اما با دستکاری داده‌های ورودی می‌توان کاری کرد که این بات یک راست اقتدارگرا باشد. هم‌چنین در برخی مواردی که سیستم‌های هوش مصنوعی برای قضاوت و تصمیم‌گیری به کار رفته‌اند، تبعیض‌های نژادی و جنسی در خروجی آنها دیده شده است. گروهی از مایکروسافت در یک بررسی مفصل روی ChatGPT-4 متوجه شده‌اند که استفاده این بات از ضمایر she و he برای مشاغل مختلف، با توزیع جنسیتی واقعی در آن مشاغل تفاوت‌های قابل توجهی دارد که سوگیری‌های جنسیتی این بات را به نمایش می‌گذارد.مقایسه توزیع جنسیتی مشاغل مختلف و توزیع استفاده GPT-4 از ضمایر he و she برای این مشاغل واقعیت؟ چی هست اصلا؟!مدل‌های زبانی توسعه‌یافته در بات‌هایی مانند ChatGPT طوری حرف می‌زنند و جملات را سر هم می‌کنند که انگار حتما حرف‌شان درست و مطابق واقعیت است و مو لای درز استدلال و استنتاج‌شان نمی‌رود. در واقع لحن متقاعدکننده این بات اجازه هیچ شک و تردیدی را به مخاطب غیرمتخصص و عادی نمی‌دهد، حتی اگر کاملا اشتباه بگوید. دلیل این اشتباهات هم مشخص است. این مدل‌ها اطلاعات را حفظ نمی‌کنند تا بعدا براساس آنها به سوالات کاربر پاسخ دهند، بلکه از استدلال‌های استقرایی و قیاسی برای تولید پاسخ بهره می‌گیرند و بعضی اوقات هر گردی را واقعا گردو می‌دانند. از طرف دیگر، توسعه ابزارهای هوش مصنوعی و پیشرفت آنها راه را برای تولید اخبار جعلی (Fake News) باز کرده و این نگرانی را به وجود آورده که در آینده نزدیک، جعلیاتی که با هوش مصنوعی سر از شبکه‌های اجتماعی درآورند، قابل تمیز از اخبار واقعی نباشند و همه را در آشفتگی بدون چاره‌ای سردرگم کنند.روی شاخه نشسته‌ایم و بُن می‌بریم؟ربات ChatGPT همین الآن هم در خیلی از فرایندها و آزمون‌ها توانسته جایگزین انسان شود و تهدیدی برای انسان بودنش به شمار رود؛ به عنوان مثال این بات در بسیاری از آزمون‌های مدارس و دانشگاه‌ها نمرات قبولی کسب کرده و باعث شده تغییر فرایند و روش‌های ارزیابی از دانش‌آموزان و دانشجوها در دستور کار موسسات آموزشی قرار گیرد. هم‌چنین ChatGPT آزمون مجوز پزشکی ایالات متحده را توانسته با نمره قبولی پشت سر بگذارد، آن هم بدون هیچ‌گونه آموزش یا بهبود تخصصی در این زمینه و در پاسخ‌هایش هم سطح بالایی از تطابق و بینش را به نمایش گذاشته است.سازندگان ChatGPT با همکاری دانشگاه پنسیلوانیا اخیرا نتایج مطالعه‌ای را منتشر کرده‌اند که به بررسی تأثیر این بات در بازار کار آمریکا می‌پردازد. در این مطالعه تأثیر مدل‌های زبانی هوش مصنوعی در مدت زمانی که برای تکمیل یک کار انسانی طول می‌کشد، در نظر گرفته شده و اگر مدت زمان لازم برای انجام یک وظیفه یا کار انسانی در اثر تعامل با سیستم‌های هوش مصنوعی تا ۵۰ درصد کاهش یابد، آن وظیفه یا شغل در معرض تأثیر هوش مصنوعی خواهد بود.براساس نتایج این مطالعه، هوش مصنوعی حداقل ۱۰ درصد از کارها و وظایف ۸۰ درصد از نیروی کار ایالات متحده را تحت تأثیر خودش قرار می‌دهد و برای ۱۹ درصد از نیروی کار، این تأثیر تا ۵۰ درصد هم افزایش پیدا می‌کند.جالب آنجاست که مشاغل پردرآمدتر بیشتر تحت تأثیر هوش مصنوعی قرار می‌گیرند و با احتمال بیشتری به دست سیستم‌هایی مانند ChatGPT بلعیده خواهند شد، اما حوزه‌های شغلی که به علوم و تفکر انتقادی مرتبط هستند، فعلا از خطر تأثیر هوش مصنوعی در امان هستند. در این مطالعه ریاضی‌دانان، حساب‌رسان و مشاوران مالیاتی، حساب‌داران، تحلیل‌گران مالی، طراحان وب و طراحان نمایه‌های دیجیتال، کارشناسان فرم‌های نظرسنجی، نویسندگان و مولفان، مترجمان کتبی و مترجمان هم‌زمان شفاهی، متخصصان حوزه روابط عمومی، پژوهشگران حوزه حیوانات، تحلیلگران خبری و خبرنگاران و روزنامه‌نگاران، وکلای حقوقی، کارمندان مکاتبات اداری، مهندسان بلاک‌چین، منشی‌ها، ویراستاران و تحلیل‌گران حوزه تغییرات آب‌وهوایی به عنوان افرادی شناخته شده‌اند که مشاغل‌شان به شدت در خطر تأثیرپذیری از هوش مصنوعی قرار دارد و احتمالا در آینده باید به فکر مشاغل دیگری باشند.از سوی دیگر مشاغلی که ورود به آنها موانع کم‌تری دارد، کم‌تر از مشاغلی که ورود به آنها سخت‌تر و مستلزم عبور از موانع بیشتر است، تحت تأثیر هوش مصنوعی قرار می‌گیرند. در واقع مشاغل فیزیکی و دستی فعلا از خطر هجوم هوش مصنوعی در امان هستند و ممکن است به همین خاطر در سال‌های آینده، تقاضا برای آنها افزایش پیدا کرده و رقابت برای ورود به آنها سخت‌تر شود. در این مطالعه مشاغلی که افراد بدون نیاز به تحصیلات دانشگاهی و با کسب یک یا چند مهارت می‌توانند به آنها وارد شده و از توان فیزیکی‌شان در آن استفاده می‌کنند، به عنوان مشاغلی معرفی شده که در حال حاضر تحت تأثیر پیشرفت و توسعه هوش مصنوعی قرار نگرفته و از خطر جایگزینی مصون‌اند.یک‌ضرب چیزی نخواهیدیکی از ایرادهای جالب ChatGPT، ضعف در انجام کارهایی‌ست که نیاز به نگه داشتن نتایج میانی دارد. به عنوان مثال اگر از او بخواهید تعداد اعداد اول در یک بازه را به شما بگوید، احتمال اشتباه گفتن تعداد اعداد اول در آن بازه زیاد است، اما اگر به او بگویید که همه اعداد اول در یک بازه را برای شما بنویسد و بعد تعدادشان را هم بگوید، پاسخ درستی به شما می‌دهد. این ضعف در انجام محاسبات ریاضی دیگر هم به خوبی خودش را نشان می‌دهد. ChatGPT اگر قرار باشد برای رسیدن به پاسخ یک عملیات ریاضی چندمرحله‌ای، همه مراحل را بنویسد و مرحله به مرحله کار را پیش ببرد، به پاسخ درستی می‌رسد، اما اگر از نوشتن مراحل میانی منع شده و صرفا پاسخ نهایی از او خواسته شود، پاسخ اشتباهی به کاربر تحویل می‌دهد.اشتباه ChatGPT در محاسبه تعداد اعداد اول در بازه ۱۵۰ تا ۲۵۰پاسخ درست ChatGPT به نمایش همه اعداد اول در بازه ۱۵۰ تا ۲۵۰ و تعداد آنهااشتباه ChatGPT در محاسبه پاسخ نهایی یک عملیات ریاضی چندمرحله‌ایپاسخ درست ChatGPT به انجام مرحله به مرحله یک عملیات ریاضی چندمرحله‌ایمحدودیت ChatGPT را محدودیت تصور ما تعیین می‌کنددر حال حاضر سیستم‌های مبتنی بر هوش مصنوعی مجهز به تفکر انتقادی نیستند و پای استدلال‌هایشان لنگ می‌زند. اما بهتر است به عنوان دستیارهای هوشمند، نگاهی ابزاری به آنها داشته باشیم و فعلا جایگزین انسان ندانیم‌شان. البته استفاده از آنها مانند هر ابزار دیگری که بشر پیش از این توسعه داده، نیاز به تخصص و مهارت دارد و در آینده آنهایی موفق‌تر خواهند بود که بهتر بتوانند از آن بهره ببرند و با آن ارتباط موثرتری برقرار کنند. ما قرار است در گوش این سیستم‌های هوشمند زمزمه کنیم و آنها اوامرمان را اطاعت کنند و هرقدر زبان‌شان را بهتر بفهمیم و منظورمان را بهتر بهشان برسانیم، نتیجه هم بیشتر مطابق میل‌مان خواهد بود. در واقع محدودیت تصور ما در خواسته‌هایی که می‌توانیم از آنها داشته باشیم، مرزهای محدودیت آنها را مشخص خواهد کرد، وگرنه آنها نشان داده‌اند که در تولید چیزهایی که ازشان خواسته‌ایم، فرمان‌برداران خوب و مطیعی هستند.