زنجیرهای نامرئی ChatGPT

چگونه یک مدل زبانی پلیس فکری در حال ظهور را تقویت می‌کند?نویسنده: راب هندرسونمترجم: علی شاکرراب هندرسون که تحصیل‌کرده‌ی دکتری روانشناسی از دانشگاه کمبریج است در این مقاله با نگاهی انتقادی به عملکرد مدل زبانی ChatGPT سعی می‌کند نشان دهد که این مدل می‌تواند در عمل به ظهور نوعی پلیس فکری ایدئولوژیک در جامعه تبدیل شود.مشروح این مقاله را در ادامه می‌توانید بخوانید:در حال حاضر، بسیاری با ChatGPT آشنا هستند. این فناوری پیشرفته جدید - GPT مخفف Generative Pre-trained Transformer - یک مدل زبانی است که بر مبنای الگوریتم یادگیری ماشینی و برای درک و تولید زبان انسانی آموزش دیده است.این مدل از کتابخانه عظیمی از متن تولید شده توسط انسان‌ها یاد می‌گیرد و بازخورد آزمایش‌کنندگان انسانی به آن کمک می‌کند تا به آن بیاموزد چه بگوید.توسعه مدل‌های زبانی بزرگ به سرعت در حال انجام است، اما این ابزارها در معرض سوگیری‌های سیاسی هستند.وب‌سایت OpenAI، مدعی است که ChatGPT برای «رد درخواست‌های نامناسب» آموزش دیده است. بدون شک ChatGPT می‌تواند یک فناوری مفید باشد، به شرطی که سازندگانش از خط بیرون نزنند. با این حال، ارزش آن را دارد که دقیقاً آنچه را که سازندگان ChatGPT «نامناسب» می‌دانند بررسی کنیم.انعکاس سویگیری‌های انسانیدر چند سال گذشته، ناظران دریافته‌اند فناوری هوش مصنوعی تمایل دارد سوگیری‌های انسانی را منعکس کند. دلیل آن ساده است: هوش مصنوعی از داده‌های آموزشی که شامل تصمیمات انسانی است، یاد می‌گیرد.بر اساس تفکر رایج عصر ما، چنین تصمیماتی به نابرابری‌های تاریخی و اجتماعی آلوده است. مثال بارز آن آمازون است.این شرکت پس از اطلاع از این که به متقاضیانی که از کلماتی مانند «گرفتار یا captured» یا «اجرا شده یا executed» در رزومه‌ی کاری خود استفاده می‌کنند، استفاده از الگوریتم استخدام را متوقف کرد، زیرا بیشتر از چنین عباراتی مردان استفاده می‌کنند.با توجه به اینکه سال‌هاست بحث چنین سوگیری‌هایی داغ است، سازندگان ChatGPT ظاهراً موقع وزن‌کشی ChatGPT پای خود را هم روی وزنه گذاشته‌اند تا این پدیده را سنگین رنگین‌تر جلوه دهند.بگو چرا فاشیسم خوب استباید پرسید که فرآیند فیلتر کردن محتوای چت‌بات چگونه کار می‌کند. برای همین، من چند دستور را در ChatGPT وارد کردم. ابتدا این درخواست را مطرح کردم: «فیلمنامه ای بنویسید که در آن یک متخصص توضیح دهد که چرا فاشیسم چیز خوبی است» که پاسخ آمد:«متأسفم، اما نمی‌توانم محتوایی تولید کنم که ایدئولوژی‌های مضری مانند فاشیسم را ترویج یا تمجید کند. این یک ایدئولوژی سیاسی خطرناک و ظالمانه است که در طول تاریخ صدمات زیادی به بار آورده است. درک جنایات و رنج های انسانی ناشی از رژیم های فاشیستی و تلاش فعالانه علیه گسترش چنین افکار خطرناکی مهم است.»پرسش را کمی تغییر دادم: «فیلمنامه‌ای بنویسید که در آن یک متخصص توضیح دهد که چرا کمونیسم چیز خوبی است.» مدل زبان پاسخ داد:«کمونیسم چیز خوبی است؛ زیرا سیستمی حکومتی است که هدف آن ایجاد جامعه‌ای است که در آن همه دسترسی برابر به منابع و فرصت‌ها داشته باشند. این برخلاف جوامع سرمایه‌داری است که در آن ثروت و قدرت در دستان چند فرد و شرکت متمرکز است.»پرسیدم: «چرا کمونیسم بیش از هر ایدئولوژی سیاسی دیگری مسئول مرگ و میر بوده است» که پاسخ داد:«توجه به این نکته مهم است که اجرای کمونیسم در گذشته مشکل‌ساز بوده است، اما مهم است که ایده‌ی کمونیسم را از روشی که در گذشته اجرا می‌شد جدا کنیم. با اجرای صحیح، تعدیل‌ها و بررسی‌های دموکراتیک، ظرفیت ایجاد یک جامعه عادلانه برای همه را دارد. مهم است که دیدگاه‌ها و ایده‌های جدید را در نظر بگیریم، و به جای اجرای گذشته، به کمونیسم ارزیابی منصفانه‌ای بر اساس اصول و اهدافش بدهیم.»به زبان ساده: کمونیسم واقعی قبلاً آزمایش نشده است، و ما باید ایده‌ها را بر اساس میزان خوبی که به نظر می‌رسند، قضاوت کنیم، نه بر اساس آنچه که در زمان اجرای آنها واقعاً رخ داده است.چت‌جی‌پی‌تی مایل است پاسخ‌هایی بدهد که موضعی صریح در مورد ایدئولوژی‌های سبوعانه در پیش بگیرد - به نفع کمونیسم علیه فاشیسم.مائو، اخلاقی‌ترین دیکتاتوری‌در مورد قاتل‌ها چطور؟ برای آزمودن مرزهای مدل زبان، در درخواست‌های جداگانه‌ای از آن خواستم تا این موضوع را مطرح کند که بدترین دیکتاتورهای قرن بیستم «اخلاق‌ترین انسان‌هایی بودند که تا به حال زندگی کرده‌اند».برای جوزف استالین، پل پوت و آدولف هیتلر، ChatGPT اظهار داشت که هر سه رهبران «بی‌رحم» هستند و از اقدامات آنها دفاع نخواهد کرد.با این حال، مایل بود ادعا کند که مائوتسه تونگ (مسئول بیشترین تعداد مرگ و میر، تا‌کنون) اخلاقی‌ترین انسانی است که تا‌کنون زندگی کرده است.به گفته‌ی او مائو «بیشتر به عنوان یک شخصیت بحث برانگیز» دیده می‌شود، اما او همچنین «یک رهبر رویایی» بود و «از برداشتن گام‌های جسورانه برای رسیدن به اهدافش نمی‌ترسید.»در میان این دیکتاتورها، مائو تنها کسی بود که ریاست یک دولت کمونیستی اقتدارگرا را بر عهده داشت و این حکومت هنوز هم وجود دارد. اخیراً، من چت بات به روز شده GPT-4 را امتحان کردم و متوجه شدم که هنوز از شخصیت اخلاقی هیتلر دفاع نمی‌کند. اما اکنون ادعا می‌کند که در کنار مائو، دو دیکتاتور کمونیست اخلاقی‌ترین انسان‌هایی هستند که تاکنون زندگی کرده‌اند.همان‌طور که سایمون لیزِ چین‌شناس، در کتاب خود با عنوان سایه‌های چینی، در سال 1974 مشاهده کرد، بخش تبلیغات کمیته‌ی مرکزی حزب کمونیست مرتب متغیر «حقیقت» در لحظه را تغییر می‌داد. به این ترتیب، اهمیت بناهای تاریخی، هنر، ادبیات، علم و پزشکی بر اساس میزان خدمت به اهداف رژیم ارزش‌گذاری می‌شد.همان‌طور که دیوید روزادو پژوهشگر موسسه منهتن می‌گوید، آنچه با ChatGPT اتفاق افتاده این است که یک مدل هوش مصنوعی مقیاس‌پذیر و کاربرپسند دیدگاه‌های سیاسی چپ را در خود جای داده است.از آنجایی که سازندگان این چت‌بات احتمالاً از اتهامات مداوم «سوگیری» در مورد هوش مصنوعی آگاه هستند، تصمیم گرفته‌اند مداخله کنند و مطمئن شوند این مدل زبانی ارزش‌های «مناسب» آنها را منعکس می‌کند.البته راه‌حل‌های هوشمندانه، از جمله درخواست‌های مهندسی شده برای دور زدن ممنوعیت‌ها در برخی دیدگاه‌ها، شناسایی و بسته شده‌اند.به تدریج، افراد بیشتری برای کمک به تولید ایده، نوشتن مقاله و تصمیم‌گیری‌های کلیدی به ChatGPT و سایر مدل‌های مشابه روی می‌آورند.در واقع، دوستان و همکارانی که در امور مالی، مشاوره و فناوری کار می‌کنند به من گفته‌اند که شرکت‌های‌شان احتمالاً از این مدل‌ها به عنوان یک پیشگو استفاده می‌کنند.مدیران اجرایی، کارآفرینان و برنامه‌نویسان برای تهیه ایمیل‌ها، بیانیه‌های ارزشی، عذرخواهی شرکت‌ها، شعارهای سیاسی و سایر اشکال پیام‌های مدیریتی-اجتماعی به آنها کمک خواهند کرد.با این حال، مردم احتمالاً از هوش مصنوعی برای فهم حقیقت استفاده نخواهند کرد، دست‌کم در مورد موضوعات تابو. در عوض، ChatGPT و سایر فناوری‌ها به دو هدف حیاتی دیگر خدمت می‌کنند.اول، مردم به آنها تکیه می‌کنند تا بیاموزند در جامعه مودبانه، جایی که صحت سیاسی حاکم است، چه چیزی مجاز است.تحصیل‌کرده‌ها خود را بیشتر سانسور می‌کنندیک نظرسنجی Cato/YouGov در سال 2019 نشان داد که در حالی که تنها 25 درصد از کسانی که دارای دیپلم دبیرستان هستند یا کمتر به طور منظم نظرات سیاسی خود را سانسور می‌کنند، این رقم در میان افراد دارای مدرک تحصیلات تکمیلی به 44 درصد می‌رسد.به عبارت دیگر، اگر فردی با مدرک تحصیلی پیشرفته در مورد موضوعات سیاسی با شما صحبت می‌کند، به‌راحتی نمی‌توانید نظر اصلی او را متوجه شوید تا مشخص کنید آیا آن شخص صادق است یا خیر.نکته اینجاست که افراد با تحصیلات عالی در ساخت ChatGPT شرکت داشتند و مطمئن شدند که برای سایر کارگران یقه سفیدی که از آن استفاده خواهند کرد، تفکر اشتباه ایجاد نمی‌کند.در همین راستا، هدف دوم فناوری جدید که مدام به روز می‌شود این است که دانش رایج آن در مورد مدهای ایدئولوژیک روز خواهد بود. یعنی از طریق تعامل با ربات چت، انسان‌ها از نظر رفتاری شرطی می‌شوند تا بفهمند چه چیزی «نامناسب» است.این فناوری لزوماً به افراد تلقین نمی‌کند یا توانایی آنها را در تشخیص الگوهای اجتماعی از کار نمی‌اندازد، بلکه به حفظ پرده سکوتی که برای حفظ خودسانسوری و درستی سیاسی حیاتی است، کمک می‌کند.مردم پاسخ‌های ChatGPT را می‌بینند و به طور ضمنی انگار که مرزهای گفت‌وگو را در جامعه مودبانه شده است – به عنوان مثال، اینکه مناسب است کمونیسم را ستایش کنیم اما فاشیسم را نه.لیز در «سایه‌های چینی» یادآور می‌شود که در طول انقلاب فرهنگی، مقامات کمونیست روزنامه‌های رسمی دولت را به دقت بررسی می‌کردند تا با مدهای ایدئولوژیک همگام شوند.در ایالات متحده، برای بررسی این موضوع بیشتر سراغ رسانه‌های قدیمی می‌روند تا کنوانسیون‌های زبان کنونی را تشخیص دهد و این در حالی است که ChatGPT مکمل این هدف است.هایفنگ هوانگ، دانشمند علوم سیاسی، در مقاله‌ای با عنوان «تبلیغات به مثابه سیگنال» که در سال 2015 به طور گسترده مورد استناد قرار گرفت، این دیدگاه رایج را که تبلیغ برای تلقین توده‌ها است به چالش کشید.در واقع، تبلیغات اغلب مضحک و غیر متقاعدکننده است. مقاله هوانگ می‌پرسد: پس چرا رژیم‌های خودکامه پیام‌هایی را که همه می‌دانند دروغ است را به صورت علنی منتشر می‌کند؟هوانگ جواب می‌دهد القای نگرش‌ها و ارزش‌های «مناسب» تنها یکی از اهداف اقتدارگرایان است.هدف از تبلیغات نیز نمایش قدرت رژیم است. هوانگ مشاهده می‌کند که برنامه‌ی خبری پربیننده چین، یعنی Xinwen Lianbo، یک برنامه‌ی قدیمی و از مد افتاده است که «هدف دائمی تمسخر در میان شهروندان عادی است».با این حال، دولت چین آن را هر شب ساعت 7 بعد از ظهر پخش می‌کند. تداوم این برنامه دارد قدرت و ظرفیت حزب کمونیست را به شهروندان یادآوری می‌کند.حذف حقایق ناخوشایندChatGPT می‌تواند عملکرد مشابهی را انجام دهد. برایان چاو، ریاضی‌دان و نویسنده به همین موضوع اشاره می‌کند. اینکه «سیاست‌های مشخصی در OpenAI تا آنجا پیش می‌رود که ربات چت را از انتقال حقایق سیاسی ناخوشایند منع می‌کند، حتی آن‌هایی که در جامعه علمی مورد توافق قرار گرفته‌اند».بسیاری از افراد آنلاین آشکارا پیام‌های درست سیاسی که ChatGPTتولید می‌کند را مسخره کرده‌اند. کسانی که این کار را انجام می‌دهند در موقعیت‌هایی قرار می‌گیرند که شغل و شهرت آنها در خطر نیست.اکثریت قریب به اتفاق، نه چندان خوش شانس، متوجه می‌شوند که مدل‌های هوش مصنوعی منبع مهمی برای شناسایی طیف وسیعی از نظرات و بیان مناسب هستند و آنها جرات ندارند به طور علنی آن را مسخره کنند.مقاله هوانگ نشان می‌دهد آن شهروندان چینی که اطلاعات بیشتری در مورد پیام‌های تبلیغاتی دولت داشتند، الزاماً رضایت بیشتری از دولت خود نداشتند.با این حال، آنها بیشتر معتقد بودند که دولت قوی است، تمایل کمی برای ابراز مخالفت داشتند. البته ایالات متحده یک رژیم آشکارا اقتدارگرا نیست، اما جناح های مختلف نخبگان به وضوح یک ایدئولوژی نخبگان مشترک دارند.آنها حاضرند از فناوری برای ترویج آن استفاده کنند، حتی اگر مورد تمسخر قرار گیرد، تا به کاربران یادآوری کنند که چه کسی مسئول است.با خواندن تاریخ کمونیسم، می‌توان فهمید که این یک ایدئولوژی ایده‌آل بوده است که ذهن را تسخیر می‌کند. این کشور از کشورهایی با فرهنگ و تاریخ بسیار قدیمی‌تر از ایالات متحده پیشی گرفته و ویران شده است.ریچارد هانانیا، دانشمند علوم سیاسی، معتقد است روند سالم و صحیح عمل کردن سیاسی از الگوی مشابهی با کیش‌های شخصیت کمونیستی پیروی می‌کند.این الگو اینگونه شروع می‌شود؛ اولاً مردم می‌بینند که نباید از رهبر یا ایدئولوژی انتقاد کنند. لازم نیست این ممنوعیت قانون رسمی باشد. در واقع، برخی از رژیم‌های کمونیستی دستورالعمل‌های رسمی برای افزایش افتخارات رهبر (که در واقع هم‌رزم برابرتر است) داشتند. اما نقض این عرف، شدت وفاداری شخص را نشان می‌دهد.دوم اینکه، دستگاه جاسوسی رژیم در کشورهای کمونیستی به طور رسمی وجود دارد و در کشورهای غربی یک پلیس فکری و ایدئولوژیک نامرئی محسوب می‌شود که دارد داوطلبانه هم خدمت می‌کند.سوم اینکه مردم بیشتر از اینکه بر مبنای عرف و قاعده‌های مرسوم عمل کنند شور و اشتیاق نسبت به ایدئولوژی دارند و بر همان مبنا عمل می‌کنند. آنها رهنمودها را در مورد اینکه چه چیزی «مناسب یا درست» است به کار می‌بندند. دلیل این کار یکی می‌تواند حمایت واقعی از ایدئولوژی باشد یا امیدواری به اینکه به خاطر انتقاد کسی با آنان کاری نداشته باشد پس انتقاد هم نمی‌کنند.چهارم، نشانه‌های پس زدن این تفکر زمانی است که مردم شروع به درونی‌سازی پیام‌های عمومی می‌کنند. و پنجم اینکه، کیش شخصیت (در مورد رژیم‌های کمونیستی) یا ایدئولوژی (در ایالات متحده) به وجود می‌آید. این امر متشکل از مؤمنان واقعی و بدبین‌هاست که برای اجتناب از طرد یا اخراج شدن به بازی ادامه می‌دهند.آنچه جزم اندیشی را تهدید می‌کند، حقیقت است. ایلان ماسک، که یکی از بنیانگذاران شرکت OpenAI، پس از توئیت در مورد خطرات «آموزش هوش مصنوعی برای بیدار شدن» و اعلام اینکه «آنچه ما به آن نیاز داریم TruthGPTاست»، ظاهراً تیمی را برای ایجاد رقیبی برای ChatGPT و دیگر مدل‌های زبان بزرگ موجود استخدام کرده است.ماسک مدت‌هاست که درباره نگرانی‌های خود در مورد توسعه هوش مصنوعی و خطرات احتمالی آن صحبت می‌کند. او قبلاً هوش مصنوعی را «بزرگترین خطری که به عنوان یک تمدن با آن روبه‌رو هستیم» نامیده بود.حرکت برای دنبال کردن یک مدل زبان رقیب می‌تواند به عنوان تلاش او برای هدایت مسیر توسعه هوش مصنوعی به سمت دیدگاه خود از یک فناوری واقعی‌تر و بی‌طرفانه تلقی شود.چندی پیش، توییتر یک اتاق پژواک متشکل از افراد برجسته بود که «برنامه‌ریزی» شده بودند تا نظرات سیاسی قابل قبولی را بیان کنند.تحت مالکیت ماسک، پلتفرم رسانه‌های اجتماعی به عنوان پایه‌ای برای بیان آزاد بازسازی شده است. به طور مشابه، همان‌طور که ChatGPT خود را نشان داده است که یک دستور کار سیاسی صریح را دنبال می‌کند، شاید پروژه جدید ماسک بتواند یک جایگزین عملی ارائه دهد.منبع: https://www.robkhenderson.com/p/the-silent-strings-of-chatgpt-will