آخرالزمان ملال‌انگیز

هوش مصنوعی چه بر سر مشاغل می‌آورد؟ هفته پیش، گوگل در کنفرانس سالانه‌اش با عنوان I/O چند ساعت به تشریح این پرداخت که چگونه مدل‌های زبانی بزرگ (LLM) می‌توانند به دانش‌ورزانِ (Knowledge Workers) جهان کمک کنند که بارِ مشغله‌های خود را به مجموعه عظیمی از شبکه‌های عصبی توانا و مشتاق بسپارند. گوگل به زودی امکاناتی از نوع هوش مصنوعی را به برنامه‌هایی چون Gmail و Google Sheets و Google Slides اضافه می‌کند که به کاربران امکان این را می‌دهد که دستوراتی ساده‌ بنویسند و نتایجی پیچیده دریافت کنند: مثلا نوشتن متن کامل یک ای‌میل، یا ایجاد خودکار یک جدول. آینده‌ای که گوگل وعده‌اش را می‌دهد برای ما آشناست؛ چیزی نیست جز سهولت هرچه بیشتر و انجام سریع کارها با یک‌ کلیک، و من از آن متنفرم! هوش مصنوعیِ حوزه کار (Workplace AI) مانند خالص‌ترین عصاره ایدئولوژی مخربی است که بهره‌وری بدون اتلاف را از کارکنان طلب می‌کند: هرچقدر کارهای ما آسان‌تر می‌شوند، مقدار بیشتری از آن را می‌توانیم انجام دهیم، و از ما توقع می‌رود که مقدار بیشتری از آن را انجام دهیم.هوش مصنوعی اینچنین گام‌به‌گام به سراغ شغل‌ها ما می‌آید، یک بار با اسلایدهای ساخته ChatGPT و بار دیگر با افزودن قابلیت‌هایش به ای‌میل. این چشم‌اندازی است از آن آخرالزمان حقیقی‌ای که هوش مصنوعی رقم خواهد زد، که بیشتر به آینده‌ای از کارهای بی‌روحِ ملال‌انگیز شبیه است. نسل انسان قرار نیست به دست یک هوش مصنوعی خبیث نابود شود، و کارمندان دفتری نیز احتمالا یک‌سره با ماشین‌ها جایگزین نمی‌شوند، بلکه از ما توقع خواهد رفت که خود همانند ربات‌ها کار کنیم و رفتار کنیم.بهره‌وری بیشتر، زمان بیشتر، کار بیشترهوش مصنوعی مولّد (Generative AI)، در آن صورت ایده‌آلی که از آن ترسیم شده، کمال ابزارهای بهره‌وری است. مدل‌های زبانی بزرگ پاسخ‌های هوشمندانه می‌دهند (ولو اینکه اساسا قابل اتکا نباشند)، با کوهی از اطلاعات تربیت شده‌اند و به طرز چشم‌گیری توانا هستند. داشتن یک پنجره بازِ ChatGPT در کامپیوترهای محل کار، همین حالا هم برای بعضی‌ها همانند استفاده از ابزار spellcheck هنگام نوشتن شده است. افزونه مفسّر کد ChatGPT می‌تواند ویدئو ویرایش کند، از جداول پیچیده اکسل اطلاعات را استخراج و تحلیل کند، و تنها با یک دستور تصاویر و نمودارهای سفارشی درخشان خلق کند.وعده هوش مصنوعی، خودکار شدن (Automation) است، و وعده خودکارشدن زدودن اتلاف‌ها از فرآیند تولید (فرآیند نوشتن کلمات، فرآیند انجام محاسبات روی اعداد، فرآیند ترکیب اطلاعات). ابزارهای هوش مصنوعی مولّد، در حقیقت، دستگاه‌های تشخیص الگو هستند، و استفاده گسترده آن‌ها از منظر طرفداران‌شان آغاز یک روند پرشتاب توسعه «میزان هوشمندی در جهان» تلقی می‌شود (مدیرعامل OpenAI پیشنهاد نسخه جدیدی از قانون مور را داده که طبق آن میزان هوشمندی موجود در جهان هر ۱۸ ماه دوبرابر می‌شود)، معنی‌اش هرچه باشد؛ و این چشم‌اندازی است از بهره‌وری‌ای که با امکانات بی‌حدومرزش تعریف می‌شود.ما قبلا هم شاهد چنین چیزی بوده‌ایم. بارها شده که یک فناوری جدید وعده بدهد که با زدودن ناکارآمدی‌های زندگی‌های ما بهره‌وری را افزایش بدهد. به ما گفته می‌شود که موجب رهایی‌مان خواهد شد (از سلطه ایمیل‌هایمان یا از کار پرزحمت کارگران کارخانه) و به این ترتیب ما اختیار زمان خود، این با ارزش‌ترینِ دارایی‌ها، را دوباره به دست می‌آوریم. اما معمولا این زمان آزادشده مجددا صرف کار بیشتر می‌شود. منطقش ساده است و مدوّر: کارآیی بیشتر، زمان ما را آزاد می‌کند تا بهره‌وری بیشتری داشته باشیم. فردریک وینسلو تیلور با زمان‌سنجش فعالیت‌های تولیدی کارخانه Bethlehem Steel را از طریق نظارت بر کارگران و وادار کردن آنها به زدودن وقفه‌ها و حذف حرکات و کارهای زائد، به طرز بی‌رحمانه‌ای بهینه‌سازی کرد. اصول تیلوریسم، کسب‌وکار و مدیریت را برای همیشه تغییر دادند. اما حاصل آن به سود کارگر نبود. کارگری که حالا وادار می‌شد که در هر شیفت مقدار بیشتری تولید کند.تکرار همین ماجرا را می‌توان در بسیاری از فناوری‌های معمولی کارهای دفتری (Office Technologies) دید: ای‌میل مکاتبات کاری و فرهنگ ردوبدل کردن پیام‌های کاغذی در شرکت‌ها را از میان برنداشت، بلکه موجب شد که آن ارتباطات همیشه و به‌آسانی در دسترس باشند. Slack، که به مثابه قاتل ایمیل در شرکت‌ها تلقی می‌شد، باعث نشده که صندوق‌های پیام ما خالی شود، بلکه صرفا تبدیل شده به یک کانال کاری دیگر که کارمندان باید به آن هم توجه کنند (یک راه دیگر برای بهره‌ور بودن و بودن در دسترسِ همکاران و رؤسایمان، بلافاصله و در هر زمان). چرا باید انتظار داشته باشیم که هوش مصنوعی مولّد ما را از این دورِ آشنا رها کند؟باتلاق محتواهای مصنوعیدر جهانی که هزینه تولید محتوا، ارتباطات، تحقیق و کدنویسی به صفر نزدیک می‌شود، منطقی است که انتظار داشته باشیم که پاسخ نیروهای سرمایه‌داری این باشد که تا جای ممکن مقدار بیشتری از آن را طلب کنند. و اگرچه که دیگر انسان‌ها نیستند که تک‌تک کلمات، جملات، اصوات و رشته اعداد را تولید می‌کنند، با این حال وظیفه ایجاد، ویرایش و گردآوردن همه این محصولات رسانه‌ای مصنوعی همچنان به عهده انسان‌ها خواهد بود. اگر هوش مصنوعی قرار است به سراغ شغل ما بیاید، طرحش این است که همه ما را تبدیل کند به مدیرانی واسط در میان سیستم‌های هوش مصنوعی‌ای که با هم تعامل و هم‌پوشانی دارند. تنها مشکلش می‌دانید چیست؟ اینکه مدیریت واسطه‌ای، کاری‌ است پرفشار و جان‌فرسا، و معمولا لایق قدردانی شناخته نمی‌شود. مردم با تحقیر راجع به مدیران واسط صحبت می‌کنند، چرا که خروجی کار آن‌ها را به‌سختی می‌توان تعریف کرد و سنجید. آن‌ها را گاهی با بی‌انصافی، صرفا به مثابه یک حلقه واسط در زنجیره در نظر می‌گیرند.وقتی که آینده‌ای را می‌بینم که تحت سلطه ابزارهای هوش مصنوعی‌ِ مولّدی درآمده که الآن در هر گوشه و کنار صنعت جای گرفته‌اند، از کار ملالت‌باری که در پیش داریم به هراس می‌افتم. صندوق‌های ایمیل را می‌بینم که زیر بار پاسخ‌های ربات‌ها و اسلایدهای سریعا ساخته‌شده خرد شده‌اند؛ دریایی از ایمیل‌های فراموش شدنیِ Lorem-Ipsum-مانندی که تنها هدف‌شان این است که ربات‌های دیگر را وادار کنند که به پیام‌های مؤدبانه رسمی آن‌ها پاسخ بدهند. صنایع خلاق را می‌توانم تصور کنم که از انسانیت‌شان تهی شده‌اند تا بتوانند مقدار سرسام‌آوری از محتوا را، با عیارِ اینترنتی که هوش مصنوعی مولّد آن را فراگرفته، تولید کنند. چه بر سر صنعت موسیقی می‌آید، وقتی که هرکسی می‌تواند یک آهنگ جذاب به سبک هنرمند محبوب دلخواهش تولید کند؟ این اتفاق احتمالا موجب نابودی کامل هنرمندان نخواهد شد، بلکه منجر خواهد شد به کم‌ارزش انگاشته شدن هنرشان، و این یکی دیگر از بحران‌های حاصل از فناوری است که دامن اهالی موسیقی را می‌گیرد.آینده‌ای را می‌توان تصور کرد با قراردادهای مشقت‌بارِ شرکت‌های پخشِ موسیقی که از هنرمندان توقع چند آلبوم در سال را دارند، با توجه به اینکه حالا می‌توان نوشتن ترانه‌ها و خواندن و ضبط استودیویی آن‌ها را برون‌سپاری کرد. محتوای بیشتر یعنی ماده بیشتر برای روغن‌کاری چرخ‌دنده‌های الگوریتم‌ها و سیستم‌های پیشنهادگر مبتنی بر هوش مصنوعی در پلتفرم‌های پخش زنده. همین ماجرا در شغل من هم برقرار است: چرا نباید شرکت‌های انتشارات از نویسنده‌ها توقع داشته باشند که پنج شش مطلب در روز تحویل بدهند، حالا که آن‌ها هرکدام دستیارهای مبتنی بر هوش مصنوعی برای تحقیق و نوشتن‌شان در اختیار دارند؟ همچنین، چنین سیلی از محتوای فراموش‌شدنی تولیدشده به شکل انبوه، موجب بی‌مایه شدن بازار تبلیغات محتوایی و کاهش هزینه‌های تبلیغات برمبنای محتوا خواهد شد، که به معنای یک نیاز جدی‌تر است به … محتوای بیشتر.بهره‌وری بیشتر و ملالی غم‌انگیزهمین حالا هم می‌توان سایه این آینده ملال‌انگیز و کارآمدی‌زده را دید که کم‌کم در برابرمان پدیدار می‌شود. استودیو هایی مانند Netflix مشغول سروکله زدن با این ایده هستند که به هوش مصنوعیِ مولّد اجازه دهند طرح ابتدایی عناصر صحنه‌های پویانمایی‌ها را ترسیم کند، و در هالیوود نیز شایعه‌هایی منتشر شده حاکی از اینکه استودیوها، در خلال اعتصاب صنف نویسندگان (WGA) به این فکر افتاده‌اند که از هوش مصنوعی برای نوشتن طرح اولیه فیلم‌نامه استفاده کنند (تا بعد که توسط انسان‌ها ظرافت‌هایش به آن اضافه شود). این انبوه لجن‌مانند محتوا در برنامه‌های شرکت‌های Big Tech (اعم از گوگل و مایکروسافت و متا) برای بازطراحی جست‌وجو به صورت تعاملی و مبتنی بر ربات گفت‌وگو (Chatbot) نیز حاضر است.کافی‌ست سوالت را تایپ کنی تا یک جواب مطمئن با لحنی دوستانه دریافت کنی. این فرایندی است که، چنان که همکارم دِیمِن برز نوشته است، «موجب می‌شود اینترنت را کوچک‌تر حس کنیم»، و این به طور بالقوه خواهد توانست که به مثابه سدّی عمل کند که مانع سرازیر شدن ترافیک جست‌وجوهای اینترنتی به سمت همه وب‌سایت‌ها بشود. بنابراین می‌توان تصور کرد که موتورهای جست‌وجو دیگر احتیاجی نداشته باشند به این که ناشران محتوا، محتوایی باکیفیت تأمین کنند. آنها صرفا نیاز دارند به انبوهی از نوشته‌ها برای اینکه ماشین الگوریتم‌شان را فعال نگه دارند.سال ۲۰۱۷ من مصاحبه‌ای داشتم با جاناتان البرایت، محققی که نشانم داد که چگونه به پدیده‌ای عجیب در سراسر یوتیوب برخورده بود. او مخزنی از کانال‌هایی یافته بود که ده‌ها هزار ویدئو داشتند. اغلب آنها Slideshow-هایی بودند که با استفاده از متن‌ها و تصاویری برگرفته از مقالات اخبار سیاسی‌ای که در سراسر اینترنت وجود داشتند به طرزی خام سرهم‌بندی شده بودند. و یک صدای کامپیوتریِ منقطع، هم‌زمان با پخش‌شدن Slideshow، متن‌ها را از روی صفحه می‌خواند. این کانال‌ها هر سه دقیقه ویدئوهای هم‌شکل جدیدی منتشر می‌کردند. عمده آنها را نمی‌شد تحمل کرد. بعضی از ویدئوها حتی یک بازدید هم ثبت نکرده بودند، اما بقیه صدها هزار بار پخش شده بودند. پس از کمی کاوش عمیق‌تر، او دریافت که ویدئوها توسط یک هوش مصنوعی تولید شده بودند تا بر الگوریتم‌های توصیه‌گر یوتیوب تأثیر بگذارند. محتوای ویدئوها بی‌اهمیت بود. تنها چیزی که اهمیت داشت علامت و پیامی بود که به این پلتفرم می‌فرستاد: اینکه تقاضایی برای ویدئوهای اخبار سیاسی‌ وجود دارد.در آن زمان، این ایده اقتصاد سایه‌ای که در آن ربات‌ها برای ربات‌هایی دیگر محتوایی تولید می‌کردند که تنها هدفش این بود که آن پلتفرم را کمی به جهت مطلوب خودشان بگرداند، به من حس دل‌سردی داد. اما حالا انگار اقتصاد سایه‌ای قالبی است برای شکل دادن آینده مربوط به هوش مصنوعی مولّد. استدلال خوش‌بینانه در دفاع از این سنخ ابزارهای بهره‌وری همواره چنین بوده که این‌ها به پتانسیل‌های انسان و خلاقیت او امکان بروز می‌دهند، و واقعا هم چنین می‌‌کنند. اما سخت است که تصور کنیم آن‌ها در مقیاس گسترده به چه صورتی درمی‌آیند. خلاقیت یک فرآیند غیرکارآمد و غیرخطی است. تمام خوشی و جادویش در همان اصطکاک‌هایش است. بهره‌وری اما، از جهات گوناگون، عکس آن است. و هوش مصنوعی، فراتر از هر ویژگی دیگرش، ابزاری است که تحقق کامل بهره‌وری است و دستور کارش از میان بردن تمام اصطکاک‌هاست، هرجا که بتواند. هوش مصنوعی آمده تا بر شغل‌های ما، خلاقیت‌ ما و فرهنگ ما اثر بگذارند، اما احتمالا نه به آن صورتی که انتظارش را دارید. آنچه در پیش است، آخرالزمان به معنای واقعی‌اش نیست. بلکه بسیار ملال‌انگیزتر از این‌ها خواهد بود.این مقاله با عنوان Here’s How AI Will Come for Your Job در تاریخ 17 مه (27 اردیبهشت) امسال در وبسایت The Atlantic منتشر شده است.ترجمه: محمدصدرا محمودی