خلاصه‌ی مستند «معمای اجتماعی» - Social Dilemma

(این نوشته پیش‌تر به شکل رشته توییت نوشته شده بوده و سپس در ویرگول رونوشت شده)مستند معروف «معمای اجتماعی» (The Social Dilemma) اخیرا روی Netflix اومده و دیدنش به خصوص برای ما کاربران سرویس‌های اینترنتی مفیده. خلاصه‌ای از اون رو برای کاربران فارسی‌زبانی که دسترسی ندارند اینجا می‌نویسم به امید این که مفید باشه.مستند شامل مصاحبه با متخصصانی از جمله کارمندان و مدیران پیشین و رده‌بالای گوگل و فیس‌بوک و توییتر و غیره هست به اضافه‌ی تکه‌هایی نمایشی از یک خانواده که برخی گفته‌های مصاحبه‌شوندگان رو ملموس می‌کنه.سرویس‌ها اینترنتی و شبکه‌های اجتماعی برای یک هدف بهینه‌سازی شده‌ن: درگیر (engaged) نگه داشتن کاربر روی صفحه‌ی نمایش. یک مدل از کاربر ساخته شده و همه‌ی فعالیت‌هاش، روی چه جور محتوایی به پیمایش (scroll) ادامه می‌ده یا نه، ویدیو رو پخش می‌کنه یا نه، دقیقا چه مدت زمانی روی یک عکس می‌ایسته، همه ذخیره می‌شن و اون مدل رو دقیق و دقیق‌تر می‌کنن.کار اون مدل اینه که پیش‌بینی کنه الان چه محتوایی من رو درگیر نگه می‌داره - یه مطلب فوتبالی یا مطلب زرد یا فلان گرایش سیاسی. حتی می‌دونن که آیا ما در این لحظه افسرده‌ایم یا عصبانی. آیا درون‌گرا هستیم یا برون‌گرا. چه نوع روان‌نژندی‌های داریم. به کدوم تیپ‌های شخصیتی تعلق داریم.این‌ها حرف‌های کسانی هست از درون همین سیستم‌ها. اطلاعات بنده هم از سنجه‌های این شرکت‌ها برای پاداش و ترفیع افراد تقریبا همین بوده: «چند درصد درگیری کاربر رو افزایش دادی». هر چه کاربر درگیرتر باشه، محتوای «پرداخت شده»ی بیشتری بهش نشون داده می‌شه - چه تبلیغ تجاری چه پروپاگاندا.محصولاتی که ما رایگان استفاده می‌کنیم برای ارائه‌دهندگانشون هزینه هنگفتی دارن، ولی ما پولشو نمی‌دیم، تبلیغ کنندگان می‌دن. در واقع «مشتری» اون‌ها هستن و «محصول» ماییم. Jaron Lanier بنیان‌گذار واقعیت مجازی، اونو این‌طوری بیان می‌کنه: محصول، «تغییر نم‌نم و نامحسوس در رفتار و بینش شما»ست. یک اشتباه رایج اینه که می‌گن این شرکت‌ها داده‌های کاربر رو می‌فروشن، در صورتی که چنین نیست. در واقع خود کاربر رو می‌فروشن. یک فرد شریر پشت این سیستم وجود نداره، بلکه سیستم خود به خود به این سمت رفته چون درآمدزایی اینجاست.مثلا Justin Rosenstein که از رهبران فیس‌بوک و از مخترعان دکمه‌ی Like بوده می‌گه انگیزه‌ی ما از این دکمه، گستردن حس مثبت و عشق بود. این که باعث آسیب روحی به نوجوانان بشه (که ارزش خود رو در Likeهایی که نمی‌گیرن ببینن) یا باعث دوقطبی و متشنج شدن فضای سیاسی، بهش فکر نشده بود.جهش بزرگی در افسردگی و اضطراب نوجوانان در آمریکا از سال ۲۰۱۱ که شبکه‌های اجتماعی فراگیر شدن رخ داده. آمار دختران نوجوانی که به خودشون آسیب می‌زدن ثابت بوده ولی از اون سال تا الان ۶۰٪ برای ۱۵-۱۹ ساله‌ها و ۱۹۰٪ برای ۱۰-۱۴ ساله‌ها زیاد شده. آمار مشابهی در نرخ خودکشی بوده.پژوهش‌های وسیعی برای درگیر نگه‌داشتن کاربر می‌شه. هزاران ایده روزانه به شکل آزمون A/B آزمایش می‌شن تا اثر دقیقشون روی کاربر اندازه‌گیری شه - چه کاربرانی به چه نوع محرک‌هایی چه واکنشی نشون می‌دن. این کار رو تیم‌های فراوانی در شرکت ما هم می‌کنن برای بهینه‌سازی کلیک تبلیغات. رشته‌ای به اسم growth hacking به وجود اومده که کارش همینه: چه‌طور می‌شه از آسیب‌پذیری‌های مغز انسان، مثل نیاز به تایید سایرین یا اعتیاد به پایین کشیدن و صفحه و انتظار برای مطلب جدید (معادل ماشین‌های قمار در لاس‌وگاس) استفاده کرد تا درگیریش رشد کنه. برای همین بهش می‌گن hack.اما مستند از اینجا جالب می‌شه که به فرای اثرات فردی، به اثرات ویران‌گر اجتماعی مساله می‌پردازه.وقتی من و شما به صفحه‌ی ویکی‌پدیای موضوع الف می‌ریم، همه یک واقعیت رو می‌بینیم. ولی فرض کنید ویکی‌پدیا به هر کس یک تعریف سفارشی‌ساز از الف نشون بده، و برای این کار پول بگیره. اون‌وقت ویکی‌پدیا شروع می‌کنه جزییات ذهنی شما رو یاد بگیره و هدف‌مند چیزهایی رو به شما بده که سوقتون بده به سمتی که قراره - که یک محصول تجاری رو دوست داشته باشید یا به یک نگاه سیاسی جذب بشید. این‌ها خودکار توسط هوش مصنوعی انجام می‌شه. اتفاقیه که در خوراک (feed) شما می‌افته.اگر در گوگل بنویسید «تغییرات اقلیمی» ممکنه پیشنهاد بده «شایعه است» یا «جدی است». این تابع واقعیت نیست بلکه تابع اینه که گوگل فکر می‌کنه کدوم رو دوست خواهید داشت.به مرور این حس رو پیدا خواهید کرد که افراد طرف مقابلتون چه قدر نفهمن. چه طور این همه واقعیات رو نمی‌بینن. دوقطبی شدن فزاینده‌ی آمریکا در دو دهه‌ی اخیر به همین اثر نسبت داده می‌شه. قدیم‌تر تلویزیون هم در واقع همین کار رو می‌کرده، ولی کامپیوتر در این راه بسیار کاراتر و فردی‌تره.مطالعه‌ای از دانشگاه MIT نشون می‌ده که اخبار غلط (disinfo) شش برابر سریع‌تر از اخبار صحیح پخش می‌شه. چون این طوری کاربر بیشتر وقت می‌گذرونه و پول بیشتری به دست می‌آد. حقیقت کسل‌کننده‌ست ولی نظریات توطئه نه. مثلا «کرونا کار فلان دولته». دنیایی رو تصور کنید که در اون، غلط شش برابر به صحیح برتری داره.این یک ابزار قوی برای پروپاگانداهای دولت‌ها بوده. مثلا در میانمار از همین طریق افکار عمومی علیه اقلیت مسلمان روهینگا سودِهی شد و خشونت تشویق شده که نتیجه‌اش کشتار و تجاوز جمعی و آوارگی ۷۰۰هزار نفر بوده. روسیه هم از همین طریق در انتخابات آمریکا دخالت کرد.مثلا دو گروه مخالف در آمریکا در یک روز یکسان تجمع اعتراضی پرتنش برگزار کردن، بعدا معلوم شد پشت هر دو کمپین فیس‌بوکی دولت روسیه بوده - این مثال از این مستند نیست بلکه از کتابی به نام Sandworm از A. Greenberg هست که عملیات سایبری روسیه رو واکاوی می‌کنه.الان شما می‌تونید بگید من می‌خوام کشور کنیا رو به هم بریزم. هزینه‌ش هم انقدر میلیون دلاره. شرکت‌هایی هستن که کارشون اینه. اخیرا خبر یکی‌ش دراومده بود که امارات استخدام کرده بود برای توییتر فارسی. شعار اصلی شرکت در وب‌سایتش این بود که افکار عمومی رو ما تعریف می‌کنیم.این تهدیدی اجتماعیه و دودش در چشم همه می‌ره نه فقط اونایی که کاربر هستن. اگر من و شما نتونیم روی حداقل‌هایی توافق کنیم که چه چیزی صحیح هست، نمی‌تونیم هیچ کدوم از مشکلاتمون رو حل و فصل کنیم.راه‌حل چندانی ارائه نمی‌شه. هدف اصلی فعلا شناساندن معضل هست. ولی تاکید می‌شه که راه‌حل این مساله «خارج» از دنیای تکنولوژی هست، و ادعاهای این شرکت‌ها که با هوش مصنوعی بهتر می‌شه جلوی پخش disinfo رو گرفت، غلطه. راه‌حل‌ها رو باید در دنیای نظارت و قانون‌گذاری جستجو کرد که در برابر پول هنگفتی که در میونه کار سختیه.نهایتا راه‌کارهایی برای من و شمای کاربر ارائه می‌شن. اول این که همه‌ی آگه‌دادها (notificationها) رو خاموش کنید. دوم این که هرگز محتوای توصیه شده رو نگاه نکنید - همیشه خودتون انتخاب کنید. افزونه‌های متعددی برای کروم هست که محتوای توصیه‌شده رو حذف می‌کنه. سوم این که پیش از هم‌رسانی کردن، صحت‌سنجی کنید. اگر محتوا برای تحریک احساسات شماست، احتمالا هست. چهارم این که حواستون باشه روی آگهای‌ها کلیک نکنید، چون به قوی‌تر شدن چرخه کمک می‌کنید. پنجم این که سعی کنید اطلاعات گوناگون بگیرید - تعمدا کسانی رو که مخالفشونید دنبال کنید. ششم بدونید که سازندگان همین تکنولوژی‌ها، خودشون این ابزار رو دست فرزندانشون نمی‌دن. مدیران رده‌بالای همین شبکه‌های اجتماعی صراحتا می‌گفتن در خونه‌ی ما قانونه که شبکه‌های اجتماعی ممنوع - یا حتی موبایل و تبلت کلا ممنوع. برای خودتون قانون بذارید، حتی اگر شُل‌تر از این.