وزارت حقیقت، نسخه ۲۰۲۰

روایت کارمند سابق بایت‌دنس از سانسور در چینهمان شبی بود که دکتر لی ونلیانگ برای آخرین نفس‌هایش در اورژانس بیمارستان مرکزی ووهان تقلا می‌کرد. من هم مثل بسیاری از کاربران آنلاین دیگر بیدار مانده بودم و مدام صفحه Weiboام را رفرش می‌کردم تا خبری از حال او پیدا کنم. دکتر لی چشم‌پزشکی بود که اولین هشدار‌ها را درباره شیوع کووید-۱۹ داد و خیلی زود با تهدیدات دولت روبه‌رو و بعد هم به ویروس مبتلا شد. وقتی در جمعه، ۷ فوریه ۲۰۲۰ درگذشت، من هم مانند بسیاری دیگر از شهروندان‌ آنلاین چینی خشم و اندوه‌ام را در مورد این اتفاقات در Weibo بیان کردم، اما خیلی زود حساب کاربری من پاک شد.چرخ‌دنده‌ای در ماشین عظیم سانسوربیشتر از خشم، احساس گناه می‌کردم. در آن زمان کارمند فنی ByteDance بودم؛ جایی که در آن به توسعه ابزار‌ها و زیرساخت‌هایی برای مدیریت محتوا کمک کرده بودم. به عبارتی دیگر، به ساختن سیستمی کمک کرده بودم که حساب‌های افرادی مانند من را سانسور می‌کرد. داشتم در قبرستان سایبری همیشه در حال گسترش چین قبر خودم را می‌کندم. در مورد لی ونلیانگ بخش‌نامه مشخصی به دستم نرسیده بود، اما قطعا Weibo تنها شرکت حوزه فناوری در چین نبود که آن شب بی‌وقفه مشغول پاک کردن پست‌ها و اکانت‌ها باشد. می‌دانستم که ByteDance لشکری از ناظران محتوایی دارد که از ابزارها و الگوریتم‌هایی برای پاک کردن محتوا، هدایت روایت‌ها و تغییر خاطرات رنج و آسیبی که شیوع کووید-۱۹ بر مردم چین وارد کرده بود، استفاده می‌کنند که من به توسعه‌ آن‌ها کمک کرده بودم. هر روز احساس‌می‌کردم که چرخ‌دنده‌ای کوچک در یک ماشین عظیم و شیطانی هستم.تک‌شاخی با ۲۰ هزار ناظر محتوایی شرکت ByteDance یکی از بزرگترین تک‌شاخ(Unicorn: استارت‌آپ‌های خصوصی با ارزش بالای یک میلیارد دلار، تک شاخ نامیده می‌شوند)های چین و سازنده برنامه اشتراک ویدئوی تیک‌تاک، ورژن اصلی چینی آن Douyin و برنامه خبرخوان Toutiao است. پارسال، زمانی که بایت‌دنس محور اصلی مباحثات در آمریکا حول اشتراک داده با پکن بود، دسترسی مهندسان داخلی‌اش به داده‌های خارج از کشور، از جمله تیک‌تاک‌ را بست. تیک‌تاک برنامه داشت تا دو مرکز شفافیت در لس‌آنجلس و واشنگتن‌‌دی‌سی تأسیس کند و روش‌های مدیریت محتوایش را در آنها ارائه دهد، ولی در خود چین مدیریت محتوا عموما در سایه نگه داشته می‌شود.من در تیم فنی‌ مرکزی‌ای بودم که تیم امنیت و اعتماد را پشتیبانی می‌کرد و جزء هسته اصلی بخش داده‌ بایت‌دنس محسوب می‌شد. بخش داده عمدتا به توسعه تکنولوژی‌هایی برای پلتفرم‌های ویدئوکوتاه اختصاص داشت. در ابتدای ۲۰۲۰، تکنولوژی‌هایی که ما ساخته بودیم، به مدیریت تمام محتواهای شرکت در داخل و خارج کمک می‌کرد. این محتواها شامل Douyin در چین و معادل بین‌المللی‌اش TikTok هم می‌شد. نزدیک به ۵۰ کارمند در تیم محصول کار می‌کردند و نزدیک به ۱۰۰ تا ۱۵۰ مهندس نرم‌افزار در تیم‌های فنی. علاوه بر این، بایت‌دنس نزدیک به ۲۰۰۰۰ کارمند برای مدیریت محتوا استخدام کرده بود تا محتوا‌های چینی را نظارت کنند. آنها در ساختمان‌هایی که اینجا به اسم «پایگاه» شناخته می‌شوند در تیانجین، جینان، شنگدو و باقی شهر‌ها کار می‌کردند.کار من در آنجا این بود که با استفاده از تکنولوژی کار اپراتورهایی را که مدیریت محتوا انجام می‌دادند، آسان‌تر و بهینه‌تر کنم؛ برای مثال ما ابزاری ساخته بودیم که این امکان را می‌داد که یک ویدئو را در پایگاه داده جست‌وجو و ویدئوهای مشابه آن را پیدا کنند.وقتی در بایت‌دنس بودم، درخواست‌های متعددی از پایگاه‌ها به دست ما می‌رسید که الگوریتمی توسعه دهیم که به صورت خودکار تشخیص بدهد چه زمانی یک کاربر به زبان اویغوری صحبت می‌کند و پخش زنده آن را قطع کند. ناظران به چنین ابزاری نیاز داشتند، چون که زبان اویغوری را متوجه نمی‌شدند. استریمرهایی که به گویش‌ها و زبان‌های محلی‌ای صحبت می‌کردند که یک ماندارین‌زبان آن را متوجه نمی‌شد، هشداری دریافت می‌کردند که به ماندارین صحبت کنند و اگر عمل‌ نمی‌کردند، ناظران به صورت دستی پخش زنده آنها را قطع می‌کردند، فارغ از اینکه آن شخص در مورد چه چیزی صحبت می‌کرد، ولی وقتی صحبت از زبان اویغوری می‌شود، با الگوریتمی که این کار را به صورت خودکار انجام دهد، دیگر نیازی نیست که ناظران مسئولیت از زیر دست در رفتن محتواهایی را که از نظر مقامات تحریک به جدایی‌طلبی یا تروریسم خوانده می‌شد، به عهده داشته باشند. در نهایت تصمیم گرفتیم که این کار را انجام ندهیم؛ به اندازه کافی داده از زبان اویغوری در سیستم‌مان نداشتیم و همین‌طوری هم پخش زنده‌های پربازدید از نزدیک نظارت می‌شدند.مسئله مرگ و زندگی برای پلتفرم‌های محتواییواقعیت این‌ است که حرف‌های سیاسی فقط بخش بسیار کوچکی از محتوا‌های پاک‌شده را تشکیل می‌دهد. شهروندان چینی با خودسانسوری به خوبی آشنا هستند و می‌دانند چه چیزی را نباید بگویند. پلتفرم‌های بایت‌دنس (Douyin، Toutiao، Xigua و Houshan) اکثرا اپلیکیشن‌های سرگرمی هستند. ما معمولا محتواهایی را سانسور می‌کردیم که دولت آنها را از لحاظ اخلاقی خطرناک می‌دانست؛ هرزه‌نگاری، برهنگی، ناسزاها و تصاویر نامناسب. همچنین حراج‌های آنلاین بدون مجوز و محتواهایی که کپی‌رایت را نقض می‌کردند.اما حرف‌های سیاسی همچنان پررنگ هستند. پلتفرم‌های چینی که با محتوای تولیدشده از سوی کاربران سروکار دارند، بزرگ‌ترین ترس‌شان این‌ است که نتوانند محتواهای حساس سیاسی را به موقع حذف کنند که باعث می‌شود بعدا تحت بازرسی شدید دولت قرار بگیرند. این برای شرکت‌ها مسئله مرگ و زندگی است. هر از گاهی سیستم مدیریت محتوای بایت‌دنس برای چند دقیقه پایین‌ می‌آمد و همه عصبی می‌شدیم، چرا که نمی‌دانستیم در این بازه کوتاه چه افتضاح سیاسی‌ای ممکن است رخ بدهد. بایت‌دنس به عنوان یک تک‌شاخ ارتباطات قوی با دولت نداشت، چیزی که بقیه غول‌های فناوری داشتند. برای همین هر ثانیه آن مانند راه رفتن بر یک طناب نازک بود.تیمی که من جزء آن بودم، سیاست‌گذاران مدیریت محتوا، به همراه لشکر تقریبا ۲۰ هزار نفری ناظران محتوا، از بایت‌دنس در مقابل دردسرهای سیاسی محافظت می‌کرد تا به موفقیت اقتصادی برسد. الگوریتم‌های قدرتمند بایت‌دنس نه تنها می‌توانند پیشنهادهای دقیق و پیش‌بینی‌شده به کاربر نشان دهند (چیزی که در باقی دنیا به آن شهره است)، بلکه می‌تواند به ناظران محتوا کمک کند تا آسان‌تر سانسور کنند. شرکت‌های معدودی در چین هستند که به این اندازه منابع به مدیریت محتوا اختصاص داده باشند. بقیه پلتفرم‌های چینی که محتوایشان از سوی کاربر تولید می‌شود، به گرد پای بایت‌دنس هم نمی‌رسند.سر تفنگ را نمی‌شود چرخاندبسیاری از همکاران من در مورد کاری که انجام می‌دادیم، احساس خوبی نداشتند. بعضی از آنها در دانشگاه روزنامه‌نگاری خوانده بودند. بعضی‌شان فارغ‌التحصیل بهترین دانشگاه‌های کشور بودند. تحصیل‌کرده بودند و گرایشات لیبرال داشتند. هرچند وقت یک‌بار خیلی صریح در مورد اینکه چطور کارمان به سانسور کمک کرده، با همدیگر صحبت می‌کردیم، ولی همه ما حس می‌کردیم که کاری از دست‌مان بر‌نمی‌آید.البته‌که هنوز شعله کوچکی از ایده‌آل‌گرایی مانده بود. ساده بودم که فکر می‌کردم اگر مقداری بیشتر تلاش کنم، شاید بتوانم آن‌طور که چینی‌ها می‌گویند «سر تفنگ را یک اینچ بچرخانم» و یک مقدار از حرف‌ها را بگذارم رد شود. در نهایت اما متوجه شدم که در واقعیت چقدر تأثیر من محدود بوده است.کارمان خوب بود؛ سانسور بهینه مدیریت فضای مجازی چین دائما بخش‌نامه‌هایی به مرکز کیفیت‌ محتوای بایت‌دنس می‌فرستاد؛ مرکزی که بر عملیات مدیریت محتوا در درون شرکت نظارت می‌کند. بعضی مواقع بیشتر از ۱۰۰ بخش‌نامه در روز می‌فرستاند. اغلب مواقع از تیم‌ها می‌خواستند تا دستورات مشخصی را در رابطه با بحث‌های روز یا قدیمی اجرا کنند و در محتواها بگردند تا ببیند کدام می‌تواند باقی بماند.در برنامه‌های پخش زنده، صدای هر ویدئو به صورت خودکار به نوشته تبدیل می‌شود که به الگوریتم‌ها اجازه می‌دهد نوشته‌ها را با لیست بلند‌بالایی از کلمات حساس، تاریخ‌ها و اسامی مقایسه کند. همچنین این نوشته‌ها در یک مدل پردازش زبان طبیعی نیز بررسی می‌شوند. این الگوریتم‌ها در نهایت بررسی می‌کنند آیا این محتوا به اندازه‌ای خطرناک هستند که نیاز به نظارت اپراتور داشته باشند یا نه.اگر یک کاربر به کلمه‌ای حساس اشاره کند، اپراتور کلیپ اصلی و رونوشت آن را که نشان می‌دهد کلمه حساس کجا استفاده شده دریافت می‌کند. اگر اپراتور موضوع را حساس یا نامناسب تشخیص دهد، پخش زنده را قطع و حتی حساب کاربری را مسدود یا پاک می‌کند.نزدیک تعطیلات حساس سیاسی که می‌شود، مثل ۱ اکتبر (روز ملی چین)، ۱ جولای (سال‌روز تأسیس حزب کمونیست چین) یا سالگرد اتفاقات بزرگ سیاسی مثل سالگرد اعتراضات ۱۹۸۹ و سرکوب در میدان تیان‌آن‌من، مرکز کیفیت محتوا یک لیست مخصوص از عبارت‌های حساس درست می‌کند. با اینفلوئنسرها نیز به صورت ویژه برخورد می‌شود. اپراتورهایی برای مشاهده کانال‌ اینفلوئنسرها مشخص می‌شود تا اشتباها محتوا یا کانال آنها پاک نشود. برخی از اینفلوئنسرهای بسیار پرطرفدار، خبرگزاری‌ها و سازمان‌های دولتی نیز در لیست سفید بایت‌دنس قرار دارند و آزادند هرچه می‌خواهند بگویند. البته همکاری آن‌ها از قبل تضمین می‌شود.وظیفه‌ ما این بود که مطمئن شویم ناظران محتوایی در سریع‌ترین زمان ممکن «محتوای مضر و خطرناک» را پیدا کنند. وظیفه‌مان این بود که سانسور را بهینه‌تر کنیم. با کمترین تعداد آدم، بیشترین میزان تخلف از خطوط قرمز تشخیص داده شود. در زمانی که در بایت‌دنس بودم به یاد نداریم هیچ‌موقع گرفتار دردسر‌های سیاسی با دولت شده باشیم که به این معنی است که کارمان را خوب انجام دادیم.مسلما شغلی نبود که در جلوی خانواده و دوستانم با غرور در مورد آن صحبت کنم. وقتی از من می‌پرسیدند که در بایت‌دنس چه کاری انجام می‌دهم، معمولا می‌گفتم که پست‌ها را پاک می‌کنم. بعضی از دوستانم در جواب می‌گفتند «الان دیگه می‌دونم کی اکانتم رو خراب کرد.» ابزارهایی که به ساختن‌شان کمک کردم می‌توانند به مبارزه علیه خطراتی مثل اخبار کذب هم کمک کند، اما در چین، اصلی‌ترین کاربرد این فناوری‌ها، سانسور سخن و پاک کردن خاطرات جمعی از رویدادهای مهم است، هرچقدر هم که این کاربرد کم باشد، باز هم هدف اصلی است.دکتر لی به همکاران و دوستانش در مورد ویروس ناشناخته‌ای هشدار داد که به بیمارستان‌های ووهان نفوذ کرده بود. برای همین هم مجازات شد. تا هفته‌ها هیچ ایده‌ای نداشتیم که چه اتفاقی دارد می‌افتد، چرا که مقامات شدت فاجعه را پوشانده بودند. در آن زمان بسیاری از شرکت‌های فناورانه چینی به صورت فعال پست‌ها، ویدئوها، خاطرات و عکس‌هایی را که جزئی از «حافظه جمعی درست» که بعدا دولت چین آنرا تأیید می‌کرد، نبود پاک می‌کردند. تصور کنید اگر یک شبکه اجتماعی می‌بود که می‌توانست سانسور دولت را رد کند و هشدارهای دکتر لی و باقی افشاگرها را نگه دارد، شاید امروز جان میلیون‌ها نفر از دست نمی‌رفت.ترجمه از protocol.comترجمه: سجاد ریحانی