آیا به این رایانه اعتماد داری؟

امروز بعد از مدت‌ها فرصت کردم و مستند «آیا به این رایانه اعتماد داری؟» (Do You Trust This Computer) را دیدم. شاید شما هم دیده باشید. اگر ندیده‌اید، پیشنهاد می‌کنم ببینید. مستند خوب و جذابی است. اگر چه کمی رنگ‌ولعاب هیجانی آن پررنگ شده، اما محتوای ارزشمندی دارد.پوستر رسمی فیلم «آیا به این رایانه اعتماد داری؟»کریس پِین (کارگردان) با بسیاری از چهره‌های نام‌آور فناوری (مثلاً ایلان ماسک) درباره‌ی آینده‌ی مبهم زندگی بشری در شرایطی که رایانه‌های هوشمند و هوش مصنوعی با شتاب افسارگسیخته‌ای در حال پیشروی‌ند، گفتگو کرده است. البته انتظار یک مستند علمی و دانشگاهی را نداشته باشید. این اثر را برای جلب توجه مخاطب عمومی ساخته‌اند و همان‌طور که گفتم، جلوه و رنگ‌ولعاب پرتب‌وتابی دارد. اگر بخواهم صادق باشم، می‌توانم بگویم که مستند تاثیرگذاری است. بعد از دیدن آن، یاد رمان 1984 (اثر جرج اورول) افتادم و تله‌اسکرین‌های مشهورش. https://www.aparat.com/v/cXQin من آشنایی بسیار اندکی با جزییات فنی «هوش مصنوعی» دارم و جزو حوزه‌ی تخصصی من نیست. پس چرا این مستند را دیدم و دارم آن را معرفی می‌کنم؟ چون هوش مصنوعی بخش بسیار مهمی از تحلیل‌های محاسباتی است و شما نمی‌توانید ظرفیت‌ها و محدودیت‌های علوم اجتماعی محاسباتی را به صورت کامل درک کنید؛ مگر این که هوش مصنوعی را کمابیش بشناسید.ضمن این که بخش مهمی از خطرات هوش مصنوعی، همان‌طور که در بخش پایان همین مستند هم به آن اشاره می‌شود، به سویه‌ی اجتماعی توانایی‌های رایانه برمی‌گردد و به همین دلیل هم برای من مهم است.ایلان ماسک در توییتر نوشت: «هیچ چیزی به اندازه‌ی ابرهوش دیجیتال بر آینده‌ی بشریت تاثیر نخواهد گذاشت. فیلم کریس پین درباره‌ی هوش مصنوعی را ببینید.خلاصه این که پیشنهاد می‌کنم که خودتان این مستند 78 دقیقه‌ای را ببینید. سینمامارکت آن را با زیرنویس فارسی عرضه کرده و اگر نیازی به زیرنویس فارسی ندارید، می‌توانید آن را در فیلیمو هم ببینید یا با کمی جستجو از پایگاه‌های دیگر دریافت کنید.گذشته از این‌ها، چند بخشِ آن برای من جذاب‌تر بود. شما هم با من شریک شوید:اوایل مستند (حدود دقیقه‌ی 2:30) راوی می‌پرسد که رایانه‌ها به مرور بخش‌های بیشتری از ما و زندگی‌مان را خواهند داشت. سوال این است که آن‌ها فقط نیمه‌ی خیرخواه ما را یاد می‌گیرند یا نیمه‌ی شرور ما را هم خواهند آموخت؟جاناتان نولان (نویسنده و برادر کریستوفر نولان مشهور) در بخشی از مصاحبه‌اش اعتراض می‌کند که هالیوود کاری کرده که تصور مردم از هوش مصنوعی و قدرت رایانه به شکل تحریف‌شده‌ای به فیلم‌های سینمایی علمی‌تخیلی تقلیل پیدا کند. به همین دلیل، اگر درباره‌ی این پدیده و خطرات آن صحبت کنیم، با برچسب‌های ساده‌انگارانه‌ی مخاطبان مواجه می‌شویم و ما را جدی نمی‌گیرند.نولان جمله‌ی عجیب دیگری هم (در دقیقه‌ی 8) می‌گوید. او معتقد است که گوگل فقط موتور جستجو نساخته، بلکه خدایی را ساخته که مردم به آن مراجعه می‌کنند و پاسخ همه‌ی سوالات‌شان را می‌گیرند. این خدا دارد با همان جستجوهایی که مردم انجام می‌دهند، توانایی بیشتری کسب می‌کند و قوی‌تر می‌شود.مارکوف (خبرنگار نیویورک‌تایمز) هم همین حرف را با عبارت دیگری می‌زند. به نظر او ما با این تناقض مواجهیم که کسب‌وکارهایی مثل گوگل و فیسبوک همه‌ی آن چیزی که ساخته‌اند را دارند به رایگان به ما می‌دهند. اما داستان به این سادگی نیست و انگار ما داریم «روح‌مان را با شیطان معامله می‌کنیم». این شرکت‌ها در مقابل این خدمات رایگان دارند چیزهایی را از وجود ما برمی‌دارند. اما ما هیچ اطلاعی از پشت صحنه‌ی آن‌ها نداریم. به همین خاطر است که باید به این سوال پاسخ دهیم که «چقدر به این‌ها اعتماد داریم؟»جری کاپلان (استاد دانشگاه استنفورد) هم (حدود دقیقه‌ی 10) هشدار می‌دهد که ما، هرچند نمی‌دانیم، همیشه در حال معامله با ماشین‌ها هستیم. ما مدام داریم چیزهایی را می‌دهیم و چیزهایی را می‌گیریم. این معامله آن‌قدر گسترده شده و همه‌جا را فراگرفته که می‌شود گفت ماشین‌ها ما را خیلی خوب می‌شناسند؛ حتی بهتر از مادران‌مان. [یکی از دوستان من چند روز پیش تعبیر جالبی داشت. به نظر او، بعد از فرشته‌هایی که وظیفه‌شان ثبت همه‌ی اعمال ما است، هیچ کس به اندازه‌ی این ماشین‌ها و صاحبان‌شان درباره‌ی ما نمی‌دانند.]فیلم در دقیقه‌ی 40 به موسسه‌ی اشاره می‌کند به نام «بنیاد آینده‌ی زندگی» که توسط گروهی از دانشمندان و چهره‌های برجسته‌ی علمی و فنیِ هوش مصنوعی تاسیس شده که دغدغه‌شان را اصلاح مسیر رشد این پدیده‌ی جدید می‌دانند. شعار این موسسه به نقل از پایگاه اینترنتی‌شان (futureoflife.org) این است: «فناوری ظرفیت بی‌سابقه‌ای برای شکوفا شدن ایجاد کرده ... یا برای نابود کردن خود. بیایید تغییر را شرو کنیم».میخال کوزینسکی (استاد دانشگاه استنفورد) هم در حدود دقیقه‌ی 57 اعتراف می‌کند که هیچ کس واقعاً نمی‌داند هوش مصنوعی چطور عمل می‌کند و حتی کسانی که آن را می‌سازند هم به صورت کامل نمی‌شناسندش. علت هم ساده است. الگوریتم‌های هوش مصنوعی گاهی تا میلیون‌ها عنصر دارند و هیچ انسانی نمی‌تواند همه‌ی این عناصر را همزمان بشناسد.فیلم در حدود دقیقه‌ی 58 به یکی از پروژه‌های مایکروسافت به نام تای (Tay) اشاره می‌کند که یک ربات توییتری است. قرار بود توانایی هوش مصنوعیِ این ربات در یادگیری او از تحلیل پیام‌های دریافتی از سایر کاربران توییتر سنجیده شود. اما مایکروسافت آن را در کمتر از شانزده ساعت خاموش کرد. چرا؟ چون تای شروع کرد به نوشتن توییت‌های توهین‌آمیز، نژادپرستانه، وقیح و ... . مایکروسافت این را پیش‌بینی نمی‌کرد و اوباش توییتری را مقصر دانست. اما به هر حال توانایی و سرعت ماشین در یادگیری شرارت به تجربه ثابت شد و به اعتراف مدیرعامل مایکروسافت «تاثیر عمیقی بر نحوه‌ی مواجهه‌ی شرکت با هوش مصنوعی داشت». [برای اطلاعات بیشتر این‌جا را ببینید: en.wikipedia.org/wiki/Tay_(bot)]یکی دیگر از خطرات هوش مصنوعی در دقیقه‌ی 62 فیلم مورد اشاره قرار می‌گیرد. این که در شرایطی که کاربران فیسبوک همه‌ی اخبارشان را از فیسبوک می‌گیرند و هوش مصنوعی است که تصمیم می‌گیرد چه خبری را «بر اساس علاقمندی‌ها» به آن‌ها نشان دهد، تغییر و دستکاری درک مردم از جهان خارج و وقایع پیرامون شان کار چندان سختی نیست. قصه بغرنج‌تر می‌شود؛ وقتی بدانیم ماشین می‌تواند بلافاصله بعد از عرضه‌ی یک خبر یا محتوا به کاربر، رفتار بعدی او (نوشتن، پسند کردن، مرور کردن یا ...) را رهگیری کند و قدم بعدی را بر اساس این رفتار بردارد. این یعنی دستکاری مستمر و لحظه‌ای افکار عمومی.میخال کوزینسکی (در دقیقه‌ی 65) توضیح می‌دهد که در گذشته پروژه‌ای داشته با هدف استفاده از تحلیل ردپای دیجیتال کاربران در فیسبوک به جای آزمون‌های روان‌سنجی. یعنی طراحی ماشینی که بتواند در ازای دریافت عکس پروفایل کاربر، ویژگی‌های شخصیتی، گرایش‌های سیاسی، رفتارهای جنسی، هوش و ... او را استخراج و فهرست کند.فیلم با این جمله تمام می‌شود: «جستجوی هوش مصنوعی صنعتی چند میلیارد دلاری است که تقریباً هیچ مقرراتی ندارد.»برگردیم به حرف اول. همه‌ی چهره‌های حاضر در این مستند در این سوال مشترک‌ند که آیا واقعاً می‌شود به رایانه اعتماد کرد یا نه و پاسخ‌شان همگی‌شان هم روشن است: نه.