آیا میتوان به سیستمهای هوش مصنوعی که صرفاً بر مبنای یادگیری عمیق بنا شده اند اعتماد کرد؟

کتاب جدید پروفسور گری مارکوس و همکارش ارنست دیویس عملا با بولدوزر از روی یادگیری عمیق رد می شود: یادگیری عمیق هرگز به یک هوش مصنوعی عمومی منجر نخواهد شد چرا که یادگیری عمیق فاقد درک عمیق است!!چکیده ای از کل مطلب: یادگیری عمیق ممکن است از دیدگاه فنی در تقلید از عملکرد های ادراکی مغز مانند پردازش تصویر یا گفتار خوب عمل کند اما در سایر وظایف ادراکی مانند توانایی فهم مکالمات یا روابط علی و معلولی بسیار ضعیف است. یادگیری عمیق با تغییر کوچکی در شرایط مسئله کارایی خود را از دست می دهد.یادگیری عمیق در واقع هیچ درکی از دنیای پیرامون خود یا وظایف خودش ندارد. تشخیص یک شیء با فهمیدن یک جمله اساسا متفاوت است اما مردم به اشتباه سعی دارند تا از یادگیری عمیق برای هر دو مورد استفاده کنند. یادگیری عمیق نمی تواند توضیح دهد که چرا فلان چیز روی می دهد بلکه تنها ممکن است بتواند احتمال روی دادن در شرایطی خاص را بررسی کندGary Marcusگری مارکوس( از اساتید به نام هوش مصنوعی و استاد علوم اعصاب دانشگاه NYU و از جمله افرادی که در لبه دانش هوش مصنوعی فعالیت کرده است)در مصاحبه جدیدی که با سایت دانشگاه ام آی تی(MIT) انجام داده است درباره کتاب جدید خود توضیح می دهد.او اعتقاد دارد یادگیری عمیق اگر چه کمک زیادی به دنیای هوش مصنوعی کرده است اما ما نمی توانیم به سیستم های هوش مصنوعی که صرفا بر مبنای یادگیری عمیق عمل میکنند اعتماد کنیم و تمرکز بیش از حد بر روی آن می تواند منجر به از بین رفتن آن شود !یادگیری عمیق ممکن است از دیدگاه فنی در تقلید از عملکرد های ادراکی مغز مانند پردازش تصویر یا گفتار خوب عمل کند اما در سایر وظایف ادراکی مانند توانایی فهم مکالمات یا روابط علی و معلولی بسیار ضعیف است.بنابراین برای ایجاد یک هوش مصنوعی قوی تر و عمومی تر، یادگیری عمیق باید با روش های دیگر ترکیب شود.وقتی یک سیستم هوش مصنوعی نمی تواند وظایف خود یا دنیای اطراف خود را درک کند ممکن است پیامد های خطرناکی را به دنبال داشته باشد.نمونه های این موارد نیز کم نیستند.به طور مثال سیستم های ماشین های خودران که منجر به تصادف می شوند ،سیستم های تشخیص حرف های نژادپرستانه یا دروغ(مانند سیستم هایی که فیس بوک به آنها نیاز دارد) که همچنان به راحتی فریب می خورند یا سیستم های هوشمند برای استخدام افراد که فرایند های تبعیض آمیز اعمال می کنند.پروفسور مارکوس و همکارش ارنست دیویس در کتاب جدید خود ( به نام Rebooting AI) به این موضوع می پردازند و اعتقاد دارند ما در حال حاضر حتی نزدیک این هوش مصنوعی عمومی (General AI)هم نیستیم ! هر چند می توانیم به آن دست بیابیم. منظور از هوش مصنوعی عمومی نوعی از هوش مصنوعی است که بتواند روابط علی و معلولی را درک کند.این نوع از هوش مصنوعی می تواند مانند یک محقق به کشف دانش جدید در حوزه هایی مانند پزشکی کمک کند.همچنین می تواند فکر کند و مشکلات جدید را حل کند نه این که تنها برای حل یک مسئله محدود آموزش دیده باشد و با تغییر کوچکی در شرایط مسئله کارایی خود را از دست بدهد. یا مثلا این نوع از هوش مصنوعی باید بتواند مانند یک انسان در مسائلی مانند سیاست یا موارد مشابه استدلال کند.اما یادگیری عمیق نمی تواند هوش مصنوعی را به چنین جایگاهی برساند.حتی قوی ترین موارد یادگیری عمیق مانند سیستم آلفا گو از شرکت گوگل که توانست در بازی گو انسان را مغلوب کند تنها قادر است برای موارد مشخصی کارایی داشته باشد و با کوچکترین تغییری در شرایط مسئله باید از نو بازنویسی شود.چرا که این سیستم در واقع هیچ درکی از دنیای پیرامون خود یا وظایف خودش ندارد.سیستم های پردازش تصویر مبتنی بر یادگیری عمیق نیز همین مشکل را دارند.پروفسور مارکوس و همکارش در کتاب خود به این نکته اشاره میکنند که یادگیری عمیق هرگز نمی تواند به یک هوش مصنوعی عمومی دست پیدا کند چرا که یادگیری عمیق فاقد درک عمیق است!! به عقیده پروفسور مارکوس شرایط به گونه ای شده است که مردم می خواهند همه مشکلات را با شبکه های عصبی حل کنند بدون آنکه به سراغ روش های کلاسیک هوش مصنوعی و برنامه نویسی بروند در حالی که این ممکن نیست.تشخیص یک شیء با فهمیدن یک جمله اساسا متفاوت است اما مردم به اشتباه سعی دارند تا از یادگیری عمیق برای هر دو مورد استفاده کنند.یادگیری عمیق نمی تواند توضیح دهد که چرا فلان چیز روی می دهد بلکه تنها ممکن است بتواند احتمال روی دادن در شرایطی خاص را بررسی کند.منبع: اختصاصی از کانال پردازش هوشمند آزاد