نگاهی دقیق‌تر به پایگاه داده وقایع هوش مصنوعی از شکست‌های یادگیری ماشین

منتشرشده در thenextweb به تاریخ 23 ژانویه 2021لینک منبع: A closer look at the AI Incident Database of machine learning failuresشکست سیستم‌های هوشمند مصنوعی به یک موضوع تکراری در اخبار تکنولوژی تبدیل‌شده است. الگوریتم‌های امتیازدهی اعتبار که در برابر زنان تبعیض قائل می‌شوند. سیستم‌های بینایی کامپیوتری که افراد تیره پوست را به‌اشتباه طبقه‌بندی می‌کنند. سیستم‌های توصیه که محتوای خشونت‌آمیز را ترویج می‌دهند. الگوریتم‌های پیشنهادی که اخبار جعلی را تقویت می‌کنند.اکثر سیستم‌های نرم‌افزاری پیچیده در یک نقطه شکست می‌خورند و باید به‌طور منظم به‌روز شوند. ما روش‌ها و ابزارهایی داریم که به ما کمک می‌کنند این خطاها را پیدا و تصحیح کنیم. اما سیستم‌های هوش مصنوعی فعلی، که عمدتاً تحت سلطه الگوریتم‌های یادگیری ماشین هستند، متفاوت از نرم‌افزارهای سنتی هستند. ما هنوز در حال بررسی پیامدهای استفاده از آن‌ها در کاربردهای مختلف هستیم و حفاظت از آن‌ها در برابر شکست نیازمند ایده‌ها و رویکردهای جدید است.این ایده پشت پایگاه داده وقایع هوش مصنوعی، مخزنی از شکست‌های مستند سیستم‌های AI در دنیای واقعی است. هدف پایگاه داده این است که مشاهده شکست‌های گذشته را آسان‌تر کند و از تکرار آن‌ها اجتناب کند.‌شرکت AIID با مشارکت در AI (PAI) حمایت می‌شود، سازمانی که به دنبال توسعه بهترین تجارب در هوش مصنوعی، بهبود درک عمومی از فن‌آوری و کاهش آسیب‌های بالقوه سیستم‌های AI است.شرکت PAI در سال ۲۰۱۶توسط محققان AI در اپل، آمازون، گوگل، فیسبوک، IBM و مایکروسافت تأسیس شد، اما از آن زمان گسترش یافت تا بیش از ۵۰سازمان عضو را شامل شود، که بسیاری از آن‌ها سازمان‌های غیرانتفاعی هستند.تجربیات گذشته در مستندسازی شکست‌های هوش مصنوعیدر سال ۲۰۱۸، اعضای PAI در حال بحث در مورد تحقیق درباره «طبقه‌بندی شکست AI» یا روشی برای طبقه‌بندی شکست‌های هوش مصنوعی به شیوه‌ای سازگار بودند. اما مشکل این بود که هیچ مجموعه‌ای از شکست‌های هوش مصنوعی برای توسعه طبقه‌بندی وجود نداشت. این امر منجر به ایده توسعه پایگاه داده وقایع AI شد.شان مک گری گور، مشاور فنی شرکت آی بی ام واتسون ای XPRizE، در اظهارات کتبی خود به TechTalks گفت: « من در مورد پایگاه‌های داده سوانح هوایی و حوادث اطلاع داشتم و متعهد به ساخت نسخه AI پایگاه داده حوادث در طی مشارکت در نشست هوش مصنوعی شدم.» از آن زمان، مک گری گور بر تلاش‌های AIID نظارت داشته و به توسعه پایگاه داده کمک کرده است.ساختار و قالب AIID تا حدی از بانک اطلاعاتی حادثه که در صنایع هوانوردی و امنیت کامپیوتر ایجادشده است، الهام گرفته است. صنعت مسافرت هوایی تجاری با تجزیه‌وتحلیل سیستماتیک و بایگانی حوادث و وقایع گذشته در یک پایگاه داده مشترک، موفق به افزایش ایمنی پرواز شده است. به همین ترتیب، یک پایگاه داده مشترک از حوادث و شکست‌های هوش مصنوعی می‌تواند به اشتراک‌گذاری دانش و بهبود ایمنی سیستم‌های AI مستقر در دنیای واقعی کمک کند.در همین حال، آسیب‌پذیری‌های مشترک و موارد اضافی (CVE)، که توسط اسپرمر کورپ نگهداری می‌شود، مثال خوبی از یک پایگاه داده در مورد شکست نرم‌افزار در صنایع مختلف است. این امر به شکل دادن دیدگاه AIID به‌عنوان سیستمی که شکست‌های برنامه‌های هوش مصنوعی را در زمینه‌های مختلف مستند می‌کند، کمک کرده است.مک گری گور می‌گوید: «هدف AIID جلوگیری از آسیب دیدن سیستم‌های هوشمند یا حداقل کاهش احتمال و شدت آن‌ها است.»مک گری گور اشاره می‌کند که رفتار نرم‌افزار سنتی معمولاً به‌خوبی درک می‌شود، اما سیستم‌های یادگیری ماشینی مدرن را نمی‌توان به‌طور کامل توصیف یا به‌طور جامع تست کرد. یادگیری ماشینی، رفتار خود را از داده‌های آموزشی می‌گیرد و بنابراین، رفتار آن ظرفیت تغییر در روش‌های ناخواسته با تغییر داده‌های اساسی در طول زمان را دارد.مک گری گور می‌گوید: « این عوامل همراه با توانایی سیستم‌های یادگیری عمیق برای ورود به دنیای بدون ساختار که ما در آن زندگی می‌کنیم به این معنی است که سو عملکردها محتمل‌تر، پیچیده‌تر و خطرناک‌تر هستند.»امروزه، ما سیستم‌های یادگیری عمیقی داریم که می‌توانند اشیا و افراد را در تصاویر تشخیص دهند، داده‌های صوتی را پردازش کنند، و اطلاعات را از میلیون‌ها سند متنی استخراج کنند و با روش‌هایی که با نرم‌افزارهای سنتی و مبتنی بر قانون غیرممکن بود، انتظار می‌رود داده‌ها به‌دقت در قالب جدولی ساختاربندی شوند. این امر استفاده از AI را در دنیای فیزیکی، مانند ماشین‌های خودکار، دوربین‌های امنیتی، بیمارستان‌ها و دستیاران صدا فعال کرده است. و همه این مناطق جدید، بردارهای جدیدی برای شکست‌های هوش مصنوعی ایجاد می‌کنند.مستندسازی رویدادهای هوش مصنوعیشرکت AIID از زمان تأسیس خود اطلاعاتی در مورد بیش از ۱۰۰۰رویداد AI از رسانه‌ها و منابع در دسترس عموم جمع‌آوری کرده است. موضوعات مربوط به عدالت، متداول‌ترین حوادث و شکست‌های هوش مصنوعی ارسال‌شده به AIID هستند، به‌ویژه در مواردی که یک سیستم هوشمند توسط دولت‌ها مانند برنامه‌های تشخیص چهره مورداستفاده قرار می‌گیرد.مک گری گور می‌گوید: « ما همچنین به‌طور فزاینده‌ای شاهد اتفاقات مربوط به روباتیک هستیم.»صدها رویداد دیگر نیز وجود دارد که در حال بررسی شدن هستند و به پایگاه داده حوادث AI، مک گری گور اضافه شده‌اند. او می‌گوید: «متأسفانه، من اعتقاد ندارم که با حوادث جدید کمتری مواجه شویم.»بازدیدکنندگان می‌توانند پایگاه داده حوادث را بر اساس منبع، مؤلف، زیرنویس، ID حادثه یا کلمات کلیدی جستجو کنند. برای مثال، جستجو برای «ترجمه» نشان می‌دهد که ۴۲گزارش از حوادث هوش مصنوعی شامل ترجمه ماشینی وجود دارد. سپس می‌توانید تحقیق را بر اساس معیارهای دیگر فیلتر کنید.ممکن است به مطالعه مقاله هوش مصنوعی در چه کارهایی خوب نیست علاقمند باشید.قرار دادن پایگاه داده حوادث و شکست‌های هوش مصنوعی برای استفادهیک پایگاه داده یکپارچه از حوادث شامل سیستم‌های AI می‌تواند اهداف مختلفی را در تحقیق، توسعه و به‌کارگیری سیستم‌های هوش مصنوعی ارائه دهد.به‌عنوان‌مثال، اگر یک مدیر محصول در حال ارزیابی افزودن یک سیستم توصیه با هوش مصنوعی به یک برنامه کاربردی است، می‌تواند ۱۳ گزارش و ۱۰ رویداد را بررسی کند که در آن چنین سیستم‌هایی به مردم آسیب رسانده‌اند. این کار به مدیر محصول در تعیین الزامات مناسب برای ویژگی‌هایی که تیم او در حال توسعه است، کمک خواهد کرد.سایر مدیران می‌توانند از پایگاه داده وقایع AI برای تصمیم‌گیری‌های بهتر استفاده کنند. به‌عنوان‌مثال، افسران ریسک می‌توانند پایگاه داده را برای آسیب‌های احتمالی به‌کارگیری سیستم‌های ترجمه ماشینی جستجو کنند و معیارهای کاهش ریسک درست را توسعه دهند.مهندسان می‌توانند از پایگاه داده برای یافتن آسیب‌های احتمالی که سیستم‌های هوش مصنوعی آن‌ها می‌توانند در زمان استقرار در دنیای واقعی ایجاد کنند، استفاده کنند. و محققان می‌توانند از آن به‌عنوان منبعی برای استناد در مقالات در مورد انصاف و ایمنی سیستم‌های AI استفاده کنند.در نهایت، پایگاه داده رو به رشد حوادث می‌تواند یک هشدار مهم برای شرکت‌هایی باشد که الگوریتم‌های AI را در برنامه‌یشان پیاده‌سازی می‌کنند. شرکت‌های فن‌آوری به خاطر علاقه شدید خود به حرکت سریع بدون ارزیابی تمام نتایج بد بالقوه معروف هستند. وقتی پیامدهای بد برشمرده شده و به اشتراک گذاشته می‌شوند، در این صورت غیرممکن می‌شود که بدون توجه به آسیب‌ها پیش برویم.پایگاه داده وقایع و شکست‌های هوش مصنوعی بر روی یک معماری انعطاف‌پذیر ساخته شده است که امکان توسعه برنامه‌های مختلف برای جستجوی پایگاه داده و به دست آوردن دیدگاه‌های دیگر مانند اصطلاحات کلیدی و همکاران را فراهم می‌کند. در مقاله‌ای که در سی و سومین کنفرانس سالانه در مورد کاربردهای نوآورانه هوش مصنوعی (IAAI-21) ارائه خواهد شد، مک گری گور در مورد جزئیات کامل معماری AIID بحث کرده است. همچنین یک پروژه منبع باز در Github است، که در آن جامعه می‌تواند به بهبود و گسترش قابلیت‌های خود کمک کند.با وجود یک پایگاه داده منسجم، مک گری گور در حال حاضر با مشارکت در AI برای توسعه یک طبقه‌بندی انعطاف‌پذیر برای طبقه‌بندی رویداد هوش مصنوعی کار می‌کند. در آینده، تیم AIID امیدوار است که سیستم را برای خودکار کردن نظارت بر رویدادها و شکست‌های هوش مصنوعی گسترش دهد.مک گری گور می‌گوید: «جامعه AI شروع به اشتراک‌گذاری سوابق وقایع با یکدیگر برای ایجاد انگیزه برای تغییر در محصولات خود، روش‌های کنترل و برنامه‌های تحقیقاتی کرده است.» « این سایت در ماه نوامبر به‌صورت عمومی منتشر شد، بنابراین ما تازه شروع به درک مزایای این سیستم کرده‌ایم.»این متن با استفاده از ربات مترجم مقاله هوش مصنوعی ترجمه‌شده و به‌صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد. مقالات لینک‌شده در این متن می‌توانند به‌صورت رایگان با استفاده از مقاله‌خوان ترجمیار به فارسی مطالعه شوند.