تضمین هوشمندی هوش مصنوعی

منتشرشده در مجله Forbes به تاریخ ۲۱ اکتبر ۲۰۲۰لینک مقاله اصلی: This Harvard Professor And His Students Have Raised $14 Million To Make AI Too Smart To Be Fooled By Hackersارون سینگر در طول هفت سال پله‌های ترقی را طی کرد و به استاد تمامی دانشگاه هاروارد رسید. البته در این میان کار او برروی یادگیری ماشین مقابله‌ای، راهی برای فریب مدل‌های هوش مصنوعی با استفاده از داده‌های گمراه‌کننده، نیز عامل موفقیتش بود. حالا، استارت‌آپ سینگر، Robust Intelligence، که او با استاد مشاور پیشین دکترای خود و دو شاگرد سابقش شکل داده، در حال تلاش برای ورود تحقیقات او به بازار است.امسال، قرار است ۵۰ میلیارد دلار از هزینه‌های شرکتی برای هوش مصنوعی صرف شود، اگرچه شرکت‌ها هنوز در حال بررسی چگونگی اجرای فن‌آوری در فرآیندهای کسب‌وکار خود هستند. شرکت‌ها هنوز هم در حال درک این موضوع هستند که چگونه هوش مصنوعی خوب خود را در برابر هوش مصنوعی بد، مانند یک صدای دیپ‌فیک تولید شده به صورت الگوریتمی که می‌تواند سیستم‌های تایید صدا را خراب کند، حفاظت کنند.بیل کوفران، معاون ارشد سابق مهندسی در گوگل می‌گوید: «در روزهای اولیه اینترنت، طراحی طوری انجام شده‌بود که انگار همه بازیگران خوب هستند. پس از آن مردم شروع به ساختن فایروال‌ها کردند زیرا متوجه شدند که همه اینگونه نیستند. ما داریم نشانه‌هایی از موضوع مشابه را در سیستم‌های یادگیری ماشین می‌بینیم. جایی که پول وجود داشته باشد، بازیگران بد وارد می‌شوند.»شرکت Robust Intelligence، یک استارت‌آپ جدید به رهبری سینگر با پلتفرمی که شرکت می‌گوید برای شناسایی بیش از ۱۰۰ نوع حمله خصمانه و مقابله‌ای آموزش‌دیده است، وارد شد. اگرچه موسسان و بیشتر اعضای تیم متعلق به کمبریج هستند، اما این شرکت در سان‌فرانسیسکو تاسیس شد و اعلام کرد که ۱۴ میلیون دلار جمع‌آوری کرده‌است. کوفران، که در حال حاضر شریکی در شرکت سرمایه‌گذاری است، سرمایه‌گذار اصلی در این جمع‌آوری سرمایه است، که Engineering Capital و Harpoon Ventures نیز در آن مشارکت دارند.سینگر پس از دکترای خود در رشته علوم کامپیوتر از دانشگاه کالیفرنیا در برکلی، در سال ۲۰۱۱ به عنوان محقق فوق‌دکترا به گوگل پیوست. او دو سال روی الگوریتم‌ها و مدل‌های یادگیری ماشینی کار کرد تا باعث افزایش سرعت اجرای محصولات غول فن‌آوری شود و دید که هوش مصنوعی چگونه می‌تواند با داده‌های بد گمراه شود.او می‌گوید: «وقتی شما این آسیب‌پذیری‌ها را می‌بینید، واقعا، واقعا ترسناک است، به خصوص اگر به این فکر کنیم که چقدر می‌خواهیم از هوش مصنوعی برای خودکار کردن تصمیمات خود استفاده کنیم.»کلاهبرداران و سایر بازیگران بد می‌توانند از انعطاف‌ناپذیری نسبی مدل‌های هوش مصنوعی در پردازش داده‌های ناآشنا سوء استفاده کنند. به عنوان مثال، سینگر می‌گوید، یک چک ۴۰۱ دلاری را می توان با اضافه کردن چند پیکسل که برای چشم انسان غیر محسوس هستند، دستکاری کرد، و کاری کرد که مدل هوش مصنوعی قیمت چک را به اشتباه ۷۰۱ دلار بخواند. او می‌گوید: « اگر کلاهبرداران به چک‌ها دست یابند، می‌توانند به این برنامه‌ها نفوذ کنند و این کار را در مقیاس بزرگ انجام دهند.» اصلاحات مشابه در داده‌های ورودی می‌تواند باعث کلاهبرداری در تراکنش‌های مالی و همچنین اشتباه در تشخیص صدا یا چهره شود.در سال ۲۰۱۳، سینگر پس از کسب جایگاه استادیاری در هاروارد، تصمیم گرفت تا تحقیقات خود را بر روی ابداع مکانیسم‌هایی برای تضمین مدل‌های هوش مصنوعی متمرکز کند. Robust Intelligence نتیجه تقریبا یک دهه کار سینگر در آزمایشگاه است، که در طول آن او با سه دانشجوی هاروارد کار می‌کرد که در نهایت هم‌بنیانگذاران این شرکت شدند: اریک بالانسکی، یک دانشجوی دکتری که سینگر استاد مشاورش بود؛ الکساندر ریلی، یک دانشجوی تحصیلات تکمیلی؛ و کوجین اوشیبا، دانشجوی کارشناسی که با استاد در نوشتن مقالات علمی هم‌کاری می‌کرد. در ۲۵ مقاله، تیم سینگر بر روی طراحی الگوریتم‌هایی برای ردیابی داده‌های گمراه‌کننده یا جعلی کار کردند و کمک کرد تا توجه دولت به این مساله جلب شود، حتی یک Darpa زودهنگام برای انجام تحقیقات خود دریافت کرد.Robust Intelligence در حال ارائه دو محصول است، یک فایروال هوش مصنوعی و یک «تیم قرمز» که در آن Robust مانند یک مهاجم خصمانه عمل می‌کند. فایروال با احاطه مدل هوش مصنوعی موجود یک سازمان برای اسکن داده‌های آلوده از طریق الگوریتم Robust کار می‌کند. محصول دیگر، به نام رایم (یا موتور ماشین Robust Intelligence) ، با وارد کردن اشتباهات اساسی و انجام عمدی حملات خصمانه به مدل، یک تست استرس بر روی مدل هوش مصنوعی یک مشتری انجام می‌دهد تا ببیند چگونه عمل می‌کند.سینگر می‌گوید، این استارت‌آپ در حال حاضر حدود ۱۰ مشتری دارد، شامل یک موسسه مالی بزرگ و یک پردازشگر اصلی پرداخت، که به دلیل محرمانه بودن نام هیچ شرکتی را ذکر نمی‌کند. سینگر امیدوار است که مشتریان بیشتری به دست آورد و همچنین اندازه تیم، که در حال حاضر ۱۵ کارمند دارد را دو برابر کند. سینگر، که از هاروارد مرخصی گرفته، در مورد آینده خود در دانشگاه خجالت می‌کشد، اما می‌گوید او در حال حاضر روی نقش مدیرعاملی خود در سان‌فرانسیسکو متمرکز است.او می‌گوید: «من پله‌های ترقی را در هاروارد طی کرده‌ام، اما اکنون فکر می‌کنم که یک کوه حتی بلندتر پیدا کرده‌ایم و آن کوه تضمین هوش مصنوعی است.»ترجمه این مقاله با استفاده از ربات مترجم هوشمند مقالات هوش مصنوعی انجام شده و به صورت محدود مورد بازبینی انسانی قرار گرفته، در نتیجه ممکن است دارای برخی اشکالات ترجمه باشد.