نامه سرگشاده در مورد هوش مصنوعی
در ژانویه 2015، استیون هاوکینگ، ایلان ماسک و ده‌ها کارشناس هوش مصنوعی نامه‌ای سرگشاده در مورد هوش مصنوعی امضا کردند و خواستار تحقیق در مورد تأثیرات اجتماعی هوش مصنوعی شدند. در این نامه تأکید شده‌است که جامعه می‌تواند از مزایای بالقوه زیادی از هوش مصنوعی بهره‌مند شود، اما خواستار انجام تحقیقاتی ملموس در مورد چگونگی جلوگیری از برخی «تله‌های» بالقوه شد: هوش مصنوعی پتانسیل ریشه‌کن کردن بیماری و فقر را دارد، اما محققان نباید چیزی ایجاد کنند که قابل کنترل نباشد. نامه چهار پاراگراف با عنوان «اولویت‌های پژوهشی برای هوش مصنوعی قوی و مفید: یک نامه سرگشاده»، اولویت‌های تحقیقاتی مفصل را در یک سند دوازده صفحه‌ای همراه بیان می‌کند.
در سال ۲۰۱۴، هم فیزیکدان استیون هاوکینگ و هم ایلان ماسک، غول تجاری، علناً این عقیده را مطرح کردند که هوش مصنوعی ابرانسان می‌تواند مزایای غیرقابل محاسبه‌ای به همراه داشته باشد، اما همچنین می‌تواند به نسل بشر پایان دهد اگر بدون احتیاط مستقر شود در آن زمان، هاوکینگ و ماسک هر دو در هیئت مشاوره علمی مؤسسه آینده زندگی نشستند، سازمانی که برای «کاهش خطرات وجودی پیش روی بشریت» کار می‌کرد. این مؤسسه پیش نویس نامه ای سرگشاده خطاب به جامعه تحقیقاتی گسترده‌تر هوش مصنوعی تهیه کردو آن را در اولین آخر هفته ۲۰۱۵ در اختیار شرکت کنندگان اولین کنفرانس خود در پورتوریکو قرار داد.این نامه در ۱۲ ژانویه منتشر شد
این نامه هر دو تأثیر مثبت و منفی هوش مصنوعی را برجسته می‌کند.به گفته Bloomberg Business، پروفسور Max Tegmark از [MIT]] نامه را به منظور یافتن زمینه مشترک بین امضاکنندگانی که هوش مصنوعی فوق‌العاده هوشمند را یک [[خطر وجودی] قابل توجه می‌دانند، منتشر کرد و امضاکنندگانی مانند پروفسور Oren Etzioni، که معتقد است حوزه هوش مصنوعی توسط تمرکز رسانه ای یک طرفه بر خطرات ادعایی تشکیل شده‌است. در نامه آمده‌است که:
مزایای بالقوه (هوش مصنوعی) بسیار زیاد است، زیرا همه چیزهایی که تمدن ارائه می‌دهد محصول هوش انسانی است. ما نمی‌توانیم پیش‌بینی کنیم که وقتی این هوش با ابزارهایی که هوش مصنوعی فراهم می‌کند، به چه چیزی برسیم، اما ریشه‌کنی بیماری و فقر غیرقابل درک نیست. به دلیل پتانسیل بالای هوش مصنوعی، مهم است که در مورد چگونگی بهره‌مندی از مزایای آن در عین اجتناب از دام‌های احتمالی تحقیق کنید.یکی از امضاکنندگان، پروفسور بارت سلمان از [[دانشگاه کرنل]]، گفت که هدف این است که محققان و توسعه دهندگان هوش مصنوعی توجه بیشتری به ایمنی هوش مصنوعی داشته باشند. علاوه بر این، برای سیاستگذاران و عموم مردم، نامه به معنای آموزنده است اما هشداردهنده نیست. یکی دیگر از امضاکنندگان، پروفسور فرانچسکا روسی، اظهار داشت که "من فکر می‌کنم بسیار مهم است که همه بدانند که محققان هوش مصنوعی به طور جدی در مورد این نگرانی‌ها و مسائل اخلاقی فکر می‌کنند."".
امضاکنندگان می‌پرسند: مهندسان چگونه می‌توانند سیستم‌های هوش مصنوعی را ایجاد کنند که برای جامعه مفید باشد و قوی باشد؟ انسانها باید در کنترل هوش مصنوعی باقی بمانند؛ سیستم‌های هوش مصنوعی ما باید "آنچه را که ما می‌خواهیم انجام دهند"تحقیقات مورد نیاز بین رشته‌ای است، از حوزه‌های مختلف از اقتصاد و حقوق گرفته تا شاخه‌های مختلف [[علوم رایانه]]، مانند امنیت رایانه و تأیید رسمی. چالش‌هایی که به وجود می‌آیند به تأیید ("آیا سیستم را درست ساختم؟")، اعتبار ("آیا سیستم درستی ساختم؟")، امنیت و کنترل ("خوب، سیستم را اشتباه ساختم، می‌توانم آن را درست کنم" تقسیم می‌شوند)
برخی از نگرانی‌های کوتاه‌مدت مربوط به وسایل نقلیه خودران، از پهپادهای غیرنظامی و خودروهای خودران است. به عنوان مثال، یک خودروی خودران ممکن است در مواقع اضطراری مجبور شود بین خطر کوچک تصادف بزرگ و احتمال زیاد تصادف کوچک تصمیم بگیرد. نگرانی‌های دیگر مربوط به سلاح‌های خود مختار هوشمند مرگبار است: آیا باید آنها را ممنوع کرد؟ اگر چنین است، چگونه باید «خودمختاری» دقیقاً تعریف شود؟ در غیر این صورت، مسئولیت هرگونه سوء استفاده یا نقص چگونه باید تقسیم شود؟
مسائل دیگر شامل نگرانی‌های مربوط به حریم خصوصی است، زیرا هوش مصنوعی به‌طور فزاینده‌ای قادر به تفسیر مجموعه داده‌های نظارتی بزرگ می‌شود، و اینکه چگونه می‌توان تأثیر اقتصادی مشاغل جابجا شده توسط هوش مصنوعی را به بهترین نحو مدیریت کرد.
این سند با تکرار نگرانی‌های مدیر تحقیقات [[مایکروسافت]] اریک هورویتز بسته می‌شود که:
ما ممکن است یک روز کنترل سیستم‌های هوش مصنوعی را از طریق ظهور ابر هوش‌هایی که مطابق با خواسته‌های انسان عمل نمی‌کنند از دست بدهیم – و اینکه چنین سیستم‌های قدرتمندی بشریت را تهدید می‌کند. آیا چنین نتایج دیستوپیک ممکن است؟ اگر چنین است، چگونه ممکن است این شرایط ایجاد شود؟ … برای درک بهتر و پرداختن به احتمال ظهور یک ابراطلاعات خطرناک یا وقوع یک «انفجار اطلاعاتی» چه نوع سرمایه‌گذاری در تحقیق باید انجام شود؟
ابزارهای موجود برای مهار هوش مصنوعی، مانند یادگیری تقویتی و توابع کاربردی ساده، برای حل این مشکل کافی نیستند؛ بنابراین تحقیقات بیشتری برای یافتن و تأیید یک راه حل قوی برای «مشکل کنترل» ضروری است.
[[رده:رایانش و جامعه]] [[رده:نامه‌های سرگشاده]] [[رده:هوش مصنوعی]] https://en.m.wikipedia.org/wiki/Open_Letter_on_Artificial_Intelligence