خطر وجودی ناشی از هوش جامع مصنوعی

خطر وجودی ناشی از هوش جامع مصنوعی () یک فرضیه است که پیشرفت قابل توجه در هوش عمومی مصنوعی (AGI) می‌تواند منجر به انقراض انسان یا برخی فاجعه جهانی غیرقابل جبران شود.

مکتب خطر وجودی ("x-risk") به شرح زیر استدلال می‌کند: گونه انسان در حال حاضر بر گونه‌های دیگر تسلط دارد زیرا مغز انسان دارای برخی قابلیت‌های متمایز است که سایر حیوانات به صورت عمومی فاقد آن هستند. اگر هوش مصنوعی از نظر هوش عمومی بتواند از بشریت پیشی بگیرد و به «فوق هوشمند» تبدیل شود، آنگاه کنترل آن برای انسان دشوار یا غیرممکن خواهد بود. همان‌طور که سرنوشت گوریل کوهی به حسن نیت انسان بستگی دارد، سرنوشت بشریت نیز ممکن است به برخی اقدامات یک ابرهوش ماشینی در آینده بستگی داشته باشد.

احتمال وقوع این نوع سناریو به شکل زیادی مورد بحث و گفتگو قرار گرفته‌است، و تا مقدار زیادی به سناریوهای مختلف برای پیشرفت آینده در علوم رایانه بستگی دارد. نگرانی‌هایی در مورد ابر هوش توسط دانشمندان برجسته رایانه و مدیران عامل فناوری مانند جفری هینتون، آلن تورینگ،  ایلان ماسک، و مدیر عامل OpenAI سم آلتمن ابراز شده‌است. در سال ۲۰۲۲، یک نظرسنجی از محققان هوش مصنوعی نشان داد که برخی از محققان بر این باورند که احتمال ۱۰ درصد یا بیشتر وجود دارد که ناتوانی ما در کنترل هوش مصنوعی باعث یک فاجعه وجودی شود.

تاریخ 
یکی از اولین نویسندگانی که نگرانی جدی خود را از اینکه ماشین‌های بسیار پیشرفته ممکن است خطرات وجودی برای بشریت ایجاد کنند، ابراز کرد، رمان‌نویس ساموئل باتلر بود که در مقاله‌اش در سال ۱۸۶۳ داروین در میان ماشین‌ها موارد زیر را نوشت:

جستارهای وابسته 
 مسئله کنترل هوش مصنوعی
 فلسفه هوش مصنوعی
 تلماسه
 ایثار مؤثر
 اخلاق ربات

یادداشت

منابع 

 
انقراض نسل بشر
خطرهای فناوری
سناریوهای آخرالزمانی
مشکلات آینده