الخطر الوجودي من الذكاء الاصطناعي
مراجع

↑  Carayannis، Elias G.؛ Draper، John (30 مايو 2023)، "The challenge of advanced cyberwar and the place of cyberpeace"، The Elgar Companion to Digital Transformation, Artificial Intelligence and Innovation in the Economy, Society and Democracy، Edward Elgar Publishing، ص. 32–80، DOI:10.4337/9781839109362.00008، ISBN:978-1-83910-936-2، مؤرشف من الأصل في 2024-10-12، اطلع عليه بتاريخ 2023-06-08.
↑  Vincent, James (22 Jun 2016). "Google's AI researchers say these are the five key problems for robot safety". The Verge (بالإنجليزية). Archived from the original on 2019-12-24. Retrieved 2020-04-05.
↑  Amodei, Dario, Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, and Dan Mané. "Concrete problems in AI safety." arXiv preprint arXiv:1606.06565 (2016).
↑  Johnson, Alex (2019). "Elon Musk wants to hook your brain up directly to computers – starting next year". NBC News (بالإنجليزية). Archived from the original on 2020-04-18. Retrieved 2020-04-05.
↑  Torres, Phil (18 Sep 2018). "Only Radically Enhancing Humanity Can Save Us All". Slate Magazine (بالإنجليزية). Archived from the original on 2020-08-06. Retrieved 2020-04-05.
↑  Barrett، Anthony M.؛ Baum، Seth D. (23 مايو 2016). "A model of pathways to artificial superintelligence catastrophe for risk and decision analysis". Journal of Experimental & Theoretical Artificial Intelligence. ج. 29 ع. 2: 397–414. arXiv:1607.07730. DOI:10.1080/0952813X.2016.1186228. S2CID:928824. مؤرشف من الأصل في 2024-10-07. اطلع عليه بتاريخ 2024-10-12.
↑  Piper, Kelsey (29 Mar 2023). "How to test what an AI model can – and shouldn't – do". Vox (بالإنجليزية). Archived from the original on 2024-10-13. Retrieved 2023-07-28.
↑  Piesing، Mark (17 مايو 2012). "AI uprising: humans will be outsourced, not obliterated". Wired. مؤرشف من الأصل في 2014-04-07. اطلع عليه بتاريخ 2015-12-12.
↑  Coughlan، Sean (24 أبريل 2013). "How are humans going to become extinct?". BBC News. مؤرشف من الأصل في 2014-03-09. اطلع عليه بتاريخ 2014-03-29.
↑  Bridge, Mark (10 Jun 2017). "Making robots less confident could prevent them taking over". The Times (بالإنجليزية). Archived from the original on 2018-03-21. Retrieved 2018-03-21.
↑  McGinnis، John (Summer 2010). "Accelerating AI". Northwestern University Law Review. ج. 104 ع. 3: 1253–1270. مؤرشف من الأصل في 2016-02-15. اطلع عليه بتاريخ 2014-07-16. For all these reasons, verifying a global relinquishment treaty, or even one limited to AI-related weapons development, is a nonstarter... (For different reasons from ours, the Machine Intelligence Research Institute) considers (AGI) relinquishment infeasible...
↑  Sotala، Kaj؛ Yampolskiy، Roman (19 ديسمبر 2014). "Responses to catastrophic AGI risk: a survey". Physica Scripta. ج. 90 ع. 1. In general, most writers reject proposals for broad relinquishment... Relinquishment proposals suffer from many of the same problems as regulation proposals, but to a greater extent. There is no historical precedent of general, multi-use technology similar to AGI being successfully relinquished for good, nor do there seem to be any theoretical reasons for believing that relinquishment proposals would work in the future. Therefore we do not consider them to be a viable class of proposals.
↑  Allenby, Brad (11 Apr 2016). "The Wrong Cognitive Measuring Stick". Slate (بالإنجليزية). Archived from the original on 2016-05-15. Retrieved 2016-05-15. It is fantasy to suggest that the accelerating development and deployment of technologies that taken together are considered to be A.I. will be stopped or limited, either by regulation or even by national legislation.
1 2 3  Yampolskiy, Roman V. (2022). "AI Risk Skepticism". In Müller, Vincent C. (ed.). Philosophy and Theory of Artificial Intelligence 2021. Studies in Applied Philosophy, Epistemology and Rational Ethics (بالإنجليزية). Cham: Springer International Publishing. Vol. 63. pp. 225–248. DOI:10.1007/978-3-031-09153-7_18. ISBN:978-3-031-09153-7. Archived from the original on 2024-10-12. Retrieved 2024-10-12.
↑  Baum، Seth (22 أغسطس 2018). "Superintelligence Skepticism as a Political Tool". Information. ج. 9 ع. 9: 209. DOI:10.3390/info9090209. ISSN:2078-2489. مؤرشف من الأصل في 2024-06-04. اطلع عليه بتاريخ 2024-10-12.
↑  "Elon Musk and other tech leaders call for pause in 'out of control' AI race". CNN (بالإنجليزية). 29 Mar 2023. Archived from the original on 2023-03-29. Retrieved 2023-03-30.
↑  "Open letter calling for AI 'pause' shines light on fierce debate around risks vs. hype". VentureBeat (بالإنجليزية). 29 Mar 2023. Archived from the original on 2024-07-11. Retrieved 2023-07-20.
↑  Vincent, James (14 Apr 2023). "OpenAI's CEO confirms the company isn't training GPT-5 and "won't for some time"". The Verge (بالإنجليزية). Archived from the original on 2023-04-17. Retrieved 2023-07-20.
↑  "The Open Letter on AI Doesn't Go Far Enough". Time (بالإنجليزية). 29 Mar 2023. Archived from the original on 2024-03-15. Retrieved 2023-07-20.
↑  Domonoske, Camila (17 Jul 2017). "Elon Musk Warns Governors: Artificial Intelligence Poses 'Existential Risk'". NPR (بالإنجليزية). Archived from the original on 2020-04-23. Retrieved 2017-11-27.
↑  Gibbs، Samuel (17 يوليو 2017). "Elon Musk: regulate AI to combat 'existential threat' before it's too late". The Guardian. مؤرشف من الأصل في 2020-06-06. اطلع عليه بتاريخ 2017-11-27.
↑  Kharpal، Arjun (7 نوفمبر 2017). "A.I. is in its 'infancy' and it's too early to regulate it, Intel CEO Brian Krzanich says". CNBC. مؤرشف من الأصل في 2020-03-22. اطلع عليه بتاريخ 2017-11-27.
↑  Dawes, James (20 Dec 2021). "UN faails to agree on 'killer robot' ban as nations pour billions into autonomous weapons research". The Conversation (بالإنجليزية). Archived from the original on 2022-03-14. Retrieved 2023-07-28.
1 2  Fassihi, Farnaz (18 Jul 2023). "U.N. Officials Urge Regulation of Artificial Intelligence". The New York Times (بالإنجليزية). ISSN:0362-4331. Archived from the original on 2024-11-09. Retrieved 2023-07-20.
↑  "International Community Must Urgently Confront New Reality of Generative, Artificial Intelligence, Speakers Stress as Security Council Debates Risks, Rewards". United Nations. مؤرشف من الأصل في 2024-08-13. اطلع عليه بتاريخ 2023-07-20.
↑  Fung, Brian (18 Jul 2023). "UN Secretary General embraces calls for a new UN agency on AI in the face of 'potentially catastrophic and existential risks'". CNN Business (بالإنجليزية). Archived from the original on 2023-07-20. Retrieved 2023-07-20.
↑  Sotala، Kaj؛ Yampolskiy، Roman V. (19 ديسمبر 2014). "Responses to catastrophic AGI risk: a survey". Physica Scripta. ج. 90 ع. 1: 018001. Bibcode:2015PhyS...90a8001S. DOI:10.1088/0031-8949/90/1/018001. ISSN:0031-8949. مؤرشف من الأصل في 2024-10-07. اطلع عليه بتاريخ 2024-10-12.
↑  Geist، Edward Moore (15 أغسطس 2016). "It's already too late to stop the AI arms race—We must manage it instead". Bulletin of the Atomic Scientists. ج. 72 ع. 5: 318–321. Bibcode:2016BuAtS..72e.318G. DOI:10.1080/00963402.2016.1216672. ISSN:0096-3402. S2CID:151967826. مؤرشف من الأصل في 2024-05-08. اطلع عليه بتاريخ 2024-10-12.
↑  "Amazon, Google, Meta, Microsoft and other tech firms agree to AI safeguards set by the White House". AP News (بالإنجليزية). 21 Jul 2023. Archived from the original on 2023-07-21. Retrieved 2023-07-21.
↑  "Amazon, Google, Meta, Microsoft and other firms agree to AI safeguards". Redditch Advertiser (بالإنجليزية). 21 Jul 2023. Archived from the original on 2024-10-13. Retrieved 2023-07-21.
↑  The White House (30 Oct 2023). "Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence". The White House (بالإنجليزية). Archived from the original on 2023-12-31. Retrieved 2023-12-19.
| ع ن الخطر الوجودي من الذكاء الاصطناعي | ع ن الخطر الوجودي من الذكاء الاصطناعي |
| --- | --- |
مفاهيم:  ذكاء عام اصطناعي  مشكلة التحكم في الذكاء الاصطناعي  التحكم في قدرات الذكاء الاصطناعي  سلامة الذكاء الاصطناعي  سيطرة الذكاء الاصطناعي  عواقبية  تسريعية فعالة  أخلاقيات الذكاء الاصطناعي  الخطر الوجودي من الذكاء الاصطناعي  الذكاء الاصطناعي الصديق  التقارب الأدائي  تفرد تقني  الأمد البعيد  أخلاقيات الآلة  خطر المعاناة الفلكية  ذكاء فائق  تفرد تقني 
منظمات:  مركز أبحاث المحاذاة  مركز سلامة الذكاء الاصطناعي ‏  مركز العقلانية التطبيقية ‏  مركز الذكاء الاصطناعي المتوافق مع الإنسان ‏  مركز دراسة المخاطر الوجودية ‏  إليثرAI ‏  معهد مستقبل الإنسانية ‏  معهد مستقبل الحياة  ديب مايند  الإنسانية+ ‏  معهد الأخلاق والتكنولوجيات الناشئة ‏  مركز ليفرهولم لمستقبل الاستخبارات ‏  معهد أبحاث الذكاء الآلي ‏  أوبن أيه آي 
أعلام:  سكوت ألكسندر ‏  سام ألتمان  يوشوا بنجيو  نيك بوستروم  بول كريستيانو  ك. إريك دريكسلر  سام هاريس  ستيفن هوكينج  دان هندريكز ‏  جيوفري هينتون  بيل جوي  شاين ليغ  إيلون ماسك  ستيف أوموهندرو ‏  هيو برايس  مارتن ريس  ستيوارت راسل  جان تالين ‏  ماكس تيجمارك ‏  فرانك ويلكزك  رومان يامپولسكي ‏  إيليزر يودكوفسكي ‏ 
أخرى:  بيان عن خطر الانقراض من الذكاء الاصطناعي ‏  قانون الذكاء الاصطناعي 
 التصنيف:  التصنيف
| ع ن إيثار فعال | ع ن إيثار فعال |
| --- | --- |
المفاهيم:  فعالية المعونة  تقييم الخير ‏  اعتراض الطلب ‏  معدل السنة الحياتية للإعاقة  عبء المرض  تحليل فعالية التكلفة التوزيعية ‏  الكسب من أجل العطاء ‏  مراعاة المساواة في المصالح ‏  الأمد البعيد  منفعة حدية  توسيع الدائرة الأخلاقية ‏  العقبات النفسية لتحقيق الفدية الفعالة ‏  عدد السنوات المصححة بجودة الحياة  نفعية  مشروع خيري 
شخصيات رئيسية:  سام بنكمان فريد  ليف بويري  نيك بوستروم  هيلاري غريفز ‏  هولدن كارنوفسكي ‏  ويليام ماكسكيل ‏  داستن موسكوفيتز  يوو كوانغ نغ ‏  توبي أورد ‏  ديريك بارفيت  بيتر سنجر  كاري تونا ‏  إيليزر يودكوفسكي ‏ 
منظمات:  80 ألف ساعة ‏  ضد مؤسسة الملاريا ‏  المجموعة البرلمانية المشتركة للأحزاب من أجل الأجيال القادمة  مقيمي جمعيات خيرية للحيوانات ‏  أخلاقيات الحيوان ‏  مركز التبرعات الفعالة ‏  مركز تمكين التعلم والبحث في الإيثار الفعال ‏  مركز العمل الخيري العالي الأثر ‏  مركز دراسة المخاطر الوجودية ‏  الإعلام التنموي الدولي ‏  دليل العمل ‏  علميات الحيوانات ‏  مؤسسة فيستولا ‏  معهد مستقبل الإنسانية ‏  معهد مستقبل الحياة  تعهد المؤسسين ‏  إعطاء مباشرة ‏  غيف ويل  إعطاء ما نستطيع  صندوق الغذاء الجيد ‏  معهد الطعام الجيد ‏  مغامرات جيدة ‏  رابطة الإنسان ‏  الرحمة للحيوانات ‏  معهد أبحاث الذكاء الآلي ‏  اتحاد الملاريا  مبادرة التهديد النووي  أوبن فيلانتروبي  التبرع الفعال ‏  معهد الشعور ‏  الصحة غير المحدودة ‏  مبادرة الحيوانات البرية ‏ 
مجالات التركيز:  مخاطر التكنولوجيا الحيوية  الاحتباس الحراري  لحم مصنع  الاستقرار الاقتصادي ‏  الخطر الوجودي من الذكاء الاصطناعي  خطر كارثي عالمي  صحة عالمية  فقير  التربية الكثيفة للحيوانات  استخدام الأرض  إطالة الحياة  ملاريا  الطرد الكلي للديدان  مرض استوائي مهمل  خطر المعاناة الفلكية  معاناة الحيوانات البرية 
الأدب:  إنجاز الخير بشكل أفضل ‏  نهاية تربية الحيوانات ‏  المجاعة والثراء والأخلاق  الحياة التي يمكنك إنقاذها ‏  الحياة العالية والإفراط في الموت ‏  أفضل ما يمكنك فعله ‏  الأخلاقيات العملية  الهاوية ‏  الذكاء الخارق: المسارات، المخاطر، الاستراتيجيات ‏  ما ندين به للمستقبل ‏ 
بوابة أمن المعلومات
بوابة ذكاء اصطناعي
بوابة علم الحاسوب
بوابة علم الفلك
بوابة كوارث
يرى بوستروم وآخرون من منظور تطوري أن الفجوة بين الذكاء البشري والذكاء الخارق قد تكون صغيرة.
Scope–severity grid from Bostrom's paper "Existential Risk Prevention as Global Priority"