مشكلة التحكم في الذكاء الاصطناعي
مراجع

↑  Bostrom، Nick (2014). Superintelligence: Paths, Dangers, Strategies (ط. First). ISBN:978-0199678112.
↑  Yampolskiy، Roman (2012). "Leakproofing the Singularity Artificial Intelligence Confinement Problem". Journal of Consciousness Studies. ج. 19 ع. 1–2: 194–214.
↑  "Google developing kill switch for AI". BBC News. 8 يونيو 2016. مؤرشف من الأصل في 2016-06-11. اطلع عليه بتاريخ 2016-06-12.
1 2 3 4 5 6  Russell، Stuart J.؛ Norvig، Peter (2021). Artificial intelligence: A modern approach (ط. 4th). Pearson. ص. 5, 1003. ISBN:9780134610993. مؤرشف من الأصل في 2024-10-13. اطلع عليه بتاريخ 2022-09-12.
1 2 3 4 5  Ngo، Richard؛ Chan، Lawrence؛ Mindermann، Sören (2022). "The Alignment Problem from a Deep Learning Perspective". International Conference on Learning Representations. arXiv:2209.00626.
1 2 3 4 5  Pan، Alexander؛ Bhatia، Kush؛ Steinhardt، Jacob (14 فبراير 2022). "The Effects of Reward Misspecification: Mapping and Mitigating Misaligned Models". International Conference on Learning Representations. ICLR. مؤرشف من الأصل في 2024-09-10. اطلع عليه بتاريخ 2022-07-21.
↑  Zhuang، Simon؛ Hadfield-Menell، Dylan (2020). "Consequences of Misaligned AI". Advances in Neural Information Processing Systems. Advances in Neural Information Processing Systems. Curran Associates, Inc. ج. 33. ص. 15763–15773. مؤرشف من الأصل في 2024-09-08. اطلع عليه بتاريخ 2023-03-11.
1 2 3 4 5 6 7 8 9 10 11 12  Carlsmith، Joseph (16 يونيو 2022). "Is Power-Seeking AI an Existential Risk?". arXiv:2206.13353 [cs.CY]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3 4 5 6 7 8 9 10 11 12 13 14  Russell، Stuart J. (2020). Human compatible: Artificial intelligence and the problem of control. Penguin Random House. ISBN:9780525558637. OCLC:1113410915. مؤرشف من الأصل في 2024-10-13. اطلع عليه بتاريخ 2024-10-11.
1 2 3 4 5 6  Christian، Brian (2020). The alignment problem: Machine learning and human values. W. W. Norton & Company. ISBN:978-0-393-86833-3. OCLC:1233266753. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-12.
1 2 3 4  Langosco، Lauro Langosco Di؛ Koch، Jack؛ Sharkey، Lee D.؛ Pfau، Jacob؛ Krueger، David (28 يونيو 2022). "Goal Misgeneralization in Deep Reinforcement Learning". Proceedings of the 39th International Conference on Machine Learning. Proceedings of the 39th International Conference on Machine Learning. PMLR. ص. 12004–12019. مؤرشف من الأصل في 2023-12-05. اطلع عليه بتاريخ 2023-03-11. {{استشهاد بمنشورات مؤتمر}}: الوسيط |عنوان المؤتمر= و|عنوان الكتاب= تكرر أكثر من مرة (مساعدة)
1 2  Zaremba، Wojciech؛ Brockman، Greg؛ OpenAI (10 أغسطس 2021). "OpenAI Codex". OpenAI. مؤرشف من الأصل في 2023-02-03. اطلع عليه بتاريخ 2022-07-23.
1 2 3  Ouyang، Long؛ Wu، Jeff؛ Jiang، Xu؛ Almeida، Diogo؛ Wainwright، Carroll L.؛ Mishkin، Pamela؛ Zhang، Chong؛ Agarwal، Sandhini؛ Slama، Katarina؛ Ray، Alex؛ Schulman، J.؛ Hilton، Jacob؛ Kelton، Fraser؛ Miller، Luke E.؛ Simens، Maddie؛ Askell، Amanda؛ Welinder، P.؛ Christiano، P.؛ Leike، J.؛ Lowe، Ryan J. (2022). "Training language models to follow instructions with human feedback". arXiv:2203.02155 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3 4 5 6 7 8 9 10  Bommasani، Rishi؛ Hudson، Drew A.؛ Adeli، Ehsan؛ Altman، Russ؛ Arora، Simran؛ von Arx، Sydney؛ Bernstein، Michael S.؛ Bohg، Jeannette؛ Bosselut، Antoine؛ Brunskill، Emma؛ Brynjolfsson، Erik (12 يوليو 2022). "On the Opportunities and Risks of Foundation Models". Stanford CRFM. arXiv:2108.07258. مؤرشف من الأصل في 2024-10-12. اطلع عليه بتاريخ 2024-10-11.
↑  Kober, Jens; Bagnell, J. Andrew; Peters, Jan (01 Sep 2013). "Reinforcement learning in robotics: A survey". The International Journal of Robotics Research (بالإنجليزية). 32 (11): 1238–1274. DOI:10.1177/0278364913495721. ISSN:0278-3649. S2CID:1932843. Archived from the original on 2022-10-15. Retrieved 2022-09-12.
↑  Knox, W. Bradley; Allievi, Alessandro; Banzhaf, Holger; Schmitt, Felix; Stone, Peter (01 Mar 2023). "Reward (Mis)design for autonomous driving". Artificial Intelligence (بالإنجليزية). 316: 103829. arXiv:2104.13906. DOI:10.1016/j.artint.2022.103829. ISSN:0004-3702. S2CID:233423198. Retrieved 2024-10-11.
↑  Stray, Jonathan (2020). "Aligning AI Optimization to Community Well-Being". International Journal of Community Well-Being (بالإنجليزية). 3 (4): 443–463. DOI:10.1007/s42413-020-00086-3. ISSN:2524-5295. PMC:7610010. PMID:34723107. S2CID:226254676. Retrieved 2024-10-11.
1 2  Russell، Stuart؛ Norvig، Peter (2009). Artificial Intelligence: A Modern Approach. Prentice Hall. ص. 1003. ISBN:978-0-13-461099-3. مؤرشف من الأصل في 2023-10-03. اطلع عليه بتاريخ 2024-10-11.
↑  Bengio، Yoshua؛ Hinton، Geoffrey؛ Yao، Andrew؛ Song، Dawn؛ Abbeel، Pieter؛ Harari، Yuval Noah؛ Zhang، Ya-Qin؛ Xue، Lan؛ Shalev-Shwartz، Shai (2024)، "Managing extreme AI risks amid rapid progress"، Science، ج. 384، ص. 842–845، arXiv:2310.17688، Bibcode:2024Sci...384..842B، DOI:10.1126/science.adn0117، PMID:38768279، مؤرشف من الأصل في 2024-06-14، اطلع عليه بتاريخ 2024-10-11
↑  "Statement on AI Risk | CAIS". www.safe.ai (بالإنجليزية). Archived from the original on 2023-05-31. Retrieved 2024-02-11.
1 2  Grace، Katja؛ Stewart، Harlan؛ Sandkühler، Julia Fabienne؛ Thomas، Stephen؛ Weinstein-Raun، Ben؛ Brauner، Jan (05 يناير 2024)، Thousands of AI Authors on the Future of AI، arXiv:2401.02843
1 2  Smith, Craig S. "Geoff Hinton, AI's Most Famous Researcher, Warns Of 'Existential Threat'". Forbes (بالإنجليزية). Archived from the original on 2023-10-16. Retrieved 2023-05-04.
↑  Perrigo, Billy (13 Feb 2024). "Meta's AI Chief Yann LeCun on AGI, Open-Source, and AI Risk". TIME (بالإنجليزية). Archived from the original on 2024-02-13. Retrieved 2024-06-26.
1 2 3 4 5 6 7 8 9 10 11  Amodei, Dario; Olah, Chris; Steinhardt, Jacob; Christiano, Paul; Schulman, John; Mané, Dan (21 Jun 2016). "Concrete Problems in AI Safety" (بالإنجليزية). arXiv:1606.06565 [cs.AI]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (help)
1 2 3 4  Ortega، Pedro A.؛ Maini، Vishal؛ DeepMind safety team (27 سبتمبر 2018). "Building safe artificial intelligence: specification, robustness, and assurance". DeepMind Safety Research – Medium. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-18.
↑ Doshi-Velez، Finale؛ Kim، Been (02 مارس 2017). "Towards A Rigorous Science of Interpretable Machine Learning". arXiv:1702.08608 [stat.ML]. {{استشهاد بأرخايف}} : الوسيط | arxiv= مطلوب (مساعدة)
Wiblin، Robert (4 أغسطس 2021). "Chris Olah on what the hell is going on inside neural networks". 80,000 Hours (Podcast). 80,000 hours. ع. 107. مؤرشف من الأصل في 2024-10-11. اطلع عليه بتاريخ 2022-07-23.
1 2  Rorvig، Mordechai (14 أبريل 2022). "Researchers Gain New Understanding From Simple AI". Quanta Magazine. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-18.
↑  Russell، Stuart؛ Dewey، Daniel؛ Tegmark، Max (31 ديسمبر 2015). "Research Priorities for Robust and Beneficial Artificial Intelligence". AI Magazine. ج. 36 ع. 4: 105–114. arXiv:1602.03506. DOI:10.1609/aimag.v36i4.2577. hdl:1721.1/108478. ISSN:2371-9621. S2CID:8174496. مؤرشف من الأصل في 2023-02-02. اطلع عليه بتاريخ 2022-09-12.
1 2  Wirth، Christian؛ Akrour، Riad؛ Neumann، Gerhard؛ Fürnkranz، Johannes (2017). "A survey of preference-based reinforcement learning methods". Journal of Machine Learning Research. ج. 18 ع. 136: 1–46.
1 2  Christiano، Paul F.؛ Leike، Jan؛ Brown، Tom B.؛ Martic، Miljan؛ Legg، Shane؛ Amodei، Dario (2017). "Deep reinforcement learning from human preferences". Proceedings of the 31st International Conference on Neural Information Processing Systems. NIPS'17. Red Hook, NY, USA: Curran Associates Inc. ص. 4302–4310. ISBN:978-1-5108-6096-4.
1 2 3 4 5 6  Heaven، Will Douglas (27 يناير 2022). "The new version of GPT-3 is much better behaved (and should be less toxic)". MIT Technology Review. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-18.
↑  Mohseni، Sina؛ Wang، Haotao؛ Yu، Zhiding؛ Xiao، Chaowei؛ Wang، Zhangyang؛ Yadawa، Jay (07 مارس 2022). "Taxonomy of Machine Learning Safety: A Survey and Primer". arXiv:2106.04823 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑ Clifton، Jesse (2020). "Cooperation, Conflict, and Transformative Artificial Intelligence: A Research Agenda". Center on Long-Term Risk . مؤرشف من الأصل في 2023-01-01. اطلع عليه بتاريخ 2022-07-18 .
Dafoe, Allan; Bachrach, Yoram; Hadfield, Gillian; Horvitz, Eric; Larson, Kate; Graepel, Thore (06 May 2021). "Cooperative AI: machines must learn to find common ground". Nature (بالإنجليزية). 593 (7857): 33–36. Bibcode:2021Natur.593...33D. DOI:10.1038/d41586-021-01170-0. ISSN:0028-0836. PMID:33947992. S2CID:233740521. Archived from the original on 2022-12-18. Retrieved 2022-09-12.
↑  Prunkl, Carina; Whittlestone, Jess (07 Feb 2020). "Beyond Near- and Long-Term". Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (بالإنجليزية). New York NY USA: ACM. pp. 138–143. DOI:10.1145/3375627.3375803. ISBN:978-1-4503-7110-0. S2CID:210164673. Archived from the original on 2022-10-16. Retrieved 2024-10-11.
1 2 3 4  Irving، Geoffrey؛ Askell، Amanda (19 فبراير 2019). "AI Safety Needs Social Scientists". Distill. ج. 4 ع. 2: 10.23915/distill.00014. DOI:10.23915/distill.00014. ISSN:2476-0757. S2CID:159180422. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-12.
↑  Russell، Stuart؛ Norvig، Peter (2009). "26.3: The Ethics and Risks of Developing Artificial Intelligence". Artificial Intelligence: A Modern Approach. Prentice Hall. ISBN:978-0-13-604259-4.
↑  Dietterich، Thomas؛ Horvitz، Eric (2015). "Rise of Concerns about AI: Reflections and Directions" (pdf). Communications of the ACM. ج. 58 ع. 10: 38–40. DOI:10.1145/2770869. S2CID:20395145. مؤرشف (PDF) من الأصل في 2016-03-04. اطلع عليه بتاريخ 2016-06-14.
↑  Russell، Stuart (2014). "Of Myths and Moonshine". Edge. مؤرشف من الأصل في 2016-07-19. اطلع عليه بتاريخ 2016-06-14.
↑  "DeepMind Has Simple Tests That Might Prevent Elon Musk's AI Apocalypse". Bloomberg.com. 11 ديسمبر 2017. مؤرشف من الأصل في 2018-01-08. اطلع عليه بتاريخ 2018-01-08.
↑  "Alphabet's DeepMind Is Using Games to Discover If Artificial Intelligence Can Break Free and Kill Us All". Fortune (بالإنجليزية). Archived from the original on 2017-12-31. Retrieved 2018-01-08.
↑  "Specifying AI safety problems in simple environments | DeepMind". DeepMind. مؤرشف من الأصل في 2018-01-02. اطلع عليه بتاريخ 2018-01-08.
↑  ""Artificial Intelligence"". مؤرشف من الأصل في 2022-03-08.
↑  Wolchover, Natalie (30 Jan 2020). "Artificial Intelligence Will Do What We Ask. That's a Problem". Quanta Magazine (بالإنجليزية). Archived from the original on 2022-06-01. Retrieved 2020-06-21.
↑  Bull, Larry. "On model-based evolutionary computation." Soft Computing 3, no. 2 (1999): 76–82.
↑  Wiener, Norbert (06 May 1960). "Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers". Science (بالإنجليزية). 131 (3410): 1355–1358. DOI:10.1126/science.131.3410.1355. ISSN:0036-8075. PMID:17841602. S2CID:30855376. Archived from the original on 2022-10-15. Retrieved 2022-09-12.
1 2 3  Gabriel، Iason (01 سبتمبر 2020). "Artificial Intelligence, Values, and Alignment". Minds and Machines. ج. 30 ع. 3: 411–437. arXiv:2001.09768. DOI:10.1007/s11023-020-09539-2. ISSN:1572-8641. S2CID:210920551. مؤرشف من الأصل في 2024-10-12. اطلع عليه بتاريخ 2024-10-11.
↑ The Ezra Klein Show (04 يونيو 2021). "If 'All Models Are Wrong,' Why Do We Give Them So Much Power?". The New York Times . ISSN:0362-4331. مؤرشف من الأصل في 2023-02-15. اطلع عليه بتاريخ 2023-03-13 .
Wolchover، Natalie (21 أبريل 2015). "Concerns of an Artificial Intelligence Pioneer". Quanta Magazine. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2023-03-13.
California Assembly. "Bill Text – ACR-215 23 Asilomar AI Principles". مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-18.
↑  Johnson، Steven؛ Iziev، Nikita (15 أبريل 2022). "A.I. Is Mastering Language. Should We Trust What It Says?". The New York Times. ISSN:0362-4331. مؤرشف من الأصل في 2022-11-24. اطلع عليه بتاريخ 2022-07-18.
↑ OpenAI. "Developing safe & responsible AI". OpenAI . مؤرشف من الأصل في 2023-04-26. اطلع عليه بتاريخ 2023-03-13 .
"DeepMind Safety Research". Medium. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2023-03-13.
1 2 3 4 5 6  Hendrycks، Dan؛ Carlini، Nicholas؛ Schulman، John؛ Steinhardt، Jacob (16 يونيو 2022). "Unsolved Problems in ML Safety". arXiv:2109.13916 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Russell، Stuart J.؛ Norvig، Peter (2022). Artificial intelligence: a modern approach (ط. 4th). Pearson. ص. 4–5. ISBN:978-1-292-40113-3. OCLC:1303900751. مؤرشف من الأصل في 2024-10-13. اطلع عليه بتاريخ 2024-10-11.
1 2 3 4 5  Krakovna، Victoria؛ Uesato، Jonathan؛ Mikulik، Vladimir؛ Rahtz، Matthew؛ Everitt، Tom؛ Kumar، Ramana؛ Kenton، Zac؛ Leike، Jan؛ Legg، Shane (21 أبريل 2020). "Specification gaming: the flip side of AI ingenuity". Deepmind. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-08-26.
↑  Manheim، David؛ Garrabrant، Scott (2018). "Categorizing Variants of Goodhart's Law". arXiv:1803.04585 [cs.AI]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3  Amodei، Dario؛ Christiano، Paul؛ Ray، Alex (13 يونيو 2017). "Learning from Human Preferences". OpenAI. مؤرشف من الأصل في 2021-01-03. اطلع عليه بتاريخ 2022-07-21.
↑  "Specification gaming examples in AI - master list - Google Drive". docs.google.com. مؤرشف من الأصل في 2022-06-30. اطلع عليه بتاريخ 2024-10-11.
↑  Clark, Jack; Amodei, Dario (21 Dec 2016). "Faulty reward functions in the wild". openai.com (بالإنجليزية). Archived from the original on 2024-09-19. Retrieved 2023-12-30.
1 2 3  Lin, Stephanie; Hilton, Jacob; Evans, Owain (2022). "TruthfulQA: Measuring How Models Mimic Human Falsehoods". Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (بالإنجليزية). Dublin, Ireland: Association for Computational Linguistics: 3214–3252. arXiv:2109.07958. DOI:10.18653/v1/2022.acl-long.229. S2CID:237532606. Archived from the original on 2023-02-10. Retrieved 2022-09-12.
1 2 3  Naughton، John (02 أكتوبر 2021). "The truth about artificial intelligence? It isn't that honest". The Observer. ISSN:0029-7712. مؤرشف من الأصل في 2023-02-13. اطلع عليه بتاريخ 2022-07-23.
↑ Ji، Ziwei؛ Lee، Nayeon؛ Frieske، Rita؛ Yu، Tiezheng؛ Su، Dan؛ Xu، Yan؛ Ishii، Etsuko؛ Bang، Yejin؛ Madotto، Andrea؛ Fung، Pascale (01 فبراير 2022). "Survey of Hallucination in Natural Language Generation". ACM Computing Surveys . ج. 55 ع. 12: 1–38. arXiv:2202.03629 . DOI:10.1145/3571730. S2CID:246652372. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-10-14 .
Else, Holly (12 Jan 2023). "Abstracts written by ChatGPT fool scientists". Nature (بالإنجليزية). 613 (7944): 423. Bibcode:2023Natur.613..423E. DOI:10.1038/d41586-023-00056-7. PMID:36635510. S2CID:255773668. Archived from the original on 2023-10-25. Retrieved 2024-10-11.
↑  Russell، Stuart. "Of Myths and Moonshine". Edge.org. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-19.
↑  Tasioulas، John (2019). "First Steps Towards an Ethics of Robots and Artificial Intelligence". Journal of Practical Ethics. ج. 7 ع. 1: 61–95.
↑  Wells، Georgia؛ Deepa Seetharaman؛ Horwitz، Jeff (05 نوفمبر 2021). "Is Facebook Bad for You? It Is for About 360 Million Users, Company Surveys Suggest". The Wall Street Journal. ISSN:0099-9660. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-19.
↑  Barrett، Paul M.؛ Hendrix، Justin؛ Sims، J. Grant (سبتمبر 2021). How Social Media Intensifies U.S. Political Polarization-And What Can Be Done About It (Report). Center for Business and Human Rights, NYU. مؤرشف من الأصل في 2023-02-01. اطلع عليه بتاريخ 2022-09-12.
↑  Shepardson، David (24 مايو 2018). "Uber disabled emergency braking in self-driving car: U.S. agency". Reuters. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-20.
↑  "The messy, secretive reality behind OpenAI's bid to save the world". MIT Technology Review (بالإنجليزية). Archived from the original on 2023-11-21. Retrieved 2024-08-25.
↑  Johnson, Dave. "DeepMind is Google's AI research hub. Here's what it does, where it's located, and how it differs from OpenAI". Business Insider (بالإنجليزية). Archived from the original on 2024-05-11. Retrieved 2024-08-25.
1 2  Wei، Jason؛ Tay، Yi؛ Bommasani، Rishi؛ Raffel، Colin؛ Zoph، Barret؛ Borgeaud، Sebastian؛ Yogatama، Dani؛ Bosma، Maarten؛ Zhou، Denny؛ Metzler، Donald؛ Chi، Ed H.؛ Hashimoto، Tatsunori؛ Vinyals، Oriol؛ Liang، Percy؛ Dean، Jeff؛ Fedus، William (26 أكتوبر 2022). "Emergent Abilities of Large Language Models". Transactions on Machine Learning Research. arXiv:2206.07682. ISSN:2835-8856.
1 2  Caballero, Ethan; Gupta, Kshitij; Rish, Irina; Krueger, David (2022). "Broken Neural Scaling Laws". International Conference on Learning Representations (ICLR), 2023.
↑ Dominguez، Daniel (19 مايو 2022). "DeepMind Introduces Gato, a New Generalist AI Agent". InfoQ . مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-09 .
Edwards، Ben (26 أبريل 2022). "Adept's AI assistant can browse, search, and use web apps like a human". Ars Technica. مؤرشف من الأصل في 2023-01-17. اطلع عليه بتاريخ 2022-09-09.
↑  Grace، Katja؛ Salvatier، John؛ Dafoe، Allan؛ Zhang، Baobao؛ Evans، Owain (31 يوليو 2018). "Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts". Journal of Artificial Intelligence Research. ج. 62: 729–754. DOI:10.1613/jair.1.11222. ISSN:1076-9757. S2CID:8746462. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-12.
↑  Zhang، Baobao؛ Anderljung، Markus؛ Kahn، Lauren؛ Dreksler، Noemi؛ Horowitz، Michael C.؛ Dafoe، Allan (02 أغسطس 2021). "Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers". Journal of Artificial Intelligence Research. ج. 71. arXiv:2105.02117. DOI:10.1613/jair.1.12895. ISSN:1076-9757. S2CID:233740003. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-12.
↑  Future of Life Institute (22 مارس 2023). "Pause Giant AI Experiments: An Open Letter". AI Magazine. مؤرشف من الأصل في 2024-10-05. اطلع عليه بتاريخ 2023-04-20.
↑  Wang، Lei؛ Ma، Chen؛ Feng، Xueyang؛ Zhang، Zeyu؛ Yang، Hao؛ Zhang، Jingsen؛ Chen، Zhiyuan؛ Tang، Jiakai؛ Chen، Xu (2024)، "A survey on large language model based autonomous agents"، Frontiers of Computer Science، ج. 18، arXiv:2308.11432، DOI:10.1007/s11704-024-40231-1، مؤرشف من الأصل في 2024-04-18، اطلع عليه بتاريخ 2024-02-11
↑  Berglund، Lukas؛ Stickland، Asa Cooper؛ Balesni، Mikita؛ Kaufmann، Max؛ Tong، Meg؛ Korbak، Tomasz؛ Kokotajlo، Daniel؛ Evans، Owain (01 سبتمبر 2023)، Taken out of context: On measuring situational awareness in LLMs، arXiv:2309.00667
↑  Laine, Rudolf; Meinke, Alexander; Evans, Owain (28 Nov 2023). "Towards a Situational Awareness Benchmark for LLMs". NeurIPS 2023 SoLaR Workshop (بالإنجليزية). Retrieved 2024-10-11.
1 2 3  Pan, Alexander; Shern, Chan Jun; Zou, Andy; Li, Nathaniel; Basart, Steven; Woodside, Thomas; Ng, Jonathan; Zhang, Emmons; Scott, Dan; Hendrycks (03 Apr 2023). "Do the Rewards Justify the Means? Measuring Trade-Offs Between Rewards and Ethical Behavior in the MACHIAVELLI Benchmark". Proceedings of the 40th International Conference on Machine Learning (بالإنجليزية). PMLR. arXiv:2304.03279.
1 2 3  Perez، Ethan؛ Ringer، Sam؛ Lukošiūtė، Kamilė؛ Nguyen، Karina؛ Chen، Edwin؛ Heiner، Scott؛ Pettit، Craig؛ Olsson، Catherine؛ Kundu، Sandipan؛ Kadavath، Saurav؛ Jones، Andy؛ Chen، Anna؛ Mann، Ben؛ Israel، Brian؛ Seethor، Bryan (19 ديسمبر 2022). "Discovering Language Model Behaviors with Model-Written Evaluations". arXiv:2212.09251 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Orseau، Laurent؛ Armstrong، Stuart (25 يونيو 2016). "Safely interruptible agents". Proceedings of the Thirty-Second Conference on Uncertainty in Artificial Intelligence. UAI'16. Arlington, Virginia, USA: AUAI Press: 557–566. ISBN:978-0-9966431-1-5. مؤرشف من الأصل في 2024-10-12. اطلع عليه بتاريخ 2024-10-11.
1 2  Leike، Jan؛ Martic، Miljan؛ Krakovna، Victoria؛ Ortega، Pedro A.؛ Everitt، Tom؛ Lefrancq، Andrew؛ Orseau، Laurent؛ Legg، Shane (28 نوفمبر 2017). "AI Safety Gridworlds". arXiv:1711.09883 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3 4  Hadfield-Menell، Dylan؛ Dragan، Anca؛ Abbeel، Pieter؛ Russell، Stuart (19 أغسطس 2017). "The off-switch game". Proceedings of the 26th International Joint Conference on Artificial Intelligence. IJCAI'17. Melbourne, Australia: AAAI Press: 220–227. ISBN:978-0-9992411-0-3. مؤرشف من الأصل في 2024-10-12. اطلع عليه بتاريخ 2024-10-11.
1 2 3  Turner، Alexander Matt؛ Smith، Logan Riggs؛ Shah، Rohin؛ Critch، Andrew؛ Tadepalli، Prasad (2021). "Optimal policies tend to seek power". Advances in neural information processing systems. ICLR. مؤرشف من الأصل في 2024-08-23. اطلع عليه بتاريخ 2024-10-11.
↑  Turner، Alexander Matt؛ Tadepalli، Prasad (2022). "Parametrically retargetable decision-makers tend to seek power". Advances in neural information processing systems. ICLR. مؤرشف من الأصل في 2023-12-01. اطلع عليه بتاريخ 2024-10-11.
1 2 3 4  Bostrom، Nick (2014). Superintelligence: Paths, Dangers, Strategies (ط. 1st). USA: Oxford University Press, Inc. ISBN:978-0-19-967811-2.
↑  "Stephen Hawking: 'Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?'". The Independent. ذي إندبندنت. مؤرشف من الأصل في 2015-09-25. اطلع عليه بتاريخ 2016-06-14.
↑  "Stephen Hawking warns artificial intelligence could end mankind". BBC. بي بي سي. 2 ديسمبر 2014. مؤرشف من الأصل في 2015-10-30. اطلع عليه بتاريخ 2016-06-14.
↑  "Anticipating artificial intelligence". Nature. ج. 532 ع. 7600: 413. 26 أبريل 2016. Bibcode:2016Natur.532Q.413.. DOI:10.1038/532413a. PMID:27121801. مؤرشف من الأصل في 2023-09-08. اطلع عليه بتاريخ 2024-10-16.
1 2  "Statement on AI Risk | CAIS". www.safe.ai. مؤرشف من الأصل في 2023-05-31. اطلع عليه بتاريخ 2023-07-17.
↑  Roose, Kevin (30 May 2023). "A.I. Poses 'Risk of Extinction,' Industry Leaders Warn". The New York Times (بالإنجليزية). ISSN:0362-4331. Retrieved 2023-07-17.
↑  Muehlhauser، Luke (29 يناير 2016). "Sutskever on Talking Machines". Luke Muehlhauser. مؤرشف من الأصل في 2022-09-27. اطلع عليه بتاريخ 2022-08-26.
↑  Shanahan، Murray (2015). The technological singularity. Cambridge, Massachusetts: MIT Press. ISBN:978-0-262-52780-4. OCLC:917889148. مؤرشف من الأصل في 2024-10-13. اطلع عليه بتاريخ 2024-10-11.
↑  Wiener, Norbert (06 May 1960). "Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers". Science (بالإنجليزية). 131 (3410): 1355–1358. DOI:10.1126/science.131.3410.1355. ISSN:0036-8075. PMID:17841602. S2CID:30855376. Archived from the original on 2022-10-15. Retrieved 2022-09-12.
↑  Rossi، Francesca. "How do you teach a machine to be moral?". The Washington Post. ISSN:0190-8286. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-09-12.
↑  Aaronson، Scott (17 يونيو 2022). "OpenAI!". Shtetl-Optimized. مؤرشف من الأصل في 2022-08-27. اطلع عليه بتاريخ 2022-09-12.
↑  Selman، Bart، "Intelligence Explosion: Science or Fiction?" (pdf)، AI Magazine، مؤرشف (PDF) من الأصل في 2022-05-31، اطلع عليه بتاريخ 2022-09-12
↑  McAllester (10 أغسطس 2014). "Friendly AI and the Servant Mission". Machine Thoughts. مؤرشف من الأصل في 2022-09-28. اطلع عليه بتاريخ 2022-09-12.
↑  Schmidhuber، Jürgen (06 مارس 2015). "I am Jürgen Schmidhuber, AMA!" (Reddit Comment). r/MachineLearning. مؤرشف من الأصل في 2023-02-10. اطلع عليه بتاريخ 2022-07-23.
1 2 3 4 5  Everitt، Tom؛ Lea، Gary؛ Hutter، Marcus (21 مايو 2018). "AGI Safety Literature Review". arXiv:1805.01109 [cs.AI]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Shane (31 أغسطس 2009). "Funding safe AGI". vetta project. مؤرشف من الأصل في 2022-10-10. اطلع عليه بتاريخ 2022-09-12.
↑  Horvitz، Eric (27 يونيو 2016). "Reflections on Safety and Artificial Intelligence" (pdf). Eric Horvitz. مؤرشف (PDF) من الأصل في 2022-10-10. اطلع عليه بتاريخ 2020-04-20.
↑  Chollet، François (08 ديسمبر 2018). "The implausibility of intelligence explosion". Medium. مؤرشف من الأصل في 2021-03-22. اطلع عليه بتاريخ 2022-08-26.
↑  Marcus، Gary (06 يونيو 2022). "Artificial General Intelligence Is Not as Imminent as You Might Think". Scientific American. مؤرشف من الأصل في 2022-09-15. اطلع عليه بتاريخ 2022-08-26.
↑  Barber، Lynsey (31 يوليو 2016). "Phew! Facebook's AI chief says intelligent machines are not a threat to humanity". CityAM. مؤرشف من الأصل في 2022-08-26. اطلع عليه بتاريخ 2022-08-26.
↑  Etzioni, Oren (20 Sep 2016). "No, the Experts Don't Think Superintelligent AI is a Threat to Humanity". MIT Technology Review (بالإنجليزية). Archived from the original on 2020-12-08. Retrieved 2024-06-10.
↑  Gabriel، Iason (01 سبتمبر 2020). "Artificial Intelligence, Values, and Alignment". Minds and Machines. ج. 30 ع. 3: 411–437. arXiv:2001.09768. DOI:10.1007/s11023-020-09539-2. ISSN:1572-8641. S2CID:210920551. مؤرشف من الأصل في 2024-10-12. اطلع عليه بتاريخ 2024-10-11.
↑  Rochon, Louis-Philippe; Rossi, Sergio (27 Feb 2015). The Encyclopedia of Central Banking (بالإنجليزية). Edward Elgar Publishing. ISBN:978-1-78254-744-0. Archived from the original on 2023-02-10. Retrieved 2022-09-13.
↑
↑  Ng، Andrew Y.؛ Russell، Stuart J. (29 يونيو 2000). "Algorithms for Inverse Reinforcement Learning". Proceedings of the Seventeenth International Conference on Machine Learning. ICML '00. San Francisco, CA, USA: Morgan Kaufmann Publishers Inc.: 663–670. ISBN:978-1-55860-707-1. مؤرشف من الأصل في 2023-06-01. اطلع عليه بتاريخ 2024-10-11.
↑  Hadfield-Menell، Dylan؛ Russell، Stuart J؛ Abbeel، Pieter؛ Dragan، Anca (2016). "Cooperative inverse reinforcement learning". Advances in neural information processing systems. Curran Associates, Inc. ج. 29.