AIアライメント
AI安全性(英語版)
AIによる絶滅の危機に関する声明(英語版)
汎用人工知能による人類滅亡のリスク
AIによる乗っ取り
AI能力調整(英語版)
人間のフィードバックによる強化学習 - AIモデルの出力において「人間の価値基準」が反映されるための学習プロセス
人工知能の規制(英語版)
人工的な知恵(英語版)
HAL 9000
マルチバック
人工知能に関する公開書簡 (2015年)(英語版)
トロント宣言(英語版)
有益なAIに関するアシロマ会議(英語版)
↑ Marcus, Gary (2022年6月6日). “Artificial General Intelligence Is Not as Imminent as You Might Think”. Scientific American. 2022年9月15日時点のオリジナルよりアーカイブ。2022年8月26日閲覧。
↑ Barber, Lynsey (2016年7月31日). “Phew! Facebook's AI chief says intelligent machines are not a threat to humanity”. CityAM. 2022年8月26日時点のオリジナルよりアーカイブ。2022年8月26日閲覧。
↑ Harris, Jeremie (2021年6月16日). “The case against (worrying about) existential risk from AI”. Medium. 2022年8月26日時点のオリジナルよりアーカイブ。2022年8月26日閲覧。
↑ Rochon, Louis-Philippe; Rossi, Sergio (2015-02-27) (英語). The Encyclopedia of Central Banking. Edward Elgar Publishing. ISBN 978-1-78254-744-0. オリジナルのFebruary 10, 2023時点におけるアーカイブ。. https://web.archive.org/web/20230210114225/https://books.google.com/books?id=6kzfBgAAQBAJ 2022年9月13日閲覧。
“Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions”. 2022 IEEE Symposium on Security and Privacy (SP) (San Francisco, CA, USA: IEEE): 754–768. arXiv:2108.09293. doi:10.1109/SP46214.2022.9833571. ISBN 978-1-6654-1316-9. https://ieeexplore.ieee.org/document/9833571.
↑ “AI Safety via Debate”. OpenAI (2018年5月3日). 2023年2月10日時点のオリジナルよりアーカイブ。2022年7月23日閲覧。
1 2 Christiano, Paul; Shlegeris, Buck; Amodei, Dario (19 October 2018). "Supervising strong learners by amplifying weak experts". arXiv:1810.08575 [cs.LG]。
↑ Banzhaf, Wolfgang; Goodman, Erik; Sheneman, Leigh et al., eds (2020). Genetic Programming Theory and Practice XVII. Genetic and Evolutionary Computation.
ACM Computing Surveys 55 (12): 1–38. arXiv:2202.03629. doi:10.1145/3571730. オリジナルのFebruary 10, 2023時点におけるアーカイブ。. https://web.archive.org/web/20230210114138/https://ui.adsabs.harvard.edu/abs/2022arXiv220203629J 2022年10月14日閲覧。. Else, Holly (2023-01-12). “Abstracts written by ChatGPT fool scientists” (英語). Nature 613 (7944): 423. Bibcode: 2023Natur.613..423E. doi:10.1038/d41586-023-00056-7. PMID 36635510. https://www.nature.com/articles/d41586-023-00056-7.
↑ Russell, Stuart. “Of Myths and Moonshine”. Edge.org. 2023年2月10日時点のオリジナルよりアーカイブ。2022年7月19日閲覧。
↑ Tasioulas, John (2019). “First Steps Towards an Ethics of Robots and Artificial Intelligence”. Journal of Practical Ethics 7 (1): 61–95.
↑ Wells, Georgia; Deepa Seetharaman; Horwitz, Jeff (2021年11月5日).
1960年、AIの先駆者であるノーバート・ウィーナーは、AIアライメントの問題を次のように説明した。「私たちの目的を達成するために、私たちが効果的に干渉することのできない機械的な機能を使用する場合(中略)その機械に組み込まれた目的が、私たちが本当に望んでいるものであることを、十分に確認しなければならない」。AIアライメントにはさまざまな定義があるため、整合したAIシステムはさまざまな目的を達成する必要がある。たとえば、設計者やユーザーの目的、客観的な倫理基準、広く共有された価値観、あるいは設計者がより多くの知識を持ち啓蒙されていれば持つであろう意図などである。
AIアライメントは、現代のAIシステムにとって未解決の問題であり、AIの研究分野でもある。AIアライメントには2つの主要な課題があり、1つはシステムの目的を注意深く特定することと(外部アライメント)、もう1つはシステムがその仕様を確実に採用することである(内部アライメント)。
S.; Yan, Chao; Bose, Indranil (2022). “Towards risk-aware artificial intelligence and machine learning systems: An overview” (英語). Decision Support Systems 159: 113800. doi:10.1016/j.dss.2022.113800. https://linkinghub.elsevier.com/retrieve/pii/S0167923622000719.
↑ Demski, Abram; Garrabrant, Scott (6 October 2020). "Embedded Agency". arXiv:1902.09469 [cs.AI]。
1 2 Everitt, Tom; Ortega, Pedro A.; Barnes, Elizabeth; Legg, Shane (6 September 2019). "Understanding Agent Incentives using Causal Influence Diagrams. Part I: Single Action Settings". arXiv:1902.09980 [cs.AI]。
↑ Cohen, Michael K.; Hutter, Marcus; Osborne, Michael A. (2022-08-29). “Advanced artificial agents intervene in the provision of reward” (英語). AI Magazine 43 (3): 282–293. doi:10.
2023年3月13日閲覧。 California Assembly. “Bill Text – ACR-215 23 Asilomar AI Principles.”. 2023年2月10日時点のオリジナルよりアーカイブ。2022年7月18日閲覧。
1 2 Johnson, Steven; Iziev, Nikita (2022年4月15日). “A.I. Is Mastering Language. Should We Trust What It Says?”. The New York Times. ISSN 0362-4331. オリジナルの2022年11月24日時点におけるアーカイブ。. https://web.archive.org/web/20221124151408/https://www.nytimes.com/2022/04/15/magazine/ai-language.html 2022年7月18日閲覧。
↑ OpenAI. “Developing safe & responsible AI”. 2023年3月13日閲覧。 “DeepMind Safety Research”. Medium. 2023年2月10日時点のオリジナルよりアーカイブ。2023年3月13日閲覧。
↑ Russell, Stuart J.; Norvig, Peter (2022). Artificial intelligence: a modern approach (4th ed.). Pearson. pp. 4-5. ISBN 978-1-292-40113-3. OCLC 1303900751. https://www.pearson.
2022年7月23日閲覧。
↑ Anderson, Michael; Anderson, Susan Leigh (2007-12-15). “Machine Ethics: Creating an Ethical Intelligent Agent”. AI Magazine 28 (4): 15. doi:10.1609/aimag.v28i4.2065. ISSN 2371-9621. https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/2065 2023年3月14日閲覧。.
↑ Wallach, Wendell; Allen, Colin (2009). Moral Machines: Teaching Robots Right from Wrong. New York: Oxford University Press. ISBN 978-0-19-537404-9. オリジナルのMarch 15, 2023時点におけるアーカイブ。. https://web.archive.org/web/20230315193012/https://academic.oup.com/pages/op-migration-welcome 2022年7月23日閲覧。
↑ Wiegel, Vincent (2010-12-01). “Wendell Wallach and Colin Allen: moral machines: teaching robots right from wrong”. Ethics and Information Technology 12 (4): 359–361. doi:10.
“A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955” (英語). AI Magazine 27 (4): 12. doi:10.1609/aimag.v27i4.1904. ISSN 2371-9621. https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/1904.
↑ “'The Godfather of A.I.' warns of 'nightmare scenario' where artificial intelligence begins to seek power” (英語). Fortune. 2023年5月4日閲覧。 “Yes, We Are Worried About the Existential Risk of Artificial Intelligence” (英語). MIT Technology Review. 2023年5月4日閲覧。
↑ Ornes, Stephen (2019年11月18日). “Playing Hide-and-Seek, Machines Invent New Tools”. Quanta Magazine. 2023年2月10日時点のオリジナルよりアーカイブ。2022年8月26日閲覧。
↑ “Emergent Tool Use from Multi-Agent Interaction”. OpenAI (2019年9月17日). 2022年9月25日時点のオリジナルよりアーカイブ。
“Friendly AI and the Servant Mission”. Machine Thoughts. 2022年9月28日時点のオリジナルよりアーカイブ。2022年9月12日閲覧。
↑ Schmidhuber, Jürgen (2015年3月6日). “I am Jürgen Schmidhuber, AMA!” (Reddit Comment). r/MachineLearning. 2023年2月10日時点のオリジナルよりアーカイブ。2022年7月23日閲覧。
1 2 3 4 5 Everitt, Tom; Lea, Gary; Hutter, Marcus (21 May 2018). "AGI Safety Literature Review". arXiv:1805.01109 [cs.AI]。
↑ Shane (2009年8月31日). “Funding safe AGI”. vetta project. 2022年10月10日時点のオリジナルよりアーカイブ。2022年9月12日閲覧。
↑ Horvitz, Eric (2016年6月27日). “Reflections on Safety and Artificial Intelligence”. Eric Horvitz. 2022年10月10日時点のオリジナルよりアーカイブ。2020年4月20日閲覧。
↑ Chollet, François (2018年12月8日). “The implausibility of intelligence explosion”. Medium. 2021年3月22日時点のオリジナルよりアーカイブ。2022年8月26日閲覧。
1007/s10676-010-9239-1. ISSN 1572-8439. オリジナルのMarch 15, 2023時点におけるアーカイブ。. https://web.archive.org/web/20230315193130/https://link.springer.com/article/10.1007/s10676-010-9239-1 2022年7月23日閲覧。.
↑ MacAskill, William (2022). What we owe the future. New York, NY. ISBN 978-1-5416-1862-6. OCLC 1314633519. オリジナルのSeptember 14, 2022時点におけるアーカイブ。. https://web.archive.org/web/20220914030758/https://www.basicbooks.com/titles/william-macaskill/what-we-owe-the-future/9781541618633/ 2022年9月12日閲覧。
1 2 Wu, Jeff; Ouyang, Long; Ziegler, Daniel M.; Stiennon, Nisan; Lowe, Ryan; Leike, Jan; Christiano, Paul (27 September 2021). "Recursively Summarizing Books with Human Feedback". arXiv:2109.10862 [cs.CL]。
↑ Pearce, Hammond; Ahmad, Baleegh; Tan, Benjamin; Dolan-Gavitt, Brendan; Karri, Ramesh (2022).