סכנה קיומית מבינה מלאכותית כללית
הערות שוליים

↑  Russell, Stuart, and Peter Norvig. "The ethics and risks of developing artificial intelligence." Artificial Intelligence: a Modern Approach 1152 (2009).
↑  Bostrom, Nick (2002). "Existential risks". Journal of Evolution and Technology. 9 (1): 1–31.
↑  Turchin, Alexey; Denkenberger, David (2018-05-03). "Classification of global catastrophic risks connected with artificial intelligence". AI & Society. 35 (1): 147–163. doi:10.1007/s00146-018-0845-5. ISSN 0951-5666.
↑  ""Godfather of artificial intelligence" weighs in on the past and potential of AI". www.cbsnews.com (באנגלית אמריקאית). 25 במרץ 2023. נבדק ב-2023-04-10. {{cite web}}:  (עזרה)
↑  "How Rogue AIs may Arise". yoshuabengio.org (באנגלית אמריקאית). 26 במאי 2023. נבדק ב-2023-05-26. {{cite web}}:  (עזרה)
↑  Parkin, Simon (14 ביוני 2015). "Science fiction no more? Channel 4's Humans and our rogue AI obsessions". The Guardian (באנגלית). ארכיון מ-5 בפברואר 2018. נבדק ב-5 בפברואר 2018. {{cite news}}:  (עזרה)
↑  Jackson, Sarah. "The CEO of the company behind AI chatbot ChatGPT says the worst-case scenario for artificial intelligence is 'lights out for all of us'". Business Insider (באנגלית אמריקאית). נבדק ב-2023-04-10.
↑  "The AI Dilemma". www.humanetech.com (באנגלית). נבדק ב-2023-04-10.
↑  "2022 Expert Survey on Progress in AI". AI Impacts (באנגלית אמריקאית). 2022-08-04. נבדק ב-2023-04-10.
↑  Artificial Intelligence as a Positive and Negative Factor in Global Risk
↑  "Research Priorities for Robust and Beneficial Artificial Intelligence" (PDF). AI Magazine. Association for the Advancement of Artificial Intelligence: 105–114. 2015. arXiv:1602.03506. Bibcode:2016arXiv160203506R. ארכיון (PDF) מ-4 באוגוסט 2019. נבדק ב-10 באוגוסט 2019. {{cite journal}}:  (עזרה), cited in "AI Open Letter – Future of Life Institute". Future of Life Institute. Future of Life Institute. בינואר 2015. ארכיון מ-10 באוגוסט 2019. נבדק ב-2019-08-09. {{cite web}}:  (עזרה)
↑  Dowd, Maureen (באפריל 2017). "Elon Musk's Billion-Dollar Crusade to Stop the A.I. Apocalypse". The Hive (באנגלית). ארכיון מ-26 ביולי 2018. נבדק ב-27 בנובמבר 2017. {{cite news}}:  (עזרה)
1 2  Yudkowsky, Eliezer (2008). "Artificial Intelligence as a Positive and Negative Factor in Global Risk" (PDF). Global Catastrophic Risks: 308–345. Bibcode:2008gcr..book..303Y. ארכיון (PDF) מ-2 במרץ 2013. נבדק ב-27 באוגוסט 2018. {{cite journal}}:  (עזרה)
1 2  Graves, Matthew (8 בנובמבר 2017). "Why We Should Be Concerned About Artificial Superintelligence". Skeptic (US magazine). Vol. 22, no. 2. ארכיון מ-13 בנובמבר 2017. נבדק ב-27 בנובמבר 2017. {{cite news}}:  (עזרה)
↑  Breuer, Hans-Peter. 'Samuel Butler's "the Book of the Machines" and the Argument from Design.' (אורכב 15.03.2023 בארכיון Wayback Machine) Modern Philology, Vol. 72, No. 4 (May 1975), pp. 365–383
↑  Hilliard, Mark (2017). "The AI apocalypse: will the human race soon be terminated?". The Irish Times (באנגלית). ארכיון מ-22 במאי 2020. נבדק ב-15 במרץ 2020. {{cite news}}:  (עזרה)
↑  Barrat, James (2013). Our final invention : artificial intelligence and the end of the human era (First ed.). New York: St. Martin's Press. ISBN 9780312622374. In the bio, playfully written in the third person, Good summarized his life's milestones, including a probably never before seen account of his work at Bletchley Park with Turing. But here's what he wrote in 1998 about the first superintelligence, and his late-in-the-game U-turn: [The paper] 'Speculations Concerning the First Ultra-intelligent Machine' (1965) . . . began: 'The survival of man depends on the early construction of an ultra-intelligent machine.' Those were his [Good's] words during the Cold War, and he now suspects that 'survival' should be replaced by 'extinction.' He thinks that, because of international competition, we cannot prevent the machines from taking over. He thinks we are lemmings. He said also that 'probably Man will construct the deus ex machina in his own image.'
↑  Anderson, Kurt (26 בנובמבר 2014). "Enthusiasts and Skeptics Debate Artificial Intelligence". Vanity Fair. ארכיון מ-22 בינואר 2016. נבדק ב-30 בינואר 2016. {{cite news}}:  (עזרה)
↑  Scientists Worry Machines May Outsmart Man (אורכב 01.07.2017 בארכיון Wayback Machine) By John Markoff, The New York Times, 26 July 2009.
↑  Metz, Cade (9 ביוני 2018). "Mark Zuckerberg, Elon Musk and the Feud Over Killer Robots". The New York Times. ארכיון מ-15 בפברואר 2021. נבדק ב-3 באפריל 2019. {{cite news}}:  (עזרה)
↑  Hsu, Jeremy (1 במרץ 2012). "Control dangerous AI before it controls us, one expert says". NBC News. ארכיון מ-2 בפברואר 2016. נבדק ב-28 בינואר 2016. {{cite news}}:  (עזרה)
↑  "Stephen Hawking: 'Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?'". The Independent (UK). ארכיון מ-25 בספטמבר 2015. נבדק ב-3 בדצמבר 2014. {{cite news}}:  (עזרה)
↑  "Stephen Hawking warns artificial intelligence could end mankind". BBC. 2 בדצמבר 2014. ארכיון מ-30 באוקטובר 2015. נבדק ב-3 בדצמבר 2014. {{cite news}}:  (עזרה)
↑  Eadicicco, Lisa (28 בינואר 2015). "Bill Gates: Elon Musk Is Right, We Should All Be Scared Of Artificial Intelligence Wiping Out Humanity". Business Insider. ארכיון מ-26 בפברואר 2016. נבדק ב-30 בינואר 2016. {{cite news}}:  (עזרה)
↑  "Anticipating artificial intelligence". Nature (באנגלית). 532 (7600): 413. 2016. doi:10.1038/532413a. ISSN 1476-4687. PMID 27121801.
↑  Christian, Brian (6 באוקטובר 2020). The Alignment Problem: Machine Learning and Human Values. W. W. Norton & Company. ISBN 978-0393635829. ארכיון מ-5 בדצמבר 2021. נבדק ב-5 בדצמבר 2021. {{cite book}}:  (עזרה)
↑  Dignum, Virginia (26 במאי 2021). "AI — the people and places that make, use and manage it". Nature (באנגלית). 593 (7860): 499–500. Bibcode:2021Natur.593..499D. doi:10.1038/d41586-021-01397-x. {{cite journal}}:  (עזרה)
↑  "Elon Musk among experts urging a halt to AI training". BBC News (באנגלית בריטית). 2023-03-29. נבדק ב-2023-06-09.
↑  "Statement on AI Risk | CAIS". www.safe.ai. נבדק ב-2023-06-08.
↑  "Artificial intelligence could lead to extinction, experts warn". BBC News (באנגלית בריטית). 2023-05-30. נבדק ב-2023-06-08.
↑   סוכנויות הידיעות, "נהיה כמו תינוקות": זוכה פרס הנובל עידכן את התחזית שלו לקץ האנושות, באתר TheMarker‏, 29 בדצמבר 2024
↑  Tilli, Cecilia (28 באפריל 2016). "Killer Robots? Lost Jobs?". Slate (באנגלית אמריקאית). ארכיון מ-11 במאי 2016. נבדק ב-15 במאי 2016. {{cite news}}:  (עזרה)
↑  "Norvig vs. Chomsky and the Fight for the Future of AI". Tor.com. 21 ביוני 2011. ארכיון מ-13 במאי 2016. נבדק ב-15 במאי 2016. {{cite web}}:  (עזרה)
↑  Johnson, Phil (30 ביולי 2015). "Houston, we have a bug: 9 famous software glitches in space". IT World (באנגלית). אורכב מ-המקור ב-15 בפברואר 2019. נבדק ב-5 בפברואר 2018. {{cite news}}:  (עזרה)
↑  Yampolskiy, Roman V. (8 באפריל 2014). "Utility function security in artificially intelligent agents". Journal of Experimental & Theoretical Artificial Intelligence. 26 (3): 373–389. doi:10.1080/0952813X.2014.895114. Nothing precludes sufficiently smart self-improving systems from optimising their reward mechanisms in order to optimisetheir current-goal achievement and in the process making a mistake leading to corruption of their reward functions. {{cite journal}}:  (עזרה)
↑  Bostrom, Nick, Superintelligence : paths, dangers, strategies (Audiobook), ISBN 978-1-5012-2774-5, OCLC 1061147095
↑  "Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter". Future of Life Institute. ארכיון מ-15 בינואר 2015. נבדק ב-23 באוקטובר 2015. {{cite web}}:  (עזרה)
1 2 3  "Clever cogs". The Economist. 9 באוגוסט 2014. ארכיון מ-8 באוגוסט 2014. נבדק ב-9 באוגוסט 2014. {{cite news}}:  (עזרה) Syndicated (אורכב 04.03.2016 בארכיון Wayback Machine) at Business Insider
↑  Yampolskiy, Roman V. "Analysis of types of self-improving software." Artificial General Intelligence. Springer International Publishing, 2015. 384-393.
↑  Omohundro, S. M. (2008, February). The basic AI drives. In AGI (Vol. 171, pp. 483-492).
↑  Metz, Cade (13 באוגוסט 2017). "Teaching A.I. Systems to Behave Themselves". The New York Times. ארכיון מ-26 בפברואר 2018. נבדק ב-26 בפברואר 2018. A machine will seek to preserve its off switch, they showed {{cite news}}:  (עזרה)
↑  Russell, Stuart (30 באוגוסט 2017). "Artificial intelligence: The future is superintelligent". Nature (באנגלית). 548 (7669): 520–521. Bibcode:2017Natur.548..520R. doi:10.1038/548520a. {{cite journal}}:  (עזרה)
↑  Max Tegmark (2017). Life 3.0: Being Human in the Age of Artificial Intelligence (1st ed.). Mainstreaming AI Safety: Knopf. ISBN 9780451485076.
↑  Elliott, E. W. (2011). "Physics of the Future: How Science Will Shape Human Destiny and Our Daily Lives by the Year 2100, by Michio Kaku". Issues in Science and Technology. 27 (4): 90.
↑  Kaku, Michio (2011). Physics of the future: how science will shape human destiny and our daily lives by the year 2100. New York: Doubleday. ISBN 978-0-385-53080-4. I personally believe that the most likely path is that we will build robots to be benevolent and friendly
↑    James Titcomb, ‏Should humans fear the rise of the machine?, The Telegraph, 1 September 2015
↑  Shermer, Michael (1 במרץ 2017). "Apocalypse AI". Scientific American (באנגלית). 316 (3): 77. Bibcode:2017SciAm.316c..77S. doi:10.1038/scientificamerican0317-77. PMID 28207698. ארכיון מ-1 בדצמבר 2017. נבדק ב-27 בנובמבר 2017. {{cite journal}}:  (עזרה)
↑  "Intelligent Machines: What does Facebook want with AI?". BBC News. 14 בספטמבר 2015. נבדק ב-31 במרץ 2023. {{cite news}}:  (עזרה)
↑  Superintelligence: Paths, Dangers, Strategies
↑  "The Myth Of AI". www.edge.org. ארכיון מ-11 במרץ 2020. נבדק ב-2020-03-11. {{cite web}}:  (עזרה)
↑  Waser, Mark. "Rational Universal Benevolence: Simpler, Safer, and Wiser Than 'Friendly AI'." Artificial General Intelligence. Springer Berlin Heidelberg, 2011. 153-162. "Terminal-goaled intelligences are short-lived but mono-maniacally dangerous and a correct basis for concern if anyone is smart enough to program high-intelligence and unwise enough to want a paperclip-maximizer."
↑  Koebler, Jason (2 בפברואר 2016). "Will Superintelligent AI Ignore Humans Instead of Destroying Us?". Vice Magazine. ארכיון מ-30 בינואר 2016. נבדק ב-3 בפברואר 2016. This artificial intelligence is not a basically nice creature that has a strong drive for paperclips, which, so long as it's satisfied by being able to make lots of paperclips somewhere else, is then able to interact with you in a relaxed and carefree fashion where it can be nice with you," Yudkowsky said. "Imagine a time machine that sends backward in time information about which choice always leads to the maximum number of paperclips in the future, and this choice is then output—that's what a paperclip maximizer is. {{cite news}}:  (עזרה)
↑  Nindler, Reinmar (2019-03-11). "The United Nation's Capability to Manage Existential Risks with a Focus on Artificial Intelligence". International Community Law Review. 21 (1): 5–34. doi:10.1163/18719732-12341388. ISSN 1871-9740. ארכיון מ-30 באוגוסט 2022. נבדק ב-30 באוגוסט 2022. {{cite journal}}:  (עזרה)
↑  Stefanik, Elise M. (2018-05-22). "H.R.5356 – 115th Congress (2017-2018): National Security Commission Artificial Intelligence Act of 2018". www.congress.gov. ארכיון מ-23 במרץ 2020. נבדק ב-2020-03-13. {{cite web}}:  (עזרה)
↑  Baum, Seth (2018-09-30). "Countering Superintelligence Misinformation". Information. 9 (10): 244. doi:10.3390/info9100244. ISSN 2078-2489.
1 2  Sotala, Kaj; Yampolskiy, Roman V (2014-12-19). "Responses to catastrophic AGI risk: a survey". Physica Scripta. 90 (1): 018001. Bibcode:2015PhyS...90a8001S. doi:10.1088/0031-8949/90/1/018001. ISSN 0031-8949.
↑  Geist, Edward Moore (2016-08-15). "It's already too late to stop the AI arms race—We must manage it instead". Bulletin of the Atomic Scientists. 72 (5): 318–321. Bibcode:2016BuAtS..72e.318G. doi:10.1080/00963402.2016.1216672. ISSN 0096-3402.
↑  Maas, Matthijs M. (2019-02-06). "How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons of mass destruction". Contemporary Security Policy. 40 (3): 285–311. doi:10.1080/13523260.2019.1576464. ISSN 1352-3260.
| בינה מלאכותית |
| --- | --- | --- |
| כללי | מבחן טיורינג • היסטוריה של הבינה המלאכותית • ציר הזמן של בינה מלאכותית • התקדמות הבינה המלאכותית • אוריינות AI • סוכן תבוני • AI-שלמות מערכת מומחה • אסדרת בינה מלאכותית (בישראל) • בינה מלאכותית צרה • בינה חישובית • הסברתיות בינה מלאכותית • הפרדוקס של מורבק • סוכן תבוני • אתיקה של בינה מלאכותית |  |
| תחומים | עיבוד שפה טבעית • ראייה ממוחשבת • בינה מלאכותית יוצרת • אומנות בינה מלאכותית • בינה מלאכותית כללית (AGI) |  |
| סוגי למידת מכונה | מערכת לומדת • למידה מונחית • למידה בלתי מונחית • למידה עמוקה • למידת חיזוק • סיווג בייסיאני נאיבי • רשת בייסיאנית |  |
| אלגוריתמי למידת מכונה קלאסית | פרספטרון • עץ החלטה • מכונת וקטורים תומכים • Bag of words • אלגוריתם k-מרכזים • אלגוריתם מיקסום התוחלת • הורדת ממד • אלגוריתם שכן קרוב • יער אקראי  • Q-learning •‏ T-SNE •‏ Tf–idf • חיזוק גרדיאנט |  |
| למידה עמוקה | רשת עצבית מלאכותית • רשת זרימה קדימה • רשת עצבית רקורסיבית • פונקציית אקטיבציה • טרנספורמר • Attention •‏ GAN |  |
| עיבוד שפה טבעית | מודל שפה • שיכון מילים • בלשנות חישובית • תרגום מכונה • חילוץ מידע (אנ') • ניתוח סנטימנט • זיהוי חלקי דיבר (אנ') • מערכת זיהוי דיבור • זיהוי ישויות • כריית טקסט • תיוג תפקידים סמנטי • Word2vec • מודל שפה גדול • GPT •‏ BERT (אנ') • מודל Bag-of-words (אנ') • יצירת טקסט בשפה טבעית (אנ') • מילת עצירה • ניתוח מחרוזות • Stemming (אנ') • למטיזציה (אנ') |  |
| יישומים לבינה מלאכותית (אנ') | צ'אטבוט • זיהוי דובר • זיהוי עצמים • זיהוי תבניות • עוזר וירטואלי • זיהוי תווים אופטי • מחולל תמונות • הזיות |  |
| מערכות בינה מלאכותית | אלייזה • ChatGPT •‏ DALL-E •‏ Midjourney •‏ Gemini • קלוד •‏ Perplexity •‏ SearchGPT •‏ GitHub Copilot • דיפ־פייק • סירי • Google Assistant • אמזון אלכסה • מיקרוסופט קופיילוט |  |
| סוגיות בטיחות בינה מלאכותית (אנ') | סכנה קיומית מבינה מלאכותית כללית • בינה מלאכותית חזקה • יישור בינה מלאכותית (אנ') • בקרת יכולות בינה מלאכותית (אנ') • בינה מלאכותית ידידותית (אנ') • התכנסות אינסטרומנטלית (אנ') • סינגולריות טכנולוגית • השתלטות הבינה המלאכותית • המכתב הפתוח על בינה מלאכותית (2015) |  |
| ספריות בשימוש נרחב | TensorFlow •‏ PyTorch •‏ Torch •‏ Hugging Face •‏ Keras •‏ spaCy (אנ') •‏ Caffe |  |
לקטגוריית הבינה המלאכותית