Dost süni intellekt

Dost süni intellekt — bəşəriyyətə müsbət (zərərsiz) təsir göstərəcək və ya ən azı insan maraqları ilə üst-üstə düşəcək və ya insan növünün təkmilləşdirilməsinə töhfə verəcək hipotetik süni ümumi intellekt. Bu, süni intellekt etikasının bir hissəsidir və maşın etikası ilə sıx əlaqəlidir. Maşın etikası süni intellekt agentinin necə davranması ilə məşğul olsa da, dost süni intellekt araşdırmaları bu davranışı praktik olaraq necə həyata keçirməyə və onun adekvat şəkildə məhdudlaşdırılmasını təmin etməyə yönəlib.

 Etimologiyası və istifadəsi 
Bu termin insani dəyərləri etibarlı şəkildə həyata keçirən superintellekt süni agentləri müzakirə etmək ideyasını populyarlaşdırması ilə tanınan Eliezer Yudkovski tərəfindən icad edilmişdir. Stüart Rassel və Piter Norviqin aparıcı süni intellekt kitabı olan "Süni intellekt: Müasir yanaşma" ideyanı belə təsvir edir:

"Dost" bu kontekstdə texniki terminologiya kimi istifadə olunur və danışıq mənasında "dost" olanları deyil, təhlükəsiz və faydalı agentləri seçir. Konsepsiya ilk növbədə zəkada sürətlə partlayan rekursiv şəkildə özünü təkmilləşdirən süni agentlərin müzakirələri kontekstində, bu hipotetik texnologiyanın insan cəmiyyətinə böyük, sürətli və idarə olunması çətin təsir göstərəcəyinə əsaslanaraq istifadə olunur.
 İstinadlar 

 Əlavə ədəbiyyat 
 Yudkowsky, E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In Global Catastrophic Risks, Oxford University Press, 2008.Discusses Artificial Intelligence from the perspective of Existential risk.  In particular, Sections 1-4 give background to the definition of Friendly AI in Section 5.  Section 6 gives two classes of mistakes (technical and philosophical) which would both lead to the accidental creation of non-Friendly AIs.  Sections 7-13 discuss further related issues.
 Omohundro, S.  2008 The Basic AI Drives Appeared in AGI-08 - Proceedings of the First Conference on Artificial General Intelligence
 Mason, C. 2008 Human-Level AI Requires Compassionate Intelligence  Appears in AAAI 2008 Workshop on Meta-Reasoning:Thinking About Thinking
 Froding, B. and Peterson, M 2021 Friendly AI Ethics and Information Technology volume 23, pp 207–214.

 Xarici keçidlər 
 Ethical Issues in Advanced Artificial Intelligence by Nick Bostrom
 What is Friendly AI? — A brief description of Friendly AI by the Machine Intelligence Research Institute.
 Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures — A near book-length description from the MIRI
 Critique of the MIRI Guidelines on Friendly AI — by Bill Hibbard
 Commentary on MIRI's Guidelines on Friendly AI — by Peter Voss.
 The Problem with ‘Friendly’ Artificial Intelligence — On the motives for and impossibility of FAI; by Adam Keiper and Ari N. Schulman.

Kateqoriya:Transhumanizm
Kateqoriya:Süni intellekt fəlsəfəsi