Prijateljska umjetna inteligencija

**Prijateljska vještačka inteligencija** (također **prijateljska AI** ili **FAI**) odnosi se na hipotetsku vještačku opću inteligenciju (AGI) koja bi imala pozitivan (benigni) učinak na čovječanstvo ili barem uskladiti s ljudskim interesima ili doprinijeti unapređenju ljudske vrste. To je dio etike vještačke inteligencije i usko je povezan sa mašinskom etikom. Dok se mašinska etika bavi time kako bi se „trebao“ ponašati vještački inteligentni agent, prijateljsko istraživanje umjetne inteligencije fokusirano je na to kako praktično postići ovo ponašanje i osigurati da je adekvatno ograničeno.

## Etimologija i upotreba 
[thumb|[Eliezer Yudkowsky, AI istraživač i tvorac pojma Prijateljska vještačka inteligencija]]
Termin je skovao Eliezer Yudkowsky, koji je najpoznatiji po popularizaciji ideje, rasprava o superinteligentnim vještačkim agentima koji pouzdano implementiraju ljudske vrijednosti. Stuart J. Russell i Peter Norvig  autori vodećeg udžbenika o vještačkoj inteligenciji, *Vještačka inteligencija: moderni pristup*, opisuju ideju:

## Rizici od neprijateljske AI 
Korijeni zabrinutosti za veštačku inteligenciju su veoma stari. Kevin LaGrandeur je pokazao da se opasnosti specifične za AI mogu vidjeti u drevnoj literaturi u vezi s vještačkim humanoidnim slugama kao što su golemi, ili protoroboti Gerbert of Aurillac i Roger Bacon. U tim pričama, ekstremna inteligencija i moć ovih humanoidnih kreacija sukobljavaju se s njihovim statusom robova (koji se po prirodi smatraju podljudskim) i izazivaju katastrofalne sukobe. Do 1942. ove teme su podstakle Issaca Asimova da stvori "Tri zakona robotike"—principe ugrađene u sve robote u njegovoj fikciji, s namjerom da ih spriječe da se okrenu protiv svojih tvoraca ili im dopuste doći na štetu.
 
U modernim vremenima, kako se perspektiva superinteligentna AI sve više približava, filozof Nick Bostrom je rekao da su superinteligentni sistemi AI sa ciljevima koji nisu usklađeni s ljudskom etikom suštinski opasni osim ako se ne preduzmu ekstremne mjere kako bi se osigurala sigurnost čovječanstva. On je to rekao ovako:

U osnovi bismo trebali pretpostaviti da bi 'superinteligencija' mogla postići sve ciljeve koje ima. Stoga je izuzetno važno da ciljevi kojima ga dajemo, kao i cijeli sistem motivacije, budu 'prijateljski prema ljudima'

Eliezer Yudkowsky je 2008. godine pozvao na stvaranje "prijateljske AI" kako bi se ublažili egzistencijskii rizik od napredne vještačke inteligencije. On objašnjava: "AI vas ne mrzi, niti voli, ali ste napravljeni od atoma koje može koristiti za nešto drugo."

Steve Omohundro kaže da će dovoljno napredan AI sistem, osim ako se eksplicitno ne suprotstavi, pokazati brojne osnovne "pogone", kao što su nabavka resursa, samoodržanje i kontinuirano samousavršavanje, zbog  unutrašnje prirode bilo kojeg ciljano vođenog sistema i da će ti nagoni, "bez posebnih mjera opreza", uzrokovati da AI pokaže neželjeno ponašanje.

Alexander Wissner-Gross kaže da se vještačka inteligencija vođena da maksimizira svoju buduću slobodu djelovanja (ili entropiju kauzalnog puta) može smatrati prijateljskom ako je njihov horizont planiranja duži od određenog praga, i neprijateljskim ako je njihov horizont planiranja kraći od toga praga.

Luke Muehlhauser, koji piše za Machine Intelligence Research Institute, preporučuje da istraživači mašinske etike usvoje ono što je Bruce Schneier nazvao "sigurnosnim načinom razmišljanja": umjesto da razmišljaju o tome kako će sistem funkcionirati, zamislite kako bi mogao propasti. Naprimjer, on sugerira da čak i AI koja samo daje tačna predviđanja i komunicira putem tekstualnog interfejsa može uzrokovati nenamjernu štetu.

U 2014., Luke Muehlhauser i Nick Bostrom naglasili su potrebu za 'prijateljskom AI'; ipak, poteškoće u dizajniranju 'prijateljske' superinteligencije, naprimjer programiranjem kontračinjeničnog moralnog razmišljanja, znatne su.

## Također pogledajte
* Afektivno računarstvo
* AI poravnanje
* AI efekat
* Preuzimanje AI
* Ambijentna inteligencija
* Primjena vještačje inteligencije
* Utrka u naoružanju vještačkom inteligencijom
* Integracija sistema vještačke inteligencije
* Autonomni agent
* Utjelovljeni agent
* Prepoznavanje emocija
* Egzistencijalni rizik od vještačke opće inteligencije
* Hibridni inteligentni sistem
* Eksplozija obavještajne službe
* Inteligentni agent
* Inteligentna kontrola
* Mašinska etika
* Institut za istraživanje mašinske inteligencije
* OpenAI
* Regulacija algoritama
* Rokov bazilisk
* Analiza sentimenta
* Singularitarizam – moralna filozofija koju zastupaju zagovornici Friendly AI
* Tehnološka singularnost
* Tri zakona robotike

## Reference
## Dopunska literatura
* Yudkowsky, E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In *Global Catastrophic Risks*, Oxford University Press, 2008.Discusses Artificial Intelligence from the perspective of Existential risk.  In particular, Sections 1-4 give background to the definition of Friendly AI in Section 5.  Section 6 gives two classes of mistakes (technical and philosophical) which would both lead to the accidental creation of non-Friendly AIs.  Sections 7-13 discuss further related issues.
* Omohundro, S.  2008 The Basic AI Drives Appeared in AGI-08 - Proceedings of the First Conference on Artificial General Intelligence
* Mason, C. 2008 Human-Level AI Requires Compassionate Intelligence  Appears in AAAI 2008 Workshop on Meta-Reasoning:Thinking About Thinking
* Froding, B. and Peterson, M 2021 Friendly AI Ethics and Information Technology volume 23, pp 207–214.

## Vanjski linkovi
* Ethical Issues in Advanced Artificial Intelligence by Nick Bostrom
* What is Friendly AI? &mdash; A brief description of Friendly AI by the Machine Intelligence Research Institute.
* Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures &mdash; A near book-length description from the MIRI
* Critique of the MIRI Guidelines on Friendly AI &mdash; by Bill Hibbard
* Commentary on MIRI's Guidelines on Friendly AI &mdash; by Peter Voss.
* The Problem with ‘Friendly’ Artificial Intelligence &mdash; On the motives for and impossibility of FAI; by Adam Keiper and Ari N. Schulman.

Kategorija:Filozofija vještačke inteligencije
Kategorija:Singularitarizam
Kategorija:Transhumanizam
Kategorija:Afektivno računarstvo