KI beeldgenereerder se voorstelling van kunsmatige algemene intelligensie

|  |
| --- |
| Deel van 'n reeks oor |
| Kunsmatige intelligensie |
|  |
| 
Belangrikste doelwitte

* Kunsmatige algemene intelligensie
* Beplanning
* Rekenaarvisie
* Algemene speletjie speel (KI)
* Kennisvoorstelling
* Masjienleer
* Natuurliketaalverwerking
* Robotika
* KI-veiligheid

 |
| 
Benaderings

* Simbolies
* Diepleer
* Bayesiese netwerk
* Evolusionêre algoritmes
* Gesitueerde benadering
* Hibriede intelligente stelsels
* Stelselintegrasie

 |
| 
Filosofie

* Chinese kamerargument
* Vriendelike KI
* Beheer probleem/Oorname
* Etiek
* Eksistensiële risiko
* Turingtoets

 |
| 
Geskiedenis

* Tydlyn
* Dartmouth-werkswinkel
* Vordering
* KI-winter
* AI-oplewing

 |
| 
Tegnologie

* Toepassings
* Projekte
* Programmeertale

 |
| 
Woordelys

* Woordelys

 |
| s • b • w |

'n **Kunsmatige algemene intelligensie** (**KAI**) is 'n tipe hipotetiese intelligente agent. Die KAI-konsep is dat dit kan leer om enige intellektuele taak wat mense of ander diere kan verrig, uit te voer. Alternatiewelik is KAI gedefinieer as 'n outonome stelsel wat menslike vermoëns in die meeste ekonomies waardevolle take oortref. Die skep van KAI is 'n primêre doelwit van sommige kunsmatige intelligensie-navorsing en maatskappye soos OpenAI, DeepMind, en Anthropic. KAI is 'n algemene onderwerp in wetenskapfiksie en toekomsstudies.

Die tydlyn vir KAI-ontwikkeling bly 'n onderwerp van voortdurende debat onder navorsers en kundiges. Sommige argumenteer dat dit moontlik oor jare of dekades kan wees, ander hou vol dat dit 'n eeu of langer kan neem, en 'n minderheid glo dat dit dalk nooit bereik sal word nie. Daarbenewens is daar debat oor die vraag of moderne diepleerstelsels, soos GPT-4, 'n vroeë dog onvolledige vorm van KAI is of as nuwe benaderings vereis word.

Daar bestaan twis oor die potensiaal vir KAI om 'n bedreiging vir die mensdom in te hou; byvoorbeeld, OpenAI hanteer dit as 'n eksistensiële risiko, terwyl ander vind dat die ontwikkeling van KAI te ver in die toekoms is om 'n risiko in te hou.

'n 2020-opname het 72 aktiewe KAI navorsingsprojekte geïdentifiseer wat oor 37 lande versprei is.

Terminologie
------------

KAI staan ook bekend as sterk KI, volle KI, of algemene intelligente aksie. Sommige akademiese bronne behou egter die term "sterk KI" vir rekenaarprogramme wat gevoel of bewussyn ervaar. Daarteenoor is swak KI (of nou KI) in staat om een spesifieke probleem op te los, maar het nie algemene kognitiewe vermoëns nie. Sommige akademiese bronne gebruik "swak KI" om wyer te verwys na enige programme wat nie bewussyn ervaar of ook nie 'n verstand in dieselfde sin as mense het nie.

Verwante konsepte sluit in menslike vlak KI, transformerende KI, en superintelligensie.

Eienskappe
----------

Die "standaard interpretasie" van die Turingtoets, waarin speler C, die ondervraer, die taak kry om te probeer vasstel watter speler – A of B – 'n rekenaar is en watter 'n mens. Die ondervraer is beperk tot die gebruik van die antwoorde op geskrewe vrae om die bepaling te maak.
*Hoofartikel:* Kunsmatige intelligensie

Verskeie kriteria vir intelligensie is voorgestel (die mees bekende Turingtoets) maar geen definisie word algemeen aanvaar nie. John McCarthy skryf: "ons kan nog nie in die algemeen karakteriseer watter soort berekeningsprosedures ons intelligent wil noem nie."

### Intelligensie eienskappe

Navorsers meen egter oor die algemeen dat intelligensie nodig is om die volgende te doen: 

* redeneering, gebruikmaking van strategie, los raaisels op en beoordeel onder onsekerheid
* verteenwoordig kennis, insluitend gesonde verstandkennis
* beplan
* leer
* kommunikeer in natuurlike taal

en, indien nodig, integreer hierdie vaardighede in die voltooiing van enige gegewe doelwit. 

Baie interdissiplinêre benaderings (bv. kognitiewe wetenskap, rekenaarintelligensie en besluitneming) oorweeg bykomende eienskappe soos verbeelding (die vermoë om nuwe geestelike beelde en konsepte te vorm) en outonomie.

Rekenaargebaseerde stelsels wat baie van hierdie vermoëns vertoon, bestaan (sien byvoorbeeld rekenaarkreatiwiteit, outomatiese redenasie, besluitondersteuningstelsel, robot, evolusionêre berekening, intelligente agent). Daar is egter geen konsensus dat moderne KI-stelsels dit in 'n voldoende mate besit nie.

### Fisiese eienskappe

Ander belangrike vermoëns sluit in:

* die vermoë om aan te voel (bv. sien, hoor, ens.), en
* die vermoë om op te tree (bv. beweeg en manipuleer voorwerpe, verander ligging om te verken, ens.)

Dit sluit die vermoë in om gevaar op te spoor en daarop te reageer.

### Wiskundige formulerings

Marcus Hutter, kunsmatige intelligensie-navorser.
'n Wiskundig presiese spesifikasie van KAI is voorgestel deur Marcus Hutter in 2000. Genoem AIXI, die voorgestelde KAI-agent maksimeer "die vermoë om doelwitte in 'n wye verskeidenheid omgewings te bevredig". Hierdie tipe KAI, wat gekenmerk word deur die vermoë om 'n wiskundige definisie van intelligensie te maksimeer eerder as om mensagtige gedrag te vertoon, word ook universele kunsmatige intelligensie genoem.

In 2015 het Jan Lieke en Marcus Hutter gewys dat Legg-Hutter-intelligensie - "'n agent se vermoë om doelwitte in 'n wye reeks omgewings te bereik" - gemeet word met betrekking tot "'n vaste universele Turing-masjien (UTM). AIXI is die mees intelligente beleid as dit dieselfde UTM gebruik, 'n resultaat wat "alle bestaande optimaliteitseienskappe vir AIXI ondermyn". Hierdie probleem spruit uit AIXI se gebruik van kompressie as 'n proxy vir intelligensie, wat slegs geldig is indien kognisie in isolasie plaasvind van die omgewing waarin doelwitte nagestreef word. Dit formaliseer 'n filosofiese posisie bekend as gees-liggaam dualisme.  Sommige vind enaktivisme meer aanneemlik - die idee dat kognisie plaasvind binne dieselfde omgewing waarin doelwitte nagestreef word. Daarna het Michael Timothy Bennett enaktiewe kognisie geformaliseer en 'n alternatiewe gevolmagtigde vir intelligensie genaamd "swakheid" geïdentifiseer. Die meegaande eksperimente (wat swakheid en kompressie vergelyk) en wiskundige bewyse het getoon dat die maksimalisering van swakheid die optimale "vermoë om 'n wye reeks take te voltooi", of ekwivalent "vermoë om te veralgemeen" tot gevolg het (dus maksimeer intelligensie volgens enige definisie ). As enaktivisme geld en gees-liggaam-dualisme nie, dan is kompressie nie nodig of voldoende vir intelligensie nie, wat wydverspreide sienings oor intelligensie bevraagteken (sien ook Hutter-prys).

Of 'n KAI wat aan een van hierdie formulerings voldoen, menslike gedrag (soos die gebruik van natuurlike taal) toon, sal van baie faktore afhang, byvoorbeeld die wyse waarop die agent beliggaam word, of dit het 'n beloningsfunksie wat menslike aspekte van kognisie soos honger, pyn, ensovoorts, nou naboots.

### Toetse vir menslike vlak KAI

Alan Turing
Verskeie toetse wat bedoel is om KAI op menslike vlak te bevestig, is oorweeg, insluitend:

Die Turingtoets (*Turing*)
'n Masjien en 'n mens praat albei ongesiens met 'n tweede mens, wat moet evalueer watter van die twee die masjien is, wat die toets slaag as dit die evalueerder 'n beduidende fraksie van die tyd kan flous. Let wel: Turing skryf nie voor wat as intelligensie moet kwalifiseer nie, net dat die wete dat dit 'n masjien is dit moet diskwalifiseer.
Die koffietoets (Wozniak)
'n Masjien word benodig om 'n gemiddelde Amerikaanse huis binne te gaan en uit te vind hoe om koffie te maak: vind die koffiemasjien, vind die koffie, voeg water by, vind 'n beker en brou die koffie deur die regte knoppies te druk.
Die Robot kollege student Toets (Goertzel)
'n Masjien skryf in by 'n universiteit, neem en slaag dieselfde klasse as wat mense sou, en verwerf 'n graad.
Die indiensnemingstoets (Nilsson)
'n Masjien verrig 'n ekonomies belangrike werk minstens so goed soos mense in dieselfde werk.
Die Ikeatoets (Marcus)
Ook bekend as die platpakmeubeltoets. ’n KI bekyk die dele en instruksies van ’n Ikea-platpakproduk, en beheer dan ’n robot om die meubels korrek saam te stel.
### KI-volledigheid probleme

Daar is baie probleme wat algemene kundmatige intelligensie sal moet oorkom, as masjiene die probleme so goed wil oplos as wat mense dit kan doen. Byvoorbeeld, selfs spesifieke eenvoudige take, soos masjienvertaling, vereis dat 'n masjien in albei tale (NLP) lees en skryf, die skrywer se argument (rede) volg, weet waaroor gepraat word (kennis), en die skrywer se oorspronklike opset getrou weergee. (sosiale intelligensie). Al hierdie probleme moet gelyktydig opgelos word om masjienwerkverrigting op menslike vlak te kry.

'n Probleem word informeel "KI-volledigheid "of "KI-hard" genoem as daar geglo word dat 'n mens sterk KI moet implementeer om dit op te los, want die oplossing is buite die vermoëns van 'n doelspesifieke algoritme.

KI-volledigheid probleme word veronderstel om algemene rekenaarvisie, natuurlike taalbegrip en die hantering van onverwagte omstandighede in te sluit terwyl enige werklike wêreldprobleem opgelos word.

KI-volledigheid probleme kan nie opgelos word met huidige rekenaartegnologie alleen nie en vereis 'n mate van menslike berekening. Hierdie beperking kan nuttig wees om te toets vir die teenwoordigheid van mense, soos CAPTCHA's beoog om te doen; en vir rekenaarsekuriteit om brute-krag-aanvalle af te weer.

Geskiedenis
-----------

### Klassieke KI

Moderne KI-navorsing het in die middel-1950's begin. Die eerste generasie KI-navorsers was oortuig daarvan dat kunsmatige algemene intelligensie moontlik was en dat dit oor net 'n paar dekades sou bestaan. KI-pionier Herbert A. Simon het in 1965 geskryf: "masjiene sal binne twintig jaar in staat wees om enige werk te doen wat 'n mens kan doen."
Hul voorspellings was die inspirasie vir Stanley Kubrick en Arthur C. Clarke se karakter HAL 9000, wat beliggaam het wat KI-navorsers geglo het hulle kon skep teen die jaar 2001. KI-pionier Marvin Minsky was 'n konsultant op die projek om HAL 9000 as realisties te maak as moontlik volgens die konsensusvoorspellings van die tyd. Hy het in 1967 gesê: "Binne 'n generasie... sal die probleem van die skep van 'kunsmatige intelligensie' aansienlik opgelos word".

Verskeie klassieke KI-projekte, soos Doug Lenat se Cyc-projek (wat in 1984 begin het), en Allen Newell se Soar-projek, was op KAI gerig. In die vroeë 1970's het dit egter duidelik geword dat navorsers die moeilikheid van die projek erg onderskat het.

Befondsingsagentskappe het skepties geraak oor KAI en het navorsers onder toenemende druk geplaas om nuttige "toegepaste KI" te produseer. Die Lighthill-verslag het spesifiek KI se "grootsugtige doelwitte" gekritiseer en gelei tot die aftakeling van KI-navorsing in Engeland. In die VSA het DARPA vasbeslote geraak om slegs "missie-georiënteerde direkte navorsing, eerder as basiese ongerigte navorsing" te finansier.

In die vroeë 1980's het Japan se vyfde generasie rekenaarprojek belangstelling in KAI laat herleef en 'n tydlyn van tien jaar uiteengesit wat KAI-doelwitte soos "voer 'n toevallige gesprek" insluit. In reaksie hierop en die sukses van kundige stelsels, het beide die industrie en die regering geld in die veld teruggepomp. Vertroue in KI het egter skouspelagtig ineengestort in die laat 1980's, en die doelwitte van die Vyfde Generasie Rekenaarprojek is nooit vervul nie. Vir die tweede keer in 20 jaar het KI-navorsers wat die naderende prestasie van KAI voorspel het, hulle misgis. Teen die 1990's het KI-navorsers 'n reputasie gehad om ydele beloftes te maak. Hulle het enigsins huiwerig geword om voorspellings te maak en vermy die vermelding van kunsmatige intelligensie op "menslike vlak" uit vrees dat hulle as "wilde-oog dromer[s] geëtiketteer word.

### Nou KI-navorsing

*Sien Hoofartikel:* Kunsmatige intelligensie

In die 1990's en vroeë 21ste eeu het hoofstroom KI kommersiële sukses en akademiese eerbaarheid behaal deur te fokus op spesifieke subprobleme waar KI verifieerbare resultate en kommersiële toepassings kan produseer, soos kunsmatige neurale netwerke en statistiese masjienleer. Hierdie "toegepaste KI"-stelsels word nou op groot skaal deur die tegnologie-industrie gebruik, en navorsing in hierdie trant word goed befonds in beide die akademie en die industrie. Vanaf 2018 is ontwikkeling op hierdie gebied as 'n opkomende tendens beskou, en daar is verwag dat 'n volwasse stadium oor meer as 10 jaar sou plaasvind.

Die meeste hoofstroom KI-navorsers hoop dat sterk KI ontwikkel kan word deur programme te kombineer wat verskeie subprobleme oplos. Hans Moravec het in 1988 geskryf: "Ek is vol vertroue dat hierdie onder-na-bo-roete na kunsmatige intelligensie eendag die tradisionele bo-na-onder-roete meer as halfpad sal ontmoet, gereed om die regte wêreldbevoegdheid en die gesonde verstandkennis te verskaf wat so frustrerend ontwykend was in redenasieprogramme. Ten volle intelligente masjiene sal ontstaan wanneer die metaforiese goue piek aangedryf word wat die twee pogings verenig."

Dit word egter betwis. Byvoorbeeld, Stevan Harnad van Princeton-universiteit het sy 1990 referaat oor die Simbool Gegronde Hipoteses afgesluit deur te sê:
"Die verwagting is dikwels uitgespreek dat "bo na onder" (simboliese) benaderings tot modellering van kognisie op een of ander manier "onder na bo" (sensoriese) benaderings iewers tussenin sal ontmoet. As die grondoorwegings in hierdie vraestel geldig is, dan is hierdie verwagting hopeloos modulêr en is daar eintlik net een lewensvatbare roete van sintuig na simbole: van die grond af. 'n Vryswewende simboliese vlak soos die sagtewarevlak van 'n rekenaar sal nooit deur hierdie roete (of andersom) bereik word nie – en dit is ook nie duidelik waarom ons selfs so 'n vlak moet probeer bereik nie, aangesien dit lyk asof om daar te kom net daarop neerkom om ons simbole uit hul intrinsieke betekenisse te ontwortel (en daardeur onsself bloot te reduseer tot die funksionele ekwivalent van 'n programmeerbare rekenaar)."

### Moderne kunsmatige algemene intelligensie navorsing

Die term "kunsmatige algemene intelligensie" is reeds in 1997 deur Mark Gubrud gebruik in 'n bespreking van die implikasies van ten volle outomatiese militêre produksie en operasies. Die term is omstreeks 2002 weer gebruik en gewild gemaak deur Shane Legg en Ben Goertzel. KAI-navorsingsaktiwiteit in 2006 is deur Pei Wang en Ben Goertzel beskryf as "die vervaardiging van publikasies en voorlopige resultate". Die eerste somerskool in AKI is in 2009 in Xiamen, China georganiseer deur die Xiamen-universiteit se Kunsbreinlaboratorium en OpenCog. Die eerste universiteitskursus is in 2010 en 2011 by Plovdiv Universiteit, Bulgarye deur Todor Arnaudov aangebied. MIT het in 2018 'n kursus in KAI aangebied, georganiseer deur Lex Fridman en met 'n aantal gasdosente.

Vanaf 2023 gee die meeste KI-navorsers min aandag aan KAI, met sommige wat beweer dat intelligensie te kompleks is om op die kort termyn heeltemal gerepliseer te word. 'n Klein aantal rekenaarwetenskaplikes is egter aktief in KAI-navorsing, en baie dra by tot 'n reeks KAI-konferensies. Al hoe meer navorsers stel egter belang in oopleer, wat die idee is om KI toe te laat om voortdurend te leer en te innoveer soos mense aksie neem. Alhoewel die meeste oop-einde-leerwerke steeds op Minecraft gedoen word, kan die toepassing daarvan uitgebrei word na robotika en die wetenskappe.

### Tydskale

In die inleiding tot sy 2006-boek, sê Goertzel dat ramings van die tyd wat nodig is voordat 'n werklik buigsame KAI gebou word, wissel van 10 jaar tot meer as 'n eeu. Vanaf 2007 het die konsensus in die KAI-navorsingsgemeenskap gelyk of die tydlyn wat deur Ray Kurzweil in *The Singularity is Near* (d.w.s. tussen 2015 en 2045) bespreek is, moontlik is. Hoofstroom KI-navorsers het 'n wye verskeidenheid menings gegee oor of vordering so vinnig sal wees. 'n 2012-meta-analise van 95 sulke menings het 'n vooroordeel gevind om te voorspel dat die aanvang van KAI binne 16-26 jaar vir moderne en historiese voorspellings sou plaasvind. Daardie referaat is gekritiseer vir hoe dit menings as deskundige of nie-deskundige gekategoriseer het.

Geoffrey Hinton, op die Sentrumverhoog gedurende dag twee van Collision 2023 (28 Junie 2023) by die Enercare Centre in Toronto, Kanada.
In 2012 het Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton 'n neurale netwerk genaamd AlexNet ontwikkel, wat die ImageNet-kompetisie gewen het met 'n top-5 toetsfoutkoers van 15.3%, aansienlik beter as die tweedebeste inskrywing se koers van 26.3% (die tradisionele benadering het 'n geweegde som van tellings van verskillende vooraf gedefinieerde klassifiseerders gebruik). AlexNet is beskou as die aanvanklike baanbreker van die huidige diep leergolf.

In 2017 het navorsers Feng Liu, Yong Shi en Ying Liu intelligensietoetse uitgevoer op publiek-beskikbare en vrylik toeganklike swak KI soos Google KI, Apple se Siri, en ander. Op die maksimum het hierdie KI's 'n IK-waarde van ongeveer 47 bereik, wat ongeveer ooreenstem met 'n sesjarige kind in die eerste graad. 'n Volwassene kom gemiddeld op ongeveer 100. Soortgelyke toetse is in 2014 uitgevoer, met die IK-telling wat 'n maksimum waarde van 27 bereik het.

In 2020 het OpenAI GPT-3 ontwikkel, 'n taalmodel wat in staat is om baie uiteenlopende take te verrig sonder spesifieke opleiding. Volgens Gary Grossman in 'n *VentureBeat*-artikel, hoewel daar konsensus is dat GPT-3 nie 'n voorbeeld van KAI is nie, word dit deur sommige as te gevorderd beskou om as 'n nou KI-stelsel te klassifiseer.

In dieselfde jaar het Jason Rohrer sy GPT-3-rekening gebruik om 'n kletsbot te ontwikkel, en het 'n kletsbot-ontwikkelingsplatform genaamd "Project December" verskaf. OpenAI het gevra vir veranderinge aan die kletsbot om aan hul veiligheidsriglyne te voldoen; Rohrer het Project December van die GPT-3 API ontkoppel.

In 2022 het DeepMind Gato ontwikkel, 'n "algemene-doel" stelsel wat in staat is om meer as 600 verskillende take uit te voer.

In 2023 het Microsoft Research 'n studie gepubliseer oor 'n vroeë weergawe van OpenAI se GPT-4, en beweer dat dit meer algemene intelligensie as vorige KI-modelle getoon het en prestasie op menslike vlak gedemonstreer het in take wat oor verskeie domeine strek, soos wiskunde, kodering en die reg. Hierdie navorsing het 'n debat ontketen oor of GPT-4 as 'n vroeë, onvolledige weergawe van kunsmatige algemene intelligensie beskou kan word, wat die behoefte aan verdere verkenning en evaluering van sulke stelsels beklemtoon het.

In 2023 het die KI-navorser Geoffrey Hinton gesê dat:

```
"Die idee dat hierdie goed eintlik slimmer as mense kan word — 'n paar mense het dit geglo, [...]. Maar die meeste mense het gedink dit is ver weg. En ek het gedink dit is ver weg. Ek het gedink dit is 30 tot 50 jaar of selfs langer weg. Natuurlik dink ek nie meer so nie."
```

Breinsimulasie
--------------

### Heelbrein-emulasie

Raymond Kurzweil
Een moontlike benadering om KAI te bereik is heelbrein-emulasie: 'n Breinmodel word gebou deur 'n biologiese brein in detail te skandeer en te karteer en sy toestand na 'n rekenaarstelsel of 'n ander rekenaartoestel te kopieer. Die rekenaar bestuur 'n simulasiemodel wat voldoende getrou aan die oorspronklike is dat dit feitlik dieselfde optree as die oorspronklike brein. Heelbrein-emulasie word in rekenaarneurologie en neuroinformatika bespreek, in die konteks van breinsimulasie vir mediese navorsingsdoeleindes. Dit word in kunsmatige intelligensie navorsing bespreek as 'n benadering tot sterk KI. Neurobeeldingstegnologieë wat die nodige gedetailleerde begrip kan lewer, verbeter vinnig, en toekomskundige Ray Kurzweil voorspel in die boek *The Singularity Is Near* dat 'n kaart van voldoende gehalte beskikbaar sal word op 'n soortgelyke tydskaal as die rekenaarvermoë wat nodig is om dit na te boots.

### Vroeë skattings

Vir laevlak breinsimulasie sal 'n uiters kragtige rekenaar nodig wees. Die menslike brein het 'n groot aantal sinapse. Elk van die 1011 (eenhonderd miljard) neurone het gemiddeld 7 000 sinaptiese verbindings (sinapse) met ander neurone. Die brein van 'n driejarige kind het ongeveer 1015 sinapse (1 kwadriljoen). Hierdie getal neem af met ouderdom en stabiliseer teen volwassenheid. Skattings verskil vir 'n volwassene, wat wissel van 1014 tot 5×1014 sinapse (100 tot 500 miljard). 'n Skatting van die brein se verwerkingskrag, gebaseer op 'n eenvoudige skakelaarmodel vir neuronaktiwiteit, is ongeveer 1014 (100 miljard) sinaptiese opdaterings per sekonde (SUPS).

In 1997 het Kurzweil na verskeie skattings gekyk vir die hardeware wat nodig is om gelyk te wees aan die menslike brein en 'n syfer van 1016 berekeninge per sekonde (bps) aanvaar. (Ter vergelyking, as 'n "berekening" gelykstaande was aan een "drywende punt" werking" – 'n maatstaf wat gebruik word om huidige superrekenaars te gradeer – dan sal 1016 "berekeninge" gelykstaande wees aan 10 petaFLOPS, wat in 2011 behaal is, terwyl 1018 in 2022 behaal is.) Hy het hierdie syfer gebruik om te voorspel die nodige hardeware sal iewers tussen 2015 en 2025 beskikbaar wees, as die eksponensiële groei in rekenaarvermoë ten tyde van die skryf daarvan voortgegaan het.

### Modellering van die neurone in meer detail

Die kunsmatige neuronmodel wat deur Kurzweil aanvaar word en in baie huidige kunsmatige neurale netwerkimplementasies gebruik word, is eenvoudig in vergelyking met biologiese neurone. 'n Breinsimulasie sal waarskynlik die gedetailleerde sellulêre gedrag van biologiese neurone moet vasvang, wat tans slegs in breë trekke verstaan word. Die bokoste wat deur volledige modellering van die biologiese, chemiese en fisiese besonderhede van neurale gedrag (veral op 'n molekulêre skaal) ingestel word, sal berekeningvermoë vereis wat verskeie grootteordes groter is as Kurzweil se skatting. Boonop hou die skattings nie rekening met gliaselle nie, wat bekend is dat hulle 'n rol speel in kognitiewe prosesse.

### Huidige navorsing

Sommige navorsingsprojekte ondersoek breinsimulasie deur meer gesofistikeerde neurale modelle te gebruik, geïmplementeer op konvensionele rekenaarargitekture. Die Artificial Intelligence System-projek het in 2005 nie-intydse simulasies van 'n "brein" (met 1011 neurone) geïmplementeer. Dit het 50 dae geneem op 'n groep van 27 verwerkers om 1 sekonde van 'n model te simuleer. Die Blue Brain-projek het een van die vinnigste superrekenaar-argitekture, IBM se Blue Gene-platform, gebruik om 'n intydse simulasie van 'n enkele staaf neokortikale kolom te skep wat in 2006 uit ongeveer 10 000 neurone en 108 sinapse bestaan het. ’n Langtermyndoelwit is om ’n gedetailleerde, funksionele simulasie van die fisiologiese prosesse in die menslike brein te bou: "Dit is nie onmoontlik om ’n menslike brein te bou nie en ons kan dit in 10 jaar doen," Henry Markram, direkteur van die Bloubrein Projek, in 2009 by die TED-konferensie in Oxford gesê. Neurosilikon-koppelvlakke is voorgestel as 'n alternatiewe implementeringstrategie wat beter kan opskaal.

Hans Moravec het bogenoemde argumente aangespreek ("breine is meer ingewikkeld", "neurone moet in meer detail gemodelleer word") in sy 1997 referaat "Wanneer sal rekenaarhardeware ooreenstem met die menslike brein?". Hy het die vermoë van bestaande sagteware gemeet om die funksionaliteit van neurale weefsel, spesifiek die retina, te simuleer. Sy resultate hang nie af van die aantal glialeselle nie, en ook nie van watter soort verwerkingsneurone waar verrig nie.

Die werklike kompleksiteit van die modellering van biologiese neurone is ondersoek in die OpenWorm-projek wat gemik was op volledige simulasie van 'n wurm wat slegs 302 neurone in sy neurale netwerk het (onder ongeveer 1000 selle in totaal). Die dier se neurale netwerk is goed gedokumenteer voor die aanvang van die projek. Alhoewel die taak aan die begin eenvoudig gelyk het, het die modelle gebaseer op 'n generiese neurale netwerk egter nie gewerk nie. Daarna fokus pogings op presiese emulasie van biologiese neurone (gedeeltelik op die molekulêre vlak), maar die resultaat kan nog nie 'n totale sukses genoem word nie.

### Kritiek op simulasie-gebaseerde benaderings

'n Fundamentele kritiek op die gesimuleerde breinbenadering kom uit beliggaamde kognisieteorie wat beweer dat menslike beliggaming 'n noodsaaklike aspek van menslike intelligensie is en nodig is om betekenis in te bed. As hierdie teorie korrek is, sal enige ten volle funksionele breinmodel meer as net die neurone moet insluit (bv. 'n robotliggaam). Goertzel stel virtuele beliggaming (soos in Second Life) as 'n opsie voor, maar dit is onbekend of dit voldoende sal wees.

Tafelrekenaars wat mikroverwerkers gebruik wat in staat is om meer as 109 cps (Kurzweil se nie-standaard eenheid "berekeninge per sekonde", sien hierbo) is beskikbaar sedert 2005. Volgens die breinkragberamings wat deur Kurzweil (en Moravec) gebruik word, behoort so 'n rekenaar te wees in staat om 'n simulasie van 'n bybrein te ondersteun, maar ten spyte van 'n mate van belangstellingbestaan geen sodanige simulasie nie. Daar is verskeie redes hiervoor:

1. Die neuronmodel blyk oorvereenvoudig te wees (sien volgende afdeling).
2. Daar is onvoldoende begrip van hoër kognitiewe prosesse. om akkuraat vas te stel waarmee die brein se neurale aktiwiteit (waargeneem met behulp van tegnieke soos funksionele magnetiese resonansbeelding) korreleer.
3. Selfs al vorder ons begrip van kognisie voldoende, sal vroeë simulasieprogramme waarskynlik baie ondoeltreffend wees en sal dit dus aansienlik meer hardeware benodig.
4. Die brein van 'n organisme, hoewel dit krities is, is dalk nie 'n gepaste grens vir 'n kognitiewe model nie. Om 'n bybrein te simuleer, kan dit nodig wees om die liggaam en die omgewing te simuleer. Die *Extended Mind*-proefskrif formaliseer hierdie filosofiese konsep, en navorsing oor koppotiges het duidelike voorbeelde van 'n gedesentraliseerde stelsel getoon.

Daarbenewens is die skaal van die menslike brein tans nie goed ingeperk nie. Een skatting stel die menslike brein op ongeveer 100 biljoen neurone en 100 triljoen sinapse Nog 'n skatting is 86 miljard neurone waarvan 16,3 miljard in die serebrale korteks en 69 miljard in die serebellum is. Gliale sel sinapse is tans ongekwantifiseer, maar dit is bekend dat dit uiters talryk is.

Filosofiese perspektief
-----------------------

*Sien ook:* Filosofie van kunsmatige intelligensie *en* Turingtoets

### "Sterk KI" soos gedefinieer in filosofie

In 1980 het filosoof John Searle die term "sterk KI" geskep as deel van sy Chinese kamerargument. Hy wou tussen twee verskillende hipoteses oor kunsmatige intelligensie onderskei.

* Sterk KI-hipotese: 'n Kunsmatige intelligensiestelsel kan "dink" - 'n verstand en "bewussyn" hê.
* Swak KI-hipotese: 'n Kunsmatige intelligensiestelsel kan (slegs) optree soos dit dink en 'n verstand en bewussyn het.

Die eerste een het hy "sterk" genoem omdat dit 'n sterker stelling maak: dit neem aan iets spesiaals het met die masjien gebeur wat verder gaan as daardie vermoëns wat ons kan toets. Die gedrag van 'n "swak KI"-masjien sal presies identies wees aan 'n "sterk KI"-masjien, maar laasgenoemde sal ook subjektiewe bewuste ervaring hê. Hierdie gebruik is ook algemeen in akademiese KI-navorsing en handboeke.

In teenstelling met Searle en hoofstroom KI, gebruik sommige toekomskundiges soos Ray Kurzweil die term "sterk KI" om "kunsmatige algemene intelligensie op menslike vlak" te beteken. Dit is nie dieselfde as Searle se sterk KI nie, tensy jy aanneem dat bewussyn nodig is vir menslike vlak KAI. Akademiese filosowe soos Searle glo nie dat dit die geval is nie, en vir die meeste kunsmatige intelligensie-navorsers is die vraag buite die omvang van hul navorsing.

Hoofstroom KI stel die meeste belang in hoe 'n program optree. Volgens Stuart J. Russell en Peter Norvig, "solank die program werk, gee hulle nie om of jy dit werklik of 'n simulasie noem nie." As die program kan optree asof dit 'n verstand het, is dit nie nodig om weet of dit werklik verstand het - daar sal inderdaad geen manier wees om te sê nie. Vir KI-navorsing is Searle se "swak KI-hipotese" gelykstaande aan die stelling "kunsmatige algemene intelligensie is moontlik". Dus, volgens Russell en Norvig, "neem die meeste KI-navorsers die swak KI-hipotese as vanselfsprekend, en gee nie om oor die sterk KI-hipotese nie." Dus, vir akademiese KI-navorsing, "Sterk KI" en "KAI" is twee baie verskillende dinge.

### Bewussyn en selfbewustheid

Ander aspekte van die menslike verstand behalwe intelligensie is relevant tot die konsep van sterk KI, en dit speel 'n groot rol in wetenskapfiksie en die etiek van kunsmatige intelligensie:

* bewussyn: Om subjektiewe ervaring en denke te hê. Thomas Nagel verduidelik dat dit "voel soos" iets om bewus te wees. As ons nie bewus is nie, dan voel dit na niks nie. Nagel gebruik die voorbeeld van 'n vlermuis: ons kan sinvol vra "hoe voel dit om 'n vlermuis te wees?" Dit is egter onwaarskynlik dat ons sal vra "hoe voel dit om 'n broodrooster te wees?" Nagel kom tot die gevolgtrekking dat 'n vlermuis by bewussyn blyk te wees (d.w.s. bewussyn het), maar 'n broodrooster nie.\*selfbewustheid: Om bewus te wees van jouself as 'n aparte individu, veral om bewus te wees van jou eie gedagtes.
* gevoel: Die vermoë om persepsies of emosies subjektief te "voel".
* sapiens: Die kapasiteit vir wysheid.

Hierdie eienskappe het 'n morele dimensie, want 'n masjien met hierdie vorm van sterk KI kan regte hê, analoog aan die regte van nie-menslike diere. Voorlopige werk is gedoen om volledige etiese agente te integreer met bestaande wetlike en sosiale raamwerke, met die fokus op die regsposisie en regte van 'sterk' KI. Bill Joy, onder andere, voer aan 'n masjien met hierdie eienskappe kan 'n bedreiging vir menslike lewe of waardigheid wees.

Thomas Nagel

Navorsingsuitdagings
--------------------

Vordering in kunsmatige intelligensie het deur periodes van vinnige vordering gegaan, geskei deur periodes wanneer vordering gelyk het of dit opgehou het.  Beëindig elke hiatus fundamentele vooruitgang in hardeware, sagteware of albei om ruimte te skep vir verdere vordering  Byvoorbeeld, die rekenaarhardeware wat in die twintigste eeu beskikbaar was, was nie voldoende om diep leer te implementeer nie, wat groot getalle grafiese prosesseeringseenheid-geaktiveerde Sentrale verwerkingseenhede vereis.

Die veld het ook gewissel tussen benaderings tot die probleem. Soms het pogings gefokus op eksplisiete opeenhoping van feite en logika, soos in kundige stelsels. Op ander tye is daar van stelsels verwag om op hul eie te verbeter deur middel van masjienleer, soos in kunsmatige neurale netwerke.

'n Verdere uitdaging is die gebrek aan duidelikheid in die definisie van wat intelligensie behels. Vereis dit bewussyn? Moet dit die vermoë toon om doelwitte te stel sowel as om dit na te streef? Is dit bloot 'n kwessie van skaal, sodat intelligensie na vore sal kom as modelgroottes voldoende toeneem? Word fasiliteite soos beplanning, redenering en oorsaaklike begrip vereis? Vereis intelligensie die eksplisiete replisering van die brein en sy spesifieke fakulteite? Vereis dit emosies?  David Gelernter skryf: "Geen rekenaar sal kreatief wees tensy dit al die nuanses van menslike emosie kan simuleer nie."

Voordele
--------

KAI kan 'n wye verskeidenheid toepassings hê. As dit op so 'n doelwit gerig is, kan KAI help om verskeie probleme in die wêreld soos honger, armoede en gesondheidsprobleme te versag.

KAI kan produktiwiteit en doeltreffendheid in die meeste werke verbeter. Byvoorbeeld, in openbare gesondheid kan KAI mediese navorsing versnel, veral teen kanker. Dit kan vir bejaardes sorg en toegang tot vinnige, hoëgehalte mediese diagnostiek demokratiseer. Dit kan pret, goedkoop en persoonlike onderwys bied. Vir feitlik enige werk wat die samelewing bevoordeel as dit goed gedoen word, sal dit waarskynlik vroeër of later verkieslik wees om dit aan 'n KAI oor te laat. Die behoefte om te werk om te bestaan kan verouderd raak as die welvaart wat geproduseer word behoorlik herverdeel word.  Dit laat ook die vraag ontstaan oor die plek van mense in 'n radikaal geoutomatiseerde samelewing.

KAI kan ook help om rasionele besluite te neem, en om rampe te antisipeer en te voorkom. Dit kan ook help om die voordele van potensieel katastrofiese tegnologieë soos nanotegnologie of klimaatingenieurswese te pluk, terwyl die gepaardgaande risiko's vermy word. As 'n KAI se primêre doelwit is om eksistensiële rampe soos menslike uitwissing te voorkom (wat moeilik kan wees as die Kwesbare Wêreldhipotese waar blyk te wees), kan dit maatreëls tref om die risiko's drasties te verminder terwyl die negatiewe impak tot die minimum beperk word.

Risiko’s
--------

### Potensiële bedreiging vir menslike bestaan

*Sien Hoofartikel*: Kunsmatige-intelligensie-veiligheid

KI voorstelling van KI-veiligheid
Die tesis dat KI 'n eksistensiële risiko vir mense inhou, en dat hierdie risiko baie meer aandag verg as wat dit tans kry, is omstrede, maar is onderskryf deur baie openbare figure, insluitend Elon Musk, Bill Gates en Stephen Hawking. KI-navorsers soos Stuart J. Russell, Roman Yampolskiy en Alexey Turchin ondersteun ook die basiese tesis van 'n potensiële bedreiging vir die mensdom. Gates verklaar dat hy nie "verstaan waarom sommige mense nie bekommerd is nie", en Hawking het wydverspreide onverskilligheid in sy 2014-meningsartikel gekritiseer:

```
"Dus, met moontlike toekoms van onberekenbare voordele en risiko's, doen die kundiges sekerlik alles moontlik om die beste uitkoms te verseker, nie waar nie? Verkeerd. As 'n voortreflike uitheemse beskawing vir ons 'n boodskap stuur wat sê: 'Ons kom oor 'n paar dekades,' sal ons net antwoord: 'OK, bel ons as jy hier kom—ons sal die ligte aan laat?' Waarskynlik nie – maar dit is min of meer wat met KI gebeur."
```

Die lot van die mensdom is soms vergelyk met die lot van gorillas wat deur menslike aktiwiteite bedreig word. Bykomende intelligensie het veroorsaak dat die mensdom gorillas oorheers, wat nou kwesbaar is op maniere wat hulle nie kon verwag het nie. Die gorilla het 'n bedreigde spesie geword, nie uit boosheid nie, maar bloot as 'n kollaterale skade deur menslike aktiwiteite.

Die skeptikus Yann LeCun is van mening dat KAI's geen begeerte sal hê om die mensdom te oorheers nie en dat ons versigtig moet wees om hulle nie te antropomorfiseer en hul bedoelings te interpreteer soos ons vir mense sou doen nie. Hy het gesê dat mense nie "slim genoeg sal wees om super-intelligente masjiene te ontwerp nie, maar tog belaglik dom tot die punt om dit moroniese doelwitte te gee sonder voorsorgmaatreëls". Aan die ander kant dui die konsep van instrumentele konvergensie daarop dat byna wat ook al hul doelwitte is, intelligente agente redes sal hê om te probeer oorleef en meer mag te verkry as tussengangerstappe om hierdie doelwitte te bereik. En dat dit nie vereis om emosies te hê nie. Nick Bostrom gee die gedagte-eksperiment van die skuifspelde-optimaliseerder:

```
"Gestel ons het 'n KI wie se enigste doel is om soveel skuifspelde as moontlik te maak. Die KI sal vinnig besef dat dit baie beter sou wees as daar geen mense was nie, want mense kan besluit om dit af te skakel. Want as mense dit doen, sal daar minder skuifspelde wees. Menslike liggame bevat ook baie atome wat in skuifspelde gemaak kan word. Die toekoms waarna die KI sou probeer rat, sou een wees waarin daar baie skuifspelde was, maar geen mense nie."
```

'n Sistematiese oorsig in 2021 van die risiko's verbonde aan KAI, terwyl die gebrek aan data opgemerk is, het die volgende potensiële bedreigings gevind: "KAI verwyder homself van die beheer van menslike eienaars/bestuurders, word gegee of ontwikkel onveilige doelwitte, ontwikkeling van onveilige KAIs, KAI's met swak etiek, sedes en waardes; onvoldoende bestuur van KAI, en eksistensiële risiko's".

Baie geleerdes wat bekommerd is oor eksistensiële risiko, bepleit (moontlik massiewe) navorsing oor die oplossing van die moeilike "beheerprobleem" om die vraag te beantwoord: watter tipe beveiligingsmaatreëls, algoritmes of argitekture kan programmeerders implementeer om die waarskynlikheid te maksimeer dat hul rekursief-verbeterende KI sal voortgaan om op 'n vriendelike, eerder as vernietigende manier op te tree nadat dit superintelligensie bereik het? Die oplossing van die beheerprobleem word bemoeilik deur die KI-wapenwedloop, wat byna seker die militarisering en bewapening sal meebring van KAI deur meer as een nasiestaat, wat lei tot KAI-geaktiveerde oorlogvoering, en in die geval van KI-wanbelyning, KAI-gerigte oorlogvoering, moontlik teen die hele mensdom

Die tese dat KI eksistensiële risiko kan inhou, het ook teenstanders. Skeptici beweer soms dat die tesis kripto-godsdienstig is, met 'n irrasionele geloof in die moontlikheid van superintelligensie wat 'n irrasionele geloof in 'n almagtige God vervang. Jaron Lanier het in 2014 aangevoer dat die idee dat die destydse huidige masjiene op enige manier intelligent was "'n illusie" en 'n "verstommende bedrogspul" deur die rykes is.

Gordon Moore
Baie kritiek voer aan dat KAI op kort termyn onwaarskynlik is. Rekenaarwetenskaplike Gordon Bell voer aan dat die menslike ras homself sal vernietig voordat dit die tegnologiese singulariteit bereik. Gordon Moore, die oorspronklike voorstander van Moore se wet, verklaar: "Ek is 'n skeptikus. Ek glo nie dat ('n tegnologiese singulariteit) waarskynlik sal gebeur nie, ten minste nie vir 'n lang tyd nie." Voormalige Baidu-visepresident en hoofwetenskaplike Andrew Ng het in 2015 gesê om bekommerd te wees oor KI-eksistensiële risiko is "soos om bekommerd te wees oor oorbevolking op Mars wanneer ons nog nie eens voet op die planeet gesit het nie."

In 2023 het die HUB's van Google DeepMind, OpenAI en Anthropic, saam met ander bedryfsleiers en navorsers, 'n gesamentlike verklaring uitgereik waarin hulle beweer dat "Die versagting van die risiko van uitwissing van KI 'n wêreldwye prioriteit moet wees saam met ander risiko's op maatskaplike skaal soos pandemies en kernoorlog."

### Massa werkloosheid

Navorsers van OpenAI het beraam dat "80% van die Amerikaanse arbeidsmag ten minste 10% van hul werktake kan hê wat deur die bekendstelling van LLM's geraak word, terwyl ongeveer 19% van werkers dalk sien dat ten minste 50% van hul take geraak word". Hulle beskou kantoorwerkers as die mees blootgestelde, byvoorbeeld wiskundiges, rekenmeesters of webontwerpers. KAI kan 'n beter outonomie hê, vermoë om besluite te neem, om met ander rekenaargereedskap te koppel, maar ook om gerobotiseerde liggame te beheer.

Volgens Stephen Hawking sal die uitkoms van outomatisering op die lewenskwaliteit afhang van hoe die rykdom herverdeel sal word:

```
"Almal kan 'n lewe van luukse ontspanning geniet as die masjien-geproduseerde rykdom gedeel word, of die meeste mense kan ongelukkig arm word as die masjieneienaars suksesvol teen die herverdeling van rykdom steun. Tot dusver blyk die neiging na die tweede opsie te wees, met tegnologie wat steeds toenemende ongelykheid dryf."
```

Elon Musk is van mening dat die outomatisering van die samelewing van regerings sal vereis om 'n universele basiese inkomste aan te neem.

Bronnelys
---------

* *UNESCO Science Report: the Race Against Time for Smarter Development*. Paris: UNESCO. 11 Junie 2021. ISBN 978-92-3-100450-6. Geargiveer vanaf die oorspronklike op 18 Junie 2022. Besoek op 22 September 2021.
* Aleksander, Igor (1996), *Impossible Minds*, World Scientific Publishing Company, ISBN 978-1-86094-036-1,
* "Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled-up primate brain", *The Journal of Comparative Neurology* **513** (5): 532–41, April 2009, doi:10.1002/cne.21974, PMID 19226510, besoek op 4 September 2013
* Berglas, Anthony (2008), *Artificial Intelligence will Kill our Grandchildren*, besoek op 31 Augustus 2012
* Chalmers, David (1996), *The Conscious Mind*, Oxford University Press.
* Clocksin, William (Aug 2003), "Artificial intelligence and the future", *Philosophical Transactions of the Royal Society A* **361** (1809): 1721–1748, doi:10.1098/rsta.2003.1232, PMID 12952683, Bibcode: 2003RSPTA.361.1721C .
* Darrach, Brad (20 November 1970), "Meet Shakey, the First Electronic Person", *Life*: 58–68 .
* Drachman, D (2005), "Do we have brain to spare?", *Neurology* **64** (12): 2004–5, doi:10.1212/01.WNL.0000166914.38327.BB, PMID 15985565 .
* Feigenbaum, Edward A.; McCorduck, Pamela (1983), *The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World*, Michael Joseph, ISBN 978-0-7181-2401-4
* Gelernter, David (2010), *Dream-logic, the Internet and Artificial Thought*, besoek op 25 July 2010
* Goertzel, Ben; Pennachin, Cassio, eds. (2006), *Artificial General Intelligence*, Springer, ISBN 978-3-540-23733-4,
* Goertzel, Ben (Dec 2007), "Human-level artificial general intelligence and the possibility of a technological singularity: a reaction to Ray Kurzweil's The Singularity Is Near, and McDermott's critique of Kurzweil", *Artificial Intelligence* **171** (18, Special Review Issue): 1161–1173, doi:10.1016/j.artint.2007.10.011, besoek op 1 April 2009 .
* Gubrud, Mark (November 1997), "Nanotechnology and International Security", *Fifth Foresight Conference on Molecular Nanotechnology*, besoek op 7 May 2011
* Halal, William E. "TechCast Article Series: The Automation of Thought" (PDF). Geargiveer vanaf die oorspronklike (PDF) op 6 Junie 2013.
* Holte, RC; Choueiry, BY (2003), "Abstraction and reformulation in artificial intelligence", *Philosophical Transactions of the Royal Society B* **358** (1435): 1197–1204, doi:10.1098/rstb.2003.1317, PMID 12903653 .
* Howe, J. (November 1994), *Artificial Intelligence at Edinburgh University : a Perspective*, besoek op 30 Augustus 2007
* Johnson, Mark (1987), *The body in the mind*, Chicago, ISBN 978-0-226-40317-5
* Kurzweil, Ray (2005), *The Singularity is Near*, Viking Press
* Lighthill, Professor Sir James (1973), "Artificial Intelligence: A General Survey", *Artificial Intelligence: a paper symposium*, Science Research Council
* Luger, George; Stubblefield, William (2004), *Artificial Intelligence: Structures and Strategies for Complex Problem Solving* (5th ed.), The Benjamin/Cummings Publishing Company, Inc. p. 720, ISBN 978-0-8053-4780-7,
* McCarthy, John (Oktober 2007), "From here to human-level AI", *Artificial Intelligence* **171** (18): 1174–1182, doi:10.1016/j.artint.2007.10.009 .
* Moravec, Hans (1976), *The Role of Raw Power in Intelligence*, besoek op 29 September 2007
* Moravec, Hans (1988), *Mind Children*, Harvard University Press
* Moravec, Hans (1998), "When will computer hardware match the human brain?", *Journal of Evolution and Technology* **1**, besoek op 23 June 2006
* Nagel (1974), "What Is it Like to Be a Bat", *Philosophical Review* **83** (4): 435–50, doi:10.2307/2183914, besoek op 7 November 2009 .
* Newell, Allen; Simon, H. A. (1963), "GPS: A Program that Simulates Human Thought", in Feigenbaum, E.A.; Feldman, J. *Computers and Thought*, New York: McGraw-Hill
* Newell, Allen; Simon, H. A. (1976). "Computer Science as Empirical Inquiry: Symbols and Search". *Communications of the ACM*. **19** (3): 113–126. doi:10.1145/360018.360022.
* Nilsson, Nils (1998), *Artificial Intelligence: A New Synthesis*, Morgan Kaufmann Publishers, ISBN 978-1-55860-467-4
* NRC (1999), "Developments in Artificial Intelligence", *Funding a Revolution: Government Support for Computing Research*, National Academy Press, besoek op 29 September 2007
* Omohundro, Steve (2008), *The Nature of Self-Improving Artificial Intelligence*, presented and distributed at the 2007 Singularity Summit, San Francisco, CA.
* Poole, David; Mackworth, Alan; Goebel, Randy (1998), *Computational Intelligence: A Logical Approach*, New York: Oxford University Press, besoek op 6 Desember 2007
* Sandberg, Anders; Boström, Nick (2008), *Whole Brain Emulation: A Roadmap*, Technical Report #2008‐3, Future of Humanity Institute, Oxford University, besoek op 5 April 2009
* Searle, John (1980), "Minds, Brains and Programs", *Behavioral and Brain Sciences* **3** (3): 417–457, doi:10.1017/S0140525X00005756, besoek op 3 September 2020
* Simon, H. A. (1965), *The Shape of Automation for Men and Management*, New York: Harper & Row
* Sutherland, J.G. (1990), "Holographic Model of Memory, Learning, and Expression", *International Journal of Neural Systems* **1–3**: 256–267 .
* de Vega, Manuel; Glenberg, Arthur; Graesser, Arthur, eds. (2008), *Symbols and Embodiment: Debates on meaning and cognition*, Oxford University Press, ISBN 978-0-19-921727-4 .
* Wang, Pei; Goertzel, Ben (2007). "Introduction: Aspects of Artificial General Intelligence". *Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms: Proceedings of the AGI Workshop 2006*. IOS Press. pp. 1–16. ISBN 978-1-58603-758-1. Geargiveer vanaf die oorspronklike op 18 Februarie 2021. Besoek op 13 Desember 2020.
* "The control of neuron number", *Annual Review of Neuroscience* **11**: 423–53, 1988, doi:10.1146/annurev.ne.11.030188.002231, PMID 3284447 .
* Yudkowsky, Eliezer (2006), "Artificial General Intelligence", *Annual Review of Psychology* (Springer) **49**: 585–612, doi:10.1146/annurev.psych.49.1.585, ISBN 978-3-540-23733-4, PMID 9496632,  .
* Yudkowsky, Eliezer (2008), "Artificial Intelligence as a Positive and Negative Factor in Global Risk", *Global Catastrophic Risks*, doi:10.1093/oso/9780198570509.003.0021, ISBN 9780198570509, Bibcode: 2008gcr..book..303Y .
* Zucker, Jean-Daniel (July 2003), "A grounded theory of abstraction in artificial intelligence", *Philosophical Transactions of the Royal Society B* **358** (1435): 1293–1309, doi:10.1098/rstb.2003.1308, PMID 12903672 .