Kunsmatige algemene intelligensie

duimnael|KI beeldgenereerder se voorstelling van kunsmatige algemene intelligensie

'n **Kunsmatige algemene intelligensie** (**KAI**) is 'n tipe hipotetiese intelligente agent. Die KAI-konsep is dat dit kan leer om enige intellektuele taak wat mense of ander diere kan verrig, uit te voer. Alternatiewelik is KAI gedefinieer as 'n outonome stelsel wat menslike vermoëns in die meeste ekonomies waardevolle take oortref. Die skep van KAI is 'n primêre doelwit van sommige kunsmatige intelligensie-navorsing en maatskappye soos OpenAI, en Anthropic. KAI is 'n algemene onderwerp in wetenskapfiksie en toekomsstudies.

Die tydlyn vir KAI-ontwikkeling bly 'n onderwerp van voortdurende debat onder navorsers en kundiges. Sommige argumenteer dat dit moontlik oor jare of dekades kan wees, ander hou vol dat dit 'n eeu of langer kan neem, en 'n minderheid glo dat dit dalk nooit bereik sal word nie. Daarbenewens heers daar debat oor die vraag of moderne diepleerstelsels, soos GPT-4, 'n vroeë dog onvolledige vorm van KAI is.

Daar bestaan twis oor die potensiaal vir KAI om 'n bedreiging vir die mensdom in te hou; byvoorbeeld, OpenAI hanteer dit as 'n eksistensiële risiko, terwyl ander vind dat die ontwikkeling van KAI te ver in die toekoms is om 'n risiko in te hou.

## Terminologie 
KAI staan ook bekend as sterk KI, volle KI, of algemene intelligente aksie. Sommige akademiese bronne behou egter die term "sterk KI" vir rekenaarprogramme wat gevoel of bewussyn ervaar. Daarteenoor is swak KI (of nou KI) in staat om een spesifieke probleem op te los, maar het nie algemene kognitiewe vermoëns nie.

Verwante konsepte sluit in menslike vlak KI, transformerende KI,]]

: *Hoofartikel:* *Kunsmatige intelligensie*

Verskeie kriteria vir intelligensie is voorgestel (die mees bekende Turingtoets) maar geen definisie word algemeen aanvaar nie. John McCarthy skryf: " ons kan nog nie in die algemeen karakteriseer watter soort berekeningsprosedures ons intelligent wil noem nie."

### Intelligensie-eienskappe 
Navorsers meen egter oor die algemeen dat intelligensie nodig is om die volgende te doen: 
* redenering, gebruikmaking van strategie, los raaisels op en beoordeel onder onsekerheid
* verteenwoordig kennis, insluitend gesonde verstandkennis
* beplan
* leer
* kommunikeer in natuurlike taal

en, indien nodig, integreer hierdie vaardighede in die voltooiing van enige gegewe doelwit.

Baie interdissiplinêre benaderings (bv. kognitiewe wetenskap, rekenaarintelligensie en besluitneming) oorweeg bykomende eienskappe soos verbeelding (die vermoë om nuwe geestelike beelde en konsepte te vorm) en outonomie.

Rekenaargebaseerde stelsels wat baie van hierdie vermoëns vertoon, bestaan (sien byvoorbeeld rekenaarkreatiwiteit, outomatiese redenasie, besluitondersteuningstelsel, robot, evolusionêre berekening, intelligente agent). Daar is egter geen konsensus dat moderne KI-stelsels dit in 'n voldoende mate besit nie.

### Fisiese eienskappe 
Ander belangrike vermoëns sluit in:
* die vermoë om aan te voel (bv. sien, hoor, ens.), en
* die vermoë om op te tree (bv. beweeg en manipuleer voorwerpe, verander ligging om te verken, ens.)

Dit sluit die vermoë in om gevaar op te spoor en daarop te reageer.

### Wiskundige formulerings 
duimnael|Marcus Hutter, kunsmatige intelligensie-navorser.
'n Wiskundig presiese spesifikasie van KAI is voorgestel deur Marcus Hutter in 2000. Genoem AIXI, die voorgestelde KAI-agent maksimeer "die vermoë om doelwitte in 'n wye verskeidenheid omgewings te bevredig". Hierdie tipe KAI, wat gekenmerk word deur die vermoë om 'n wiskundige definisie van intelligensie te maksimeer eerder as om mensagtige gedrag te vertoon, word ook universele kunsmatige intelligensie genoem.

In 2015 het Jan Lieke en Marcus Hutter gewys dat Legg-Hutter-intelligensie – "'n agent se vermoë om doelwitte in 'n wye reeks omgewings te bereik" – gemeet word met betrekking tot "'n vaste universele Turing-masjien (UTM). AIXI is die mees intelligente beleid as dit dieselfde UTM gebruik, 'n resultaat wat "alle bestaande optimaliteitseienskappe vir AIXI ondermyn". Hierdie probleem spruit uit AIXI se gebruik van kompressie as 'n proxy vir intelligensie, wat slegs geldig is indien kognisie in isolasie plaasvind van die omgewing waarin doelwitte nagestreef word. Dit formaliseer 'n filosofiese posisie bekend as gees-liggaam dualisme. Sommige vind enaktivisme meer aanneemlik – die idee dat kognisie plaasvind binne dieselfde omgewing waarin doelwitte nagestreef word. Daarna het Michael Timothy Bennett enaktiewe kognisie geformaliseer en 'n alternatiewe gevolmagtigde vir intelligensie genaamd "swakheid" geïdentifiseer. of ekwivalent "vermoë om te veralgemeen" tot gevolg het (dus maksimeer intelligensie volgens enige definisie ). As enaktivisme geld en gees-liggaam-dualisme nie, dan is kompressie nie nodig of voldoende vir intelligensie nie, wat wydverspreide sienings oor intelligensie bevraagteken (sien ook Hutter-prys).

Of 'n KAI wat aan een van hierdie formulerings voldoen, menslike gedrag (soos die gebruik van natuurlike taal) toon, sal van baie faktore afhang, byvoorbeeld die wyse waarop die agent beliggaam word,

### Toetse vir menslike vlak KAI 
duimnael|Alan Turing
Verskeie toetse wat bedoel is om KAI op menslike vlak te bevestig, is oorweeg, insluitend:
; Die Turingtoets (*Turing*)
: 'n Masjien en 'n mens praat albei ongesiens met 'n tweede mens, wat moet evalueer watter van die twee die masjien is, wat die toets slaag as dit die evalueerder 'n beduidende fraksie van die tyd kan flous. Let wel: Turing skryf nie voor wat as intelligensie moet kwalifiseer nie, net dat die wete dat dit 'n masjien is dit moet diskwalifiseer.
; Die koffietoets (Wozniak)
: 'n Masjien word benodig om 'n gemiddelde Amerikaanse huis binne te gaan en uit te vind hoe om koffie te maak: vind die koffiemasjien, vind die koffie, voeg water by, vind 'n beker en brou die koffie deur die regte knoppies te druk.
; Die Robot kollege student Toets (Goertzel)
: 'n Masjien skryf in by 'n universiteit, neem en slaag dieselfde klasse as wat mense sou, en verwerf 'n graad.
; Die indiensnemingstoets (Nilsson)
: 'n Masjien verrig 'n ekonomies belangrike werk minstens so goed soos mense in dieselfde werk.
; Die Ikeatoets (Marcus)
: Ook bekend as die platpakmeubeltoets. ’n KI bekyk die dele en instruksies van ’n Ikea-platpakproduk, en beheer dan ’n robot om die meubels korrek saam te stel.

### KI-volledigheid probleme 
Daar is baie probleme wat algemene kundmatige intelligensie sal moet oorkom, as masjiene die probleme so goed wil oplos as wat mense dit kan doen. Byvoorbeeld, selfs spesifieke eenvoudige take, soos masjienvertaling, vereis dat 'n masjien in albei tale (NLP) lees en skryf, die skrywer se argument (rede) volg, weet waaroor gepraat word (kennis), en die skrywer se oorspronklike opset getrou weergee. (sosiale intelligensie). Al hierdie probleme moet gelyktydig opgelos word om masjienwerkverrigting op menslike vlak te kry.

'n Probleem word informeel "KI-volledigheid " of "KI-hard" genoem as daar geglo word dat 'n mens sterk KI moet implementeer om dit op te los, want die oplossing is buite die vermoëns van 'n doelspesifieke algoritme.

KI-volledigheid probleme word veronderstel om algemene rekenaarvisie, natuurlike taalbegrip en die hantering van onverwagte omstandighede in te sluit terwyl enige werklike wêreldprobleem opgelos word.

KI-volledigheid probleme kan nie opgelos word met huidige rekenaartegnologie alleen nie en vereis 'n mate van menslike berekening. Hierdie beperking kan nuttig wees om te toets vir die teenwoordigheid van mense, soos CAPTCHA's beoog om te doen; en vir rekenaarsekuriteit om brute-krag-aanvalle af te weer.

## Geskiedenis 
### Klassieke KI 
Moderne KI-navorsing het in die middel-1950's begin. Die eerste generasie KI-navorsers was oortuig daarvan dat kunsmatige algemene intelligensie moontlik was en dat dit oor net 'n paar dekades sou bestaan. KI-pionier Herbert A. Simon het in 1965 geskryf: "masjiene sal binne twintig jaar in staat wees om enige werk te doen wat 'n mens kan doen."
Hul voorspellings was die inspirasie vir Stanley Kubrick en Arthur C. Clarke se karakter HAL 9000, wat beliggaam het wat KI-navorsers geglo het hulle kon skep teen die jaar 2001. KI-pionier Marvin Minsky was 'n konsultant op die projek om HAL 9000 as realisties te maak as moontlik volgens die konsensusvoorspellings van die tyd. Hy het in 1967 gesê: "Binne 'n generasie... sal die probleem van die skep van 'kunsmatige intelligensie' aansienlik opgelos word".

Verskeie klassieke KI-projekte, soos Doug Lenat se Cyc-projek (wat in 1984 begin het), en Allen Newell se Soar-projek, was op KAI gerig. In die vroeë 1970's het dit egter duidelik geword dat navorsers die moeilikheid van die projek erg onderskat het.

Befondsingsagentskappe het skepties geraak oor KAI en het navorsers onder toenemende druk geplaas om nuttige "toegepaste KI" te produseer. Die Lighthill-verslag het spesifiek KI se "grootsugtige doelwitte" gekritiseer en gelei tot die aftakeling van KI-navorsing in Engeland. In die VSA het DARPA vasbeslote geraak om slegs "missie-georiënteerde direkte navorsing, eerder as basiese ongerigte navorsing" te finansier.

In die vroeë 1980's het Japan se vyfde generasie rekenaarprojek belangstelling in KAI laat herleef en 'n tydlyn van tien jaar uiteengesit wat KAI-doelwitte soos "voer 'n toevallige gesprek" insluit. In reaksie hierop en die sukses van kundige stelsels, het beide die industrie en die regering geld in die veld teruggepomp. Vertroue in KI het egter skouspelagtig ineengestort in die laat 1980's, en die doelwitte van die Vyfde Generasie Rekenaarprojek is nooit vervul nie. Vir die tweede keer in 20 jaar het KI-navorsers wat die naderende prestasie van KAI voorspel het, hulle misgis. Teen die 1990's het KI-navorsers 'n reputasie gehad om ydele beloftes te maak. Hulle het enigsins huiwerig geword om voorspellings te maak en vermy die vermelding van kunsmatige intelligensie op "menslike vlak" uit vrees dat hulle as "wilde-oog dromer[s] geëtiketteer word.

### Nou KI-navorsing 
: *Sien Hoofartikel: Kunsmatige intelligensie*

In die 1990's en vroeë 21ste eeu het hoofstroom KI kommersiële sukses en akademiese eerbaarheid behaal deur te fokus op spesifieke subprobleme waar KI verifieerbare resultate en kommersiële toepassings kan produseer, soos kunsmatige neurale netwerke en statistiese masjienleer. Hierdie "toegepaste KI"-stelsels word nou op groot skaal deur die tegnologie-industrie gebruik, en navorsing in hierdie trant word goed befonds in beide die akademie en die industrie. Vanaf 2018 is ontwikkeling op hierdie gebied as 'n opkomende tendens beskou, en daar is verwag dat 'n volwasse stadium oor meer as 10 jaar sou plaasvind.

Die meeste hoofstroom KI-navorsers

Dit word egter betwis. Byvoorbeeld, Stevan Harnad van Princeton-universiteit het sy 1990 referaat oor die Simbool Gegronde Hipoteses afgesluit deur te sê:
"Die verwagting is dikwels uitgespreek dat "bo na onder" (simboliese) benaderings tot modellering van kognisie op een of ander manier "onder na bo" (sensoriese) benaderings iewers tussenin sal ontmoet. As die grondoorwegings in hierdie vraestel geldig is, dan is hierdie verwagting hopeloos modulêr en is daar eintlik net een lewensvatbare roete van sintuig na simbole: van die grond af. 'n Vryswewende simboliese vlak soos die sagtewarevlak van 'n rekenaar sal nooit deur hierdie roete (of andersom) bereik word nie – en dit is ook nie duidelik waarom ons selfs so 'n vlak moet probeer bereik nie, aangesien dit lyk asof om daar te kom net daarop neerkom om ons simbole uit hul intrinsieke betekenisse te ontwortel (en daardeur onsself bloot te reduseer tot die funksionele ekwivalent van 'n programmeerbare rekenaar)."

### Moderne kunsmatige algemene intelligensie navorsing 
Die term "kunsmatige algemene intelligensie" is reeds in 1997 deur Mark Gubrud gebruik in 'n bespreking van die implikasies van ten volle outomatiese militêre produksie en operasies. Die term is omstreeks 2002 weer gebruik en gewild gemaak deur Shane Legg en Ben Goertzel. KAI-navorsingsaktiwiteit in 2006 is deur Pei Wang en Ben Goertzel beskryf as "die vervaardiging van publikasies en voorlopige resultate". Die eerste somerskool in AKI is in 2009 in Xiamen, China georganiseer deur die Xiamen-universiteit se Kunsbreinlaboratorium en OpenCog. Die eerste universiteitskursus is in 2010 en 2011 by Plovdiv Universiteit, Bulgarye deur Todor Arnaudov aangebied. MIT het in 2018 'n kursus in KAI aangebied, georganiseer deur Lex Fridman en met 'n aantal gasdosente.

Vanaf 2023 gee die meeste KI-navorsers min aandag aan KAI, met sommige wat beweer dat intelligensie te kompleks is om op die kort termyn heeltemal gerepliseer te word. 'n Klein aantal rekenaarwetenskaplikes is egter aktief in KAI-navorsing, en baie dra by tot 'n reeks KAI-konferensies. Al hoe meer navorsers stel egter belang in oopleer, wat die idee is om KI toe te laat om voortdurend te leer en te innoveer soos mense aksie neem. Alhoewel die meeste oop-einde-leerwerke steeds op Minecraft gedoen word, kan die toepassing daarvan uitgebrei word na robotika en die wetenskappe.

### Tydskale 
In die inleiding tot sy 2006-boek, sê Goertzel dat ramings van die tyd wat nodig is voordat 'n werklik buigsame KAI gebou word, wissel van 10 jaar tot meer as 'n eeu. Vanaf 2007 het die konsensus in die KAI-navorsingsgemeenskap gelyk of die tydlyn wat deur Ray Kurzweil in *The Singularity is Near* (d.w.s. tussen 2015 en 2045) bespreek is, moontlik is. Hoofstroom KI-navorsers het 'n wye verskeidenheid menings gegee oor of vordering so vinnig sal wees. 'n 2012-meta-analise van 95 sulke menings het 'n vooroordeel gevind om te voorspel dat die aanvang van KAI binne 16-26 jaar vir moderne en historiese voorspellings sou plaasvind. Daardie referaat is gekritiseer vir hoe dit menings as deskundige of nie-deskundige gekategoriseer het.
links|duimnael|Geoffrey Hinton, op die Sentrumverhoog gedurende dag twee van Collision 2023 (28 Junie 2023) by die Enercare Centre in Toronto, Kanada.

In 2012 het Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton 'n neurale netwerk genaamd AlexNet ontwikkel, wat die ImageNet-kompetisie gewen het met 'n top-5 toetsfoutkoers van 15.3%, aansienlik beter as die tweedebeste inskrywing se koers van 26.3% (die tradisionele benadering het 'n geweegde som van tellings van verskillende vooraf gedefinieerde klassifiseerders gebruik). AlexNet is beskou as die aanvanklike baanbreker van die huidige diep leergolf.

In 2020 het OpenAI GPT-3 ontwikkel, 'n taalmodel wat in staat is om baie uiteenlopende take te verrig sonder spesifieke opleiding. Volgens Gary Grossman in 'n *VentureBeat*-artikel, hoewel daar konsensus is dat GPT-3 nie 'n voorbeeld van KAI is nie, word dit deur sommige as te gevorderd beskou om as 'n nou KI-stelsel te klassifiseer.

In dieselfde jaar het Jason Rohrer sy GPT-3-rekening gebruik om 'n kletsbot te ontwikkel, en het 'n kletsbot-ontwikkelingsplatform genaamd "Project December" verskaf. OpenAI het gevra vir veranderinge aan die kletsbot om aan hul veiligheidsriglyne te voldoen; Rohrer het Project December van die GPT-3 API ontkoppel.

In 2022 het DeepMind Gato ontwikkel, 'n "algemene-doel" stelsel wat in staat is om meer as 600 verskillende take uit te voer.

In 2023 het Microsoft Research 'n studie gepubliseer oor 'n vroeë weergawe van OpenAI se GPT-4, en beweer dat dit meer algemene intelligensie as vorige KI-modelle getoon het en prestasie op menslike vlak gedemonstreer het in take wat oor verskeie domeine strek, soos wiskunde, kodering en die reg. Hierdie navorsing het 'n debat ontketen oor of GPT-4 as 'n vroeë, onvolledige weergawe van kunsmatige algemene intelligensie beskou kan word, wat die behoefte aan verdere verkenning en evaluering van sulke stelsels beklemtoon het.

In 2023 het die KI-navorser Geoffrey Hinton gesê dat:

 “Die idee dat hierdie goed eintlik slimmer as mense kan word — 'n paar mense het dit geglo, […]. Maar die meeste mense het gedink dit is ver weg. En ek het gedink dit is ver weg. Ek het gedink dit is 30 tot 50 jaar of selfs langer weg. Natuurlik dink ek nie meer so nie.”

## Breinsimulasie 
### Heelbrein-emulasie 
duimnael|Raymond Kurzweil
Een moontlike benadering om KAI te bereik is heelbrein-emulasie: 'n Breinmodel word gebou deur 'n biologiese brein in detail te skandeer en te karteer en sy toestand na 'n rekenaarstelsel of 'n ander rekenaartoestel te kopieer. Die rekenaar bestuur 'n simulasiemodel wat voldoende getrou aan die oorspronklike is dat dit feitlik dieselfde optree as die oorspronklike brein. Heelbrein-emulasie word in rekenaarneurologie en neuroinformatika bespreek, in die konteks van breinsimulasie vir mediese navorsingsdoeleindes. Dit word in kunsmatige intelligensie navorsing bespreek as 'n benadering tot sterk KI. Neurobeeldingstegnologieë wat die nodige gedetailleerde begrip kan lewer, verbeter vinnig, en toekomskundige Ray Kurzweil voorspel in die boek *The Singularity Is Near*

### Huidige navorsing 
Sommige navorsingsprojekte ondersoek breinsimulasie deur meer gesofistikeerde neurale modelle te gebruik, geïmplementeer op konvensionele rekenaarargitekture. Die Artificial Intelligence System-projek het in 2005 nie-intydse simulasies van 'n "brein" (met 1011 neurone) geïmplementeer. Dit het 50 dae geneem op 'n groep van 27 verwerkers om 1 sekonde van 'n model te simuleer. Die Blue Brain-projek het een van die vinnigste superrekenaar-argitekture, IBM se Blue Gene-platform, gebruik om 'n intydse simulasie van 'n enkele staaf neokortikale kolom te skep wat in 2006 uit ongeveer 10 000 neurone en 108 sinapse bestaan het. ’n Langtermyndoelwit is om ’n gedetailleerde, funksionele simulasie van die fisiologiese prosesse in die menslike brein te bou: “Dit is nie onmoontlik om ’n menslike brein te bou nie en ons kan dit in 10 jaar doen,” Henry Markram, direkteur van die Bloubrein Projek, in 2009 by die TED-konferensie in Oxford gesê. Neurosilikon-koppelvlakke is voorgestel as 'n alternatiewe implementeringstrategie wat beter kan opskaal.

Hans Moravec het bogenoemde argumente aangespreek ("breine is meer ingewikkeld", "neurone moet in meer detail gemodelleer word") in sy 1997 referaat "Wanneer sal rekenaarhardeware ooreenstem met die menslike brein?". Hy het die vermoë van bestaande sagteware gemeet om die funksionaliteit van neurale weefsel, spesifiek die retina, te simuleer. Sy resultate hang nie af van die aantal glialeselle nie, en ook nie van watter soort verwerkingsneurone waar verrig nie.

Die werklike kompleksiteit van die modellering van biologiese neurone is ondersoek in die OpenWorm-projek wat gemik was op volledige simulasie van 'n wurm wat slegs 302 neurone in sy neurale netwerk het (onder ongeveer 1000 selle in totaal). Die dier se neurale netwerk is goed gedokumenteer voor die aanvang van die projek. Alhoewel die taak aan die begin eenvoudig gelyk het, het die modelle gebaseer op 'n generiese neurale netwerk egter nie gewerk nie. Daarna fokus pogings op presiese emulasie van biologiese neurone (gedeeltelik op die molekulêre vlak), maar die resultaat kan nog nie 'n totale sukses genoem word nie.

### Kritiek op simulasie-gebaseerde benaderings 
'n Fundamentele kritiek op die gesimuleerde breinbenadering kom uit beliggaamde kognisieteorie wat beweer dat menslike beliggaming 'n noodsaaklike aspek van menslike intelligensie is en nodig is om betekenis in te bed. As hierdie teorie korrek is, sal enige ten volle funksionele breinmodel meer as net die neurone moet insluit (bv. 'n robotliggaam). Goertzel stel virtuele beliggaming (soos in Second Life) as 'n opsie voor, maar dit is onbekend of dit voldoende sal wees.

Tafelrekenaars wat mikroverwerkers gebruik wat in staat is om meer as 109 cps (Kurzweil se nie-standaard eenheid "berekeninge per sekonde", sien hierbo) is beskikbaar sedert 2005. Volgens die breinkragberamings wat deur Kurzweil (en Moravec) gebruik word, behoort so 'n rekenaar te wees in staat om 'n simulasie van 'n bybrein te ondersteun, maar ten spyte van 'n mate van belangstellingbestaan geen sodanige simulasie nie. Daar is verskeie redes hiervoor:
# Die neuronmodel blyk oorvereenvoudig te wees (sien volgende afdeling).
# Daar is onvoldoende begrip van hoër kognitiewe prosesse. om akkuraat vas te stel waarmee die brein se neurale aktiwiteit (waargeneem met behulp van tegnieke soos funksionele magnetiese resonansbeelding) korreleer.
# Selfs al vorder ons begrip van kognisie voldoende, sal vroeë simulasieprogramme waarskynlik baie ondoeltreffend wees en sal dit dus aansienlik meer hardeware benodig.
# Die brein van 'n organisme, hoewel dit krities is, is dalk nie 'n gepaste grens vir 'n kognitiewe model nie. Om 'n bybrein te simuleer, kan dit nodig wees om die liggaam en die omgewing te simuleer. Die *Extended Mind*-proefskrif formaliseer hierdie filosofiese konsep, en navorsing oor koppotiges het duidelike voorbeelde van 'n gedesentraliseerde stelsel getoon.

Daarbenewens is die skaal van die menslike brein tans nie goed ingeperk nie. Een skatting stel die menslike brein op ongeveer 100 biljoen neurone en 100 triljoen sinapse Nog 'n skatting is 86 miljard neurone waarvan 16,3 miljard in die serebrale korteks en 69 miljard in die serebellum is. Gliale sel sinapse is tans ongekwantifiseer, maar dit is bekend dat dit uiters talryk is.

## Filosofiese perspektief 
*Sien ook:* Filosofie van kunsmatige intelligensie *en* Turingtoets

### "Sterk KI" soos gedefinieer in filosofie 
In 1980 het filosoof John Searle die term "sterk KI" geskep as deel van sy Chinese kamerargument. Hy wou tussen twee verskillende hipoteses oor kunsmatige intelligensie onderskei.

* Sterk KI-hipotese: 'n Kunsmatige intelligensiestelsel kan "dink" – 'n verstand en "bewussyn" hê.
* Swak KI-hipotese: 'n Kunsmatige intelligensiestelsel kan (slegs) optree soos dit dink en 'n verstand en bewussyn het.

Die eerste een het hy "sterk" genoem omdat dit 'n sterker stelling maak: dit neem aan iets spesiaals het met die masjien gebeur wat verder gaan as daardie vermoëns wat ons kan toets. Die gedrag van 'n "swak KI"-masjien sal presies identies wees aan 'n "sterk KI"-masjien, maar laasgenoemde sal ook subjektiewe bewuste ervaring hê. Hierdie gebruik is ook algemeen in akademiese KI-navorsing en handboeke.

In teenstelling met Searle en hoofstroom KI, gebruik sommige toekomskundiges soos Ray Kurzweil die term "sterk KI" om "kunsmatige algemene intelligensie op menslike vlak" te beteken. Bill Joy, onder andere, voer aan 'n masjien met hierdie eienskappe kan 'n bedreiging vir menslike lewe of waardigheid wees.
duimnael|Thomas Nagel

## Navorsingsuitdagings 
Vordering in kunsmatige intelligensie het deur periodes van vinnige vordering gegaan, geskei deur periodes wanneer vordering gelyk het of dit opgehou het.  Beëindig elke hiatus fundamentele vooruitgang in hardeware, sagteware of albei om ruimte te skep vir verdere vordering  Byvoorbeeld, die rekenaarhardeware wat in die twintigste eeu beskikbaar was, was nie voldoende om diep leer te implementeer nie, wat groot getalle grafiese prosesseeringseenheid-geaktiveerde Sentrale verwerkingseenhede vereis.

Die veld het ook gewissel tussen benaderings tot die probleem. Soms het pogings gefokus op eksplisiete opeenhoping van feite en logika, soos in kundige stelsels. Op ander tye is daar van stelsels verwag om op hul eie te verbeter deur middel van masjienleer, soos in kunsmatige neurale netwerke.

'n Verdere uitdaging is die gebrek aan duidelikheid in die definisie van wat intelligensie behels. Vereis dit bewussyn? Moet dit die vermoë toon om doelwitte te stel sowel as om dit na te streef? Is dit bloot 'n kwessie van skaal, sodat intelligensie na vore sal kom as modelgroottes voldoende toeneem? Word fasiliteite soos beplanning, redenering en oorsaaklike begrip vereis? Vereis intelligensie die eksplisiete replisering van die brein en sy spesifieke fakulteite? Vereis dit emosies? David Gelernter skryf: "Geen rekenaar sal kreatief wees tensy dit al die nuanses van menslike emosie kan simuleer nie."

## Voordele 
KAI kan 'n wye verskeidenheid toepassings hê. As dit op so 'n doelwit gerig is, kan KAI help om verskeie probleme in die wêreld soos honger, armoede en gesondheidsprobleme te versag.

KAI kan produktiwiteit en doeltreffendheid in die meeste werke verbeter. Byvoorbeeld, in openbare gesondheid kan KAI mediese navorsing versnel, veral teen kanker. Dit kan vir bejaardes sorg en toegang tot vinnige, hoëgehalte mediese diagnostiek demokratiseer. Dit kan pret, goedkoop en persoonlike onderwys bied. Dit laat ook die vraag ontstaan oor die plek van mense in 'n radikaal geoutomatiseerde samelewing.

KAI kan ook help om rasionele besluite te neem, en om rampe te antisipeer en te voorkom. Dit kan ook help om die voordele van potensieel katastrofiese tegnologieë soos nanotegnologie of klimaatingenieurswese te pluk, terwyl die gepaardgaande risiko's vermy word. As 'n KAI se primêre doelwit is om eksistensiële rampe soos menslike uitwissing te voorkom (wat moeilik kan wees as die Kwesbare Wêreldhipotese waar blyk te wees), kan dit maatreëls tref om die risiko's drasties te verminder Gates verklaar dat hy nie "verstaan waarom sommige mense nie bekommerd is nie", en Hawking het wydverspreide onverskilligheid in sy 2014-meningsartikel gekritiseer:

 “Dus, met moontlike toekoms van onberekenbare voordele en risiko's, doen die kundiges sekerlik alles moontlik om die beste uitkoms te verseker, nie waar nie? Verkeerd. As 'n voortreflike uitheemse beskawing vir ons 'n boodskap stuur wat sê: 'Ons kom oor 'n paar dekades,' sal ons net antwoord: 'OK, bel ons as jy hier kom—ons sal die ligte aan laat?' Waarskynlik nie – maar dit is min of meer wat met KI gebeur.”

Die lot van die mensdom is soms vergelyk met die lot van gorillas wat deur menslike aktiwiteite bedreig word. Bykomende intelligensie het veroorsaak dat die mensdom gorillas oorheers, wat nou kwesbaar is op maniere wat hulle nie kon verwag het nie. Die gorilla het 'n bedreigde spesie geword, nie uit boosheid nie, maar bloot as 'n kollaterale skade deur menslike aktiwiteite.

Die skeptikus Yann LeCun is van mening dat KAI's geen begeerte sal hê om die mensdom te oorheers nie en dat ons versigtig moet wees om hulle nie te antropomorfiseer en hul bedoelings te interpreteer soos ons vir mense sou doen nie. Hy het gesê dat mense nie "slim genoeg sal wees om super-intelligente masjiene te ontwerp nie, maar tog belaglik dom tot die punt om dit moroniese doelwitte te gee sonder voorsorgmaatreëls". Aan die ander kant dui die konsep van instrumentele konvergensie daarop dat byna wat ook al hul doelwitte is, intelligente agente redes sal hê om te probeer oorleef en meer mag te verkry as tussengangerstappe om hierdie doelwitte te bereik. En dat dit nie vereis om emosies te hê nie. Nick Bostrom gee die gedagte-eksperiment van die skuifspelde-optimaliseerder:

 “Gestel ons het 'n KI wie se enigste doel is om soveel skuifspelde as moontlik te maak. Die KI sal vinnig besef dat dit baie beter sou wees as daar geen mense was nie, want mense kan besluit om dit af te skakel. Want as mense dit doen, sal daar minder skuifspelde wees. Menslike liggame bevat ook baie atome wat in skuifspelde gemaak kan word. Die toekoms waarna die KI sou probeer rat, sou een wees waarin daar baie skuifspelde was, maar geen mense nie.”

'n Sistematiese oorsig in 2021 van die risiko's verbonde aan KAI, terwyl die gebrek aan data opgemerk is, het die volgende potensiële bedreigings gevind: "KAI verwyder homself van die beheer van menslike eienaars/bestuurders, word gegee of ontwikkel onveilige doelwitte, ontwikkeling van onveilige KAIs, KAI's met swak etiek, sedes en waardes; onvoldoende bestuur van KAI, en eksistensiële risiko's".

Baie geleerdes wat bekommerd is oor eksistensiële risiko, bepleit (moontlik massiewe) navorsing oor die oplossing van die moeilike "beheerprobleem" om die vraag te beantwoord: watter tipe beveiligingsmaatreëls, algoritmes of argitekture kan programmeerders implementeer om die waarskynlikheid te maksimeer dat hul rekursief-verbeterende KI sal voortgaan om op 'n vriendelike, eerder as vernietigende manier op te tree nadat dit superintelligensie bereik het? Die oplossing van die beheerprobleem word bemoeilik deur die KI-wapenwedloop, wat byna seker die militarisering en bewapening sal meebring van KAI deur meer as een nasiestaat, wat lei tot KAI-geaktiveerde oorlogvoering, en in die geval van KI-wanbelyning, KAI-gerigte oorlogvoering, moontlik teen die hele mensdom

Die tese dat KI eksistensiële risiko kan inhou, het ook teenstanders. Skeptici beweer soms dat die tesis kripto-godsdienstig is, met 'n irrasionele geloof in die moontlikheid van superintelligensie wat 'n irrasionele geloof in 'n almagtige God vervang. Jaron Lanier het in 2014 aangevoer dat die idee dat die destydse huidige masjiene op enige manier intelligent was "'n illusie" en 'n "verstommende bedrogspul" deur die rykes is.
duimnael|Gordon Moore
Baie kritiek voer aan dat KAI op kort termyn onwaarskynlik is. Rekenaarwetenskaplike Gordon Bell voer aan dat die menslike ras homself sal vernietig voordat dit die tegnologiese singulariteit bereik. Gordon Moore, die oorspronklike voorstander van Moore se wet, verklaar: "Ek is 'n skeptikus. Ek glo nie dat ('n tegnologiese singulariteit) waarskynlik sal gebeur nie, ten minste nie vir 'n lang tyd nie." Voormalige Baidu-visepresident en hoofwetenskaplike Andrew Ng het in 2015 gesê om bekommerd te wees oor KI-eksistensiële risiko is "soos om bekommerd te wees oor oorbevolking op Mars wanneer ons nog nie eens voet op die planeet gesit het nie."

In 2023 het die HUB's van Google DeepMind, OpenAI en Anthropic, saam met ander bedryfsleiers en navorsers, 'n gesamentlike verklaring uitgereik waarin hulle beweer dat "Die versagting van die risiko van uitwissing van KI 'n wêreldwye prioriteit moet wees saam met ander risiko's op maatskaplike skaal soos pandemies en kernoorlog."

### Massa werkloosheid 
Navorsers van OpenAI het beraam dat "80% van die Amerikaanse arbeidsmag ten minste 10% van hul werktake kan hê wat deur die bekendstelling van LLM's geraak word, terwyl ongeveer 19% van werkers dalk sien dat ten minste 50% van hul take geraak word". Hulle beskou kantoorwerkers as die mees blootgestelde, byvoorbeeld wiskundiges, rekenmeesters of webontwerpers.
 “Almal kan 'n lewe van luukse ontspanning geniet as die masjien-geproduseerde rykdom gedeel word, of die meeste mense kan ongelukkig arm word as die masjieneienaars suksesvol teen die herverdeling van rykdom steun. Tot dusver blyk die neiging na die tweede opsie te wees, met tegnologie wat steeds toenemende ongelykheid dryf.”

Elon Musk is van mening dat die outomatisering van die samelewing van regerings sal vereis om 'n universele basiese inkomste aan te neem.

## Verwysings 
## Bronnelys 
* 
* 
* 
* 
* 
* .
* .
* .
* 
* 
* 
* .
* 
* 
* .
* 
* 
* 
* 
* 
* .
* 
* 
* 
* .
* 
* 
* 
* 
* 
* 
* 
* 
* 
* .
* .
* 
* .
* .
* .
* .