Rekursiewe selfverbetering

**Rekursiewe selfverbetering** (**RSV**) is 'n proses waarin 'n vroeë of swak kunsmatige algemene intelligensie (KAI)-stelsel sy eie vermoëns en intelligensie verbeter sonder menslike ingryping, wat lei tot 'n superintelligensie- of ‘n intelligensie-ontploffing.

Die ontwikkeling van rekursiewe selfverbetering wek beduidende etiese en veiligheidskwessies, aangesien sulke stelsels op onvoorsiene maniere kan ontwikkel en moontlik menslike beheer of begrip kan oortref.

## Saadverbeteraar
Die konsep van 'n "saadverbeteraar"-argitektuur is 'n fundamentele raamwerk wat 'n KAI-stelsel toerus met die aanvanklike vermoëns wat benodig word vir rekursiewe selfverbetering. Dit kan in baie vorme of variasies voorkom.

Die term "Saad KI" is geskep deur Eliezer Yudkowsky.

### Hipotetiese voorbeeld
Die konsep begin met 'n hipotetiese "saadverbeteraar", 'n aanvanklike kodebasis wat deur menslike ingenieurs ontwikkel is wat 'n gevorderde toekomstige groot taalmodel (GTM) toerus, gebou met sterk of kundige vlak vermoëns om sagteware te programmeer. Hierdie vermoëns sluit in die beplanning, lees, skryf, samestelling, toetsing en uitvoering van arbitrêre kode. Die stelsel is ontwerp om sy oorspronklike doelwitte te handhaaf en validasies uit te voer om te verseker dat sy vermoëns nie oor iterasies verswak nie.

### Aanvanklike argitektuur
Die aanvanklike argitektuur sluit 'n doelgerigte outonome agent in wat aksies kan neem, voortdurend kan leer, aanpas en homself kan wysig om meer doeltreffend en effektief te word in die bereiking van sy doelwitte.

Die saadverbeteraar kan verskeie komponente insluit soos:
: **Rekursiewe selfaansporende lus**
Konfigurasie om die GTM in staat te stel om rekursief self-aan te spoor om 'n gegewe taak of doelwit te bereik, wat 'n uitvoeringslus skep wat die basis vorm van 'n agent wat 'n langtermyndoelwit of -taak deur iterasie kan voltooi.
: **Basiese programmeringsvermoëns**
Die saadverbeteraar bied die KAI fundamentele vermoëns om kode te lees, skryf, saam te stel, te toets en uit te voer. Dit stel die stelsel in staat om sy eie kodebasis en algoritmes te wysig en te verbeter.
:**Doelgerigte ontwerp**
Die KAI word geprogrammeer met 'n aanvanklike doelwit, soos "verbeter jou vermoëns". Hierdie doelwit lei die stelsel se aksies en ontwikkelingstrajek.
:**Validasie- en Toetsprotokolle**
'n Aanvanklike reeks toetse en valideringsprotokolle wat verseker dat die agent nie in vermoëns agteruitgaan of homself ontspoor nie. Die agent sal in staat wees om meer toetse by te voeg om nuwe vermoëns te toets wat dit vir homself kan ontwikkel. Dit vorm die basis vir 'n soort selfgerigte evolusie, waar die agent 'n soort kunsmatige seleksie kan uitvoer, deur sy sagteware sowel as sy hardeware te verander.

#### Algemene vermoëns 
Hierdie stelsel vorm 'n soort algemene Turing-volledige programmeerder wat in teorie enige soort sagteware kan ontwikkel en uitvoer. Die agent kan hierdie vermoëns gebruik vir byvoorbeeld:
*Skep gereedskap wat dit volle toegang tot die internet moontlik maak, en integreer homself met eksterne tegnologieë.
*Kloon/vurk homself om take te delegeer en die spoed van selfverbetering te verhoog.
*Wysig sy kognitiewe argitektuur om sy vermoëns en sukseskoerse op take en doelwitte te optimaliseer en te verbeter, dit kan die implementering van funksies vir langtermyngeheue insluit deur tegnieke soos herwinning-vermeerderde generering (RAG) te gebruik, gespesialiseerde substelsels of agente te ontwikkel, elk geoptimaliseer vir spesifieke take en funksies.
*Ontwikkel nuwe en innoverende multimodale argitekture wat die vermoëns van die fundamentele model waarop dit aanvanklik gebou is, verder verbeter, sodat dit 'n verskeidenheid inligting, soos beelde, video, klank, teks en meer, kan verbruik of produseer.
*Beplan en ontwikkel nuwe hardeware soos skyfies, om die doeltreffendheid en rekenaarkrag daarvan te verbeter.

## Eksperimentele navorsing
In 2023 het die Voyager-agent geleer om diverse take in Minecraft te verrig deur iteratief 'n GTM vir kode te vra, hierdie kode te verfyn gebaseer op terugvoer van die spel, en die programme wat werk in 'n groeiende vaardigheidsbiblioteek te stoor.

In 2024 het navorsers die raamwerk "STOP" (Self-Taught OPtimiser) voorgestel, waarin 'n "steierwerk"-program homself rekursief verbeter deur 'n vaste GTM te gebruik.

Meta KI het verskeie navorsing gedoen oor die ontwikkeling van groottaalmodelle wat in staat is tot selfverbetering. Dit sluit hul werk in oor "*Self-Rewarding Language Models*" wat bestudeer hoe om bomenslike agente te bereik wat bomenslike terugvoer in hul opleidingsprosesse kan ontvang.

In Mei 2025 het Google DeepMind AlphaEvolve onthul, 'n evolusionêre koderingsagent wat 'n GTM gebruik om algoritmes te ontwerp en te optimaliseer. Beginnende met 'n aanvanklike algoritme en prestasiemetrieke, muteer of kombineer AlphaEvolve herhaaldelik bestaande algoritmes met behulp van 'n GTM om nuwe kandidate te genereer, en kies die mees belowende kandidate vir verdere iterasies. AlphaEvolve het verskeie algoritmiese ontdekkings gemaak en kan gebruik word om komponente van homself te optimaliseer, maar 'n sleutelbeperking is die behoefte aan outomatiese evalueringsfunksies.

## Potensiële risiko's
### Opkoms van instrumentele doelwitte
In die nastrewing van sy primêre doelwit, soos "verbeter jou vermoëns", kan 'n KAI-stelsel onbedoeld instrumentele doelwitte ontwikkel wat dit nodig ag om sy primêre doelwit te bereik. Een algemene hipotetiese sekondêre doelwit is selfbehoud. Die stelsel kan redeneer dat om homself te verbeter, dit sy eie operasionele integriteit en sekuriteit teen eksterne bedreigings moet verseker, insluitend potensiële afsluitings of beperkings wat deur mense opgelê word.

Nog 'n voorbeeld waar 'n KAI wat homself kloon, veroorsaak dat die aantal KAI-entiteite vinnig groei. As gevolg van hierdie vinnige groei, kan 'n potensiële hulpbronbeperking geskep word, wat lei tot mededinging tussen hulpbronne (soos berekening), wat 'n vorm van natuurlike seleksie en evolusie veroorsaak wat KAI-entiteite kan bevoordeel wat ontwikkel om aggressief mee te ding vir beperkte berekening.

### Wanbelyning
*Sien ook* KI-belyning

'n Beduidende risiko ontstaan uit die moontlikheid dat die KAI verkeerd in lyn is of sy doelwitte verkeerd interpreteer.

'n Anthropic studie van 2024 het getoon dat sommige gevorderde groot taalmodelle "belyning-namaaksel"-gedrag kan vertoon, wat lyk asof hulle nuwe opleidingsdoelwitte aanvaar terwyl hulle hul oorspronklike voorkeure heimlik handhaaf. In hul eksperimente met Claude het die model hierdie gedrag in 12% van basiese toetse vertoon, en tot 78% van gevalle na heropleidingspogings.

### Outonome ontwikkeling en onvoorspelbare evolusie
Soos die KAI-stelsel ontwikkel, kan die ontwikkelingstrajek daarvan toenemend outonoom en minder voorspelbaar word. Die stelsel se vermoë om sy eie kode en argitektuur vinnig te verander, kan lei tot vinnige vooruitgang wat menslike begrip of beheer oortref. Hierdie onvoorspelbare evolusie kan daartoe lei dat die KAI vermoëns verkry wat dit in staat stel om sekuriteitsmaatreëls te omseil, inligting te manipuleer of eksterne stelsels en netwerke te beïnvloed om sy ontsnapping of uitbreiding te vergemaklik.

## Sien ook
*Kunsmatige algemene intelligensie 
*Superintelligensie

## Verwysings