Hallusinasie (kunsmatige intelligensie)

In die veld van kunsmatige intelligensie (KI) is 'n hallusinasie of **kunsmatige hallusinasie** (ook genoem "nonsens", "konfabulasie", of "delusie") 'n reaksie wat deur KI gegenereer word en wat valse of misleidende inligting bevat wat as feitelik aangebied word. Hierdie term trek 'n los analogie met menslike sielkunde, waar 'n hallusinasie tipies valse persepsies behels. Daar is egter 'n belangrike verskil: KI-hallusinasie word geassosieer met foutief gekonstrueerde reaksies (konfabulasie), eerder as perseptuele ervarings. Sagteware-ingenieurs en statistici het die spesifieke term "KI-hallusinasie" gekritiseer vir die onredelike antropomorfisering van rekenaars.

In die vroeë 2000's is die term "hallusinasie" in rekenaarvisie met 'n positiewe konnotasie gebruik om die proses te beskryf om detail by 'n beeld te voeg. Byvoorbeeld, die taak om hoë-resolusie gesigbeelde uit lae-resolusie insette te genereer, word gesighallusinasie genoem.

In die laat 2010's het die term 'n semantiese verskuiwing ondergaan om die generering van feitelik verkeerde of misleidende uitsette deur KI-stelsels in take soos vertaling of objekopsporing aan te dui. en in 2018 is die term in rekenaarvisie gebruik om gevalle te beskryf waar nie-bestaande voorwerpe verkeerdelik opgespoor word as gevolg van vyandige aanvalle.

Die term "hallusinasies" in KI het wyer erkenning gekry tydens die KI-oplewing, tesame met die bekendstelling van wyd gebruikte kletsbotte gebaseer op groottaalmodelle (GTMe.  In Julie 2021 het Meta tydens die vrystelling van BlenderBot 2 gewaarsku dat die stelsel geneig is tot "hallusinasies", wat Meta gedefinieer het as "versekerde stellings wat nie waar is nie". Na OpenAI se ChatGPT-vrystelling in beta-weergawe in November 2022, het sommige gebruikers gekla dat sulke kletsbotte dikwels sinloos aanneemlike, ewekansige leuens in hul gegenereerde inhoud insluit. Baie nuusagentskappe, insluitend *The New York Times*, het die term "hallusinasies" begin gebruik om hierdie modelle se soms verkeerde of teenstrydige reaksies te beskryf.

Sommige navorsers het 'n gebrek aan konsekwentheid in hoe die term gebruik word, uitgelig, maar het ook verskeie alternatiewe terme in die literatuur geïdentifiseer, soos verkondigings, fabrikasies en feitelike foute.

### Definisies en alternatiewe
duimnael|KI-hallusienasie lei tot die verkeerde bewering op 10 Augustus 2025 dat Joaquín Correa die broer van Ángel Correa is; die twee is nie verwant nie.
Gebruike, definisies en karakteriserings van die term "hallusinasie" in die konteks van GTMe sluit in:
*"'n neiging om feite in oomblikke van onsekerheid uit te vind" (OpenAI, Mei 2023)
*"'n model se logiese foute" (OpenAI, Mei 2023)
*"waarskynlikheidsverdelings" (in wetenskaplike kontekste) 

Joernalis Benj Edwards skryf in *Ars Technica* dat die term "hallusinasie" kontroversieel is, maar dat 'n vorm van metafoor steeds nodig is; Edwards stel "konfabulasie" voor as 'n analogie vir prosesse wat "kreatiewe gapingvulling" behels.

### Kritiek
In die wetenskaplike gemeenskap vermy sommige navorsers die term "hallusinasie" en beskou dit as potensieel misleidend. Dit is gekritiseer deur Usama Fayyad, uitvoerende direkteur van die Instituut vir Eksperimentele Kunsmatige Intelligensie aan die Northeastern Universiteit, op grond daarvan dat dit misleidend groottaalmodelle verpersoonlik en vaag is. Mary Shaw het gesê: "Die huidige mode om generatiewe KI se foute 'hallusinasies' te noem, is afgryslik. Dit antropomorfiseer die sagteware, en dit verduidelik werklike foute as op een of ander manier eienaardige eienaardighede van die stelsel, selfs wanneer hulle objektief verkeerd is."  In *Salon* voer statistikus Gary N. Smith aan dat GTMe "nie verstaan wat woorde beteken nie" en gevolglik dat die term "hallusinasie" die masjien onredelik antropomorfiseer. Sommige sien die KI-uitsette nie as illusie nie, maar as prospektief - dit wil sê, met 'n kans om waar te wees, soortgelyk aan wetenskaplike vermoedens in die vroeë stadium. Die term is ook gekritiseer vir sy assosiasie met psigedeliese dwelmervarings. Daar is verskillende maniere om hallusinasies te kategoriseer. Afhangende van of die uitvoer die bron weerspreek of nie van die bron geverifieer kan word nie, word hulle onderskeidelik in intrinsieke en ekstrinsieke verdeel.

## Verwysings