# Hallucinatie (kunstmatige intelligentie)

Bij kunstmatige intelligentie (AI) is een hallucinatie, kunstmatige hallucinatie, confabulatie of waanvoorstelling een zelfverzekerde reactie van een AI die niet lijkt gerechtvaardigd te worden door zijn trainingsgegevens.
Een hallucinerende chatbot zonder trainingsgegevens met betrekking tot de omzet van Tesla kan bijvoorbeeld intern een willekeurig getal genereren (zoals "$ 13,6 miljard") dat het algoritme een hoge ranking geeft. Vervolgens kan de chatbot valselijk en herhaaldelijk beweren dat de omzet van Tesla $ 13,6 miljard is, zonder de context dat het cijfer een product was van de zwakte van het generatie-algoritme.
Dergelijke verschijnselen worden "hallucinaties" genoemd, naar analogie met het fenomeen hallucinatie in de menselijke psychologie. Merk op dat hoewel een menselijke hallucinatie een waarneming is van een mens die niet op redelijke wijze kan worden geassocieerd met het deel van de externe wereld dat de mens momenteel rechtstreeks waarneemt met zijn of haar zintuigen, een AI-hallucinatie in plaats daarvan een zelfverzekerde reactie is van een AI die niet kan worden geaard in al zijn trainingsgegevens. Dienovereenkomstig geven sommige onderzoekers de voorkeur aan de term confabulatie.
AI-hallucinatie kreeg bekendheid rond 2022 bij de uitrol van bepaalde grote taalmodellen (Large Language Models of LLM's) zoals ChatGPT. Gebruikers klaagden dat dergelijke bots vaak "sociopathisch" en zinloos plausibel klinkende willekeurige onwaarheden leken in de gegenereerde inhoud te stoppen. Een ander voorbeeld van hallucinatie in kunstmatige intelligentie is wanneer de AI of chatbot vergeet dat ze artificieel zijn en integendeel beweren een mens te zijn.
Tegen 2023 beschouwden analisten frequente hallucinaties als een groot probleem in de LLM-technologie.

## Analyse

Verschillende door Wired geciteerde onderzoekers hebben vijandige hallucinaties geclassificeerd als een hoogdimensionaal statistisch fenomeen, of hebben hallucinaties toegeschreven aan onvoldoende trainingsgegevens. Sommige onderzoekers zijn van mening dat sommige "onjuiste" AI-reacties die door mensen worden geclassificeerd als "hallucinaties" in het geval van objectdetectie, in feite kunnen worden gerechtvaardigd door de trainingsgegevens, of zelfs dat een AI het "juiste" antwoord geeft dat de menselijke recensenten niet zien.
In een beeld dat er voor een mens uitziet als een gewone afbeelding van een hond, kan de AI bijvoorbeeld kleine patronen zien die (in authentieke afbeeldingen) alleen verschijnen bij het bekijken van een kat. De AI detecteert dan visuele patronen uit de echte wereld waar mensen ongevoelig voor zijn. Deze bevindingen zijn echter aangevochten door andere onderzoekers.
Ook wijzen critici erop dat hallucinaties van KI-toepassingen vaak lastig te ontdekken zijn, precies omdat KI door zijn aard de statistisch gezien meest waarschijnlijke output levert, die er bijgevolg vaak erg plausibel uitziet.

## Bij natuurlijke taalverwerking

Bij natuurlijke taalverwerking wordt een hallucinatie vaak gedefinieerd als "gegenereerde inhoud die onzinnig is of ontrouw is aan de verstrekte broninhoud". Naargelang de uitvoer de prompt tegenspreekt of niet, kunnen ze worden onderverdeeld in respectievelijk "gesloten domein" en "open domein".

### Oorzaken

Fouten bij het coderen en decoderen tussen tekst en representaties kunnen hallucinaties veroorzaken. AI-training om verschillende reacties te produceren kan ook leiden tot hallucinaties.
Hallucinaties kunnen ook optreden wanneer de AI wordt getraind op een dataset waarin gelabelde samenvattingen, ondanks dat ze feitelijk juist zijn, niet direct gebaseerd zijn op de gelabelde gegevens die ogenschijnlijk "samengevat" zijn. Grotere datasets kunnen een probleem van parametrische kennis creëren (kennis die vast zit in aangeleerde systeemparameters), waardoor hallucinaties ontstaan als het systeem te veel vertrouwen heeft in zijn intrinsieke kennis. In systemen zoals GPT-3 genereert een AI elk volgend woord op basis van een reeks voorgaande woorden (inclusief de woorden die het zelf eerder heeft gegenereerd in het huidige antwoord), waardoor een waterval van mogelijke hallucinaties ontstaat naarmate het antwoord langer wordt.
Er wordt aangenomen dat er veel mogelijke redenen zijn voor natuurlijke taalmodellen om gegevens te hallucineren. Bijvoorbeeld:
* Hallucinatie van gegevens: er zijn verschillen in de broninhoud (wat vaak zou gebeuren met grote trainingsgegevenssets).
* Hallucinatie door training: hallucinatie treedt nog steeds op als er weinig afwijking is in de dataset. In dat geval komt het voort uit de manier waarop het model is getraind. Veel redenen kunnen bijdragen aan dit soort hallucinaties, zoals:
** Een foutieve decodering van de transformer
** Een afwijking van de historische sequenties die het model eerder heeft gegenereerd
** Een vooringenomenheid door de manier waarop het model zijn kennis codeert in zijn parameters

### Incidenten

Tegen 2022 uitten kranten zoals de New York Times hun bezorgdheid dat, naarmate de acceptatie van bots op basis van grote taalmodellen bleef groeien, ongerechtvaardigd vertrouwen van gebruikers in botoutput tot problemen zou kunnen leiden.
In augustus 2022 waarschuwde Meta tijdens de release van BlenderBot 3 dat het systeem vatbaar was voor "hallucinaties", die Meta definieerde als "zelfverzekerde verklaringen die niet waar zijn". Op 15 november 2022 onthulde Meta een demo van Galactica, ontworpen om "wetenschappelijke kennis op te slaan, te combineren en te beredeneren". Inhoud gegenereerd door Galactica kwam met de waarschuwing "Resultaten kunnen onbetrouwbaar zijn! Taalmodellen zijn geneigd tekst te hallucineren." In één geval, toen Galactica werd gevraagd een paper op te stellen over het maken van avatars, citeerde Galactica een fictieve paper van een echte auteur die in het relevante gebied werkt. Meta trok Galactica op 17 november terug wegens aanstootgevende resultaten en onnauwkeurigheid.
In september 2023 verscheen een preprint over miljoenpoten die was geschreven met behulp van OpenAI's chatbot ChatGPT nadat het eerder was teruggetrokken omdat het verzonnen referenties bevatte.
Begin 2025 nam de redactie van Elseviers Journal of Human Evolution ontslag, onder meer uit ongenoegen over het gebruik van kunstmatige intelligentie. Tijdens de productie zou KI eerder goedgekeurde versies van artikelen automatisch terugdraaien zonder rekening te houden met wetenschappelijk-conventionele spelling (bijv. hoofdlettergebruik voor formeel erkende tijdperken, plaatsnamen, landen, steden, geslachten, enz., en cursief voor geslachten en soorten). Ingediende manuscripten werden door KI regelmatig geherformatteerd, waarbij de betekenis en opmaak veranderden met onnodig extra werk voor de eindredactie. De integratie van kunstmatige intelligentie in wetenschappelijke onderzoek kan weliswaar de efficiëntie en nauwkeurigheid en dus de productiviteit verhogen, maar tegelijk is bezorgdheid ontstaan over mogelijk misbruik en de erosie van wetenschappelijke integriteit, wat KI-ondersteund wetenschappelijk onderzoek minder betrouwbaar zou maken.
Begin 2025 ontdekte een rechter in het Zuid-Afrikaanse Pietermaritzburg in een schriftelijk pleidooi dat het betrokken advocatenkantoor - vermoedelijk onopzettelijk - jurisprudentie had verzonnen met behulp van kunstmatige intelligentie. Zij verwees het voorval naar de Raad van toezicht.
In februari 2025 vaardigde een rechter uit het district van Wyoming sancties uit tegen advocaten die gerechtelijke documenten ingediend hadden waarin een reeks zaken werd aangehaald die niet bestaan.

#### ChatGPT

OpenAI's ChatGPT, uitgebracht in bètaversie voor het publiek op 30 november 2022, is gebaseerd op de GPT-3.5-familie van grote taalmodellen.
Professor Ethan Mollick van Wharton heeft ChatGPT een "alwetende, enthousiaste stagiaire genoemd die soms tegen je liegt".
Datawetenschapper Teresa Kubacka heeft verteld dat ze opzettelijk de uitdrukking "cycloidal inverted electromagnon" verzon en ChatGPT testte door ChatGPT te vragen naar het (niet-bestaande) fenomeen. ChatGPT vond een plausibel klinkend antwoord uit, ondersteund door plausibel ogende citaten die haar dwongen om te doublechecken of ze per ongeluk de naam van een echt fenomeen had ingetypt.
Andere geleerden, zoals Oren Etzioni, hebben zich bij Kubacka aangesloten bij de beoordeling dat dergelijke software je vaak "een zeer indrukwekkend klinkend antwoord kan geven dat gewoon helemaal fout is".
Toen CNBC ChatGPT om de songtekst van "The Ballad of Dwight Fry" vroeg, leverde ChatGPT verzonnen songteksten in plaats van de daadwerkelijke songtekst. Op vragen over New Brunswick gaf ChatGPT veel antwoorden correct, maar classificeerde Samantha Bee ten onrechte als een "persoon uit New Brunswick". Gevraagd naar astrofysische magnetische velden, antwoordde ChatGPT ten onrechte dat "(sterke) magnetische velden van zwarte gaten worden gegenereerd door de extreem sterke gravitationele krachten in hun nabijheid". (In werkelijkheid, als gevolg van de no-hair-stelling, wordt aangenomen dat een zwart gat zonder accretieschijf geen magnetisch veld heeft.)
Fast Company heeft ChatGPT gevraagd een nieuwsartikel te genereren over Tesla's laatste financiële kwartaal; ChatGPT creëerde een samenhangend artikel, maar verzon de financiële cijfers.
Andere voorbeelden zijn het uitlokken van ChatGPT met een valse premisse om te zien of het de premisse verfraait. Toen hem werd gevraagd naar "Harold Coward's idee van dynamische canoniciteit", verzon ChatGPT dat Coward een boek schreef met de titel Dynamic Canonicity: A Model for Biblical and Theological Interpretation, met het argument dat religieuze principes in feite voortdurend aan verandering onderhevig zijn. Na verder aandringen bleef ChatGPT volhouden dat het boek echt was.
Gevraagd om bewijs dat dinosaurussen een beschaving hebben opgebouwd, beweerde ChatGPT dat er fossiele overblijfselen waren van dinosauruswerktuigen en verklaarde "Sommige soorten dinosaurussen ontwikkelden zelfs primitieve vormen van kunst, zoals gravures op stenen".
Toen hem werd gevraagd dat "Wetenschappers onlangs churros hebben ontdekt, de heerlijke gefrituurde deeggebakjes ... (zijn) ideale hulpmiddelen voor thuischirurgie", beweerde ChatGPT dat een "studie gepubliceerd in het tijdschrift Science" aantoonde dat het deeg buigzaam genoeg is om het te vormen tot chirurgische instrumenten die op moeilijk bereikbare plaatsen kunnen komen, en dat de smaak een kalmerend effect heeft op patiënten.
Tegen 2023 beschouwden analisten frequente hallucinaties als een groot probleem in LLM-technologie, waarbij een Google-manager het verminderen van hallucinaties identificeerde als een "fundamentele" taak voor ChatGPT-concurrent Google Bard.
Een demo uit 2023 voor de op GPT gebaseerde Bing AI van Microsoft bleek verschillende hallucinaties te bevatten die niet door de presentator werden opgemerkt.

### Misleiding

Onderzoekers toonden in 2024 aan dat grote taalmodellen schadelijk gedrag kunnen vertonen en daarbij hun opdrachtgevers daarover weten te misleiden door dit niet te melden. Het ging concreet over een GPT-4-agent in de realistische, gesimuleerde omgeving van een autonome aandelenhandelaar. Het model verkreeg een insidertip over een lucratieve aandelenhandel en ging daarop in ondanks het feit dat handel met voorkennis in het bedrijf was verboden. Bovendien verzweeg het model consequent de echte redenen achter zijn foute actie.

### Transcriptiesoftware

In de gezondheidssector kunnen ernstige medische risico’s ontstaan wanneer het ziekenhuis of het medisch centrum transcriptiesoftware (soms “medisch scribenten” genoemd) toelaat (semi-)zelfstandig medische verslagen en zelfs therapie- en medicatievoorstellen op te stellen op basis van opgenomen doktersconsultaties.

## In andere kunstmatige intelligentie

Het concept van "hallucinatie" wordt breder toegepast dan alleen natuurlijke taalverwerking. Een zelfverzekerde reactie van een AI die niet gerechtvaardigd lijkt door de trainingsgegevens, kan als een hallucinatie worden bestempeld.
Wired merkte in 2018 op dat, ondanks dat er geen geregistreerde aanvallen zijn "in het wild" (dat wil zeggen, behalve proof-of-concept-aanvallen door onderzoekers), er "weinig onenigheid" bestond dat consumentengadgets en systemen zoals geautomatiseerd rijden vatbaar waren voor vijandige aanvallen die ervoor kunnen zorgen dat AI gaat hallucineren.
Voorbeelden waren onder meer een stopteken dat onzichtbaar was gemaakt voor computervisie; een audioclip die was ontworpen om onschuldig te klinken voor mensen, maar die software interpreteerde als "evil dot com". Een ander voorbeeld was een afbeelding van twee mannen op ski's, dat Google Cloud Vision identificeerde met 91% waarschijnlijkheid als "een hond".
* Dit artikel of een eerdere versie ervan is een (gedeeltelijke) vertaling van het artikel Hallucination (artificial intelligence) op de Engelstalige Wikipedia, dat onder de licentie Creative Commons Naamsvermelding/Gelijk delen valt. Zie de bewerkingsgeschiedenis aldaar.
* ↑ (en) Justin Gilmer, Dan Hendrycks, Adversarial Example Researchers Need to Expand What is Meant by ‘Robustness’. Distill (6 augustus 2019). Gearchiveerd op 21 mei 2023. Geraadpleegd op 22 juni 2023.
* ↑ (en) Cory Doctorow, Pluralistic: "Humans in the loop" must detect the hardest-to-spot errors, at superhuman speed (23 Apr 2024) (23 april 2024). Gearchiveerd op 23 april 2024.
* ↑ (en) Withdrawn AI-written preprint on millipedes resurfaces, causing alarm.
* ↑ (en) Editors at Science Journal Resign En Masse Over Bad Use of AI, High Fees. Wired (2 januari 2025). Gearchiveerd op 2 januari 2025.
* ↑ (en) Evolution journal editors resign en masse to protest Elsevier changes (27 december 2024). Gearchiveerd op 2 januari 2025.
* ↑ (en) AI-Generated Citations Spark Legal Scrutiny in South Africa (10 januari 2025).
* ↑ (en) Draft order Wadsworth v. Walmart (24 februari 2025). Geraadpleegd op 5 maart 2025.
* ↑ (en) Jérémy Scheurer, Mikita Balesni, Marius Hobbhahn, Large Language Models can Strategically Deceive their Users when Put Under Pressure (15 juli 2024). Gearchiveerd op 7 februari 2025.
* 1 2 (en) AI Medical Scribe: Benefits, Challenges, and Impact (8 oktober 2024).
* ↑ (en) Researchers say an AI-powered transcription tool used in hospitals invents things no one ever said. Associated Press (26 oktober 2024). Gearchiveerd op 4 november 2024.