Generative AI-technologie maakt meestal gebruik van large language models (LLMs), die worden aangedreven door neurale netwerken. Dit zijn computersystemen die zijn ontworpen om de structuren van hersenen na te bootsen. Deze LLMs worden getraind op een enorme hoeveelheid data (bijvoorbeeld tekst, afbeeldingen) om patronen te herkennen die ze vervolgens volgen in de inhoud die ze produceren.
Een chatbot zoals ChatGPT heeft bijvoorbeeld over het algemeen een goed idee van welk woord er als volgende in een zin moet komen, omdat de tool getraind is op miljarden zinnen en per context “geleerd” heeft welke woorden waarschijnlijk zullen voorkomen en in welke volgorde.
Dit maakt generative AI-toepassingen kwetsbaar voor het probleem van hallucinatie-fouten in hun output, zoals onterechte feitelijke beweringen of visuele bugs in gegenereerde afbeeldingen. Deze tools “raden” in feite wat een goed antwoord op een prompt zou zijn en ze hebben een vrij goede slagingskans vanwege de grote hoeveelheid trainingsgegevens waaruit ze kunnen putten. Toch kunnen de toepassingen fouten maken en dat gebeurt ook regelmatig.