Hallutsineerimine

Hallutsinatsioon on tehisaru veenvalt sõnastatud väljund, mis ei paista olevat treeningandmetega põhjendatud ja mis võib olla väär.Craig S. Smith. [https://spectrum.ieee.org/ai-hallucination AI Hallucinations Could Blunt ChatGPT’s Success, IEEE Spectrum, 24.3.2023.

Selliseid nähtusi nimetatakse analoogia põhjal inimesel esinevate hallutsinatsioonidega juturobotite tekitatud tehisaru hallutsinatsioonidega. Oluline erinevus seisneb selles, et inimeste hallutsinatsioonid põhinevad enamasti vääradel aju andmetel, tehisaru hallutsinatsioon aga tekitab põhjendamatuid tulemusi teksti või pildi kujul. Google'i otsingumootori juht Prabhakar Raghavan nimetas juturobotite hallutsinatsioone veenvalt sõnastatud, kuid suures osas väljamõeldud tulemusteks.Google cautions against hallucinating chatbots, report says. Reuters, 11.2.2023. Vaadatud 24. september 2023 (inglise keeles) Väljend "tehisaru hallutsinatsioon8" võib arvuteid ebasobivalt isikustada.

Ent on ka tehisaru hallutsinatsioone, mida teadlased sihilikult kasutavad  reaalsuse tundmatute variantide avastamiseks.William Broad: How Hallucinatory A.I. Helps Science Dream Up Big Breakthroughs, nytimes.com, 23.12.2024. Näiteks rakendatakse generatiivset tehisaru ravimite väljatöötamisel, rakendades eritreeninguga tehisarumudeleid võimalike uute ravimina paljutõotavate molekulide ennustamiseks olemasolevate tõhusate molekulide põhjal. Ennustatud molekulide tõhusust testitakse laboris ning nii positiivsed kui ka negatiivsed tulemused söödetakse uuesti tehisarumudelisse.[https://assets.roche.com/f/176343/x/e8591e7840/ar24d.pdf
 KI und maschinelles Lernen: Revolution in der Medikamentenentwicklung.] – Roche 2024. aasta tegevusaruanne, 2025, lk 155. Need tehisaru teaduslikud kasutamisviisid ei põhine mitte juturobotite või internetiandmete meelevaldsetel keelekonstruktsioonidel, vaid teaduslikult kinnitatud teadmistel.
KI und maschinelles Lernen: Revolution in der Medikamentenentwicklung. – Roche Geschäftsbericht 2024, 2025, lk 155. 

 Esinemine 
Tehisaru hallutsinatsioonid said aktuaalseks 2022. aasta paiku rööbiti teatud suurte keelemudelite, näiteks ChatGPT kasutuselevõtuga.Christian J. Meier: Warum die KI so gerne lügt, sueddeutsche.de, 28.3.2023. Kasutajad kaebasid, et sellised juturobotid põimivad genereeritavasse sisusse sageli mõttetult usutavana kõlavaid juhuslikke valesid. Näiteks kui ChatGPT-l paluti koostada artikkel ühe konkreetse ettevõtte viimase finantskvartali kohta, lõi vestlusrobot sidusa artikli, kuid mõtles seal esitatud finantsnumbrid välja. Kui küsiti astrofüüsikaliste magnetväljade kohta, väitis ChatGPT ekslikult, et mustade aukude magnetväljad tekivad nende lähedal olevate äärmiselt tugevate gravitatsioonijõudude tõttu.Marc Zastrow. We Asked ChatGPT Your Questions About Astronomy. It Didn't Go so Well, discovermagazine.com, 29.12.2022. Tegelikult puudub mustal augul juustetuse teoreemi tõttu magnetväli.Marc Zastrow:  In: Discover Magazine. Kalmbach Publishing Co.  29. Dezember 2022. Abgerufen am 24. September 2023 (englisch) Analüütikud peavad sagedasi hallutsinatsioone suurte keelemudelite tehnoloogia suureks probleemiks.Ziwie Ji jt. Survey of hallucination in natural language generation. – ACM Computing Surveys, 2023, 55 (12), lk 1–38.

 Põhjused 
Teadlased on nimetanud hallutsinatsioone statistiliseks nähtuseks või seostanud neid ebapiisavate treeningandmetega. Et suurtel keelemudelitel ei ole täielikku teadmist maailma kohta, siis puuduv teadmine interpoleeritakse või konfabuleeritakseBeren Millidge.  [https://www.beren.io/2023-03-19-LLMs-confabulate-not-hallucinate/ 
LLMs confabulate not hallucinate], 19.3.2023. See keelemudelite omadus võimaldab vastata päringutele loovalt, mitte ainult olemasolevale teadmisele tuginedes. Kuid see viib ka selleni, et kasutaja päringule, millel on olemas objektiivselt õige vastus, mida mudel ei tea, antakse vastus, mis võib tunduda õige, kuid ei vasta tegelikkusele.

Mõned asjatundjad usuvad, et tehisaru teatud väärad vastused, mida inimesed objektituvastuse puhul peavad hallutsinatsioonideks, võivad tegelikult olla treeningandmetega põhjendatud või tehisaru annab isegi õige vastuse, mida inimestest hindajad ei näe. Näiteks võib vaidlusalune pilt, mis inimesele paistab olevat tavaline koerapilt, tegelikult sisaldada tehisaru jaoks mustreid, mis autentsetes piltides esineks ainult kassi vaatlemise korral. See tähendaks, et tehisaru tunneb ära reaalsed visuaalsed mustrid, mida inimene ei suuda märgata. Kuid teised teadlased on need järeldused kahtluse alla seadnud. Näiteks on vastu väidetud, et mudelid võivad toetuda pealiskaudsele statistikale, mistõttu ei pruugi treening vaieldavate teemade korral olla reaalsetes olukordades piisavalt robustne.

On osutunud, et hallutsinatsioon on statistiliselt vältimatu kõrvalsaadus igasuguses generatiivses tehisarumudelis, mis on treenitud maksimeerima treeningtõenäosust, nagu näiteks GPT-4. Samuti võivad hallutsinatsioone põhjustada vead teksti ja representatsioonide vahelisel kodeerimisel ja dekodeerimisel. Tehisaru treenimine mitmekesiste vastuste genereerimiseks võib samuti viia hallutsinatsioonideni. Hallutsinatsioonid võivad tekkida ka siis, kui tehisaru treenitakse andmestikul, millele lisatakse kokkuvõtted, mis on küll faktiliselt õiged, kuid ei lähtu otseselt andmetest, mida need väidetavalt kokku võtavad. Suuremad andmestikud võivad tekitada nn parameetrilise teadmise (st õpitud süsteemiparameetrites fikseeritud teadmise) probleemi, mis viib hallutsinatsioonideni, kui süsteem kasutab oma fikseeritud teadmist liiga enesekindlalt.Stephen Casper, Xander Davies jt. [https://arxiv.org/pdf/2307.15217.pdf
Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback], MIT / Harvard University, 27.7.2023. Niisugustes süsteemides nagu GPT-4 genereerib tehisaru iga järgmise sõna eelmiste sõnade jada (sealhulgas sõnad, mis ta on sama dialoogi jooksul varem ise genereerinud) põhjal, mis võib viia hallutsinatsioonide kaskaadini.Muru Zhang jt. How language model hallucinations can snowball arXiv preprint arXiv:2305.13534, 2023.

Viited

Kategooria:Tehisintellekt