Hallutsineerimine

**Hallutsinatsioon** on tehisaru veenvalt sõnastatud väljund, mis ei paista olevat treeningandmetega põhjendatud ja mis võib olla väär.

Selliseid nähtusi nimetatakse analoogia põhjal inimesel esinevate hallutsinatsioonidega juturobotite tekitatud tehisaru hallutsinatsioonidega. Oluline erinevus seisneb selles, et inimeste hallutsinatsioonid põhinevad enamasti vääradel aju andmetel, tehisaru hallutsinatsioon aga tekitab põhjendamatuid tulemusi teksti või pildi kujul. Google'i otsingumootori juht Prabhakar Raghavan nimetas juturobotite hallutsinatsioone veenvalt sõnastatud, kuid suures osas väljamõeldud tulemusteks. Väljend "tehisaru hallutsinatsioon" võib arvuteid ebasobivalt isikustada.

Ent on ka tehisaru hallutsinatsioone, mida teadlased sihilikult kasutavad reaalsuse tundmatute variantide avastamiseks. Näiteks rakendatakse generatiivset tehisaru ravimite väljatöötamisel, rakendades eritreeninguga tehisarumudeleid võimalike uute ravimina paljutõotavate molekulide ennustamiseks olemasolevate tõhusate molekulide põhjal. Ennustatud molekulide tõhusust testitakse laboris ning nii positiivsed kui ka negatiivsed tulemused söödetakse uuesti tehisarumudelisse. Need tehisaru teaduslikud kasutamisviisid ei põhine mitte juturobotite või internetiandmete meelevaldsetel keelekonstruktsioonidel, vaid teaduslikult kinnitatud teadmistel.
 

## Esinemine
Tehisaru hallutsinatsioonid said aktuaalseks 2022. aasta paiku rööbiti teatud suurte keelemudelite, näiteks ChatGPT kasutuselevõtuga. Kasutajad kaebasid, et sellised juturobotid põimivad genereeritavasse sisusse sageli mõttetult usutavana kõlavaid juhuslikke valesid. Näiteks kui ChatGPT-l paluti koostada artikkel ühe konkreetse ettevõtte viimase finantskvartali kohta, lõi vestlusrobot sidusa artikli, kuid mõtles seal esitatud finantsnumbrid välja. Kui küsiti astrofüüsikaliste magnetväljade kohta, väitis ChatGPT ekslikult, et mustade aukude magnetväljad tekivad nende lähedal olevate äärmiselt tugevate gravitatsioonijõudude tõttu. Tegelikult puudub mustal augul juustetuse teoreemi tõttu magnetväli. Analüütikud peavad sagedasi hallutsinatsioone suurte keelemudelite tehnoloogia suureks probleemiks.

## Põhjused
Teadlased on nimetanud hallutsinatsioone statistiliseks nähtuseks või seostanud neid ebapiisavate treeningandmetega. Et suurtel keelemudelitel ei ole täielikku teadmist maailma kohta, siis puuduv teadmine interpoleeritakse või konfabuleeritakse See keelemudelite omadus võimaldab vastata päringutele loovalt, mitte ainult olemasolevale teadmisele tuginedes. Kuid see viib ka selleni, et kasutaja päringule, millel on olemas objektiivselt õige vastus, mida mudel ei tea, antakse vastus, mis võib tunduda õige, kuid ei vasta tegelikkusele.

Mõned asjatundjad usuvad, et tehisaru teatud väärad vastused, mida inimesed objektituvastuse puhul peavad hallutsinatsioonideks, võivad tegelikult olla treeningandmetega põhjendatud või tehisaru annab isegi õige vastuse, mida inimestest hindajad ei näe. Näiteks võib vaidlusalune pilt, mis inimesele paistab olevat tavaline koerapilt, tegelikult sisaldada tehisaru jaoks mustreid, mis autentsetes piltides esineks ainult kassi vaatlemise korral. See tähendaks, et tehisaru tunneb ära reaalsed visuaalsed mustrid, mida inimene ei suuda märgata. Kuid teised teadlased on need järeldused kahtluse alla seadnud. Näiteks on vastu väidetud, et mudelid võivad toetuda pealiskaudsele statistikale, mistõttu ei pruugi treening vaieldavate teemade korral olla reaalsetes olukordades piisavalt robustne.

On osutunud, et hallutsinatsioon on statistiliselt vältimatu kõrvalsaadus igasuguses generatiivses tehisarumudelis, mis on treenitud maksimeerima treeningtõenäosust, nagu näiteks GPT-4. Samuti võivad hallutsinatsioone põhjustada vead teksti ja representatsioonide vahelisel kodeerimisel ja dekodeerimisel. Tehisaru treenimine mitmekesiste vastuste genereerimiseks võib samuti viia hallutsinatsioonideni. Hallutsinatsioonid võivad tekkida ka siis, kui tehisaru treenitakse andmestikul, millele lisatakse kokkuvõtted, mis on küll faktiliselt õiged, kuid ei lähtu otseselt andmetest, mida need väidetavalt kokku võtavad. Suuremad andmestikud võivad tekitada nn parameetrilise teadmise (st õpitud süsteemiparameetrites fikseeritud teadmise) probleemi, mis viib hallutsinatsioonideni, kui süsteem kasutab oma fikseeritud teadmist liiga enesekindlalt. Niisugustes süsteemides nagu GPT-4 genereerib tehisaru iga järgmise sõna eelmiste sõnade jada (sealhulgas sõnad, mis ta on sama dialoogi jooksul varem ise genereerinud) põhjal, mis võib viia hallutsinatsioonide kaskaadini.

## Viited