Hallutsineerimine

Hallutsinatsioon on tehisaru veenvalt sõnastatud väljund, mis ei paista olevat treeningandmetega põhjendatud ja mis võib olla väär.
Selliseid nähtusi nimetatakse analoogia põhjal inimesel esinevate [[hallutsinatsioon]]idega [[juturobot]]ite tekitatud tehisaru hallutsinatsioonidega. Oluline erinevus seisneb selles, et inimeste hallutsinatsioonid põhinevad enamasti vääradel aju andmetel, tehisaru hallutsinatsioon aga tekitab põhjendamatuid tulemusi teksti või pildi kujul. [[Google'i otsingumootor]]i juht Prabhakar Raghavan nimetas juturobotite hallutsinatsioone veenvalt sõnastatud, kuid suures osas väljamõeldud tulemusteks. Väljend "tehisaru hallutsinatsioon8" võib arvuteid ebasobivalt [[antropomorfism|isikustada]].
Ent on ka tehisaru hallutsinatsioone, mida teadlased sihilikult kasutavad reaalsuse tundmatute variantide avastamiseks. Näiteks rakendatakse [[generatiivne tehisaru|generatiivset tehisaru]] ravimite väljatöötamisel, rakendades eritreeninguga tehisarumudeleid võimalike uute ravimina paljutõotavate molekulide ennustamiseks olemasolevate tõhusate molekulide põhjal. Ennustatud molekulide tõhusust testitakse laboris ning nii positiivsed kui ka negatiivsed tulemused söödetakse uuesti tehisarumudelisse. Need tehisaru teaduslikud kasutamisviisid ei põhine mitte juturobotite või internetiandmete meelevaldsetel keelekonstruktsioonidel, vaid teaduslikult kinnitatud teadmistel.
Esinemine.
Tehisaru hallutsinatsioonid said aktuaalseks 2022. aasta paiku rööbiti teatud [[suur keelemudel|suurte keelemudelite]], näiteks [[ChatGPT]] kasutuselevõtuga. Kasutajad kaebasid, et sellised juturobotid põimivad genereeritavasse sisusse sageli mõttetult usutavana kõlavaid juhuslikke valesid. Näiteks kui ChatGPT-l paluti koostada artikkel ühe konkreetse ettevõtte viimase finantskvartali kohta, lõi vestlusrobot sidusa artikli, kuid mõtles seal esitatud finantsnumbrid välja. Kui küsiti astrofüüsikaliste magnetväljade kohta, väitis ChatGPT ekslikult, et [[must auk|mustade aukude]] magnetväljad tekivad nende lähedal olevate äärmiselt tugevate gravitatsioonijõudude tõttu. Tegelikult puudub mustal augul [[juustetuse teoreem]]i tõttu magnetväli. Analüütikud peavad sagedasi hallutsinatsioone suurte keelemudelite tehnoloogia suureks probleemiks.
Põhjused.
Teadlased on nimetanud hallutsinatsioone statistiliseks nähtuseks või seostanud neid ebapiisavate treeningandmetega. Et [[suur keelemudel|suurtel keelemudelitel]] ei ole täielikku teadmist maailma kohta, siis puuduv teadmine [[interpoleerimine|interpoleeritakse]] või [[konfabulatsioon|konfabuleeritakse]] See keelemudelite omadus võimaldab vastata päringutele loovalt, mitte ainult olemasolevale teadmisele tuginedes. Kuid see viib ka selleni, et kasutaja päringule, millel on olemas objektiivselt õige vastus, mida mudel ei tea, antakse vastus, mis võib tunduda õige, kuid ei vasta tegelikkusele.
Mõned asjatundjad usuvad, et tehisaru teatud väärad vastused, mida inimesed objektituvastuse puhul peavad hallutsinatsioonideks, võivad tegelikult olla treeningandmetega põhjendatud või tehisaru annab isegi õige vastuse, mida inimestest hindajad ei näe. Näiteks võib vaidlusalune pilt, mis inimesele paistab olevat tavaline koerapilt, tegelikult sisaldada tehisaru jaoks mustreid, mis autentsetes piltides esineks ainult kassi vaatlemise korral. See tähendaks, et tehisaru tunneb ära reaalsed visuaalsed mustrid, mida inimene ei suuda märgata. Kuid teised teadlased on need järeldused kahtluse alla seadnud. Näiteks on vastu väidetud, et mudelid võivad toetuda pealiskaudsele statistikale, mistõttu ei pruugi treening vaieldavate teemade korral olla reaalsetes olukordades piisavalt [[robustsus|robustne]].
On osutunud, et hallutsinatsioon on statistiliselt vältimatu kõrvalsaadus igasuguses [[generatiivne tehisarumudel|generatiivses tehisarumudelis]], mis on treenitud maksimeerima treeningtõenäosust, nagu näiteks GPT-4. Samuti võivad hallutsinatsioone põhjustada vead teksti ja representatsioonide vahelisel kodeerimisel ja dekodeerimisel. Tehisaru treenimine mitmekesiste vastuste genereerimiseks võib samuti viia hallutsinatsioonideni. Hallutsinatsioonid võivad tekkida ka siis, kui tehisaru treenitakse andmestikul, millele lisatakse kokkuvõtted, mis on küll faktiliselt õiged, kuid ei lähtu otseselt andmetest, mida need väidetavalt kokku võtavad. Suuremad andmestikud võivad tekitada nn parameetrilise teadmise (st õpitud süsteemiparameetrites fikseeritud teadmise) probleemi, mis viib hallutsinatsioonideni, kui süsteem kasutab oma fikseeritud teadmist liiga enesekindlalt. Niisugustes süsteemides nagu GPT-4 genereerib tehisaru iga järgmise sõna eelmiste sõnade jada (sealhulgas sõnad, mis ta on sama dialoogi jooksul varem ise genereerinud) põhjal, mis võib viia hallutsinatsioonide kaskaadini.
Viited.
[[Kategooria:Tehisintellekt]]