Halucinacija (umjetna inteligencija)

[mini|320px|Primjer halucinacije u generativnoj [umjetna inteligencija|umjetnoj inteligenciji: rani video-model *Sora* pogrešno je prikazao vijadukt Glenfinnan s drugim kolosijekom i drugim netačnim detaljima.]]
**Halucinacija** u okvirima umjetne inteligencije jest odgovor koji generira umjetna inteligencija i koji sadrži netačne ili obmanjujuće informacije predstavljene kao činjenice. Izraz se analogno naslanja na halucinaciju u ljudskoj psihologiji, ali se u kontekstu AI-ja odnosi na pogrešno konstruisan sadržaj, a ne na perceptivno iskustvo.

Greške i halucinacije predstavljaju važno pitanje za praktičnu upotrebu AI-sistema u područjima visokog rizika, kao što su medicinska dijagnostika, logistika i projektiranje čipova. Istovremeno, sam izraz predmet je rasprave, jer ga dio istraživača smatra previše antropomorfnim i nedovoljno preciznim.

## Termin 
### Porijeklo 
Izraz *hallucination* u računarstvu se koristi od 1980-ih, kada je u računarskom vidu imao uglavnom pozitivnu konotaciju i označavao dodavanje detalja slici, kao u zadacima povećanja rezolucije lica. Tokom 2000-ih izraz se počeo koristiti i za neuspjehe u mašinskom prevođenju, da bi od 2010-ih sve češće označavao generiranje činjenično pogrešnih ili obmanjujućih izlaza u sistemima umjetne inteligencije. Nakon javnog izlaska ChatGPT-ja krajem 2022. izraz je postao uobičajen i u medijskom izvještavanju.

### Definicije i alternative 
U oblasti generiranja prirodnog jezika halucinacija se često definira kao sadržaj koji izgleda činjenično, ali nije utemeljen u izvoru ili dostupnim dokazima. U literaturi se pojavljuju i alternativni izrazi, poput *konfabulacije*, *fabriciranja* i *činjenične greške*.

### Kritika 
Dio naučne zajednice izbjegava izraz *halucinacija* zato što može sugerirati da modeli posjeduju svijest, namjeru ili razumijevanje slično ljudskom.

## U generiranju prirodnog jezika 
mini|320px|Primjer netačnog i nadrealnog izlaza u višekoračnom prevođenju pomoću jezičkog modela.

U generiranju prirodnog jezika halucinacija označava izlaz koji djeluje uvjerljivo, ali nije zasnovan na izvoru, kontekstu ili provjerljivim činjenicama.

### Uzroci 
Halucinacije mogu nastati zbog nepotpunih, netačnih ili nereprezentativnih skupova podataka, kao i zbog razmimoilaženja između izvora i ciljnih odgovora u podacima za treniranje. Kako odgovor raste, svaka prethodno generirana netačnost može poslužiti kao osnova za naredne, što dovodi do lanca ili kaskade halucinacija.

ChatGPT je također više puta dokumentirano davao uvjerljive, ali netačne odgovore, uključujući izmišljene citate, pogrešne biografske podatke i pseudonaučna objašnjenja. Godine 2023. posebnu pažnju izazvao je slučaj *Mata v. Avianca, Inc.*, u kojem je advokat predao sudu podnesak sa šest izmišljenih sudskih presedana koje je generirao ChatGPT.

## U drugim modalitetima 
mini|320px|Pojednostavljen prikaz lažno pozitivnog prepoznavanja objekta.

Pojam halucinacije nije ograničen na tekst. U širem smislu, svaka samouvjerena, ali pogrešna AI-predikcija u odnosu na podatke za učenje može se opisati kao halucinacija. U literaturi su opisani primjeri u kojima sistem pogrešno klasificira znak *stop*, audio-snimak ili sliku skijaša kao nepovezan objekat, poput psa.

### Generativni audio i slike 
Modeli za generiranje zvuka i govora također mogu davati neočekivane i netačne rezultate. Kod modela za generiranje slika, kao što su Stabilna difuzija i Midjourney, halucinacije se javljaju u vidu netačnih historijskih, anatomskih ili kontekstualnih detalja. Godine 2024. model Gemini izazvao je polemike nakon što je prikazivao nacističke vojnike kao osobe različitih rasa, nakon čega je Google privremeno obustavio generiranje slika ljudi u tom sistemu.

## U naučnim istraživanjima 
### Problemi 
AI-halucinacije predstavljaju poseban problem u akademskom pisanju jer modeli mogu izmišljati izvore, DOI-jeve, autore ili sadržaj stvarnih radova. Istraživanje objavljeno 2023. pokazalo je da je među 178 referenci koje je proizveo GPT-3 čak 69 imalo netačan ili nepostojeći DOI, dok dodatnih 28 nije bilo moguće pronaći ni u internetskoj pretrazi.

Jerome Goddard je u biomedicinskom kontekstu dokumentirao slučaj u kojem je ChatGPT dao sumnjive informacije o krpeljima, a naknadnom provjerom utvrđeno je da su DOI i imena autora bili halucinirani. Dodatni problem predstavlja to što generirani naučni sažeci ponekad prolaze kao originalni i ljudskim recenzentima i softverima za detekciju AI-teksta.

### Koristi 
U nekim naučnim područjima halucinacije se ne posmatraju isključivo kao kvar, nego i kao heuristički alat za stvaranje novih hipoteza i dizajna. Zabrinutost se odnosi i na akademski integritet i na mogućnost da studenti usvoje netačne informacije koje su modeli predstavili kao tačne.

Istraživanje sa Univerziteta Mississippi iz 2024. utvrdilo je da je 47% citata koje su studenti predavali uz pomoć generativne AI imalo netačne naslove, datume, autore ili kombinaciju tih grešaka. Dodatni problem predstavlja nepouzdanost alata za detekciju AI-teksta: pojedini sistemi mogu pogrešno označiti i radove koji nisu nastali uz pomoć AI-ja, a OpenAI je obustavio vlastiti klasifikator zbog nedovoljne tačnosti.

## Metode ublažavanja 
Istraživanja pokazuju da halucinacije još nisu potpuno objašnjene, a neki autori ih smatraju urođenim ograničenjem velikih jezičkih modela. Ipak, razvijen je niz pristupa za njihovo smanjenje. Ji i saradnici dijele ih na metode povezane s podacima i metode povezane s modeliranjem i izvođenjem zaključaka. Takvi pristupi mogu poboljšati pouzdanost, ali često povećavaju troškove računanja i usporavaju odgovor sistema.

## Također pogledaj 
* Obrada prirodnog jezika
* Turingov test

## Reference 
Kategorija:Umjetna inteligencija
Kategorija:Obrada prirodnog jezika
Kategorija:Mašinsko učenje
Kategorija:Generativna umjetna inteligencija