Галлюцинация (жасанды интеллект)

Галлюцинация — жасанды интеллект жүйесінің сенімді түрде берілген, бірақ оны оқыту деректеріне негізделмеген және шындыққа сәйкес келмейтін жауабы; яғни шынайы ақпаратқа жатпайтын, ойдан құралған жауап.

Мысалы, бастапқы деректерде Tesla компаниясының табысы туралы ақпарат болмаса да, чат-бот кездейсоқ санды (мысалы, «13,6 млрд доллар») ойдан шығарып, оны өз «білім қорының» бөлігі ретінде қабылдауы мүмкін. Кейін ол бұл мәліметті қайта-қайта нақты дереккөзсіз қайталап, оны түзетуге ешқандай талпыныс танытпайды.

2022 жылы үлкен тілдік модельдердің жаппай енгізілуіне байланысты мұндай құбылыстарға ерекше назар аударыла бастады: пайдаланушылар мұндай боттар жиі «социопатиялық» көрінетінін және жауаптарының ішінде шынайы естілетін, бірақ ойдан шығарылған тұжырымдарды орынсыз енгізетінін атап өтті. 2023 жылы сарапшылар галлюцинацияны үлкен тілдік модельдер технологиясындағы маңызды мәселелердің бірі ретінде сипаттады. Осыған байланысты Илон Маск пен Стив Возняк жасанды интеллект жүйелерінің дамуын уақытша тоқтата тұруды ұсынған ашық хат жариялады, бұл бастаманы мыңнан астам кәсіпкер мен салалық маман қолдады.

Кейбір зерттеушілердің пікірінше, пайдаланушылар жасанды интеллекттің «галлюцинациясы» деп санайтын кейбір жауаптары шын мәнінде жауаптың дұрыстығын тексеру қабілетінің болмауымен түсіндірілуі мүмкін. Мысал ретінде нүктелік сурет келтіріледі: адамға ол кәдімгі иттің бейнесі сияқты көрінеді, алайда жүйе ондағы жүн өрнегінің адамдар байқай бермейтін, тек мысықтарға тән элементтерін анықтап, сол белгілерге жоғары басымдық береді. Бұл тұжырым кейін басқа зерттеушілер тарапынан даулы деп танылған.

 Дереккөздер 

Санат:Тілдік модельдеу
Санат:Дезинформация
Санат:Генеративті жасанды интеллект