할루시네이션 (인공지능)

인공지능(AI)에서 할루시네이션(hallucination) 또는 인공 할루시네이션(artificial hallucination)은 트레이닝 데이터를 통해 판단하지 않는 것처럼 비쳐지는 AI에 의한 확신적 답변이다. 예를 들어, 테슬라의 소득과 관련한 트레이닝 데이터가 없는 챗봇의 경우 내부적으로 알고리즘이 높은 신뢰도로 순위를 올리는 무작위 숫자(예: "$13.6 billion")를 생성한 다음 사실이 아닌 방향으로 움직이면서 반복적으로 테슬라의 소득이 $13.6 billion으로 언급하며 해당 수치가 생성 알고리즘의 약점의 결과임을 드러내지는 않는다.

이러한 현상을 이른바 "할루시네이션"이라고 하는데 이는 인간심리학에서의 환각 현상에 빗댄 것이다.

같이 보기 
 의인관
 인공 의식
 작화증
 프롬프트 엔지니어링
 검색엔진 조작 효과
 자의식
 튜링 테스트

각주 

인공지능
인공신경망
전산언어학
계산신경과학
딥 러닝
기계 학습
자연어 처리
신경망
인공지능철학
비지도 학습