生成的人工知能
人工知能の用語のハルシネーション(hallucination。幻覚)とは、AIの訓練に用いたどの学習データとも整合しない回答をAIが堂々としてしまうという問題である。人間の幻覚に喩えて「幻覚」と呼ばれているが、作話(confabulation)という表現のほうを好む研究者もいる。
アメリカでは2023年、ニューヨーク州の弁護士が審理中の民事訴訟の資料作成にChatGPTを利用した結果、存在しない判例を「引用」 してしまったことが問題となっている。弁護士がニューヨーク州連邦裁判所に提出した資料の中で引用された判例が実際には見つからなかったため、裁判官が確認したところ、その弁護士が資料作成にChatGPTを使っていたことが発覚した。弁護士は資料の中で、デルタ航空やユナイテッド航空などが関連しているとする実在しない判例の「引用」を6件行っていた。