幻覚 (人工知能)
自然言語処理の世界において、人工知能の幻覚はよく「与えられたデータ(source content)からはナンセンスあるいは信じがたいコンテンツが生成されること」と定義されている。OpenAIの説明によれば、幻覚にはクローズドドメインとオープンドメインに分類される。与えられた範囲(コンテクスト)のなかだけで利用可能な情報を使用するように指示されたモデルが、その範囲に存在しない情報をつくってしまう場合(例えばある新聞記事を要約せよといわれたのに、要約には記事にない情報が含まれているなど)クローズドドメインな幻覚であり、入力された特定のコンテクストを参照せずに森羅万象について誤った情報を堂々と答える現象がオープンドメインな幻覚である。
データや表現間の変換(エンコード・デコード)の過程においてエラーが生じると、幻覚が起きる可能性がある。人工知能のレスポンスを多様化させる目的での学習も、幻覚を起こしやすい。正解ラベル付きの要約データが(事実に即しており正しいにもかかわらず)、データセットにおいては「要約」されたとされるラベル付きデータに直接的には基づいていないデータセットを用いて人工知能が学習している場合にも、幻覚が起こりうる。
それに対して人工知能の幻覚とは、どのような学習データとも整合しない回答をAIが堂々とすることである。そのため、幻覚ではなく作話(confabulation)という表現を好んで使う研究者もいる。
2022年はChatGPTのような大規模言語モデル(LLM)が公開されたこともあり、人工知能の幻覚について以前にもまして注目が集まった年になった。こうした言語モデルが生成するコンテンツは、「ソシオパス」を思わせるほど、一見もっともらしく聞こえるのに実際には無意味で無作為的な誤りが入り込む現象が起こり、一般の利用者からも不満の声があがっている。また別の形の「幻覚」として、人工知能が自分が何であるかを忘れてしまい人間だと主張するケースもある。
2023年の時点で、アナリストたちは、大規模言語学習をめぐるテクノロジーにおいて、人工知能が頻繁に幻覚に陥ってしまう現象は、深刻な問題になるだろうと予想している。