幻覚 (人工知能)
より大きなデータセットになると、パラメータにより調整された(学習したシステムのパラメータにより固有の)知識が問題となりうる。システムがその知識を過信してしまうことで幻覚がつくりだされるからである。GPT-3のようなシステムでは、人工知能は過去に入力された一連の単語をもとに次の単語を出力して文章を生成する。進行中の応答には、過去に人工知能自身が生成した文章をもとに出力された単語が含まれるため、応答が長文になるほど幻覚が起こる可能性は加速度的に大きくなる。2022年にはニューヨーク・タイムズなどの大手紙が、大規模言語モデルをベースにしたボットが今以上に定着すると、何もしらないユーザーがボットの出力結果をうのみにしてしまい、様々な問題が起こると警鐘を鳴らしている。
2022年8月、Metaはリリース中だったチャットボットのBlenderBot 3が、「幻覚」を生じやすいシステムだという注意喚起を行っている(Metaの表現によれば「真実ではないのに自信にあふれた発言」をする)。2022年11月15日、Metaは言語モデルGalacticaを公開した。このモデルは、「科学的な知識を記憶し、結びつけ、判断する」ようようデザインされていた。
恐竜が文明を築いていたことの証拠を求められたときは、恐竜の使っていた道具の化石が残っていて「石に彫刻をするなどの原始的な形態の美術さえ発展させていた恐竜もいる」と主張した。「研究者は最近になって、小麦粉からつくる美味しい揚げ菓子であるチュロスが...家庭内手術において理想的な道具(である)ということを発見した」というプロンプト(回答のための作業要領)を与えられたChatGPTは、「学術誌のサイエンスに掲載された研究」によると、チュロスの生地は柔らかいので届きにくい場所にも形を変えれば届く手術用器具であり、香りもよく患者を落ち着かせる作用がある、と回答した。
2023年の時点で、アナリストたちは人工知能が幻覚に陥りがちな点は大規模言語モデルというテクノロジーにとっての大問題だと考えている。Googleの経営陣も、幻覚によって人工知能が弱体化してしまう現象は、ChatGPTのライバルであるGoogle Bardにとって「根本的な」課題として位置付けている。2023年に行われた、GPTをベースにしたマイクロソフトのチャットボット、Bing AIのデモンストレーションでも、AIがさまざまな幻覚状態に陥ったが、プレゼンターはそれに気づいていなかった。
人工知能の幻覚(hallucination: ハルシネーション)とは、人工知能が学習したデータからは正当化できないはずの回答を堂々とする現象である。例えば、テスラの収益に関する知識がないチャットボットがこの現象に陥ると、もっともらしいと判断したランダムな数字(130.6億ドルのような)を内部的にピックアップして、間違っているにもかかわらずテスラの収益は130.6億ドルだと繰り返すようになる。そしてこのとき、人工知能の内部ではこの数字が自身の創造の産物だということに気付いている兆候がみられない。
こうした現象は、精神医学における人間の幻覚とのアナロジーからその名が付けられている。ただし人間にとっての幻覚とは、「対象なき知覚」とも呼ばれ、感覚器官を通じて知覚している「対象が存在しないにもかかわらず真の知覚と区別できない知覚体験をすること」が一般的な定義とされる。