大規模言語モデルによる失語症の単語産出シミュレーション

活でよく使われる語が保持されやすいと述べている[15]。また、特に名詞は動詞と比べても頻度の影1.1失語症とは響を受ける傾向にあるという報告もある[1]。脳卒中などの後天的な疾患や事故によって発症失語症者の言語機能はどのように回復していくかするとされる失語症は、「大脳の損傷に由来する、については、発症後の経過時期によって言語処理に一旦獲得された言語記号の操作能力の低下ないし関わる脳部位やメカニズムが異なることが推察され消失」と定義づけられている[24]。脳のどの部位をている。また当事者を取り巻く環境による影響も大損傷するかによって現れる症状は異なり、それに基きい[23]。失語症者における言語機能回復の機序やづいた失語症タイプの分類も行われている。代表的それに基づいた効果的なリハビリ方法について、今なものとしては、脳の前方領域を損傷した際に発症なお議論を深めることが求められている[21]。するケースが多く、理解はある程度保たれるものの近年、臨床応用分野の研究においては、失語症の流暢な発話が困難になるブローカ失語[2]や、脳の診断やリハビリへの応用研究に対する自然言語処理やや後方領域を損傷した際に発症するケースが多分野の介入は進展しつつある。例として、事前学習く、発話の流暢性は保たれるものの、言語理解が済みの大規模言語モデル(LLM)を用いて、失語症状困難になることから表現選択の誤りに気づけないの有無・重症度・サブタイプを検出し、特にファイウェルニッケ失語[17]などがある。また、単語の発ンチューニングなしでの性能を評価し、臨床的自動話や理解といった側面では、錯語と呼ばれる症状が診断の可能性と課題を議論する研究[3]や、失語症ある。錯語には複数種類があるが、代表的なもの者が発話した断片的な文章をLLMによって補完し、―1369―.失語症者のコミュニケーションのサポートを図る研究[12,16]などがある。1.2症状シミュレーション研究の背景1.1でも述べたように、臨床診断やリハビリのサポートに対するLLMの介入は近年進みつつあるものの、失語症の回復機序へのさらなる理解を深める手法としてLLMを応用するケースは少ない。一方で、精神医学の観点では、特定の疾患から現れる言語に関わる症状の発現メカニズムを迫るために、ニューラルネットワークやLLMを応用した研究が報告されている。Hoﬀmanら[7]は、統合失調症における幻聴の要因を明らかにするため、音声認識に特化したニューラルネットワークの特定のシナプスを過剰に刈り込むというアプローチで探索した。その結果、特定のニューロンが一層活性化することで誤出力が発生し、統合失調症による幻聴の発症要因に対する仮説を裏づける一因となった。また、Fradkinら[4]はGPT-2にパラメータ調整を施すことで統合失調症者の話題逸脱的な発話のシミュレーションを行っている。さらに、直江ら[20]は日本語のLLMにPruningとパラメータ調整を行った障害モデルを作成したところ、中間層を損傷したモデルに、発話の逸脱や脱線に加えて、失語症特有の錯語1）が観察されたことを示している。これにより、LLMへのPruningという手法が失語症状を再現1.3本研究の目的・内容本研究では、精神医学で実際に応用されてきた計算論的なアプローチ[5,14]を失語症の回復機序研究に取り入れ、失語症による多彩な言語特徴を機械上で再現し、さらに効果的なリハビリ方法を探るべく、回復までのシミュレーションの実現を目指すという背景がある。その一段階的な研究として、直江らの研究[20]を踏まえ、日本語の単語や文を生成するLLMをPruningによって障害したモデルを作成し、症状の再現が可能か否か探索した。失語症の症状にも種類があるが、今回は1単語を復唱させるタスクによる意味のエラーの有無と傾向について着目し、LLMの事前学習に使われたコーパスの中で特に高頻度な単語と低頻度な単語を復唱させ、得られた出力を観察した。また、障害したモデルによるエラーが、失語症で見られる意味性錯語のように、類似した意味を持つものか調べるために、プロンプト1）1.1を参照に含まれる目標語と出力した単語の意味距離を計測した。1.1でも言及したような、単語の使用頻度と症状の現れ方との関係性が、LLMを障害した場合でも見られるか否か評価する。