大規模言語モデルへの刈り込みによる精神疾患の思考障害シミュレーション

本邦における精神疾患有病者数は人口の3％にあたる約419万人に及び、その社会的・経済的影響は甚大である[1]．精神疾患の診断における客観的指標の確立が求められているが、生物学的精神医学の知見の集積にもかかわらず、未だ臨床応用に耐えうるバイオマーカーは存在しない．そのため、精神疾患の国際的な診断基準であるICD-11[2]、DSM-5[3]においても、患者との問診から得られた行動特徴が主である．脳神経の変調という生物学的基盤を有するはずの精神疾患の診断にあっても、その判断はそれぞれの精神科医の主観・経験に依っているのが現状である[4]．このような状況で、脳神経回路の数理モデルを用いて、精神疾患の脳の変調の仮説をシミュレートして検証し、脳基盤と精神症状をリンクさせ、精神疾患の病態に理論的示唆を与える計算論的精神医学の研究が注目されてきた[5][6]．また、多様なモダリティでバイオマーカーの確立が試みられ、言語もその例に漏れない．特に、自然言語処理(naturallanguageprocessing,NLP)技術によって発話データの定量化が可能となり、バイオマーカー開発が進められている．その際に、疾患特異的な言語的特徴をNLPで抽出する手法や[4]、言語モデルの埋め込み表現を利用する方法がある[7]．1.1理論駆動型の精神疾患モデル精神疾患の発話には発話内容と発話形式があり、後者の異常は形式的思考障害（formalthoughtdisorder,FTD）として知られ[8]、統合失調症の重症度や予後に関わる主特徴の一つとされている[8]．脳基盤とFTDをリンクする仮説の一つに、脳のシナプス刈り込み(synapticelimination,synapsepruning)の異常がある[9]．Hoﬀmannら[10][11]は、脳の過剰なシナプス刈り込みとニューラルネットワークにおける刈り込み（Pruning）を対応づけた障害実験で上記仮説を検証した．文章や物語を学習させた再帰型ニューラルネットワークに刈り込みによる障害実験を実施し、単語の検出力の低下や統合失調症の幻聴[10]、統合失調症様の談話や妄想[11]をシミュレーションした．しかし、モデルの構造、学習データの長さと語彙量は小規模であった．Fradkinら[12]1）は、文脈に基づく単語予測を最適化することでよりヒトらしい文章を生成できるLLMを障害することでHoﬀmanらのデータ規模の課題を克服した．1）Fradkinら[12]はtemperatureに加えて、ヒトのNMDA受容体の低機能とLLMの限定的文脈メモリの減少とを結びつけシミュレートしている．.temperature（単語選択のランダム性を制御するパラメータ）を操作したLLMの出力テキストのThoughtandLanguageDisorder(TALD)[13]得点を比較したところ、temperatureの値が高いほどFTDの項目のうち「接線的談話」「脱線」などが顕著になった．さらに、学習済みの言語モデルで単語や文をベクトル化してそれらの余弦を比較したところ、temperatureの値が高いほどベクトル間の距離が大きくなり、接線的談話などの定量化が可能であることを示した．しかし、単語選択のランダム性は、過剰なシナプス結合の切断と関係している可能性を指摘されているものの[14]、Fradkinら[12]はシナプス刈り込みそのものをシミュレートしたわけではない．また、彼らは統合失調症の症状を主として扱ったが、シナプス刈り込みの異常は統合失調症に留まらず複数の精神疾患や、一般的な認知機能や記憶の異常との関係も指摘されている[9]．シナプス刈り込み異常とFTDの他項目や一般的な認知・言語機能との関係も詳細にモデルでシミュレートする余地がある．1.2本研究の内容本研究では、シナプス刈り込み異常によってFTDが生じるという仮説を、LLMの刈り込みに対応づけた障害実験によってシミュレートする．さらに、シナプス刈り込みとの関係が指摘されている単語選択のランダム性をLLMのtemperatureに対応づけた障害実験を行う．LLMに特定のプロンプトの続きの文章を生成させ、障害モデルの出力にFTDが現れるかどうか、臨床評価尺度とNLPによる定量分析で評価する．また、刈り込みやtemperature操作による障害がFTD特異的なものかどうか検討するために、一般的な知能検査や語用論障害に関わる言語課題による探索的実験を行う．LLMの構造や学習プロセスは人間の言語獲得とは対応しない[15]が、最近の研究ではモデルの出力や内部表現が人間の言語処理のいくつかの側面と類似することが示唆されている[16]．本研究は、精神疾患の思考障害やコミュニケーション特性の病態解明に理論的示唆を与えるはずである．