言語構造に制約されない大規模言語モデルの知識編集

性能向上には有効だが、計算リソースの消費やデー大規模言語モデル（LLM）は広範な知識と高度なタセットに対する過剰適応などの課題があり，特定推論能力とを兼ね備えているが，内部処理過程がブの知識を編集するのに限界がある．RAGは，プロンラックボックス化されているため，LLM自身が持プトに情報を加えるため学習を必要としない手法でつ特定の知識を編集することが難しいという問題あるが，推論時に検索用の追加リソースが必要であがある．これを解決するため，編集対象である知識り，プロンプトが長くなると情報が無視されるようがエンコードされているニューロンを特定し，このになるため，追加できる情報量に限界があるなどのニューロンに関わる重みを調整することによって実課題がある．こうしたことを背景にして，現在，知現するという，局所変更ベースの知識編集手法が提識編集（KnowledgeEditing）[13]という技術が注目案されている．しかしながら，この手法も，処理対されている．象となる言語の持つ言語構造に強く依存するという知識編集は，主に外部記憶ベースの手法（External問題がある．そこで本研究では，言語構造に制約さMemorization-basedmethods），全体最適化ベースのれずに知識編集に有効なニューロン（知識ニューロ手法（GlobalOptimization-basedmethods），局所変更ン）を特定する手法を提案する．英語と日本語といベースの手法（LocalModiﬁcation-basedmethods）にう言語構造の異なる言語の文に対して提案手法を適大別される．外部記憶ベースの手法は，新しい知識用し，知識編集が可能であることを検証し，提案手を外部のメモリに格納し，元のモデルパラメータ法の有効性を確認した．を変更せずに知識を編集する手法[14,15,16]であり，追加したモデルパラメータに新しい知識を格納