言語モデルにおける知識の連鎖的編集を促すメタ学習手法

大規模言語モデルの知識編集は，現実世界で頻繁に変化する事実をモデルに反映させる上で重要な課題である．しかし，既存の知識編集手法は，編集対象の知識を修正できる一方で，その修正が論理的に関連する知識へ十分に伝播しない．本研究では，関連知識への伝播を実現する知識編集アルゴリズムを設計するのではなく，知識編集を適用するモデルに着目し，「新知識の学習が関連知識の学習を伴う」ような内部表現を獲得することを目的とするメタ学習手法を提案する．実験の結果，提案手法により得られたモデルは，新知識のみを用いた単純な勾配降下による学習であっても，関連知識まで編集が伝播しやすいことが示された．