言語モデルからの知識削除：頻出実体の知識は副作用が破滅的

言語モデル（LM）は学習を通じて内部に知識を獲得できるが，学習データに含まれる個人情報や機密情報によりプライバシーに関する課題が生じる．そのため，LMの知識削除に関する研究が活発に行われているが，LMに学習させる知識の構造を考慮した分析は十分に行われていない．本研究では，知識構造に着目してLMに対する知識削除の影響を分析し，頻出実体に関する知識の削除は大きな副作用を伴い破滅的であることを明らかにした．また，制御された知識構造で学習したモデルを使用して知識削除を分析した初めての研究であり，人工的な知識グラフを用いた知識削除に関する分析の新たな方向性を示した．