大規模言語モデルによる自己説明の忠実性は改善するか？

大規模言語モデルによる自己説明は，ブラックボックスなモデルの挙動を解釈可能な表現に変換することが期待できる．しかし近年，自己説明が必ずしもモデルの挙動を忠実に反映しておらず、自己説明と実際の挙動が矛盾しうることが明らかになっている．本研究では，入力文中で予測に最も影響を与える語を特定し，これを教師信号として継続学習することによって，自己説明の忠実性が改善するかを検証する．実験により，複数の分類タスクおよび説明様式の条件下で継続学習の有効性を検証し，とくに未学習の分類タスクおよび説明様式においても忠実性が改善することを確認した．