XAIにおける忠実性評価手法の考察

近年、深層学習を中心に人工知能技術の発展が著しい。しかしこの発展を支える深層学習の手法の多くは、内部の挙動が人間に理解できない複雑な数値計算により成立している。予測結果の理由が理解できないため，いくら正確な予測をしても利用者の信頼を得られず、高い信頼性を重要視する諸分野（金融・医療）における発展の妨げになりうる。この問題を解消するために、モデル内部や予測の挙動を説明することのできる説明可能なAI(XAI)に関する研究が盛んに行われている。その中でもモデルの出力毎に事後的な説明を生成する手法はFeatureAttributionと呼ばれる[1,2,3,4,5]。代表的な例としてLocalInterpretableModel-agnosticExplanations(LIME)[1]がある。LIMEはモデルの出力が行われたのちに、入力の近傍で局所的に線形近似することで説明を生成する。FeatureAttributionによって生成された説明がモデルを正確に説明することができているかを表す指標が忠実性である。この忠実性がXAIの性能を測る代表的な指標の一つとなっており、忠実性評価について盛んに議論が行われている[6,7]。実際に自然言語処理分野における代表的な会議であるACL、NAACL、EMNLPの論文を2020-2022年分調査した結果、説明を評価する際に忠実性が最も重要視されていることがわかった。しかしながら、この忠実性評価には、忠実性を評価する指標が複数存在し、どの指標を使用すれば良いのかの同意が取れていないという大きな課題がある。そこで本稿では、異なる指標の評価結果間の相関を計算することで、評価手法間の関係性を分析する。その結果、忠実性という1つの軸で論じられている評価手法にも関わらず、結果に相関のない評価手法の組み合わせが存在することがわかった。ゆえに、実験結果から複数の評価手法を使用して忠実性を多角的に評価する必要があると結論づけた。本稿が説明の忠実性を評価する際、どの指標を用いて評価すればいいのかを選択する一助となり、忠実性の正しい評価へとつながることを期待する。