説明可能な検索ベースの文書分類手法の提案

自然言語処理のタスクに文書分類がある．文書分類とは，与えられた文書に対して事前に定義されたラベル群から適切なラベルを推定するタスクのことである．文書分類を自動化するための技術は実社会でも広く活用されており，その社会実装に対するニーズも相まり，近年文書分類のためのニューラルネットワーク(NN)モデルが盛んに研究されている．他方で，NNモデルの推論機構はブラックボックス化されており，結果に対する判断根拠の不透明さが社会実装を妨げる課題となっている．このような不透明性を軽減するための一連の技術が，説明可能AI(XAI)という研究トピックを形成している．説明可能AIの一分野として，事例ベースXAIと呼ばれるものがある[1,2,3]．事例ベースXAIとは，評価データに対するNNモデルの予測において，その予測に最も影響を与えたであろう訓練事例を探ることで，予測における判断根拠を説明しようとするアプローチである．本研究では，分類に有効な文書を訓練事例や外部の知識コーパスから検索して利用する，検索ベースの文書分類手法を新たに提案する．提案手法は，分類に利用した文書を出力することにより分類の根拠に説明可能性を与える．この検索ベースの手法は，訓練事例や外部の知識コーパスを直接参照することで文書分類の性能向上を図る手法であり，事例ベースXAIとは訓練事例の扱い方が異なるものの，文書分類の根拠が説明可能であるという点で類似するアプローチであるといえる．提案するNNモデルはRetrieverとClassiﬁerの2つのネットワークより構成される．Retrieverは分類対象の文書に対して知識コーパス（以降では，検索対象の文書を総称して知識コーパスと呼ぶ）からその分類に有意な文書を検索・抽出し，Classiﬁerは分類対象の文書と抽出した文書を用いて分類を行う．この新たに提案する検索ベースの文書分類モデルを検索ベース分類器(Retrieval-basedClassiﬁer)と呼ぶ．本論文では，ニュース記事の分類タスクのデータセットであるAGNewsデータセットを用いて学習・推論を行い，(i)分類精度と(ii)説明可能性という2つの側面から，提案手法の有効性を検証する．実験の結果，知識コーパスを利用しない既存の大規模言語モデルと比べて，知識コーパスの検索結果を利用することによって精度が向上することを確認した．また，モデルが分類根拠として示す文書と分類対象の文書の文間類似度と，人手評価との間にも有意な相関を確認することができた．