大規模言語モデルによって構築された常識知識グラフの拡大と低コストフィルタリング

計算機による言語理解を実現するためには,人間がもっているような常識が必要である[1,2].そこで,常識を知識グラフ化する試みがなされてきた.構築されたグラフは,常識知識グラフ(CommonSenseKnowledgeGraph,CSKG)と呼ばれ,その構築は人手によるもの[3,4,5]のみならず,GPT-3などの大規模言語モデル(LargeLanguageModel,LLM)によって行われることもある[6,7].また,CSKGで言語モデルをﬁne-tuningした常識モデルは,LLMよりも高い精度で常識を生成することができる[6,8].LLMによってCSKGを構築する場合,計算機による生成であるため規模を大きくすることができる代わりに,人手による構築と比較して精度は下がる.そこで,LLMによって構築されたCSKGに対して分類モデルによるフィルタリングを行うことで,規模と精度の双方を高い水準に保つ手法が提案された[6].しかし,この分類モデルの訓練データは,生成されクラウドソーシングGPT-2Fine-tuneフィルタリングLLMFew-shots常識知識モデル⼩規模知識グラフ⼤規模知識グラフフィルタモデルRoBERTaFine-tuneたCSKGの一部に対して人手アノテーションで作成されるためコストが高い.一方で,常識とされる知識は言語や文化圏によって異なることがあり,単なる翻訳ではなく言語ごとに構築されることが望ましい.各言語でCSKGを個別に構築する場合,低コストなフィルタモデルを作成することに需要がある.本論文では,大規模で高精度なCSKGを低コストで構築することを目的とする.まず日本語CSKG[7]の拡大のための分析を行い,さらなる拡大が可能であることを示す.大規模になるに従って適切ではない推論の絶対数も増えると考えられる.そこで,人手アノテーションを用いないCSKGのフィルタリングの手法を提案する.既存手法と比較して低コストでありながら有効なフィルタを構築した.また,構築したCSKGをもとに常識モデルの検証も行う.