自然言語での異常解釈：LLMを用いたAI説明モデルの提案

近年、深層学習技術の進展に伴い、画像認識における異常検知の精度は飛躍的に向上している．特に製造業や医療分野において、製品の欠陥検出や病変の早期発見など、様々な応用が期待されている[1,2]．しかし、異常は一般的に稀な事象であるため、正常データに比べて異常データの収集に課題がある．また、異常のパターンは多様で、明確に定義することが難しく、各異常はそれぞれ異なる特徴を持つため、一貫して検出するためのモデル設計も困難なものとなっている．さらに、ラベリングが複雑で誤りが発生しやすく、アノテーションコストが高いことも課題となっている．このため、異常検知の精度向上に向けた多方面での研究が引き続き行われている[3]．また、既存の深層学習モデルはブラックボックスであることが多く、異常と判断した根拠を人間が理解することが困難なケースもあった．このため、AIの判断に対する信頼性の担保や、さらなる性能向上のために、AIの意思決定プロセスを説明可能なものにするExplainableAI(XAI、説明可能なAI)技術[4,5,6]が注目されているが、XAIの手法で生成される説明がデータ分析に長けた専門家でないと解釈が難しい場合や、説明が多すぎて重要な情報が埋もれてしまったり、逆に説明が限定的で詳細に欠けることがあり、適切な情報量のバランスを取ることが難しいといった課題がある．一方で、近年のLLMの発展はXAIの可能性も大幅にひろがっている．例えば、画像キャプション生成タスク[7]のように、画像に対する異常検知結果をLLMの入力として説明文を生成することで、画像内の異常の理由を人間が理解しやすく自然な言葉で説明することが可能となる．さらには、異常検知結果が誤っていた場合にもその間違いを正すことで異常検知精度の向上や、異常の種類や発生箇所から発生要因をフィードバックすることで異常検知後の作業の優先順位なども指示することが期待できる．本研究では、画像に対する異常検知結果をLLMへのインプットとすることで説明性を付与する言語駆動型説明可能AI（Language-DrivenXAI）を提案する．各種画像に対する異常検知結果（２値分類、クラス分類、セグメンテーション、物体検知）に対してキャプション生成を行い、正確性や詳細度、異常のバリエーションに対するキャプションの柔軟性などの評価を行う．