説明可能なAI
XAIでは説明範囲の違いやその目的によってAIの説明を2つに分類しており、個々の入力データに対する出力という、個別具体的な予測結果に対する説明を局所説明、指定したAIモデルの全般的な振る舞い(特徴)に対する説明を大局説明と定義している。局所説明としては、特徴量を使った説明(例として、画像データを用いて画像検索を行う際の予測を決定づける画像領域を可視化するなど)、判断ルールによる説明、AIの学習に用いたデータを使った説明などがある。