説明可能なAI
CAMはClass Activation Mappingの略で、畳み込みニューラルネットワークを用いた画像識別の判断理由を説明するための技術。ネットワークアーキテクチャの制限を克服したGrand-CAMも存在しており、Grand-CAMはGAPを使用しない分類モデルにも適用できる。
XAIはAIを何らかの観点から理解し説明していくということを目的とした技術であり、論文や文献による異なる言い回し、手法の違いなどによる多数の類型用語が存在しており、代表的な表現としてUnderstandabillity(わかりやすさ)、Intelligibillity(明瞭度)、Predictabillity(予測可能性)、Trustworthiness(信用性)、Reliabillity(確実性)、Transparent AI(透明性のあるAI)、Interpretable AI(解釈可能なAI)、Explainable AI(説明可能なAI)、Accountable AI(説明責任のあるAI)、Fair AI(公正なAI)、Explainable Machine Learning(説明可能な機械学習)などが挙げられる。