XAI（Explainable AI：説明可能な人工知能）とは

# XAI（説明可能なAI）とは？

## 1. はじめに
現代のAI技術は非常に強力で、画像認識や自動運転車、医療診断など、さまざまな分野で活躍しています。しかし、これらのAIシステムは「ブラックボックス」と呼ばれ、どうしてその結果を出したのかが理解できないことがあります。XAI（説明可能なAI）は、この「ブラックボックス」を解消し、AIの意思決定プロセスを人間が理解できるようにする技術です。本記事では、XAIの基本概念とその重要性について学んだことを記載します。

引用：https://x.com/u874072e/status/1417439643067318272
この絵が一番しっくり来たので引用させていただきました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2338070/e48f1602-5707-9c77-bea4-96ada0cd7d6b.png)

## 2. なぜXAIが重要なのか？
### 2.1 AIのブラックボックス問題
AIの多くは、非常に複雑な計算を行っていますが、その計算過程が人間には理解しづらいことが多いです。たとえば、AIが画像を分析して「この画像には猫が写っている」と判断した場合、どうしてその結論に至ったのかを人間が理解するのは難しいことがあります。

### 2.2 AIの意思決定に対する信頼性
ブラックボックスのAIでは、その決定が正しいのか、あるいは誤った判断をしているのかを確認することができません。XAIは、AIがどのように判断したのかを示すことで、その信頼性を高めます。これにより、AIの出した結果に対する人々の信頼を得ることができます。

### 2.3 法的・倫理的な問題
AIの判断がどのように下されたかがわからない場合、その結果に対して責任を追及することが難しくなります。特に自動運転車や医療診断のような重要な分野では、AIの判断に透明性が求められます。XAIはこの問題を解決する手助けとなります。

## 3. XAIの仕組み
### 3.1 「ブラックボックス」を開ける方法
XAIの目標は、AIの意思決定のプロセスを人間が理解できる形で説明することです。これにはいくつかのアプローチがあります。

#### 3.1.1 モデルの簡素化
AIが行う計算が非常に複雑である場合、複雑なモデルを使うことがあります。XAIでは、これを簡素化して、直感的に理解しやすいモデルに変換する手法があります。例えば、線形回帰や決定木といったシンプルなモデルを使うことで、どの要素が結果に影響を与えたのかを明示することができます。

#### 3.1.2 解釈可能な特徴量
AIがどの特徴量（入力データ）に注目しているのかを示すことで、その判断がどのように下されたのかを説明します。たとえば、医療診断AIが「この病気の可能性が高い」と判断する際、どの検査結果や症状が決め手となったのかを明確にすることができます。

#### 3.1.3 説明生成モデル
モデルの内部でどのように情報が処理されているのかを可視化し、意思決定のプロセスを示す方法もあります。たとえば、ニューラルネットワークにおいて、どの層がどの特徴を学習しているのかを視覚的に示すことができます。

#### 3.1.4 SHAP(SHapley Additive exPlanations)
SHAPはSHapley Additive exPlanationsの略であり、ゲーム理論で有名なシャープレイ値に端を発する評価方法です。
シャープリー値は、複数のプレイヤー（特徴量）が協力してゲーム（予測）を行うとき、それぞれのプレイヤーがどれだけ貢献したかを公平に分ける方法です。AIの場合、各特徴量を「プレイヤー」として見立て、予測に対する各特徴量の影響を公平に分けるのがSHAPの目標です。

##### SHAPの特徴
特徴量の貢献度を明示化: SHAPは、各特徴量がどれだけ予測に影響を与えたのかを数値化します。これにより、AIが出した予測結果が「どの特徴量に基づいているのか」をわかりやすくします。

##### SHAPの主な可視化方法
SHAPを使った解釈は、通常以下のような可視化方法を使います：

Summary Plot（サマリープロット）: 特徴量ごとの重要度を示し、どの特徴量が予測に最も影響を与えているかを一目でわかるようにします。また、特徴量の影響度（SHAP値）の分布も表示します。


Force Plot（フォースプロット）: 特定の予測に対して、各特徴量がどれだけ予測結果に影響を与えたかを可視化します。これにより、個別の予測がどのようにして出されたのか、どの特徴量が結果を押し上げ、どれが結果を引き下げたかを示します。

Dependence Plot（依存プロット）: 特定の特徴量がどのように予測結果に影響を与えるかを、他の特徴量と組み合わせて可視化します。これにより、特徴量同士の相互作用も理解できます。


## 4. XAIの活用事例
XAIはさまざまな分野で活用されています。いくつかの具体例を紹介します。

### 4.1 自動運転車
自動運転車が周囲の状況を判断する際、XAIを用いて「なぜこの車両が停止したのか」や「なぜ交差点で曲がったのか」を説明することが可能です。これにより、運転者や交通管理者がAIの判断を理解し、必要に応じて改善点を見つけることができます。

### 4.2 医療分野
医療分野では、XAIが患者の診断結果を解釈する際に重要です。AIが「この患者には糖尿病のリスクがある」と診断した場合、その根拠となる血糖値や過去の病歴など、どのデータが影響を与えたかを医師が確認できることで、診断結果の信頼性が向上します。

### 4.3 金融分野
金融機関がローン審査を行う際、XAIを用いて「なぜこの申請が却下されたのか」を明示することができます。顧客はAIの判断基準を理解し、必要に応じて改善策を講じることができるようになります。

## 5. XAIの課題と今後の展望
### 5.1 説明の精度と人間の理解
AIの説明が十分に簡潔で理解しやすいものである必要があります。しかし、複雑なAIシステムに対する説明は難しく、完全に理解できる形で説明することが常に可能ではないという課題があります。

### 5.2 説明と性能のトレードオフ
シンプルなモデルは解釈しやすいですが、必ずしも最適な性能を発揮するわけではありません。逆に、最先端の深層学習モデルなどは非常に高い性能を持つ一方で、その結果を解釈するのが難しいという問題があります。XAIでは、このバランスを取ることが求められます。

## 6. まとめ
XAI（説明可能なAI）は、AIがどのようにして決定を下したのかを理解できるようにする技術です。AIの結果に対する透明性を高めることで、信頼性を向上させ、さまざまな分野での応用が進んでいます。今後、AIの複雑さと性能を維持しつつ、よりわかりやすい説明を提供するための技術が進化していくことが期待されます。

## 参考文献
[1] XAI(説明可能なAI) その時人工知能はどう考えたのか?, 大坪直樹ほか, リックテレコム

## おわりに
気がついたら年末ですね。
今年はAI一色でしたが、来年はAIに振り回されず、本当に役に立つ使い方を見極めていきたいですね。

:::note
**最後に宣伝です。**

Supershipではプロダクト開発やサービス開発に関わる人を絶賛募集しております。
ご興味がある方は以下リンクよりご確認ください。
[Supership 採用サイト](https://supership.jp/recruit/)
是非ともよろしくお願いします。
:::