本研究は説明可能AIのひとつのアプローチとして，入力が画像である制御タスクに対し学習済みモデルの入出力関係から制御規則を生成し，これを言語化することで学習済みモデルの内部挙動を説明することを目指す．言語化された制御規則を用いて対象が制御可能であることを示すとともに，言語で記述された制御モデル内部の振る舞いに対する解釈可能性の向上を実現した．制御対象として，Spaceinvadersを取り上げ実験を行なった結果，本研究の手法で構築された制御器は，学習済みモデルと同等のレベルのframe数までプレイヤーが生存し，報酬は学習済みモデルと比較すると低いものの，複数の敵を倒して報酬の獲得に成功した．

近年，様々な場面で深層学習が用いられている．深層学習は人間よりも高い精度で認識や予測を行うことがある一方で，深層学習モデルの内部挙動はブラックボックスであることから用途によっては使用が制限される．そのため，構築したモデルの内部挙動を捉える手法として，説明可能AIの研究が盛んになっている．説明可能AIは高いレベルの精度を保ちつつ，より説明可能なモデルを作り出す機械学習手法の構築を目指している[1,2]．また，機械学習手法に対する説明性の評価なども検討されている[3]．説明手段のひとつとして，ニューラルネットワークからルールを抽出するDeepRED[4]などもある．そのような説明可能AIのひとつのアプローチとして，本研究では深層学習モデルの内部挙動が人間が理解できるように言葉で説明することを目指す．アプローチ方法として，深層学習モデルで得られた入出力関係をファジィモデリング[5]し，その関係をファジィ言語変数からなる規則で表現することにより，モデルの入出力の振る舞いを人間が把握しやすいようにする．本研究では入力が画像情報であるAtariのSpaceInvaders1）を制御タスクとして設定し，言語化された規則を用いて制御を行い，その制御精度を確認する．また，制御規則をそのまま出力するのではなく，解釈可能性が向上するように制御規則の要約も併せて行う．