深層強化学習モデルの内部挙動の言語化を通じた制御手法の構築

本研究は説明可能AIのひとつのアプローチとして，入力が画像である制御タスクに対し学習済みモデルの入出力関係から制御規則を生成し，これを言語化することで学習済みモデルの内部挙動を説明することを目指す．言語化された制御規則を用いて対象が制御可能であることを示すとともに，言語で記述された制御モデル内部の振る舞いに対する解釈可能性の向上を実現した．制御対象として，Spaceinvadersを取り上げ実験を行なった結果，本研究の手法で構築された制御器は，学習済みモデルと同等のレベルのframe数までプレイヤーが生存し，報酬は学習済みモデルと比較すると低いものの，複数の敵を倒して報酬の獲得に成功した．