深層強化学習モデルの内部挙動の言語化を通じた制御手法の構築

近年，様々な場面で深層学習が用いられている．深層学習は人間よりも高い精度で認識や予測を行うことがある一方で，深層学習モデルの内部挙動はブラックボックスであることから用途によっては使用が制限される．そのため，構築したモデルの内部挙動を捉える手法として，説明可能AIの研究が盛んになっている．説明可能AIは高いレベルの精度を保ちつつ，より説明可能なモデルを作り出す機械学習手法の構築を目指している[1,2]．また，機械学習手法に対する説明性の評価なども検討されている[3]．説明手段のひとつとして，ニューラルネットワークからルールを抽出するDeepRED[4]などもある．そのような説明可能AIのひとつのアプローチとして，本研究では深層学習モデルの内部挙動が人間が理解できるように言葉で説明することを目指す．アプローチ方法として，深層学習モデルで得られた入出力関係をファジィモデリング[5]し，その関係をファジィ言語変数からなる規則で表現することにより，モデルの入出力の振る舞いを人間が把握しやすいようにする．本研究では入力が画像情報であるAtariのSpaceInvaders1）を制御タスクとして設定し，言語化された規則を用いて制御を行い，その制御精度を確認する．また，制御規則をそのまま出力するのではなく，解釈可能性が向上するように制御規則の要約も併せて行う．