を説明可能となる．SINNを構築するには，専門深層学習モデルは強力なモデルである一方，その用語に関する極性辞書をなニューラルネットワーブラックボックス性が故に説明責任を伴う場面ではクSentimentInteroratableNeuralNetworkModelを構築利用できない場合が多い．このような問題を解決する手法LexicalInitializationLearning(LEXIL)[2]やするアプローチの一つとして，解釈可能なニューJointSentimentPropagation学習[1]．本手法を利用すラルネットワークモデルの構築が考えられる．こることにより，センチメント分析の結果を各単語ののような背景のもと，本研究では「感情分類」のタオリジナルセンチメント，極性反転，及び大域的なスクを対象に，予測結果を説明可能かつその予測重要度に分解する形で説明可能なニューラルネット性能も高いニューラルネットワークの構築を目指ワークを構築することが可能となる．す．本目的達成のため，近年提案された，単語レベ本学習手法は対象タスクが感情分類であれば，一ルでのセンチメントに基づき予測結果を説明可能定の汎用性が見込まれる一方で，先行研究では比較ななニューラルネットワークSentimentInterpretable的層の浅いネットワークにしか適用できておらず，NeuralNetworkへ自己回帰型学習言語モデルを導入GPTを始めとする，近年提案されている大規模言語し，予測性能を解釈性を保ちつつ向上させることをモデルに適用できるかどうかは不明瞭である．ま試みる．景気ウォッチャー調査に関する日本語デーた，SINNではLSTM及びSelfAttentionを用いた文タを用いて本手法の性能を検討した結果，本研究に脈層により，極性反転，及び大域的な重要度をモデて提案されたアプローチを取ることで，説明性を担リングしており，結果，SelfAttentionの層が双方向保しつつもベースライン手法に比べ予測性能が高いの情報を活用しており，極性反転が右側の文脈からニューラルネットワークを構築することができた．起きるのか左側の文脈から起きるのかをLSTMの層にて捉えることができても，その強弱が左右どちら

の文脈から引き起こすのかについて観測することは深層学習モデルは強力なモデルである一方，その難しい．ブラックボックス性が故に説明責任を伴う場面ではこのような背景のもと，本研究では，SINNへ利用できない場合が多い．このような問題を解決す自己回帰型の学習済み大規模言語モデルを組み込るアプローチの一つとして，解釈可能なニューラルみ，JointSentimentPropagation学習を用いて自然なネットワークモデルの構築が考えられる．このよう形で学習させることで，(1)ニューラルネットワーな背景のもと，本研究では「感情分類」のタスクをクの予測性能向上，及び(2)各単語のセンチメント対象に，予測結果を説明可能かつその予測性能も高への影響をその前後で分離させ，可視化することいニューラルネットワークの構築を目指す．を試みる．学習済み大規模言語モデルを利用する解釈可能なニューラルネットワークの構築に関ことで性能の向上が期待され，また，自己回帰型する研究は近年，いくつか提案されているが，そのモデルを採用することで各単語のセンチメントの中でも最近提案された手法の一つが，Sentimentへの影響をその前後で分離させることができるこInteroratableNeuralNetwork(SINN)である．本ニューとが期待される．提案手法では，まず，学習済みラルネットワークを活用することで，図1のよう大規模言語モデルを使えるようにするためにSINN―2720―.[2]をLSTMベースからGPT-2[3]ベースへ切り替える．さらに，GlobalWord-LevelContext層にはGPT-2のDecoder層のAttentionをそのまま活用し，GlobalWord-LevelContext層の計算時には前の情報しか利用できない形にする．このようなモデルの構造を採用することで，各単語のセンチメントへの影響をその前後で分離されることが期待する．景気ウォッチャー調査に関する日本語データを用いて本手法の性能を検討した結果，本研究にて提案されたアプローチを取ることで，説明性をある程度担保しつつも従来手法に比べ予測性能が高いニューラルネットワークモデルを構築できることを検証できた．その一方で，提案手法では極性反転は捉えきれないといった課題も見えた．