長・短期記憶
長・短期記憶(ちょう・たんききおく、Long short-term memory、略称: LSTM)は、深層学習(ディープラーニング)の分野において用いられる人工回帰型ニューラルネットワーク(RNN)アーキテクチャである。標準的な順伝播型ニューラルネットワークとは異なり、LSTMは自身を「汎用計算機」(すなわち、チューリングマシンが計算可能なことを何でも計算できる)にするフィードバック結合を有する。LSTMは(画像といった)単一のデータ点だけでなく、(音声あるいは動画といった)全データ配列を処理できる。例えば、LSTMは分割されていない、つながった手書き文字認識や音声認識といった課題に適用可能である。ブルームバーグ ビジネスウィーク誌は「これらの力がLSTMを、病気の予測から作曲まで全てに使われる、ほぼ間違いなく最も商業的なAIの成果としている」と書いた。
一般的なLSTMユニットは、記憶セル、入力ゲート、出力ゲート、および忘却ゲートから構成される。記憶セルは任意の時間間隔にわたって値を記憶し、3つの「ゲート」は記憶セルを出入りする情報の流れを制御する。
LSTMネットワークは時系列データに基づく分類、電子データ処理、予測によく適している。これは、LSTMネットワークが時系列中の重要な事象間の未知の期間の時間差となることができるためである。LSTMは、従来のRNNを訓練する際に遭遇しうる勾配爆発および消失問題に対処するために開発された。ギャップの長さに対する相対的な鈍感さが、多数の応用におけるRNNや隠れマルコフモデル、その他の系列学習法に対するLSTMの優位性であるOctober 2017。
LSTMは1997年にゼップ・ホッフライターとユルゲン・シュミットフーバーによって提唱された。Constant Error Carousel(定誤差カルーセル、CEC)ユニットの導入によって、LSTMは勾配爆発および消失問題を解決しようとする。LSTMブロックの最初の型はセル、入力ゲート、および出力ゲートを含んでいた。
1999年、フェリックス・ゲルスと彼のアドバイザーのユルゲン・シュミットフーバーとFred CumminsはLSTMアーキテクチャへ忘却ゲート(「保持ゲート」とも)を導入した。これはLSTMが自身の状態をリセットすることを可能にする。2000年、 ゲルス、シュミットフーバー、CumminsはLSTMアーキテクチャへ覗き穴(peehole)結合(セルからゲートへの結合)を追加した。加えて、出力活性化関数は削除された。
2014年、Kyunghyun Cho(조 경현)らはゲート付き回帰型ユニット(Gated recurrent unit、GRU)と呼ばれる単純化した変異型を提案した 。
その他の成功の中で、LSTMは自然言語テキスト圧縮と分割されていないつながった手書き文字認識で新記録を達成し、文書画像の解析・認識に関する国際会議手書き文字認識大会(2009年)で優勝した。LSTMネットワークは2013年に、古典的な TIMIT自然音声データセットで新記録となる音素誤り率17.7%を達成したネットワークの主要な構成要素であった。
2016年時点で、Google、Apple、マイクロソフトを含む主要なテクノロジー企業は新製品の基本要素としてLSTMを使用していた。例えば、Googleはスマートフォン上での音声認識、スマートアシスタントAllo、およびGoogle翻訳のためにLSTMを使用した。AppleはiPhone上の「Quicktype」機能、SiriのためにLSTMを使用する。AmazonはAmazon AlexaのためにLSTMを使用する。
2017年、FacebookはLSTMネットワークを使用して毎日45億回の自動翻訳を実行した。
2017年、ミシガン州立大学、IBM基礎研究所、コーネル大学の研究者らは、Knowledge Discovery and Data Mining(KDD)会議において研究発表を行った。彼らの研究は、広く使われるLSTMニューラルネットワークよりも特定のデータセットに対して優れた性能を示す新規ニューラルネットワークに関するものである。
さらに2017年、マイクロソフトは16万5千語の語彙を含むSwitchboardコーパスにおいて95.1%の認識精度に達したと報告した。この手法は「対話セッションに基づく長・短期記憶」を使用した。
理論的には、古典的な(バニラな)RNNは入力配列における任意の長期依存性を追跡できる。バニラRNNの問題は本質的に計算的(あるいは実務的な)なものである。誤差逆伝播法を使ってバニラRNNを訓練する時、逆伝播される勾配は「消失」(すなわち勾配がゼロに収束する)あるいは「爆発」(すなわち無限に発散する)しうる。これは、計算が丸め誤差を用いる過程を含むためである。LSTMユニットを用いるRNNは、LSTMユニットが勾配を「不変」のまま流れることも可能とするため、勾配消失問題を部分的に解決する。しかしながら、LSTMネットワークは勾配爆発問題にはまだ悩まされうる。
複数のLSTMユニットのアーキテクチャが存在する。一般的なアーキテクチャは、セル(LSTMユニットの記憶部分)と大抵ゲートと呼ばれるLSTMユニット内部の情報の流れの3つの「調整器」(入力ゲート、出力ゲート、忘却ゲート)から構成される。LSTMユニットの一部の変異型はこれらのゲートの1つ以上を持たない、あるいは別のゲートを持つこともある。例えばゲート付き回帰型ユニット(GRU)は出力ゲートを持たない。
直感的には、「セル」は入力配列中の要素間の依存性を追跡するために必要である。「入力ゲート」はセルへの新たな値の流れの度合いを制御し、「忘却ゲート」はセル中に値が留まる度合いを制御し、「出力ゲート」はセル中の値がLSTMユニットの出力活性化を計算するために使われる度合いを制御する。LSTM「ゲート」の活性化関数にはロジスティック関数が使われることが多い。
LSTMゲートへの、そしてLSTMからの結合が存在し、そのうちいくつかは回帰結合(リカレント)している。訓練中に学習される必要があるこれらの結合の重みが、ゲートがどのように動作するかを決定する。
以下の方程式において、小文字の変数はベクトルを表わす。行列W_qおよびU_qはそれぞれ入力および回帰結合の重みを含み、添字_qは、計算される活性化に依存して、入力ゲートi、出力ゲートo、忘却ゲートf、または記憶セルcになりうる。この節では、ゆえに「ベクトル表記」を使用する。そのため、例えば、c_t \in \mathbb{R}^{h}は単に1つのLSTMユニットの1つのセルではなく、h個のLSTMユニットのセルを含む。演算子\circはアダマール積(要素ごとの積)を示す。
忘却ゲートを持つLSTMユニットの順方向通路のための方程式のコンパクト形は以下の通りである。
\begin{align}
f_t &= \sigma_g(W_{f} x_t + U_{f} h_{t-1} + b_f) \\
i_t &= \sigma_g(W_{i} x_t + U_{i} h_{t-1} + b_i) \\
o_t &= \sigma_g(W_{o} x_t + U_{o} h_{t-1} + b_o) \\
c_t &= f_t \circ c_{t-1} + i_t \circ \sigma_c(W_{c} x_t + U_{c} h_{t-1} + b_c) \\
h_t &= o_t \circ \sigma_h(c_t)
\end{align}
上式において、初期値はc_0 = 0およびh_0 = 0、を示す。添字tは時間ステップにインデックスを付ける。
x_t \in \mathbb{R}^{d}: LSTMユニットへの入力ベクトル
f_t \in \mathbb{R}^{h}: 忘却ゲートの活性化ベクトル
i_t \in \mathbb{R}^{h}: 入力ゲートの活性化ベクトル
o_t \in \mathbb{R}^{h}: 出力ゲートの活性化ベクトル
h_t \in \mathbb{R}^{h}: LSTMユニットの出力ゲートとも呼ばれる隠れ状態ベクトル
c_t \in \mathbb{R}^{h}: セル状態ベクトル
W \in \mathbb{R}^{h \times d}、U \in \mathbb{R}^{h \times h} 、b \in \mathbb{R}^{h}: 訓練中に学習される必要がある重み行列およびバイアスベクトルのパラメータ
上付き文字dおよびhはそれぞれ入力要素の数および隠れユニットの数を示す。
\sigma_g: シグモイド関数
\sigma_c: 双曲線正接関数
\sigma_h: 双曲線正接関数または、覗き穴LSTMの論文が提案しているように\sigma_h(x) = x
\begin{align}
(f_t^T, i_t^T, o_t^T, ci_t^T)^T &= \sigma(W x_t + U h_{t-1} + b) \\
c_t &= f_t \circ c_{t-1} + i_t \circ ci_t \\
h_t &= o_t \circ \sigma_h(c_t)
\end{align}
となる。この式から c_{t-1} が直接回帰し、h_{t-1}がゲート・セルを通じて回帰していることがわかる。また入力と重みの積は時間を跨いで回帰無しに計算できることがわかる( WX = W \bigl( \begin{smallmatrix} x_0 & x_1 & ... & x_n \end{smallmatrix} \bigr) で一括計算が可能)。
右図は覗き穴結合を持つLSTMユニット(すなわち覗き穴LSTM)の図式的な表現である。覗き穴結合によって、ゲートが定誤差カルーセル(CEC。その活性化がセル状態である)へアクセスすることが可能となる。h_{t-1}は使われず、ほんどの場所でc_{t-1}が代わりに使われる。
\begin{align}
f_t &= \sigma_g(W_{f} x_t + U_{f} c_{t-1} + b_f) \\
i_t &= \sigma_g(W_{i} x_t + U_{i} c_{t-1} + b_i) \\
o_t &= \sigma_g(W_{o} x_t + U_{o} c_{t-1} + b_o) \\
c_t &= f_t \circ c_{t-1} + i_t \circ \sigma_c(W_{c} x_t + U_{c} c_{t-1} + b_c) \\
h_t &= o_t \circ \sigma_h(c_t)
\end{align}
覗き穴畳み込みLSTM。*は畳み込み演算子を示す。
\begin{align}
f_t &= \sigma_g(W_{f} * x_t + U_{f} * h_{t-1} + V_{f} \circ c_{t-1} + b_f) \\
i_t &= \sigma_g(W_{i} * x_t + U_{i} * h_{t-1} + V_{i} \circ c_{t-1} + b_i) \\
o_t &= \sigma_g(W_{o} * x_t + U_{o} * h_{t-1} + V_{o} \circ c_{t} + b_o) \\
c_t &= f_t \circ c_{t-1} + i_t \circ \sigma_c(W_{c} * x_t + U_{c} * h_{t-1} + b_c) \\
h_t &= o_t \circ \sigma_h(c_t)
\end{align}
LSTMを用いるRNNは、一連の訓練において、教師あり学習のやり方で訓練できる。訓練では、最適化プロセス中で必要な勾配を計算するための通時的誤差逆伝播法(Backpropagation through time、BPTT)と組み合わせて最急降下法のような最適化アルゴリズムを使って、(LSTMネットワークの出力層における)誤差の微分に比例してLSTMネットワークの個々の重みを変化させる。
標準的なRNNに対して最急降下法を使用することの問題点は、誤差勾配が重要な事象間の時間のずれの大きさにしたがって指数関数的にすばやく消失することである。これは、Wのスペクトル半径が1よりも小さいと\lim_{n \to \infty}W^n = 0となるためである。
しかしながら、LSTMユニットを使うと、誤差値が出力層から逆伝播される時、誤差はLSTMユニットのセル内に留まる。この「誤差カルーセル」はLSTMユニットのゲートが値のカットオフを学習するまで、個々のゲートへ誤差を絶えずフィードバックする。
多くの応用がLSTM RNNのスタックを使用し、訓練セット中のラベル配列の確率を最大化する重み行列を探すために、それらをコネクショニスト時系列分類(CTC)によって訓練する。CTCはアラインメントと認識の両方を達成する。
特に「教師」(すなわち訓練ラベル)が存在しない時は、Neuroevolutionまたは⽅策勾配法によってLSTM(の一部)を訓練するのが有利なことがありうる。
LSTMユニットを持つRNNを教師なしで訓練した複数の成功例がある。
2018年、ビル・ゲイツは、OpenAIによって開発されたボットがゲームDota 2で人間を破ることができた時、これを「人工知能の進歩における巨大な一里塚」と呼んだ。OpenAI Fiveは5つの独立した、しかし協調したニューラルネットワークから成る。個々のネットワークは教師なしで方策勾配法によって訓練され、現在のゲーム状態を見て、複数の可能な動作から動作を出す単層の1024ユニットLSTMを含む 。
2018年、OpenAIはかつてないほどの器用さで物体を巧みに扱う人間のようなロボットハンドを制御するために方策勾配法によって同様のLSTMを訓練した。
2019年、DeepMindのプログラムAlphaStarは複雑なビデオゲームスタークラフトに秀でるためにディープなLSTMコアを使用した。これは、人工汎用知能へ向けた重要な前進と見なされた。
単純RNNと比較してより長い系列の情報を保持する能力を持つ。一方、長期記憶を評価するCopyingタスクでは系列長200以上での学習に失敗することが知られている。
LSTMの応用には以下の事柄が含まれる。