長・短期記憶

長・短期記憶（ちょう・たんききおく、、略称: LSTM）は、深層学習（ディープラーニング）の分野において用いられる人工回帰型ニューラルネットワーク（RNN）アーキテクチャである。標準的なとは異なり、LSTMは自身を「汎用計算機」（すなわち、チューリングマシンが計算可能なことを何でも計算できる）にするフィードバック結合を有する。LSTMは（画像といった）単一のデータ点だけでなく、（音声あるいは動画といった）全データ配列を処理できる。例えば、LSTMは分割されていない、つながった手書き文字認識や音声認識といった課題に適用可能である。ブルームバーグ ビジネスウィーク誌は「これらの力がLSTMを、病気の予測から作曲まで全てに使われる、ほぼ間違いなく最も商業的なAIの成果としている」と書いた。
一般的なLSTMユニットは、記憶セル、入力ゲート、出力ゲート、および忘却ゲートから構成される。記憶セルは任意の時間間隔にわたって値を記憶し、3つの「ゲート」は記憶セルを出入りする情報の流れを制御する。
LSTMネットワークは時系列データに基づく分類、、予測によく適している。これは、LSTMネットワークが時系列中の重要な事象間の未知の期間の時間差となることができるためである。LSTMは、従来のRNNを訓練する際に遭遇しうる勾配爆発および消失問題に対処するために開発された。ギャップの長さに対する相対的な鈍感さが、多数の応用におけるRNNや隠れマルコフモデル、その他の系列学習法に対するLSTMの優位性である。
LSTMは2010年代まで主流の地位にあったが、2017年以降は更に高性能なTransformerという基盤モデルに取って代わられていった。
歴史.
LSTMは1997年にとによって提唱された。Constant Error Carousel（定誤差カルーセル、CEC）ユニットの導入によって、LSTMは勾配爆発および消失問題を解決しようとする。LSTMブロックの最初の型はセル、入力ゲート、および出力ゲートを含んでいた。
1999年、と彼のアドバイザーのユルゲン・シュミットフーバーとFred CumminsはLSTMアーキテクチャへ忘却ゲート（「保持ゲート」とも）を導入した。これはLSTMが自身の状態をリセットすることを可能にする。2000年、 ゲルス、シュミットフーバー、CumminsはLSTMアーキテクチャへ覗き穴（peehole）結合（セルからゲートへの結合）を追加した。加えて、出力活性化関数は削除された。
2014年、Kyunghyun Cho（조 경현）らはゲート付き回帰型ユニット（Gated recurrent unit、GRU）と呼ばれる単純化した変異型を提案した 。
その他の成功の中で、LSTMは自然言語テキスト圧縮と分割されていないつながった手書き文字認識で新記録を達成し、手書き文字認識大会（2009年）で優勝した。LSTMネットワークは2013年に、古典的な自然音声データセットで新記録となる音素誤り率17.7%を達成したネットワークの主要な構成要素であった。
2016年時点で、Google、Apple、マイクロソフトを含む主要なテクノロジー企業は新製品の基本要素としてLSTMを使用していた。例えば、Googleはスマートフォン上での音声認識、スマートアシスタントAllo、およびGoogle翻訳のためにLSTMを使用した。AppleはiPhone上の「Quicktype」機能、SiriのためにLSTMを使用する。AmazonはAmazon AlexaのためにLSTMを使用する。
2017年、FacebookはLSTMネットワークを使用して毎日45億回の自動翻訳を実行した。
2017年、ミシガン州立大学、IBM基礎研究所、コーネル大学の研究者らは、Knowledge Discovery and Data Mining（KDD）会議において研究発表を行った。彼らの研究は、広く使われるLSTMニューラルネットワークよりも特定のデータセットに対して優れた性能を示す新規ニューラルネットワークに関するものである。
さらに2017年、マイクロソフトは16万5千語の語彙を含むSwitchboardコーパスにおいて95.1%の認識精度に達したと報告した。この手法は「対話セッションに基づく長・短期記憶」を使用した。
着想.
理論的には、古典的な（バニラな）RNNは入力配列における任意の長期依存性を追跡できる。バニラRNNの問題は本質的に計算的（あるいは実務的な）なものである。誤差逆伝播法を使ってバニラRNNを訓練する時、逆伝播される勾配は「消失」（すなわち勾配がゼロに収束する）あるいは「爆発」（すなわち無限に発散する）しうる。これは、計算がを用いる過程を含むためである。LSTMユニットを用いるRNNは、LSTMユニットが勾配を「不変」のまま流れることも可能とするため、勾配消失問題を部分的に解決する。しかしながら、LSTMネットワークは勾配爆発問題にはまだ悩まされうる。
アーキテクチャ.
複数のLSTMユニットのアーキテクチャが存在する。一般的なアーキテクチャは、セル（LSTMユニットの記憶部分）と大抵ゲートと呼ばれるLSTMユニット内部の情報の流れの3つの「調整器」（入力ゲート、出力ゲート、忘却ゲート）から構成される。LSTMユニットの一部の変異型はこれらのゲートの1つ以上を持たない、あるいは別のゲートを持つこともある。例えばゲート付き回帰型ユニット（GRU）は出力ゲートを持たない。
直感的には、「セル」は入力配列中の要素間の依存性を追跡するために必要である。「入力ゲート」はセルへの新たな値の流れの度合いを制御し、「忘却ゲート」はセル中に値が留まる度合いを制御し、「出力ゲート」はセル中の値がLSTMユニットの出力活性化を計算するために使われる度合いを制御する。LSTM「ゲート」の活性化関数にはが使われることが多い。
LSTMゲートへの、そしてLSTMからの結合が存在し、そのうちいくつかは回帰結合（リカレント）している。訓練中に学習される必要があるこれらの結合の重みが、ゲートがどのように動作するかを決定する。
変異型.
以下の方程式において、小文字の変数はベクトルを表わす。行列formula_1およびformula_2はそれぞれ入力および回帰結合の重みを含み、添字formula_3は、計算される活性化に依存して、入力ゲートformula_4、出力ゲートformula_5、忘却ゲートformula_6、または記憶セルformula_7になりうる。この節では、ゆえに「ベクトル表記」を使用する。そのため、例えば、formula_8は単に1つのLSTMユニットの1つのセルではなく、formula_9個のLSTMユニットのセルを含む。演算子formula_10はアダマール積（要素ごとの積）を示す。
忘却ゲートを持つLSTM.
忘却ゲートを持つLSTMユニットの順方向通路のための方程式のコンパクト形は以下の通りである。
上式において、初期値はformula_12およびformula_13、を示す。添字formula_14は時間ステップにインデックスを付ける。
変数.
上付き文字formula_24およびformula_9はそれぞれ入力要素の数および隠れユニットの数を示す。
活性化関数.
重み行列と活性化関数を集約することで
formula_30
となる。この式から formula_31 が直接回帰し、formula_32がゲート・セルを通じて回帰していることがわかる。また入力と重みの積は時間を跨いで回帰無しに計算できることがわかる（formula_33 で一括計算が可能）。
覗き穴LSTM.
右図は覗き穴結合を持つLSTMユニット（すなわち覗き穴LSTM）の図式的な表現である。覗き穴結合によって、ゲートが定誤差カルーセル（CEC。その活性化がセル状態である）へアクセスすることが可能となる。formula_32は使われず、ほんどの場所でformula_31が代わりに使われる。
覗き穴畳み込みLSTM.
覗き穴畳み込みLSTM。formula_37は畳み込み演算子を示す。
訓練.
LSTMを用いるRNNは、一連の訓練において、教師あり学習のやり方で訓練できる。訓練では、最適化プロセス中で必要な勾配を計算するための（Backpropagation through time、BPTT）と組み合わせて最急降下法のような最適化アルゴリズムを使って、（LSTMネットワークの出力層における）誤差の微分に比例してLSTMネットワークの個々の重みを変化させる。
標準的なRNNに対して最急降下法を使用することの問題点は、誤差勾配が重要な事象間の時間のずれの大きさにしたがって指数関数的にすばやく消失することである。これは、formula_39のスペクトル半径が1よりも小さいとformula_40となるためである。
しかしながら、LSTMユニットを使うと、誤差値が出力層から逆伝播される時、誤差はLSTMユニットのセル内に留まる。この「誤差カルーセル」はLSTMユニットのゲートが値のカットオフを学習するまで、個々のゲートへ誤差を絶えずフィードバックする。
CTCスコア関数.
多くの応用がLSTM RNNのスタックを使用し、訓練セット中のラベル配列の確率を最大化する重み行列を探すために、それらを（CTC）によって訓練する。CTCはアラインメントと認識の両方を達成する。
代替手段.
特に「教師」（すなわち訓練ラベル）が存在しない時は、Neuroevolutionまたは⽅策勾配法によってLSTM（の一部）を訓練するのが有利なことがありうる。
成功.
LSTMユニットを持つRNNを教師なしで訓練した複数の成功例がある。
2018年、ビル・ゲイツは、OpenAIによって開発されたボットがゲームDota 2で人間を破ることができた時、これを「人工知能の進歩における巨大な一里塚」と呼んだ。OpenAI Fiveは5つの独立した、しかし協調したニューラルネットワークから成る。個々のネットワークは教師なしで方策勾配法によって訓練され、現在のゲーム状態を見て、複数の可能な動作から動作を出す単層の1024ユニットLSTMを含む 。
2018年、OpenAIはかつてないほどの器用さで物体を巧みに扱う人間のようなロボットハンドを制御するために方策勾配法によって同様のLSTMを訓練した。
2019年、DeepMindのプログラムAlphaStarは複雑なビデオゲームスタークラフトに秀でるためにディープなLSTMコアを使用した。これは、人工汎用知能へ向けた重要な前進と見なされた。
特性.
記憶力.
単純RNNと比較してより長い系列の情報を保持する能力を持つ。一方、長期記憶を評価するCopyingタスクでは系列長200以上での学習に失敗することが知られている。
応用.
LSTMの応用には以下の事柄が含まれる。