语言建模和多语言处理的记录。 LSTM 结合卷积神经网络改进了图像自动标注 。
循环神经网络.
编码器.循环神经网络将输入序列formula_1编码为一个固定长度的隐藏状态formula_2，这里有（用自然语言处理作为例子）：其中，计算隐藏状态的方程formula_8是一个非线性方程，可以是简单的Logistic方程（tanh），也可以是复杂的LSTM单元（Long Short-Term Memory）。 而有了隐藏状态序列，就可以对下一个出现的词语进行预