循环神经网络.
编码器.循环神经网络将输入序列formula_1编码为一个固定长度的隐藏状态formula_2，这里有（用自然语言处理作为例子）：其中，计算隐藏状态的方程formula_8是一个非线性方程，可以是简单的Logistic方程（tanh），也可以是复杂的LSTM单元（Long Short-Term Memory）。 而有了隐藏状态序列，就可以对下一个出现的词语进行预测：这里的非线性方程formula_16可以是一个复杂的前馈神经网络，也可以是简单的非线性方程（但有