喺一般嘅梯度下降法當中，每次權重改變都淨係會視乎嗰個時間點嘅誤差（即係 ）而越時反向傳播算法（backpropagation through time，BPTT）就係每次權重改變都考慮而家同打前  個時間點嘅累計誤差（即係話 ）。