取决于其所有输入的加权总和：其中 formula_31 和 formula_32 是从输入单元到输出单元相连的权重。因此，误差取决于输入到该神经元的权重，也是网络要学习最终需要改变的。若每个权重都画在一个水平的轴上，而误差画在垂直轴上，得出的就是一个抛物面（若一个神经元有 formula_33 个权重，则误差曲面的维度就会是 formula_34，因而就是二维抛物线的 formula_34 维等价）。反向传播算法的目的是找到一组能最大限度地减小误差的权重。寻找抛物线或任意维度中的任何函数的极大值的方法有