概率期望：训练受限玻尔兹曼机，即最优化权重矩阵formula_27，最常用的算法是杰弗里·辛顿提出的对比分歧（contrastive divergence，CD）算法。这一算法最早被用于训练辛顿提出的“专家积”模型。这一算法在梯度下降的过程中使用吉布斯采样完成对权重的更新，与训练前馈神经网络中利用反向传播算法类似。基本的针对一个样本的单步对比分歧（CD-1）步骤可被总结如下：偏置和也可以使用类似的方法更新。