自動微分
最後の w 1 ̄ {\displaystyle {\bar {w_{1}}}} は以下の理由で成立する。図3で x 1 = w 1 {\displaystyle x_{1}=w_{1}} から w 3 {\displaystyle w_{3}} と w 4 {\displaystyle w_{4}} に矢印が引かれていることより、 w 3 {\displaystyle w_{3}} と w 4 {\displaystyle w_{4}} は w 1 {\displaystyle w_{1}} の後続ノードである。合成関数の偏微分の連鎖律より w 1 ̄ = w 3 ̄ ∂ w 3 ∂ w 1 + w 4 ̄ ∂ w 4 ∂ w 1 {\displaystyle {\bar {w_{1}}}={\bar {w_{3}}}{\frac {\partial w_{3}}{\partial w_{1}}}+{\bar {w_{4}}}{\frac {\partial w_{4}}{\partial w_{1}}}} であり、後は w 3 {\displaystyle w_{3}} と w 4 {\displaystyle w_{4}} の定義を代入すれば良い。どの中間変数がどの中間変数に影響を及ぼすか記録する必要がある。
それぞれの部分式を中間変数 w i {\displaystyle w_{i}} としてラベル付けした。最初に w 1 = x 1 , w 2 = x 2 {\displaystyle w_{1}=x_{1},w_{2}=x_{2}} としている。
どの入力変数で偏微分するかによって w ̇ 1 {\displaystyle {\dot {w}}_{1}} や w ̇ 2 {\displaystyle {\dot {w}}_{2}} の初期値が異なる。 x 1 {\displaystyle x_{1}} に関する偏微分を計算する場合の初期値は、
w ̇ 1 = ∂ w 1 ∂ x 1 = ∂ x 1 ∂ x 1 = 1 w ̇ 2 = ∂ w 2 ∂ x 1 = ∂ x 2 ∂ x 1 = 0 {\displaystyle {\begin{aligned}{\dot {w}}_{1}={\frac {\partial w_{1}}{\partial x_{1}}}={\frac {\partial x_{1}}{\partial x_{1}}}=1\\{\dot {w}}_{2}={\frac {\partial w_{2}}{\partial x_{1}}}={\frac {\partial x_{2}}{\partial x_{1}}}=0\end{aligned}}}
となる。