為咗理解反向傳播算法嘅數學推導，培養某種直覺係有啲幫助嘅，即理解到一粒神經元嘅實際輸出戥特定訓練樣本嘅正確輸出之間嘅關係。考慮一個簡單嘅神經網絡，佢裏頭有兩粒輸入單元，一粒輸出單元，冇隱藏單元，而且每粒神經元使用線性輸出係其輸入嘅加權總同埋。