自動微分

在數學和計算機代數中 ， 自動微分有時稱作演算式微分 ， 是一種可以藉由電腦程式計算一個函數導數的方法 。 兩種傳統做微分的方法爲 ： 對一個函數的表示式做符號上的微分 ， 並且計算其在某一點上的值 。 使用差分 。 使用符號微分最主要的缺點是速度慢及將電腦程式轉換成表示式的困難 。 此外 ， 很多函數在要計算更高階微分時會變得複雜 。 使用差分的兩個重要的缺點是捨棄誤差及數值化過程和相消誤差 。 此兩者傳統方法在計算更高階微分時 ， 都有複雜度及誤差增加的問題 。 自動微分則解決上述的問題 。 自動微分使用這個事實 ： 任何實作一個向量函數 y = F ( x ) 的電腦程式 ， 一般而言 ， 可以被分解成由基本指定運算所成的序列 ， 而其中每一個都可以藉由查表而輕易地微分 。 這些計算某一特定項的 " 基本偏微分 " 是依照微積分中的複合函數求導法則來合併成某個 F 的微分資訊 （ 如梯度 、 切線 、 雅可比矩陣等 ） 。 這個過程會產生確實 的導數 。 因爲只在最基礎的層面做符號轉換 ， 自動微分避免了複雜的符號運算的問題 。