迭代法

迭代法 （ Iterative Method ） ， 在計算數學中 ， 迭代是通過從一個初始估計出發尋找一系列近似解來解決問題 （ 一般是解方程或者方程組 ） 的數學過程 ， 爲實現這一過程所使用的方法統稱 。 跟迭代法相對應的是直接法 （ 或者稱爲一次解法 ） ， 即一次性解決問題 ， 例如通過開方解決方程 。 一般如果可能 ， 直接解法總是優先考慮的 。 但當遇到複雜問題時 ， 特別是在未知量很多 ， 方程爲非線性時 ， 我們無法找到直接解法 （ 例如五次以及更高次的代數方程沒有解析解 ， 參見阿貝爾定理 ） ， 這時候或許可以通過迭代法尋求方程 （ 組 ） 的近似解 。 最常見的迭代法是牛頓法 。 其他還包括梯度下降法 、 共軛迭代法 、 變尺度迭代法 、 最小二乘法 、 線性規劃 、 非線性規劃 、 單純型法 、 懲罰函數法 、 斜率投影法 、 遺傳算法 、 模擬退火等等 。