直線探索
直線探索(ちょくせんたんさく、英: line search)は、連続最適化問題において、目的関数 f : R n → R {\displaystyle f:\mathbb {R} ^{n}\to \mathbb {R} } の極小値 x ∗ {\displaystyle \mathbf {x} ^{*}} を求めるための2つの基本的な反復的アプローチのうちの一つである。もう一つの基本的な反復的アプローチの方法は信頼領域である。
直線探索のアプローチでは、最初に目的関数 f {\displaystyle f} の値が小さくなる降下方向を求め、次に、その方向に x {\displaystyle \mathbf {x} } をどのくらい動かすかを表すステップサイズを計算する。そのステップサイズを用いて、解を求める方法として、最急降下法、ニュートン法、準ニュートン法など、数多く存在する。ステップサイズは厳密に求める方法と近似的に求める方法がある。