共役勾配法は、最急降下法ではジグザグパターンに陥ってしまい収束が遅くなってしまうような、狭い(ill-conditionな)谷に沿って最適化を進めることができる。