質問: 応答曲面法と最小二乗法の違い。 応答曲面法と最小二乗法の違いがよく分かりません。
回答: 応答曲面法と言うのは、「複数のサンプル点の値を、何らかの関数で近似して表そう」という方法でしょ。 どのような近似が良いのかと言う判断基準は自由です。 最小二乗を使ってもよいし、ほかの方法でもよい。 とにかく、何らかの関数で近似するという事しか言っていません。 これに対し、最小二乗と言うのは、あるサンプル点に対する 近似関数の良しあしを評価する際に、 サンプル点における近似関数の誤差の二乗和をつかうというもので、 誤差の二乗和が最小になる近似が良いものであるという評価基準です。 したがって、この2つは概念の扱う対象が違うのです。 最小二乗(L2ノルム)以外の評価基準として、よく使われるものは、 最大誤差を最小にするという評価基準(min-max、L∞ノルム)や、 誤差の絶対値の総和(絶対値誤差和、L1ノルム)を最小にするという評価基準があります。 応答曲面法で、利用目的に応じてこれらの評価基準を利用することもあるので、 最小二乗でなければいけない理由はありません。