最小二乗法

今回は最小二乗法（least squares method）のお話をしたいと思います

least squares.wxm

N : サンプルの数
X : サンプルの値の配列
%o3にて，Nに16を代入します
16個のサンプルの値の配列をXに代入します（画面出力は省略）

f : n次の多項式近似関数
%o5にて，nに3を代入します
%o6にて，近似関数f(x)を定義します（画面出力は省略）
サンプルと近似関数との残差の平方和Sの算式を%o7式に示します
Sを最小とするfを求めるため，Sの停留条件（∂S/∂c[i] = 0）を%o8式に示します
停留条件をc[0]〜c[n]についての連立方程式として解いた結果を%o9式に示します

求めたc[i]でSを計算した結果を%o10式に示します
求めた近似関数fを%o11式に示します
サンプルを青点で，近似関数fを赤線でそれぞれ%t12にプロットします

追記

n = 1 とした場合の結果を%o18〜%t20に示します

n = 5 とした場合の結果を%o26〜%t28に示します