主題
Search

最小二乘擬合——多項式


將直線(即一次多項式)推廣到 k 次多項式 多項式

 y=a_0+a_1x+...+a_kx^k,
(1)

殘差由下式給出

 R^2=sum_(i=1)^n[y_i-(a_0+a_1x_i+...+a_kx_i^k)]^2.
(2)

偏導數(同樣省略上標)是

(partial(R^2))/(partiala_0)=-2sum_(i=1)^(n)[y-(a_0+a_1x+...+a_kx^k)]=0
(3)
(partial(R^2))/(partiala_1)=-2sum_(i=1)^(n)[y-(a_0+a_1x+...+a_kx^k)]x=0
(4)
(partial(R^2))/(partiala_k)=-2sum_(i=1)^(n)[y-(a_0+a_1x+...+a_kx^k)]x^k=0.
(5)

這些匯出以下方程

a_0n+a_1sum_(i=1)^(n)x_i+...+a_ksum_(i=1)^(n)x_i^k=sum_(i=1)^(n)y_i
(6)
a_0sum_(i=1)^(n)x_i+a_1sum_(i=1)^(n)x_i^2+...+a_ksum_(i=1)^(n)x_i^(k+1)=sum_(i=1)^(n)x_iy_i
(7)
a_0sum_(i=1)^(n)x_i^k+a_1sum_(i=1)^(n)x_i^(k+1)+...+a_ksum_(i=1)^(n)x_i^(2k)=sum_(i=1)^(n)x_i^ky_i
(8)

或者,以矩陣形式表示

 [n sum_(i=1)^(n)x_i ... sum_(i=1)^(n)x_i^k; sum_(i=1)^(n)x_i sum_(i=1)^(n)x_i^2 ... sum_(i=1)^(n)x_i^(k+1); | | ... |; sum_(i=1)^(n)x_i^k sum_(i=1)^(n)x_i^(k+1) ... sum_(i=1)^(n)x_i^(2k)][a_0; a_1; |; a_k]=[sum_(i=1)^(n)y_i; sum_(i=1)^(n)x_iy_i; |; sum_(i=1)^(n)x_i^ky_i].
(9)

這是一個範德蒙矩陣。我們也可以透過以下方式獲得最小二乘擬合的矩陣

 [1 x_1 ... x_1^k; 1 x_2 ... x_2^k; | | ... |; 1 x_n ... x_n^k][a_0; a_1; |; a_k]=[y_1; y_2; |; y_n].
(10)

將兩邊左乘第一個矩陣轉置,然後得到

 [1 1 ... 1; x_1 x_2 ... x_n; | | ... |; x_1^k x_2^k ... x_n^k][1 x_1 ... x_1^k; 1 x_2 ... x_2^k; | | ... |; 1 x_n ... x_n^k][a_0; a_1; |; a_k] 
 =[1 1 ... 1; x_1 x_2 ... x_n; | | ... |; x_1^k x_2^k ... x_n^k][y_1; y_2; |; y_n],
(11)

因此

 [n sum_(i=1)^(n)x_i ... sum_(i=1)^(n)x_i^k; sum_(i=1)^(n)x_i sum_(i=1)^(n)x_i^2 ... sum_(i=1)^(n)x_i^(k+1); | | ... |; sum_(i=1)^(n)x_i^k sum_(i=1)^(n)x_i^(k+1) ... sum_(i=1)^(n)x_i^(2k)][a_0; a_1; |; a_k]=[sum_(i=1)^(n)y_i; sum_(i=1)^(n)x_iy_i; |; sum_(i=1)^(n)x_i^ky_i].
(12)

與之前一樣,給定 n 個點 (x_i,y_i) 並用多項式係數 a_0, ..., a_k 擬合,得到

 [y_1; y_2; |; y_n]=[1 x_1 x_1^2 ... x_1^k; 1 x_2 x_2^2 ... x_2^k; | | | ... |; 1 x_n x_n^2 ... x_n^k][a_0; a_1; |; a_k],
(13)

矩陣符號中,多項式擬合的方程由下式給出

 y=Xa.
(14)

這可以透過左乘轉置 X^(T) 來求解,

 X^(T)y=X^(T)Xa.
(15)

這個矩陣方程可以數值求解,或者如果形式良好,可以直接求逆,以得到解向量

 a=(X^(T)X)^(-1)X^(T)y.
(16)

在上述方程中設定 k=1 可以重現線性解。


另請參閱

最小二乘擬合, 範德蒙矩陣

使用 探索

請引用為

Weisstein, Eric W. “最小二乘擬合——多項式。” 來自 —— 資源。 https://mathworld.tw/LeastSquaresFittingPolynomial.html

學科分類