最小二乘法的基本原理和多项式拟合Word文档下载推荐.docx

1、显然故存在唯一解。式（3）或式（4）称为正规方程组或法方程组。 可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，从式（4）中解出ak（k=0,1,，n），从而可得多项式nPn（x） - akXk心 （5）可以证明，式（5）中的Pn（X）满足式（1），即卩Pn（X）为所求的拟合多项式。我瓦 bn（Xi） -yi 2 （、们把i 称为最小二乘拟合多项式Pn（X）的平方误差，记作12r|2 Dn（Xi） - yii =0由式（2）可得乞 Xij （j =0,1，2n） Z Xij yi （j =0,1，2n）列表计算i 和i =写出正规方程组，求出a0,a1,an ；Pn（x）八 akXk（4）

2、写出拟合多项式k=0 。在实际应用中，n : m或n乞m；当n = m时所得的拟合多项式就是拉格朗日或牛 顿插值多项式。例1测得铜导线在温度Tic）时的电阻RD 如表6-1 ,求电阻R与温度T 的近似函数关系。i13456T（C）19.125.030.136.040.045.150.0Ri（76.3077.8079.2580.8082.3583.9085.10解 画出散点图（图6-2），可见测得的数据接近一条直线，故取 n=1,拟合函数为R =a0 a列表如下TiRiTi2TiR364.811457.330625.001945.000906.012385.4251296.002908.8001

3、600.003294.0002034.013783.8902500.004255.000E245.3565.59325.8320029.445正规方程组为7 245.3 a0 _ 565.5245.3 9325.83 a, 一 20029.445解方程组得玄=70.572, a, = 0.921故得R与T的拟合直线为R =70.572 +0.92仃利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由 R=0得T=-242.5，即预测温度 T=-242.5 C时，铜导线无电阻。-80 - 6-2例2例2已知实验数据如下表78Xi910y试用最小二乘法求它的二次拟合多项式 解设拟合曲线方程为

4、y 二 a。 aix a2XIyiXi yi278115452 11664 :256r 642512562550362161296493432401645124096P 12872965612431001000100004040053323813017253171471025得正规方程组9 52 381 a0 3252 381 3017 印 =147381 3017 253172J025解得a0 = 13.4597, a1 - -3.6053 a2 = 0.2676故拟合多项式为y= 13.4597 - 3.6053 + 0.2676x2*三最小二乘拟合多项式的存在唯一性定理1 设节点X0，X

5、1，,Xn互异，则法方程组（4）的解存在唯一。 证 由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组有非零解。式（7）可写为n mj =0,1/ ,n（8）、（ Xij k）ak =0,k 卫 i =0将式（8）中第j个方程乘以aj（j=0,1,，n），然后将新得到的n+1个方程左n n m jk迟a产亿x广）ak00右两端分别相加，得冋上 7 -因为nnm mnn mn n m送a* （瓦 攀总 卜送送送akQjX广 迈（瓦akXik）=E咕了j 卫 k =0 i =0 izOjzOkzO i =0 j =0 k=0 i

6、=0其中Pn（x）=為 akXkkT所以Pn（Xi） = O（j=0,i, ,m）Pn（x）是次数不超过n的多项式，它有m+1n个相异零点，由代数基本定理，必 须有k =0，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）a a a 、 Pn（x）=三 akXk必有唯一解。定理2设aoa1， ,an是正规方程组（4）的解，贝U k=0是满足式（1）的最小二乘拟合多项式。kb b b Qn（X）=瓦 bkX证 只需证明，对任意一组数b0,b1， ，bn组成的多项式 心 ，恒有送 Qn（Xi） yi P 上瓦【Pn（Xi） yi Fi =0 i=0即可。送 Qn（Xi）-yiF-迟Pn（Xi）

7、-y2i =0 i =0=Qn（Xi） Pn（Xj）2 2、 Qn（Xj - Pn（Xj）lPn（Xj） - 1m n一0 2（bji=0 j =0aj）Xij-t kakX - yi_k =0=江 、bj aakXi因为ak（k=0,1,，n）是正规方程组（4）的解，所以满足式（2）,因此有 Qn（Xi ） yi f 7 Pn（Xi） yi f _ 0i卫 7故Pn（X）为最小二乘拟合多项式。*四多项式拟合中克服正规方程组的病态在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而 且1正规方程组系数矩阵的阶数越高，病态越严重；2拟合节点分布的区间X0，Xm】偏离原点越远，病

8、态越严重；3Xi（i=0,i,，m）的数量级相差越大，病态越严重。为了克服以上缺点，一般采用以下措施：1尽量少作高次拟合多项式，而作不同的分段低次拟合；2不使用原始节点作拟合，将节点分布区间作平移，使新的节点 Xi关于原点对称，可大大降低正规方程组的条件数，从而减低病态程度。平移公式为：Xi = Xi 一卫 Xm, i = 0,1, ,m_ 2 （9）3对平移后的节点Xi （i=0,1,，m）,再作压缩或扩张处理：x = pXi , i =0,1, ,m （ 10）p=2（m+1）/送（X?）2r其中 7 , （r是拟合次数） （11）经过这样调整可以使Xi的数量级不太大也不太小，特别对于等距

9、节点 =X0 ih （i二01，,m），作式（10）和式（11）两项变换后，其正规方程 组的系数矩阵设 为A,则对14次多项式拟合，条件数都不太大，都可以得到 满意的结果。变换后的条件数上限表如下：拟合次数cond2 （A）=19.950.34354在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交 多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。 这两种方法都使正规方程 组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。 我们只介绍第一种，见第三节。例如 m=19, X0=328,h=1, X1 = X0+ih，i=0,1,，19,即节点 分布在328,

10、347 ， 作二次多项式拟合时1直接用xi构造正规方程组系数矩阵A0，计算可得con d2（A）=2.25 1016严重病态，拟合结果完全不能用2作平移变换川X构造正规方程组系数矩阵Ai，计算可得con d2 （A） =4.483868 1016比con d2（AD）降低了 13个数量级，病态显著改善，拟合效果较好。3取压缩因子2019 0.1498匹（）4作压缩变换 汕洛，i，1,，19用构造正规方程组系数矩阵A2，计算可得cond2（A2）=6.839又比cond2（A）降低了 3个数量级，是良态的方程组，拟合效果十分理想。如有必要，在得到的拟合多项式 Pn（x”）中使用原来节点所对应的变量X，可写为Qn（X）= pg（X _X。）仍为一个关于x的n次多项式，正是我们要求的拟合多项式