最小二乘法的基本原理和多项式拟合Word文档格式.docx

最小二乘法的基本原理和多项式拟合Word文档格式.docx

《最小二乘法的基本原理和多项式拟合Word文档格式.docx》由会员分享，可在线阅读，更多相关《最小二乘法的基本原理和多项式拟合Word文档格式.docx（6页珍藏版）》请在冰豆网上搜索。

特别地，当n=1时，称为线性拟合或直线拟合。

显然

为的多元函数，因此上述问题即为求的极值问题。

由多元函数求极值的必要条件，得

（2）

即

（3）

（3）是关于的线性方程组，用矩阵表示为

（4）

式（3）或式（4）称为正规方程组或法方程组。

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。

从式（4）中解出（k=0,1,…，n），从而可得多项式

（5）

可以证明，式（5）中的满足式

（1），即为所求的拟合多项式。

我们把称为最小二乘拟合多项式的平方误差，记作

由式

（2）可得

（6）

多项式拟合的一般方法可归纳为以下几步：

（1）由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；

（2）列表计算和；

（3）写出正规方程组，求出；

（4）写出拟合多项式。

在实际应用中，或；

当时所得的拟合多项式就是拉格朗日或牛顿插值多项式。

例1测得铜导线在温度（℃）时的电阻如表6-1，求电阻R与温度T的近似函数关系。

i

1

2

3

4

5

6

（℃）

19.1

25.0

30.1

36.0

40.0

45.1

50.0

76.30

77.8

79.25

80.8

82.35

83.9

85.1

解画出散点图（图6-2），可见测得的数据接近一条直线，故取n=1，拟合函数为

列表如下

364.81

1457.330

77.80

625.00

1945.000

906.01

2385.425

80.80

1296.00

2908.800

1600.00

3294.000

83.90

2034.01

3783.890

85.10

2500.00

4255.000

245.3

565.5

9325.83

20029.445

正规方程组为

解方程组得

故得R与T的拟合直线为

利用上述关系式，可以预测不同温度时铜导线的电阻值。

例如，由R=0得T=-242.5，即预测温度T=-242.5℃时，铜导线无电阻。

6-2

例2已知实验数据如下表

7

8

9

10

试用最小二乘法求它的二次拟合多项式。

解设拟合曲线方程为

列表如下

I

27

81

15

45

16

64

256

25

125

625

50

36

216

1296

49

343

2401

512

4096

128

729

6561

243

100

1000

10000

40

400

53

32

381

3017

25317

147

1025

得正规方程组

解得

故拟合多项式为

*三最小二乘拟合多项式的存在唯一性

定理1设节点互异，则法方程组（4）的解存在唯一。

证由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。

用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组

（7）

有非零解。

式（7）可写为

（8）

将式（8）中第j个方程乘以（j=0,1,…，n），然后将新得到的n+1个方程左右两端分别相加，得

因为

其中

所以

（i=0,1,…,m）

是次数不超过n的多项式，它有m+1＞n个相异零点，由代数基本定理，必须有，与齐次方程组有非零解的假设矛盾。

因此正规方程组（4）必有唯一解。

定理2设是正规方程组（4）的解，则是满足式

（1）的最小二乘拟合多项式。

证只需证明，对任意一组数组成的多项式，恒有

即可。

因为（k=0,1,…，n）是正规方程组（4）的解，所以满足式

（2），因此有

故为最小二乘拟合多项式。

*四多项式拟合中克服正规方程组的病态

在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。

而且

①正规方程组系数矩阵的阶数越高，病态越严重；

②拟合节点分布的区间偏离原点越远，病态越严重；

③（i=0,1,…，m）的数量级相差越大，病态越严重。

为了克服以上缺点，一般采用以下措施：

①尽量少作高次拟合多项式，而作不同的分段低次拟合；

②不使用原始节点作拟合，将节点分布区间作平移，使新的节点关于原点对称，可大大降低正规方程组的条件数，从而减低病态程度。

平移公式为：

（9）

③对平移后的节点（i=0,1,…，m）,再作压缩或扩张处理：

（10）

其中,（r是拟合次数）（11）

经过这样调整可以使的数量级不太大也不太小，特别对于等距节点，作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设为A，则对1～4次多项式拟合，条件数都不太大，都可以得到满意的结果。

变换后的条件数上限表如下：

拟合次数

=1

<

9.9

50.3

435

④在实际应用中还可以利用正交多项式求拟合多项式。

一种方法是构造离散正交多项式；

另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。

这两种方法都使正规方程组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。

我们只介绍第一种，见第三节。

例如m=19,=328,h=1,=+ih，i=0,1,…，19，即节点分布在［328,347］，作二次多项式拟合时

①直接用构造正规方程组系数矩阵，计算可得

严重病态，拟合结果完全不能用。

②作平移变换

用构造正规方程组系数矩阵，计算可得

比降低了13个数量级，病态显着改善，拟合效果较好。

③取压缩因子

作压缩变换

用构造正规方程组系数矩阵，计算可得

又比降低了3个数量级，是良态的方程组，拟合效果十分理想。

如有必要，在得到的拟合多项式中使用原来节点所对应的变量x，可写为

仍为一个关于x的n次多项式，正是我们要求的拟合多项式。