最小二乘法曲线拟合原理及matlab实现.docx

1、最小二乘法曲线拟合原理及matlab实现曲线拟合（curve-fitting）：工程实践中，用测量到的一些离散的数据求一个近似的函数来拟合这组数据，要求所得的拟合曲线能最好的反映数据的基本趋势（即使最好地逼近，而不必满足插值原则。因此没必要取=，只要使尽可能地小）。原理：给定数据点。求近似曲线。并且使得近似曲线与的偏差最小。近似曲线在该点处的偏差，i=1,2,.,m。 常见的曲线拟合方法: 1.使偏差绝对值之和最小 2.使偏差绝对值最大的最小 3.使偏差平方和最小 最小二乘法： 按偏差平方和最小的原则选取拟合曲线，并且采取二项式方程为拟合曲线的方法,称为最小二乘法。推导过程： 1. 设拟合多项

2、式为： 2. 各点到这条曲线的距离之和，即偏差平方和如下： 3. 问题转化为求待定系数.对等式右边求偏导数，因而我们得到了： . 4、 把这些等式化简并表示成矩阵的形式，就可以得到下面的矩阵： 5. 将这个德蒙得矩阵化简后可得到: 6. 也就是说X*A=Y，那么A = (X*X)-1*X*Y，便得到了系数矩阵A，同时，我们也就得到了拟合曲线。MATLAB实现：MATLAB提供了polyfit（）函数命令进行最小二乘曲线拟合。调用格式：p=polyfit(x,y,n) p,s= polyfit(x,y,n) p,s,mu=polyfit(x,y,n)x,y为数据点，n为多项式阶数，返回p为幂次从

3、高到低的多项式系数向量p。x必须是单调的。矩阵s包括R（对x进行QR分解的三角元素）、df(自由度）、normr(残差）用于生成预测值的误差估计。 p,s,mu=polyfit(x,y,n)在拟合过程中，首先对x进行数据标准化处理，以在拟合中消除量纲等影响，mu包含标准化处理过程中使用的x的均值和标准差。polyval( )为多项式曲线求值函数，调用格式： y=polyval(p,x) y,DELTA=polyval(p,x,s)y=polyval(p,x)为返回对应自变量x在给定系数P的多项式的值。y,DELTA=polyval(p,x,s) 使用polyfit函数的选项输出s得出误差估计Y

4、 DELTA。它假设polyfit函数数据输入的误差是独立正态的，并且方差为常数。则Y DELTA将至少包含50%的预测值。如下给定数据的拟合曲线：x=0.5,1.0,1.5,2.0,2.5,3.0，y=1.75,2.45,3.81,4.80,7.00,8.60。解：MATLAB程序如下：x=0.5,1.0,1.5,2.0,2.5,3.0;y=1.75,2.45,3.81,4.80,7.00,8.60;p=polyfit(x,y,2)x1=0.5:0.05:3.0;y1=polyval(p,x1);plot(x,y,*r,x1,y1,-b)运行结果如图1计算结果为：p =0.5614 0.82

5、87 1.1560即所得多项式为y=0.5614x2+0.08287x+1.15560 图1 最小二乘法曲线拟合示例对比检验拟合的有效性：例：在0,区间上对正弦函数进行拟合，然后在0,2区间画出图形，比较拟合区间和非拟合区间的图形，考察拟合的有效性。在MATLAB中输入如下代码：clearx=0:0.1:pi;y=sin(x);p,mu=polyfit(x,y,9)x1=0:0.1:2*pi;y1=sin(x1);%实际曲线y2=polyval(p,x1);%根据由区间0到pi上进行拟合得到的多项式计算0到2pi上的函数值， %需要注意的是polyval（）返回的函数值在pi到2pi上并没有进

6、行拟合plot(x1,y2,k*,x1,y1,k-)运行结果：p = 0.0000 0.0000 -0.0003 0.0002 0.0080 0.0002 -0.1668 0.0000 1.0000 0.0000mu = R: 10x10 double df: 22 normr: 1.6178e-07MATLAB的最优化工具箱还提供了lsqcurvefit（）函数命令进行最小二乘曲线拟合(Solve nonlinear curve-fitting (data-fitting) problems in least-squares sense)。调用格式：x = lsqcurvefit(fun,x

7、0,xdata,ydata)x = lsqcurvefit(fun,x0,xdata,ydata,lb,ub)x = lsqcurvefit(fun,x0,xdata,ydata,lb,ub,options)x = lsqcurvefit(problem)x,resnorm = lsqcurvefit(.)x,resnorm,residual = lsqcurvefit(.)x,resnorm,residual,exitflag = lsqcurvefit(.)x,resnorm,residual,exitflag,output = lsqcurvefit(.)x,resnorm,residu

8、al,exitflag,output,lambda = lsqcurvefit(.)x,resnorm,residual,exitflag,output,lambda,jacobian = x0为初始解向量;xdata，ydata为满足关系ydata=F(x, xdata)的数据;lb、ub为解向量的下界和上界 ，若没有指定界，则lb= ，ub= ;options为指定的优化参数;fun为拟合函数，其定义方式为:x = lsqcurvefit(myfun,x0,xdata,ydata)，其中myfun已定义为 function F = myfun(x,xdata)F = % 计算x处拟合函数值

9、fun的用法与前面相同;resnorm=sum (fun(x,xdata)-ydata).2)，即在x处残差的平方和;residual=fun(x,xdata)-ydata，即在x处的残差;exitflag为终止迭代的条件;output为输出的优化信息;lambda为解x处的Lagrange乘子;jacobian为解x处拟合函数fun的jacobian矩阵。例：lsqcurvefit()优化程序Data = . 0.0000 5.8955 0.1000 3.5639 0.2000 2.5173 0.3000 1.9790 0.4000 1.8990 0.5000 1.3938 0.6000 1

10、.1359 0.7000 1.0096 0.8000 1.0343 0.9000 0.8435 1.0000 0.6856 1.1000 0.6100 1.2000 0.5392 1.3000 0.3946 1.4000 0.3903 1.5000 0.5474 1.6000 0.3459 1.7000 0.1370 1.8000 0.2211 1.9000 0.1704 2.0000 0.2636;t = Data(:,1);y = Data(:,2);% axis(0 2 -0.5 6) plot(t,y,ro)title(Data points)%We would like to fit

11、 the function y = c(1)*exp(-lam(1)*t) + c(2)*exp(-lam(2)*t) to the data%The lsqcurvefit function solves this type of problem easily.%To begin, define the parameters in terms of one variable x:%x(1) = c(1)%x(2) = lam(1)%x(3) = c(2)%x(4) = lam(2)%Then define the curve as a function of the parameters x

12、 and the data t:F = (x,xdata)x(1)*exp(-x(2)*xdata) + x(3)*exp(-x(4)*xdata);x0 = 1 1 1 0;x,resnorm,exitflag,output = lsqcurvefit(F,x0,t,y)hold onplot(t,F(x,t)hold offFsumsquares = (x)sum(F(x,t) - y).2);opts = optimset(LargeScale,off);xunc,ressquared,eflag,outputu = .fminunc(Fsumsquares,x0,opts)fprint

13、f(There were %d iterations using fminunc, . and %d using lsqcurvefit.n, . outputu.iterations,output.iterations)fprintf(There were %d function evaluations using fminunc, . and %d using lsqcurvefit., . outputu.funcCount,output.funcCount)type fitvectorx02 = 1 0;F2 = (x,t) fitvector(x,t,y);x2,resnorm2,e

14、xitflag2,output2 = lsqcurvefit(F2,x02,t,y)fprintf(There were %d function evaluations using the 2-d . formulation, and %d using the 4-d formulation., . output2.funcCount,output.funcCount)x0bad = 5 1 1 0;xbad,resnormbad,exitflagbad,outputbad = . lsqcurvefit(F,x0bad,t,y)hold onplot(t,F(xbad,t),g)legend

15、(Data,Global fit,Bad local fit,Location,NE)hold offfprintf(The residual norm at the good ending point is %f, . and the residual norm at the bad ending point is %f., . resnorm,resnormbad)displayEndOfDemoMessage(mfilename)拟合效果如下：直线的最小二乘拟合：ya+bx式中有两个待定参数，a代表截距，b代表斜率。对于等精度测量所得到的N组数据（xi，yi），i1，2，N，xi值被认为

16、是准确的，所有的误差只联系着yi。下面利用最小二乘法把观测数据拟合为直线。 用最小二乘法估计参数时，要求观测值yi的偏差的加权平方和为最小。对于等精度观测值的直线拟合来说，可使下式的值最小：上式分别对a、b求偏导得：整理后得到方程组：解上述方程组便可求得直线参数a和b的最佳估计值。1、可看成是一阶多项式拟合，跟前面曲线拟合方法一样。2、利用linefit()函数进行最小二乘的直线拟合 使用： clear x=0.5 1 1.5 2 2.5 3; y= 1.75 2.45 3.81 4.8 8 8.6; k,b=linefit(x,y) %得到斜率k和常数b y1=polyval(k,b,x); plot(x,y1,k-,x,y,k*)MATLAB一元到多元线性回归方程的计算和检验_XX文库wenku.baidu./link?url=_71b8kDsSUfnYSXWKsvL_X2DAWqojz3kRUW9UiX2LPEZYJM2790sHg2d52R4VYoywJWBi1S44Wy0-mMlymAKiLNQY6z2hpHCm-fgyv0PWwK(研究生 数理统计)多元线性回归及显著性检验Matlab程序(完美版)_XX文库wenku.baidu./view/fece30795acfa1c7aa00cc82.html?from=search