针对不同的情况,MATLAB将采用不同的算法来求解。
一.恰定方程组
恰定方程组由n个未知数的n个方程构成,方程有唯一的一组解,其一般形式可用矩阵,向量写成如下形式:
Ax=b其中A是方阵,b是一个列向量;
在线性代数教科书中,最常用的方程组解法有:
(1)利用cramer公式来求解法;
(2)利用矩阵求逆解法,即x=A-1b;
(3)利用gaussian消去法;
(4)利用lu法求解。
一般来说,对维数不高,条件数不大的矩阵,上面四种解法所得的结果差别不大。
前三种解法的真正意义是在其理论上,而不是实际的数值计算。
MATLAB中,出于对算法稳定性的考虑,行列式及逆的计算大都在lu分解的基础上进行。
在MATLAB中,求解这类方程组的命令十分简单,直接采用表达式:
x=A\b。
在MATLAB的指令解释器在确认变量A非奇异后,就对它进行lu分解,并最终给出解x;若矩阵A的条件数很大,MATLAB会提醒用户注意所得解的可靠性。
如果矩阵A是奇异的,则Ax=b的解不存在,或者存在但不唯一;如果矩阵A接近奇异时,MATLAB将给出警告信息;如果发现A是奇异的,则计算结果为inf,并且给出警告信息;如果矩阵A是病态矩阵,也会给出警告信息。
注意:
在求解方程时,尽量不要用inv(A)*b命令,而应采用A\b的解法。
因为后者的计算速度比前者快、精度高,尤其当矩阵A的维数比较大时。
另外,除法命令的适用行较强,对于非方阵A,也能给出最小二乘解。
二.超定方程组
对于方程组Ax=b,A为n×m矩阵,如果A列满秩,且n>m。
则方程组没有精确解,此时称方程组为超定方程组。
线性超定方程组经常遇到的问题是数据的曲线拟合。
对于超定方程,在MATLAB中,利用左除命令(x=A\b)来寻求它的最小二乘解;还可以用广义逆来求,即x=pinv(A),所得的解不一定满足Ax=b,x只是最小二乘意义上的解。
左除的方法是建立在奇异值分解基础之上,由此获得的解最可靠;广义逆法是建立在对原超定方程直接进行householder变换的基础上,其算法可靠性稍逊与奇异值求解,但速度较快;
【例7】
求解超定方程组
A=[2-13;31-5;4-11;13-13]
A=
2-13
31-5
4-11
13-13
b=[303-6]’;
rank(A)
ans=
3
x1=A\b
x1=
1.0000
2.0000
1.0000
x2=pinv(A)*b
x2=
1.0000
2.0000
1.0000
A*x1-b
ans=
1.0e-014
-0.0888
-0.0888
-0.1332
0
可见x1并不是方程Ax=b的精确解,用x2=pinv(A)*b所得的解与x1相同。
三.欠定方程组
欠定方程组未知量个数多于方程个数,但理论上有无穷个解。
MATLAB将寻求一个基本解,其中最多只能有m个非零元素。
特解由列主元qr分解求得。
【例8】
解欠定方程组
A=[1-211;1-21-1;1-215]
A=
1-211
1-21-1
1-21-1
1-215
b=[1-15]’
x1=A\b
Warning:
Rankdeficient,rank=2tol=4.6151e-015
x1=
0
-0.0000
0
1.0000
x2=pinv(A)*b
x2=
0
-0.0000
0.0000
1.0000
四.方程组的非负最小二乘解
在某些条件下,所求的线性方程组的解出现负数是没有意义的。
虽然方程组可以得到精确解,但却不能取负值解。
在这种情况下,其非负最小二乘解比方程的精确解更有意义。
在MATLAB中,求非负最小二乘解常用函数nnls,其调用格式为:
(1)X=nnls(A,b)返回方程Ax=b的最小二乘解,方程的求解过程被限制在x的条件下;
(2)X=nnls(A,b,TOL)指定误差TOL来求解,TOL的默认值为TOL=max(size(A))*norm(A,1)*eps,矩阵的-1范数越大,求解的误差越大;
(3)[X,W]=nnls(A,b)当x(i)=0时,w(i)<0;当下x(i)>0时,w(i)0,同时返回一个双向量w。
【例9】求方程组的非负最小二乘解
A=[3.4336-0.52380.6710
-0.52383.2833-0.7302
0.6710-0.73024.0261];
b=[-1.0001.50002.5000];
[X,W]=nnls(A,b)
X=
0
0.6563
0.6998
W=
-3.6820
-0.0000
-0.0000
x1=A\b
x1=
-0.3569
0.5744
0.7846
A*X-b
ans=
1.1258
0.1437
-0.1616
A*x1-b
ans=
1.0e-0.15
-0.2220
0.4441
0
==============================================================
关于采用matlab进行指定非线性方程拟合的问题
(1)
※1。
优化工具箱的利用
函数 描述
LSQLIN 有约束线性最小二乘优化
LSQNONNEG 非负约束线性最小二乘优化问题
当有约束问题存在的时候,应该采用上面的方法代替Polyfit与反斜线(\)。
具体例子请参阅优化工具箱文档中的相应利用这两个函数的例子。
d. 非线性曲线拟合
利用MATLAB的内建函数
函数名 描述
FMINBND 只解决单变量固定区域的最小值问题
FMINSEARCH多变量无约束非线性最小化问题(Nelder-Mead方法)。
下面给出一个小例子展示一下如何利用FMINSEARCH
1.首先生成数据
>>t=0:
.1:
10;
>>t=t(:
);
>>Data=40*exp(-.5*t)+rand(size(t)); %将数据加上随机噪声
2.写一个m文件,以曲线参数作为输入,以拟合误差作为输出
functionsse=myfit(params,Input,Actural_Output)
A=params
(1);
lamda=params
(2);
Fitted_Curve=A.*exp(-lamda*Input);
Error_Vector=Fitted_Curve-Actural_Output;
%当曲线拟合的时候,一个典型的质量评价标准就是误差平方和
sse=sum(Error_Vector.^2);
%当然,也可以将sse写作:
sse=Error_Vector(:
)*Error_Vector(:
);
3.调用FMINSEARCH
>>Strarting=rand(1,2);
>>options=optimset('Display','iter');
>>Estimates=fiminsearch(@myfit,Strarting,options,t,Data);
>>plot(t,Data,'*');
>>holdon
>>plot(t,Estimates
(1)*exp(-Estimates
(2)*t),'r');
Estimates将是一个包含了对原数据集进行估计的参数值的向量。
附图见后面:
FMINSEARCH通常能够用来解决不连续情况,特别是如果他们不出现在解的附近的时候。
它得到的通常也是局部解。
FMINSEARCH只能够最小化实数值(也就是说,解的域必须只能包括实数,函数的输出只能够为实数值)。
当感兴趣的是复数变量的域的时候,他们必须被分割为实部与虚部。
※2.MATLAB的FIGURE窗口:
最基本的拟合界面与数据统计工具
MATLAB通过基本的拟合界面也支持基本曲线拟合。
利用这个界面,你可以快速地在简单易用的环境中实现许多基本的曲线拟合。
这个界面可以实现以下功能:
a.通过比样条插值(splineinterpolant)、hermite插值、或者是高达10阶的多项式插值实现数据的拟合;
b.对给定数据同时实现多样插值的绘制;
c.绘制残差图;
d.检查拟合结果的残差的数值;
e.通过内插值或者外推插值评价一个拟合结果;
f.对拟合结果和残差的模进行图形绘制;
g.将拟合结果保存入MATLAB工作空间。
开发你的拟合应用的时候,你可以通过基本拟合(BasicFitting)界面,也可以通过命令行函数,也可以同时作用。
你可以通过基本拟合界面只能够实现2-D数据的拟合。
然而,如果你用subplot绘制多个数据集,只要有至少一个数据集是2D的,那么就可以用基本拟合界面。
可以通过如下步骤激活基本拟合界面:
1.绘制数据;
2.从figure窗口的Tools菜单条下面选择BasicFitting菜单项;
有关BasicFitting界面的更多信息,请查阅MATLAB帮助文档的相应部分。
注意:
对于HP,IBM以及SGI平台,MATLAB6.0(R12.0)以及MATLAB6.1(R12.1)的基本拟合界面不受支持。
数据统计界面可以用来对图形中的每个数据集进行统计量的计算。
可以通过如下步骤将数据统计界面激活:
1.制数据;
2.从figure窗口的Tools菜单条下面选择DataStatistics菜单项;
关于采用matlab进行指定非线性方程拟合的问题
(2)
一。
优化工具箱函数
LSQNONLIN解决非线性最小二乘法问题,包括非线性数据拟合问题
LSQCURVEFIT 解决非线性数据拟合问题
下面给出利用这两个函数的例子:
LSQNONLIN:
利用这个函数最小化连续函数只能够找到句柄解。
下面的例子说明利用LSQNONLIN函数用下面的函数进行拟合:
f=A+Bexp(C*x)+D*exp(E*x)
对数据集x与y进行拟合,其中y是在给定x的情况下的期望输出(可以是方程给出数组,也可以是单独数据组成的数组)。
为了解决这个问题,先建立下面的名为fit_simp.m的函数,它利用数据x与y,将他们作为优化输入参数传递给LSQNONLIN。
利用给定的数据x计算f的值,再与原始数据y进行比较。
经验值与实际计算出的值之间的差异作为输出值返回。
LSQNOLIN函数就是最小化这些差的平方和。
function diff=fit_simp(x,X,Y)
%此函数被LSQNONLIN调用
%x是包含等式系数的向量
%X与Y是作为操作数传递给lsnonlin
A=x
(1);
B=x
(2);
C=x(3);
D=x(4);
E=x(5);
diff=A+B.*exp(C.*X)+D.*exp(E.*X)-Y;
下面的脚本是利用上面定义的fit_simp.m函数的一个例子:
%定义你打算拟合的数据集合
>>X=0:
.01:
.5;
>>Y=2.0.*exp(5.0.*X)+3.0.*exp(2.5.*X)+1.5.*rand(size(X));
%初始化方程系数
>>X0=[11111]';
%设置用中等模式(memdium-scale)算法
>>options=optimset('Largescale','off');
%通过调用LSQNONLIN重现计算新的系数
>>x=lsqnonlin(@fit_simp,X0,[],[],options,X,Y);
%调用LSQNONLIN结果输出表明拟合是成功的
Optimizationterminatedsuccessfully:
GradientinthesearchdirectionlessthantolFun
Gradientlessthan10*(tolFun+tolX)
%绘制原始数据与新的计算的数据
>>Y_new=x
(1)+x
(2).*exp(x(3).*X)+x(4).*exp(x(5).*X);
>>plot(X,Y,'+r',X,Y_new,'b');
※注意:
LSQNONLIN只可以处理实数变量。
在处理包括复数变量的实例的拟合的时候,数据集应该被切分成实数与虚数部分。
下面给出一个例子演示如何对复数参数进行最小二乘拟合。
为了拟合复数变量,你需要将复数分解为实数部分与虚数部分,然后把他们传递到函数中去,这个函数被LEASTSQ作为单个输入调用。
首先,将复数分解为实部与虚部两个向量。
其次,将这两个向量理解成诸如第一部分是实部、第二部分是虚部。
在MATLAB函数中,重新装配复数数据,并用你想拟合的复数方程计算。
将输出向量分解实部与虚部,将这两部分连接为一个单一的输出向量传递回LEASTSQ。
下面,给出一个例子演示如何根据两个复数指数拟合实数X与Y。
建立方程:
functionzero=fit2(x,X,Y)
%根据输入x重建复数输入
cmpx=x(1:
4)+i.*x(5:
8);
%利用复数计算函数
zerocomp=cmpx
(1).*exp(cmpx
(2).*X)+cmpx(3).*exp(cmpx(4).*X)-Y;
%将结果转换成一个列向量
%其中第一部分是实部,第二部分是虚部
numx=length(X);%实部长度
zero=real(zerocomp);%实部
zero(numx+1:
2*numx)=imag(zerocomp);%虚部
为了评价计算这个函数,需要X与Y数据集。
LSQNONLIN将根据它拟合出下面方程中的参数a,b,c与d:
Y=a*exp(b*X)+c*exp(d*X);
其中,a,b,c与d是复数变量。
>>X=0:
.1:
5;
>>Y=sin(X);
>>Y=Y+.1*rand(size(Y))-.05;
>>cmpx0=[1i22*i];
>>x0(1:
4)=real(cmpx0);
>>x0(5:
8)=imag(cmpx0);
>>x=leastsq(@fit2,x0,[],[],X,Y);
>>cmpx=x(1:
4)+i.*x(5:
8);
>>Y1=real(cmpx
(1).*exp(cmpx
(2).*X)+cmpx(3).*exp(cmpx(4).*X));
>>plot(X,Y1,'r');
>>holdon
>>plot(X,Y,'+');
二。
LSQCURVEFIT:
利用此函数可以在最小二乘意义上解决非线性曲线拟合(数据拟合)问题。
也就是说,给定输入数据xdata,以及观测的输出数据ydata,找到系数x,使得函数F(x,xdata)能够最好的拟合向量值。
LSQCURVEFIT利用与LSQNONLIN相同的算法。
它的目的在于专门为数据拟合问题提供一个接口。
在拟合的时候,2维、3维或者N维参数拟合是没有什么差别的。
下面给出一个3维参数拟合的例子。
待拟合函数是:
z=a1*y.*x..^2+a2*sin(x)+a3*y.^3;
建立的myfun.m的函数如下:
functionF=myfun(a,data);
x=data(1,:
);
y=data(2,:
);
F=a
(1)*y.*x.^2+a
(2)*sin(x)+a(3)*y.^3;
下面的脚本展示了这么利用上面的函数:
>>xdata=[3.67.79.34.18.62.81.37.910.05.4];
>>ydata=[16.5150.6263.124.7208.59.92.7163.9325.054.3];
>>zdata=[95.0923.1160.6348.5989.1276.9745.681.8482.1744.47];
>>data=[xdata;ydata];
>>a0=[10,10,10];%初识揣测
>>[a,resnorm]=lsqcurvefit(@myfun,a0,data,zdata)
Maximumnumberoffunctionevaluationsexceeded;
increaseoptions.MaxFunEvals
a=0.0088 -34.2886 -0.0000
resnorm=2.2636e+004
>>formatlong
>>a
a= 0.00881645527493-34.28862491919983 -0.00000655131499
>>option=optimset('MaxFunEvals',800);
>>[a,resnorm]=lsqcurvefit(@myfun,a0,data,zdata,[],[],option)
Optimizationterminatedsuccessfully:
RelativefunctionvaluechangingbylessthanOPTIONS.TolFun
a= 0.00740965259653-20.21201417111138 -0.00000502014964
resnorm=2.195886958305428e+004
统计工具箱函数
函数名 描述
nlinfit(非线性回归) 采用Gauss-Newton法进行非线性最小二乘数据拟合
lscov(线性回归) 根据已知协方差矩阵进行最小二乘估计
regress 多元线性回归
regstats 回归诊断
ridge 脊回归(?
Ridgeregress)
rstool 多维响应表面可视化(RSV)
stepwise 交互式逐步回归
具体例子请参阅相应文档
==========================================================
在Matlab中如果求解一个二元二次方程,现在只有两个方程可以用solve求解出所有的解。
但是当存在多余2个方程的时候(即为超定方程组时),该如何求解呢?
?
还能用Solve函数吗?
比如下面的方程:
a1*x^2+b1*x+c1*y^2+d1*y=e1
a2*x^2+b2*x+c2*y^2+d2*y=e2
a3+b3*x+c3*y=e3
x,y为未知数,其他的为已知数,求解x,y.
----------------------
用fmin求e1^2+e2^2+e3^2的最小解
-------------------------
你的意思是将方程转换成:
a1*x^2+b1*x+c1*y^2+d1*y-e1=f1
a2*x^2+b2*x+c2*y^2+d2*y-e2=f2
a3+b3*x+c3*y-e3=f3
再用fminsearch求解最小值min(f1+f2+f3),得到最终的未知数的值是不是?
?
很有道理。
但是这个fminsearch是需要初始解才能得到最终的解的。
假如不知道初始解该如何求解呢?
?
-----------------------------
1.fminsearch求解最小值min(f1^2+f2^2+f3^2)
2.一般非线性问题的数值解往往都是迭代法,因而需要初值
3.初值可以试出来或者对原始方程作简化然后定性分析出一个解的大体范围来确定初值。
4.非线性问题很少有一劳永逸的一统天下的解法
5.正因为如此,才让我们有事做,有饭吃
========================================================