工程数学-计算方法-第三章-线性方程组的解法_精品文档.ppt
《工程数学-计算方法-第三章-线性方程组的解法_精品文档.ppt》由会员分享，可在线阅读，更多相关《工程数学-计算方法-第三章-线性方程组的解法_精品文档.ppt（73页珍藏版）》请在冰豆网上搜索。
计算方法,湖南大学电气与信息工程学院郭斯羽,华中科技大学数学与统计学院计算方法课程组制湖南大学电气与信息工程学院科学与工程计算方法及应用课程组修改,第3章线性方程组的解法,3线性方程组的解法,3.0引言3.1雅可比（Jacobi）迭代法3.2高斯塞德尔迭代法3.3超松驰迭代法3.4迭代法的收敛性,3.5高斯消元法3.6高斯列元素消去法3.7三角分解法3.8追赶法3.9其它应用3.10误差分析,3.0引言,重要性：
解线性代数方程组的有效方法在计算数学和科学计算中具有特殊的地位和作用。
如弹性力学、电路分析、热传导和振动、以及社会科学及定量分析商业经济中的各种问题。
求解线性方程组的求解方法，其中，。
假设非奇异，则方程组有唯一解.,3.0引言,分类：
线性方程组的解法可分为直接法和迭代法两种方法。
直接法：
对于给定的方程组，在没有舍入误差的假设下，能在预定的运算次数内求得精确解。
最基本的直接法是Gauss消去法，重要的直接法全都受到Gauss消去法的启发。
计算代价高.迭代法：
基于一定的递推格式，产生逼近方程组精确解的近似序列.收敛性是其为迭代法的前提，此外，存在收敛速度与误差估计问题。
简单实用,诱人。
3.1雅可比Jacobi迭代法（AX=b）,一、迭代法的基本思想,二、例题分析,三、Jacobi迭代公式,与解f（x）=0的不动点迭代相类似，将AX=b改写为X=BX+f的形式，建立雅可比方法的迭代格式：
其中，B称为迭代矩阵。
其计算精度可控，特别适用于求解系数为大型稀疏矩阵（sparsematrices）的方程组。
3.1雅可比Jacobi迭代法（AX=b）,迭代法的基本思想,问题:
（a）如何建立迭代格式？
（b）向量序列x（k）是否收敛以及收敛条件?
2例题分析:
其准确解为X*=1.1,1.2,1.3。
考虑解方程组,
（1）,3.1Jacobi迭代法,2例题分析:
建立与式
（1）相等价的形式：
（2）,其准确解为X*=1.1,1.2,1.3。
考虑解方程组,
（1）,3.1Jacobi迭代法,2例题分析:
其准确解为X*=1.1,1.2,1.3。
建立与式
（1）相等价的形式：
考虑解方程组,取迭代初值,据此建立迭代公式：
迭代结果如下表：
设方程组AX=b,通过分离变量的过程建立Jacobi迭代公式，即,由此我们可以得到Jacobi迭代公式：
3.1Jacobi迭代公式,雅可比迭代法的矩阵表示,写成矩阵形式：
L,U,D,Jacobi迭代阵,3.2高斯-塞德尔迭代法（AX=b）,注意到利用Jacobi迭代公式计算,时，已经计算好了,的值，而Jacobi迭代公式并不利用这些最新的近似值计算，仍用,写成矩阵形式：
Gauss-Seidel迭代阵,3.2高斯-塞德尔迭代法,其准确解为X*=1.1,1.2,1.3。
考虑解方程组,高斯-塞德尔迭代法算例,高斯-塞德尔迭代格式,开始,T,F,T,F,T,逐次超松弛迭代法（SuccessiveOverRelaxationMethod，简写为SOR）可以看作带参数的高斯-塞德尔迭代法，是G-S方法的一种修正或加速，是求解大型稀疏矩阵方程组的有效方法之一。
3.3超松驰迭代法SOR方法,1.SOR基本思想,设方程组AX=b,其中，A=（aij）为非奇异阵，x=（x1,x2,xn）T,b=（b1,b2,bn）T.假设已算出x（k），,3.3超松驰迭代法SOR方法,2.SOR算法的构造,称为松弛因子,利用高斯-塞德尔迭代法得:
3.3超松驰迭代法SOR方法,2.SOR算法的构造（基于G-S迭代）,解方程组AX=b的逐次超松弛迭代公式：
显然，当取=1时，上式就是高斯-塞德尔迭代公式.,3.3超松驰迭代法SOR方法,2.SOR算法的构造（基于Jacobi迭代）,得到解方程组AX=b的逐次超松弛迭代公式：
显然，上式就是基于Jacobi迭代的SOR方法.,下面令，希望通过选取合适的来加速收敛，这就是松弛法。
3.SOR算法的进一步解释,SOR方法,其中ri（k+1）=,相当于在的基础上加个余项生成。
利用SOR方法解方程组,SOR例题分析:
其准确解为x*=1,1,2.,建立与式
（1）相等价的形式：
据此建立G-S迭代公式：
取迭代初值:
=1.5,迭代结果如下表.,SOR迭代公式为：
GS迭代法须迭代85次得到准确值x*=1,1,2;而SOR方法只须55次即得准确值.,由此可见，适当地选择松弛因子，SOR法具有明显的加速收敛效果.,关于SOR方法的说明：
显然，当时，SOR方法就是Gauss-Seidel方法。
SOR方法每一次迭代的主要运算量是计算一次矩阵与向量的乘法。
时称为超松弛方法，时称为低松弛方法。
计算机实现时可用控制迭代终止，或用SOR方法可以看成是Gauss-Seidel方法的一种修正。
（迭代法基本定理）设有方程组，对于任意的初始向量，迭代公式收敛的充要条件是迭代矩阵的谱半径.,3.4迭代法的收敛性-充要条件,迭代法的基本定理在理论分析中有重要意义。
（迭代法收敛的充分条件）设方程组迭代法为如果有的某种算子范数满足，则,在具体使用上，由于，因此，我们利用范数可以建立判别迭代法收敛的充分条件。
3.4迭代法的收敛性-充分条件,关于解某些特殊方程组迭代法的收敛性定义：
（对角占优阵）设
（1）如果元素满足称为严格对角占优阵
（2）如果元素满足且上式至少有一个不等式严格成立，称为弱对角占优阵。
设，如果：
为严格对角占优，则解的Jacobi迭代法，Gauss-Seidel迭代法均收敛。
Seidel迭代格式为,从式中解出,故可得Seidel迭代矩阵为,从例中可以看出Jacobi迭代矩阵Bj的主对角线为零，而Seidel迭代矩阵Bs的第1列都是零，这对一般情况也是成立的。
举例检验Jacoai迭代的收敛性,首先将原方程组写为迭代形式的方程组，即：
求任一行之和的最大值1,即：
|M|=max5/8,5/11,9/12=9/121,i,或求任一列之和的最大值1,即：
|M|1=max114/132,60/96,30/88=114/1321,结论：
该方程组采用Jacobi迭代法计算是收敛的。
已知线性方程组为：
3.5高斯消元法,首先将A化为上三角阵，再回代求解。
（一）高斯消去法的求解过程,可分为两个阶段:
首先,把原方程组化为上三角形方程组,称之为“消元”过程;然后,用逆次序逐一求出三角方程组（原方程组的等价方程组）的解,并称之为“回代”过程.,下面分别写出“消元”和“回代”两个过程的计算步骤.,记,Step1：
设，计算因子,将增广矩阵第i行mi1第1行，得到,其中,Stepk：
设，计算因子,共进行？
步,n1,且计算,回代,若A的所有顺序主子式均不为0，则高斯消元无需换行即可进行到底，得到惟一解。
利用高斯消元法求解方程组:
解：
3.5高斯消元法_例题分析,利用,得,利用,得,利用,得,显然，方程组（4）与
（1）是等价的，其系数矩阵为上三角状的，易于求解.称以上过程为高斯消去法的消去过程.通过方程组（4）的回代求解，可以得到准确解为,这一过程为高斯消去法的回代过程。
3.5高斯消元法_选主元消去法,Gauss消元法第k次消元是用第k个方程,主元素及其选取问题,来消去第k+1,n个方程中的xk,条件是.,是实现第k次消元的关键元素，称为第k次消去的主元.,Gauss消元法存在的问题是：
例：
单精度解方程组,用GaussianElimination计算：
8个,用小主元10-9作除数，致使其它元素的数量级大大增加，舍入误差的扩散将准确解淹没了。
3.5高斯消元法_选主元消去法,全主元消去法,每一步选绝对值最大的元素为主元素，保证。
Stepk:
选取,Ifikkthen交换第k行与第ik行;Ifjkkthen交换第k列与第jk列;,消元,注：
列交换改变了xi的顺序，须记录交换次序，解完后再换回来。
算法：
1.消元过程，对
（1）选主元，找使得
（2）若，则停止，推出（3）若，则换行，（4）消元，对有,5.3高斯主元素消元法,考虑在整个矩阵范围选主元，这就是所谓的全主元消去法，此时要注意的是，在做列的变换时，要同时记录当前变量的次序，以免自变量的含义不清。
有,回代过程：
（1）若，则停止
（2）对,例：
注：
列主元法没有全主元法稳定。
例：
列主元消去法,在计算机上实现全主元素消去法意味着进行数的比较操作，选全主元素法需要相当多的计算时间，因此常采用局部选主元素的方法.省去换列的步骤，每次仅选一列中最大的元。
例题分析（Guass全选主元法）,精确解为：
x1=1.9273,x2=-0.698496,x3=0.9004233,例题分析（Guass列选主元法）,精确解为：
x1=1.9273,x2=-0.698496,x3=0.9004233,3.6三角分解法,高斯消元法的矩阵形式：
Step1:
第一次消元:
即相当于:
单位下三角阵,由上述讨论可知，高斯消去法实质上产生了一个将系数矩阵A分解为上三角阵与下三角阵相乘的因式分解。
若A的所有顺序主子式均不为0，则A的LU分解唯一（其中L为单位下三角阵）。
设有方程组AX=b,并设A=LU,于是AX=LUX=b,令UX=Y,则LY=b.,于是求解AX=b的问题等价于求解两个方程组UX=Y和LY=b,
（1）利用顺推过程解LY=b,其计算公式为:
（2）利用回代过程解UX=Y,其计算公式为:
矩阵的三角分解,通过比较法直接导出L和U的计算公式。
思路,
（1）对i=1,2,n,
（2）计算U的第r行,L的第r列元素,对r=2,3,n,用三角分解法解方程组,例题分析:
解：
方程组的精确解为：
设系数矩阵作了如下三角分解：
由Doolittle分解得：
依次计算，原方程组可表为：
求解：
得：
求解：
得：
7追赶法解三对角方程组,Step1:
对A作Crout分解,直接比较等式两边的元素，可得到计算公式。
Step2:
追即解：
Step3:
赶即解：
定理,若A为对角占优的三对角阵，且满足，则追赶法可解以A为系数矩阵的方程组。
注：
如果A是严格对角占优阵，则不要求三对角线上的所有元素非零。
根据不等式可知：
分解过程中，矩阵元素不会过分增大，算法保证稳定。
运算量为O（6n）。
3.8其它应用,1.计算|A|,例用列主元素法求det（A）的值，其中,3.8其它应用,1.计算|A|,例用列主元素法求det（A）的值，其中,解：
由矩阵A的LU分解过程，可知,因此，若用列主元素法求行列式的值，只须将每一步的主元素相乘即可，当然要注意行列式的值的符号改变.其计算过程如下所示:
2计算A-1,在某些应用中，如在统计学中，可能还需要计算矩阵A的逆，并且将它明显地表示为A-1.,利用A的LU分解计算A-1设A=（aij）n为满秩矩阵，则AX=I，
（1）这里,I为单位矩阵.显然,X为A的可逆矩阵A-1.将方程
（1）改写为AX
（1）,X
（2）,X（n）=I
（1）,I
（2）,I（n）
（2）其中，X（j）,I（j）分别表示X和I的第j列,.,于是，方程
（2）又可改写为n个线性方程组的形式:
AX（j）=I（j）,（3）,由于这n个方程组的系数矩阵相同，故可应用LU分解法来进行计算，这样A-1=X
（1）,X
（2）,X（n）,并且能够极大地节省计算工作量.,利用高斯消元法计算A-1,解:
故,3.9误差分析,设方程组Ax=b,其中，为非奇异阵，由于原始数据aij,bi往往是观测数据，难免带有误差，因此，下面讨论原始数据的微小变化对线性方程组的解的影响。
1问题的提出,例:
的准确解为,这时方程组的准确解为,说明右端项的微小变化引起了解的很大扰动，其原因是由方程组本身的
升级会员 