矩阵分解及应用.docx
《矩阵分解及应用.docx》由会员分享，可在线阅读，更多相关《矩阵分解及应用.docx（64页珍藏版）》请在冰豆网上搜索。
矩阵分解及应用
引言
数学是人类历史中发展最早，也是发展最为庞大的基础学科。
许多人说数学是万理之源，因为许多学科的研究都是以数学做为基础，有了数学的夯实基础，人类才铸就起了众多学科的高楼大厦，所以数学的研究和发展一直在不断的发展壮大。
在数学中有一支耀眼的分支，那就是矩阵。
在古今矩阵的研究发展长河中产生了许多闪耀星河的大家。
英国数学大家詹姆斯•约瑟夫•西尔维斯特，一个数学狂人，正是他的孜孜不倦的研究使得矩阵理论正式被确立并开启了矩阵发展的快速发展通道。
凯莱和西尔维斯特是非常要好的朋友，他也是一位非常伟大的数学大师，正是他们伟大的友谊，加上两人的齐心协力最后他们共同发展了行列式和矩阵的理论。
后来高斯在矩阵方面的研究取得重要的成就，尤其是高斯消去法的确立，加速了矩阵理论的完善和发展。
而在我国，矩阵的概念古已有之。
从最早的数学大家刘徽开始我们古代数学大家都已或多或少的研究了矩阵。
尤其在数学大家刘徽写的《九章算术》中，它
最早提出了矩阵的类似定义。
而且是将矩阵的类似定义用在了解决遍乘直除问题里了。
这已经开始孕育出了最早的矩阵形式。
随着时间转移，矩阵的理论不断的完善，在对于那些大型矩阵的计算中如果用基本方法显得过于繁重，于是发展出了矩阵的分解，随着对矩阵分解的不断研究完善，矩阵分解方法和理论也日趋成熟
矩阵经常被当做是数学工具，因为在数学问题中要经常用上矩阵的知识。
矩阵是一个表格，要掌握其运算法则，作为表格的运算与数的运算既有联系又有差别，在所有矩阵的运算方法中，矩阵的分解是他们中一种最重要并且也是应用最广泛。
矩阵分解主要是对高斯消去法的延续和拓展。
在一些大型的矩阵计算中，其计算量大，化简繁杂，使得计算非常复杂。
如果运用矩阵的分解，将那些大型矩阵分解成简单的矩阵的乘积形式，则可大大降低计算的难度以及计算量。
这就是矩阵分解的主要目的。
而且对于矩阵的秩的问题，特征值的问题，行列式的问题等等，通过矩阵的分解后都可以清楚明晰的反应出来。
就连矩阵的奇异性也显而易见。
在另一方面，对于哪些大型的数值计算问题，矩阵的分解方式以及分解过程也可以作为其计算的理论依据。
第一章矩阵的基本知识储备
矩阵的知识体系涉及的知识多而且琐碎，所以先对其整体知识性构建基本的知识体系。
即首先对矩阵的基本知识进行储备。
所以本文将首先进行基本知识的总结和概述。
1.1矩阵的基本知识
定义：
由mn个数aij
（i=1,2.・.m;j=1,2...n）排成的m行n列的数表:
上面式子也可写为：
^Am^（aij）m^（aij）.这个所述的mn个数也称之为矩阵A的元素，即简称它是元。
实矩阵：
指的是元素全是实数的矩阵。
同理知道复矩阵即为元素是复数的矩阵。
下面所述几种比较特殊的矩阵：
（1）方阵指的是行数和列数相等的矩阵。
简记Ann
（2）仃向量：
An=（31,a1,...,an）。
_aj
（3）列向量：
B="。
（4）对角矩阵（对角阵）。
把它记做是：
A二diag（‘1,‘2,...,n）
n
（5）元素全是0的矩阵叫做零矩阵。
（6）对于主对线的左下方，如果其元素都是0,则称它是上三角矩阵，否则称作是下三角矩阵。
例如：
ai1ai2...ainI
A0a22...a2n
■■■■■■■■■■■■
-00...ann一
（8）对角矩阵中元素都为1的对角阵叫做是对角方阵。
1.2:
可逆矩阵（非奇异方阵）的定义
可逆矩阵的定义和线性代数是紧密联系在一起的，即给定一个方阵A,它是
n阶方阵，如果存在和A同为n阶的方阵B,使得AB=BA=E（或
AB二E,BA二E中总有一个成立），E指的是阶数为n的单位矩阵，那么A就是可逆矩阵，B则叫做A的逆矩阵，即AJ=B。
方阵A的逆矩阵如果是存在的话，把矩阵A称作是非奇异方阵或者是可逆方阵也可以是满秩矩阵。
如果A=0,那么
矩阵A通常被称作是奇异矩阵（降秩矩阵）。
对于矩阵A,如果他不是满秩的矩阵，也就是它的行列式的值是不等于零的，即满足条件：
丨A|m0。
那么A则必
定是可逆的。
上面叙述的性质也是我们在学习中经常用于判断矩阵可逆的充分必要的条件。
而对于下面叙述的条件是与上述判断矩阵可逆的条件是等价的：
（1）矩阵A是可逆的的矩阵。
（2）A的行列式不为零。
（3）A的秩等于n（即矩阵A是满秩矩阵）。
（4）A等价于单位矩阵E
（5）A仅仅用初等行变换就可以化成单位矩阵E
1.3:
共轭转置的定义（A）,j二兀。
其中（）i,j表示矩阵i行j列上的元素，门表示标量的复共轭。
这一定义也可以写作：
A=（A）^AT，其中At是矩阵A的转置，A表示对矩阵A中的元素取复共轭（）。
通常情况下我们用记号A*或AH来表示矩阵A的共轭转置。
对于在某种情况下极易混淆，就是在特定情况下」表示只对矩阵元素取复共轭，而对矩阵做转置，概念不能混淆。
比如，对于矩阵A假如等于如下：
—；3+i51
A—
]2—2ii一
那么由上面所述的性质定理可以得到矩阵A的共轭转置：
A*，"22i
:
5-iJ
假如矩阵A的元素都是实数，即矩阵A是实矩阵，那么共轭转置矩阵A*与矩阵A的转置矩阵at是相等的。
复数的推广中经常用到的是复值方块矩阵，而共轭转置是对共轭复数的推广应用。
共轭矩阵的基本性质：
（1）如果矩阵A和矩阵B的维数相等，贝U:
（AB）*二A*•B*
（2）（rA）*二r*A*，并且其中r是复数，厂为r的复共轭。
（3）对于m行n列的矩阵A以及n行p列矩阵的矩阵B,有（AB）*二B*A*。
（4）（A*）*二A
（5）假如A是方阵，那么有det（A*）=（detA）*，并且有tr（A*）=（trA）*,
如果矩阵A可逆，则仅当在矩阵A的共轭转置A*是可逆矩阵，且满足，
（A）」=（AJ）.
对于共轭矩阵A*它的特征值相较于矩阵A的特征值，它是矩阵A特征值的复共轭。
1.4:
酉矩阵的定义：
n阶复方阵U,当矩阵U的n个列向量同时也是矩阵U空间的标准正交基的时候，我们把矩阵U叫做是酉矩阵。
酉矩阵的判断方法：
对于那些方阵本身即U矩阵乘以方阵的共扼转置即U
的共轭转置最后的结果是单位阵，那么就可以判定矩阵U肯定是酉矩阵。
换一种表达就是对于酉矩阵有：
其逆矩阵和伴随矩阵相等。
并且对于酉等价指的是从标准的正交基变换到标准正交基的一种特殊的基变换的方式。
也可以用如下定义来描述酉矩阵：
即如果一个复矩阵U它是n行n列的，并且同时满足条件：
U*U二UU*=ln。
而对于In，它是一个n阶的单位矩阵，对于矩阵U*，它是U的共轭转置矩阵，这也就是矩阵U的酉矩阵，如果对于矩阵U,其他的共轭转置U*是原来矩阵U的逆矩阵时，即时U」=U*.
在酉矩阵中有一种特殊情况：
即对于酉矩阵，如果它的所有元素都是实数的话，可以判定它为正交矩阵。
且其和正交矩阵G有着差不多的性质：
即他们不管怎么变化都不会改变实向量内积，即：
（Gx,Gy）=（x,y）。
同时，酉矩阵U也是不会改变两个复向量的内积的：
（Ux,Uy）=（x,y），下列条
件和U是n阶方阵是等价的：
页眉内容
（1）对于U是酉矩阵的话，那么U*也一定是酉矩阵。
（2）对于U矩阵，他的列向量同时也构成了Gn上的一组正交基在它所对应的内
积空间下。
同时也可以推断出它的行向量也构成一组正交基在内积空间Gn下。
酉矩阵U的性质：
（1）U是可逆矩阵；
（2）U」二U*矩阵U的逆矩阵等于矩阵U的转置矩阵，同时有U*是酉矩阵;
（3）det（J）=1；
（4）UX2=X2；
第二章矩阵的三角分解
矩阵的三角分解是所有矩阵分解知识中第一个被提出来并被完善的。
矩阵的
三角分解在矩阵的分解中有着基础的作用。
最早的时候是高斯在研究矩阵消去的时候发现了三角法，后面在弗罗博扭波斯的大力研究发展下，矩阵的三角分解取得了极大的突破。
本章节主要对矩阵的三角分解进行详细的探讨。
值得一提的是
在19世纪，西方数学进入中国后，许多中国的有识之士结合中国数学发展和西方数学知识，为整个数学知识的推动起了很大的作用。
2.1:
对于高斯消去法的方法和它的计算思路的初步探讨例1，解方程组：
2X!
X2X3=7
丿4X,+5X2-X3=11,
Xr_X2+X3=0
解：
首先我们先写出该方程组的矩阵形式：
AX二b，并且有：
_21q「7]A=45-1,b=11.
1「1」m
第一步，那就是消元的过程：
对增广矩阵进行消元：
1
2
1
1
7〕
■2
1
1
71
■2
1171
（Ab）=
4
5
-1
11
0
3
-3
-3
->
0
3
-3-3
i
1
-1
1
0一
0
—1.5
-0.5
-3.5一
0
0
=1=5
即得方程组:
2X“+X2+X3=7
«3X2_3X3=-3.
、_X3=-5
第二步，回代过程：
[X3=（-5）/（-1）=5
«X2=（-3+3X3）/3=（-3+3P）/3=4
X=（7_X2_X3）/2=（7_4_5）,'2=-1
上面所用的方法是高斯消去法中最基本的一种方法。
2.2:
高斯消去法的基本计算过程和它的计算公式
页眉内容
二bi
=b>2
设线性方程组:
aiiXi+412X2+…+ainXn
a2lXi422X2'...'a2nXn
am1X1'am2X2'…'amnXn
方程组可以写成下面的矩阵形式:
a11
%
..a1n1X1
a21
a22.
a2n
X2
—
b2
.am1
am2.
..amn
A一
1
bn一
同时也把上面式子简记为Ax=b,初始的方程组写作：
AX二b写作A⑴X=b⑴.
（1）对式子的第一次消元（k=1）,先消去2到n这（n-1）个方程组中的咅，如
设af=0,要做到:
a
（1）a
（1）
第i个方程-（减去）第1个方程-^,口1=-^‘这时a
（2）=0,i=2,3,…,m,而且右
anan
端和它的系数有:
a
（2）=ai
（1）—口崗常卫日,…,m;j=2,…,n）
b
（2）=bj⑴一mb⑴，（i=2,...m）
（2）第k次消元（k=1,2,..,s=min（m-1,n））假设已完成,即上述消元从第
（1）
（1）ana12
（1）a1k
（1）
a1,k-1
（1）a1n
_xT
（1）
步到第k步计算都以完成。
与其相等价的方程组我们已经算好:
简记上式为：
A（k）x=b（k）,如果设a；：
〉=0,第i个方程-（减去）第k个方程则得到:
对于A（k1）和b（k1），下面的公式是对他们的元素的：
a（k*）=a（k）—mikakjk）,（i=kj=k+1,…,n）
b（s）=b（k）—mkbkk）,（i=k+1,...,m_
（3）
延续上述计算，且使aS?
=0（k=12…,s）,—直到第s步消元计算结束得到了：
A（s1）x二b（s1）,即是A（s1）x=b（s1）,这个方程组是与原来的方程组等价的。
而对于与原来方程组等价的方程组里面有：
对于A（s1），他的形状是上梯形的。
由上式约化的过程称为消元过程。
如果
ARnn它是非奇异的矩阵，同时
akJ=0（k=1,2,...,n）是成立的。
则在求解下式的时候就可以得到求解公式是:
n-1,n一2,・・.,1）.
Xn七\船，
n
Xi=（bi（i）-7a（i）Xj）
求解过程称做回代过程。
有了上面的对基本的知识的理解和储备，那么我们就可以轻松的理解下面的这些基本定理：
定理1:
设线性方程组Ax二b,A是n阶实矩阵，即：
ARnn，如果有
ak『=0（k=1,2,3,…,n）,则运用高斯消去法可以将线性方程组Ax=b转化成与三角
形方程组等价，计算步骤如下：
a）消去计算（k=1,2，…,n-1）
mik=aikk）/akk〉（i=k+1,...,n_
«a『力=ajk）—mikajli,j=k+1,...,n）.
bi（kH°=b：
k）—mikbkk）（i=k+1,...,n）
b）回代计算:
（i=n—1,n—2,...,1）
Xi=（b『—{aj）Xj）/a絆
j=L^/
前提：
矩阵A它是非奇异的矩阵，同时有：
我们可以运用高斯消去的方法（也就是做两行进行交换的初等变换）把原始的方程组Ax=b化简成诸如上述形式的式子。
这样对于下面的定理就可以很轻松的理解：
定理2:
因为对于系数矩阵A,它的各个阶的顺序主子式都是不是0的，所以高斯消去法才可以运算到底。
高斯消去法能进行到底，就是因为上述定理，这也是充分必要条件。
定理2
也表明：
若阶顺序主子式不等于零则需满足akk）=0。
他们相互之间同时也是充分必要的条件。
但是通过这个我们也就可以看出高斯顺序消元法的一些不足之处，最为突出的是在条件亦=0时，这时的方程组不一定是没有解的，这时候运用高斯顺序消元法的话，它的首要条件就没有满足，那么它的第一步运算也就不能够进行下去可。
这时就可以用到列主元消元法。
下面的这种表达也归为是高斯消去法的一种方式，即：
形如
（1
k=1,2,,n-1
0…1
Lk=0…l“,k1
3333+
2…Ink0…1>
并且有:
2
akk
i二k1,,n
并且对于主对角线元素，他们全都是
1，而剩余的元素就都是0
广1
_l21
，L「=
T310
*a
1
a+
<_ln10
0…1?
例如当k=1时，有
，1
1211
L-1=I3101
999
LJA=
aii
0
0
ai2
ai3…
ain
a22）
a（i）…
a23
a2in）
a32）
a
Ji）a33
3+
a3in）
a
a⑴
62
J。
an3…
a⑴
6n
其中：
容易看出
aij=aij-liiaij
i=2,3「，n;j=1,2/,n
Lk=En1kek
k=1,2/,n-1
其中:
Lk=E+丨kek
L：
L「=E-1kek一1jejk,j=1,2,,n-1,k=j
特别的
L二L1L2Ln」
1
l21
l31
1
l32
Jn1
ln2
ln3
般地，设A（k）
a12
a1k
atk1-
a1n
a
（1）...a22
+
a
（1）
a2k
a
（1）...a2,k1
aa
a2n
a
a
（2）
akk
a（kJ）...
k,k1
a（k-1）akn
a（k）...
ak-1,k1
a+
a（k）
ak-1,n
a
a（k）...
an,k1
a（k）ann
aii
那么有L对应于A的矩阵是单位的下三角矩阵。
则有l'a^A1,L^A1二A2,…丄二An,这样的表达方式就是高斯消
元的过程的矩阵形式。
2.3:
方法细述
定义：
三角分解指的是那些将正方阵分解成由上三角阵和下三角阵组成的分解方法。
同时这样的分解方法称为LU分解法。
在较大的矩阵行列式值的计算过程中，进行直接的计算非常繁琐，而进行矩阵的分解可以大大简化运算，所以三角分解方法主要用于简化计算。
矩阵三角分解是建立在高斯消去法上，高斯消去法是三角分解的基础。
所以矩阵符合三角分解的条件和满足高斯消去法的条件一致，即矩阵A需满足其前n-1阶顺序主子式不等于零，上面的条件也经常被用于判断矩阵A是否是可以进行三角分解的前提条件，如果不能够满足这个条件的话，那么再怎么进行分那都是没有任何的意义。
在矩阵的三角分解法中，分解方法并不唯一，而是不同情况有着不同的分解页眉内容
法。
但在某些特定的条件下，A二LDU的分解就只有唯一的存在，D指的是一个对角矩阵。
Doolittle分解、Crout分解以及Cholesky分解是矩阵三角分解众多方法中最常用的三种。
且对于这三种三角分解，他们在进行三角分解时均要使用待定系数法。
且在计算阶数较大矩阵时，上述三种方法各有优点，都可使算法简单方便。
（1）Doolittle分解：
任意方阵A，进行初等变换化为两三角阵乘积。
即进
行：
PA-LU（P:
置换阵，L:
下三角阵，U:
上三角阵）。
最后得到A二LU,这就是Doolittle分解。
对于Doolittle分解有：
假设AwRnxn,如果A的前n-1阶的顺序主子式都不是等于0的，那么Doolittle分解就可以实现，也就是
A=LU，在这种条件下三角分解式是唯一的。
（2）Crout分解：
在Doolittle分解中有A=LU,如果把Doolittle分解中L
换成下三角矩阵，U换成是单位上三角矩阵•此时分解依然是成立的。
则此时的这种分解称为Crout分解。
如果n阶方阵A，它的k阶主子式均不等于0,
（k=1,2,....,n一1），则矩阵A的Doolittle分解和Crout分解都是唯一存在。
定义：
对于式子A二LR，如果A满足ACrnn并且假设存在这样的下三角矩
阵：
Cnn和上三角矩阵RCnn,那么称A是可以进行三角分解。
三角分解有一些基本的定理：
1）矩阵A可进行三角分解的条件：
对于矩阵A,其前r个顺序主子式全都都不等于零，同时A满足条件Acnn，即:
：
k=0,k=1,2,,r
o
2）假设有m行n列的矩阵A（ACmn）。
满足：
-0（k=1,2...,n-1）,即前n-1阶顺序主子值不等于0。
同时满足：
L单位下三角阵，U单位上三角阵，D对角矩
阵，即D二diag（d1,d2,...,dn），且满足4=厶仆dk二—（k二2,3,...,n）.那么A就可
以唯一分解为A二LDU，这也是矩阵A可以进行唯一分解的充要条件。
2-13
例：
求矩阵A=121的LU分解和LDU分解
'242_|
解：
因为J=2,—=5,所以A有唯一的LU分解，令:
则有:
2-1
『A（0）=|o5
.05
2-1
申⑴=05
2卫0
3*j
--=A⑴,再令1_2=0
2
-10
1_1
故有L：
=01
1一卫_2
3【
--=A
（2）.由此知道L=L丄2
2
0
■1
2
则有:
1
1于是A=A（0）的LDU
21
分解为:
从而可得到A的LU分解为:
1,
15
-1
0-
2
2
」21一
000一
0
0
A=4A⑵
2
1
5
1
_1
1
2
01「2
0
-1
5
2
0
31
1
_2
0
2.4:
矩阵的三角分解的计算方法以及其格式的初步探讨
（1）直接计算法：
直接计算法是高斯消去法的一种延伸，它是三角分解最基本的方法。
直接计算法相比高斯消去法，其本质基本未变，就是将原方程组化成由一个或者是由若干个三角形方程组组成的过程。
直接计算三角分解的方法并不唯
，这需要我们根据实际的情况选用合适的计算方法。
对于方程组Ax二b首先
7?
它是非线性方程组。
对于此方程组有:
的构成形式,即A=LU那么有:
Ax=b=LUx=b
o
这样的分解方法
矩阵A是此方程组的系数矩阵，X是此方程组中的未知的向量，b是方程组中的常数项。
在Ax=b此线性方程组中，若其系数矩阵A可分解由两个三形矩阵L和
就是我们经常说的矩阵的直接三角形分解法
a）Doolittle分解法（直接三角分解）•在实际计算中，用最基本的直接计算法进行三角分解也是很繁琐的，如果运用LU分解的紧凑格式，则可以大大的降低计算复杂度。
所以下面将讨论LU分解的紧凑格式。
首先：
对于下面的式子，总满足：
A，C；n，并且矩阵A它是能够进行三角分解。
由：
A=~R方法，有:
ai1ai2
a21a22
aa
■・
fn1an2
ain
a2n
annj
In1
°11
r12
r22
n,nA
aij二Wj=1,2,,n,
aii=1沙1（i=2,3,…，n）,
k_J
则有akj八Gm%j=k,k1,n;k二2,3,,n,
kJ
aik=」itrtklikhki=k1,k2,n;k=2,3,,n.
由上我们不难得出如下紧凑型计算公式对于矩阵A:
由此类推，就可得出Crout分解的紧凑计算格式是:
S二ai1
a1j
「1j=
1
111
k-4
ilik=
aik
-z
!
itrtk
tm
1
/
k4
rkj二
1
1
akj-
-邑lktrtj|
1.
lkk
tm丿
例：
上面已经给出了Doolittle
（i=1,2「，n）,
（j二2,3/,n）,
（i=k,kT「,n;—2,3/,n）,
（j-k1^,n;k=2,3,n）.
方法，下面用Doolittle方法实际解下列
-3_
_xj
■101
13
X2
5
-4
X3
-2
T3一
X4一
[
一7一
=（2,10,0,-3）>5j二au
方程组：
2100
-3-4-12
I123
.4149
解：
（U11,U12,U13,U14
aii
Uii
（1,I21,I31」41）T=（1,一1.5,0.5,2）丁>li!
（0巴2巴3巴4）=（0,11,-12,8.5）
（0，%，』=（oi,-3ii，-6ii）t
r-1
二a.l.u..rjrkkj
k
r-1
a—送Lkuk
ir•—ikkr
二k=1
u
rr
（0,0,U33,U34）=（0,0,'ll,2]"
（0,0,1,143）=（0,0,1,_9）T、，
（0,0,0,u44）=（0,0,0,-4）
解Ly=b,得:
（yi,
升级会员 