ICA用于盲源分离Word文件下载.docx

1、（2）信息极大判据 理论分析表明, 如果把完成ICA的过程用一个运算网络表示，并在此网络的输出端, 引入相应的信源的累积分布函数为变换函数的一个非线性环节, 把转化为,则的熵最大就等效于式（5）互信息极小 （3）极大似然估计判据 极大似然估计的目的是通过对观测模型式x=As进行估计，得到潜在的信号S,利用 （6）当N足够大时，其对数似然概率收敛于它的期望 （7）式可改写为： （8）即，可通过极大似然估计判据 提取独立成份3.常用ICA算法（1） 成对旋转法 ：利用Givens旋转,将中的独立成份两两成对旋转直到独立性判据目标函数收敛为止 2） 固定点算法: （i）（四阶累积量） （9）（ii）

2、 Newton法 （10）（3）自然梯度学习算法 （11） 4.ICA算法仿真实例：原始信号 混合信号 ICA 分离信号5. ICA理论研究方向（1）固定点算法（2）非线性ICA研究（3）噪声ICA研究（4）overcompleteICA研究（5）子空间ICA研究6.ICA应用研究（1） 信号分离（2） 图像去噪（3） EEG数据分离（4） fMRI数据处理下面介绍两种算法进行ICA用于信号分离的实验验证：第一种：快速ICA算法算法步骤：（1）取任意初始矢量，要求它满足 （令=0）。（2）求，注意其中k为迭代序号，不是时间序列。E（.）可以通过对z的各采样时刻值求均值来估计。（3）将归一化：。

3、（4）如果不接近1，则令k加1，回到步骤（2）。否则迭代结束。输出最终的作为（5）提取独立分量：（注：具体原理可参考教材第99页。）实验程序：%-产生信号-t=linspace（0,100,100）;s1=sin（t/2）;plot（s1）s2=exp（-0.2*t）.*cos（pi*t）;figure;plot（s2）;s3=1/1000*t.2.*cos（t/4）.2;plot（s3）;%-信号进行混合-A=0.1,0.2,0.7;0.2,0.6,0.2;0.3,0.5,0.2; %混合矩阵s=s1;s2;s3;Y=A*s; %进行信号混合%-去均值-meanValue=mean（Y）;Y

4、=Y-diag（meanValue）*ones（size（Y）;%-球化-covarianceMatrix=cov（YU,V,W=svd（covarianceMatrix）; %矩阵的SVD分解x=diag（V）;x=x.（-1/2）;V=diag（x）;Z=V*U*Y;%-绘制的球化后的信号图-figureplot（Z（1,:）;plot（Z（2,:plot（Z（3,:%-盲源分离程序-p=zeros（3）; %存储每次得到的u1矢量for i=1:3u1=rand（3,1）;a=sqrt（sum（u1.2）; %产生初始矢量u1=u1./a;n=0;m=1; while（m1e-15） u

5、2=zeros（3,1）; for j=1:100 y=u1*Z（:,j）; u2=u2+y3*Z（: end u2=u2./100; %得到迭代后的u2矢量 w3=zeros（3,1）; for l=1:i-1 w3=w3+（u2*p（:,l）*p（:,l）; end u2=u2-w3; %进行矢量的施密特正交化，得到相互正交的向量 d=sqrt（sum（u2.2）; u2=u2./d; m=abs（u1*u2-1）; u1=u2; n=n+1; p（:,i）=u1;endq=p*Z;%-绘制分离后的信号-plot（q（1,:plot（q（2,:）plot（q（3,:运行程序得到的结果为：解

6、混矩阵p为：p = 0.0027 0.9915 -0.1302 0.4423 -0.1180 -0.88910.8969 0.0551 0.4389源信号：混合后的信号：解混后的信号：分析：从上面的结果可以看出，分离出的信号幅度和顺序发生了改变，同源信号几乎一致。第二种算法：ICA的共轭下降法原理：这种方法以最小化互信息准则作为ICA的判据。在信息论里，互信息是衡量随机变量间独立性的尺度，用负熵来表示互信息为：其中J（y）表示y的负熵。当y中各分量相互独立时，最小化互信息就等价于最大化各分离成分的负熵之和。负熵可以由近似。其中，c为常数，v是具有0均值，单位方差的高斯变量，E表示期望运算，G是

7、非线性非二次的函数，本实验中取所以此问题转化为找出权值矩阵W，使分离出来的估计信号能使函数最大。算法实现：定义目标函数为：其中，w为矩阵w的向量。前面提到的负熵由前面的式子近似的条件是是0均值单位方差的变量。对于已经白化的观察信号x，这就相当于限制w的范数为1。转化为无限制条件的优化问题，根据工程优化的相关知识，可以得到惩罚函数为：F（w）的梯度为：其中，为常数，为G的导数。w的计算步骤如下：1.设定初始点，置=,设定迭代次数为n=1000次;2.若n=1000则停止迭代；否则，进行正交归一化；其中步长为，（01）,且满足条件：3.，4.置k：=k+1，转2.算法程序：%-产生源信号并显示-s

8、2=1/1000*t.2.*cos（t/4）.2;plot（s2）s3=exp（-0.2*t）.*cos（pi*t）;%-进行源信号混合-0.2,0.4,0.4;0.3,0.2,0.5; %混合矩阵 %-去均值和球化- %球化后的矩阵%-显示球化后的信号-%-盲源分离算法主程序-syms y G %定义y和G为符号变量G=1/4*y4;w1=rand（3,1）;w1=w1./sqrt（sum（w1.2）; %产生初始的范数为1的随机向量u=zeros（3,1）;g=diff（G）; y=w1,i）; u=u+eval（g）*Z（:a=0.1;u=-u./100-a*w1;d1=-u; %产生初

9、始的搜索方向向量d %-选择初始的步长minb- n=0; c=a.0,1,2,3,4; e=length（c）; while（n=1000） minb=c（1）; w2=w1+minb*d1; h=0; for k=1: y=w2,k）; h=h+eval（G）; minF=-h/100-a/2*（norm（w2）2-1）; for k=2:e w2=w1+c（k）*d1; for r=1:,r）; h=-h/100-a/2*（norm（w2）2-1）; if（hminF） minb=c（k）; minF=h; %-对迭代求得的向量进行正交归一，进行下一次迭代- %w2为经过迭代求得的向量

10、w3=w3+（w2 w2=w2-w3; %w2进行正交化 w2=w2./sqrt（sum（w2.2）; u1=zeros（3,1）;for j=1: u1=u1+eval（g）*Z（:u1=-u1./100-a*w2;t=-norm（u1）2/（d1*u）;b=max（t,0）;d2=-u1+b*d1;n=n+1;d1=d2;w1=w2;u=u1;,i）=w1; %把求得满足条件的向量存储在p中 q=w1*Z figure; plot（q）; %绘制解混后的信号运行结果：求得的解混矩阵为： 0.0072 -0.9369 -0.3495 0.0778 -0.3479 0.93430.9969 0.0339 -0.0704混合球化后的信号：分离后的信号：与快速ICA比较，得到的结果比其要好。ICA的方法很多，这里不意义列举，其应用之一可以做图像分离，当混合图像是几个不相关图像的混合时，可以用ICA进行分离。