Fisher线性判别分析实验(模式识别与人工智能原理实验1)文档格式.doc
《Fisher线性判别分析实验(模式识别与人工智能原理实验1)文档格式.doc》由会员分享,可在线阅读,更多相关《Fisher线性判别分析实验(模式识别与人工智能原理实验1)文档格式.doc(2页珍藏版)》请在冰豆网上搜索。
通过寻找一个投影方向(线性变换,线性组合),将高维问题降低到一维问题来解决,并且要求变换后的一维数据具有如下性质:
同类样本尽可能聚集在一起,不同类的样本尽可能地远。
Fisher线性判别分析,就是通过给定的训练数据,确定投影方向W和阈值y0,即确定线性判别函数,然后根据这个线性判别函数,对测试数据进行测试,得到测试数据的类别。
二、算法的基本原理及流程图
1基本原理
(1)W的确定
各类样本均值向量mi
样本类内离散度矩阵和总类内离散度矩阵
样本类间离散度矩阵
在投影后的一维空间中,各类样本均值。
样本类内离散度和总类内离散度。
样本类间离散度。
Fisher准则函数满足两个性质:
·
投影后,各类样本内部尽可能密集,即总类内离散度越小越好。
投影后,各类样本尽可能离得远,即样本类间离散度越大越好。
根据这个性质确定准则函数,根据使准则函数取得最大值,可求出W:
。
(2)阈值的确定
实验中采取的方法:
(3)Fisher线性判别的决策规则
对于某一个未知类别的样本向量x,如果y=WT·
x>
y0,则x∈w1;
否则x∈w2。
2流程图
归一化处理
载入训练数据
得到每个类的均值向量
计算类内的离散度,总的离散度
计算总离散度的逆矩阵
计算投影向量和阈值
载入测试数据
判断测试数据类别
方差标准化(归一化处理)
一个样本集中,某一个特征的均值与方差为:
归一化:
三、实验要求
寻找数据进行实验,并分析实验中遇到的问题和结论,写出实验报告。
2