学习向量量化神经网络(LVQ)设计.pptx

学习向量量化神经网络(LVQ)设计.pptx

《学习向量量化神经网络(LVQ)设计.pptx》由会员分享，可在线阅读，更多相关《学习向量量化神经网络(LVQ)设计.pptx（14页珍藏版）》请在冰豆网上搜索。

主主讲：

周润景讲：

周润景教授教授单单位：

电子信息工程学院位：

电子信息工程学院学习向量量化神经网络（学习向量量化神经网络（LVQ）数据）数据分类设计分类设计目目录录学习向量量化学习向量量化神经网络神经网络简介简介学习向量量化神经网络学习向量量化神经网络结构结构学习向量量化学习向量量化神经网络神经网络学习学习算法算法学习学习向量量化神经网络向量量化神经网络应用应用于模式分类于模式分类总结总结一一.学习向量量化神经网络学习向量量化神经网络简介简介uLVQ网络是一种有教师训练竞争层的方法，主要用来进行向量识别网络是一种有教师训练竞争层的方法，主要用来进行向量识别。

uLVQ网络是两层的网络结构网络是两层的网络结构：

第第一一层层为为竞竞争争层层，和和前前面面的的自自组组织织竞竞争争网网络络的的竞竞争争层层功功能能相相似似，用用于于对输入向量对输入向量分类分类；第第二二层层为为线线性性层层，将将竞竞争争层层传传递递过过来来的的分分类类信信息息转转换换为为使使用用者者所所定定义义的期望类别。

的期望类别。

二二.学习向量量化神经网络学习向量量化神经网络结构结构学习向量量化神经网络学习向量量化神经网络结构结构二二.学习向量量化神经网络学习向量量化神经网络结构结构u学习向量量化网络和自组织映射网络具有非常类似的学习向量量化网络和自组织映射网络具有非常类似的网络结构网络结构。

网络网络有输入层和输出层组成，输入层具有有输入层和输出层组成，输入层具有NN个输入节点，接受输个输入节点，接受输入向量入向量。

输出层有输出层有MM个神经元，呈一维线性排列个神经元，呈一维线性排列。

u学习学习向量量化没有在输出层引入拓扑结构，因此在网络学习中向量量化没有在输出层引入拓扑结构，因此在网络学习中也也不再不再有获胜邻域的概念。

输入节点和输出层神经元通过权值有获胜邻域的概念。

输入节点和输出层神经元通过权值向量向量实实现现完全互连。

其中任一神经元用完全互连。

其中任一神经元用ii表示，其输入为输入向量和权值向表示，其输入为输入向量和权值向量的内积量的内积。

神经元神经元的输出为的输出为，其，其中中f（.）f（.）为为神经元激励函数，一般取为线性神经元激励函数，一般取为线性函数函数三、学习三、学习向量量化向量量化神经网络学习神经网络学习算法算法1.置变量和参量；置变量和参量；2.初始化权值向量及学习速率；初始化权值向量及学习速率；3.从训练集合中选取输入向量从训练集合中选取输入向量X；4.寻找获胜神经元：

寻找获胜神经元：

5.判断分类是否正确，根据以下规则调整获胜神经元的权判断分类是否正确，根据以下规则调整获胜神经元的权值向量：

值向量：

如果如果，则则否则，当否则，当，则则四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类网络创建函数如下：

网络创建函数如下：

net=newlvq（PR,S1,PC,LR,LF）函数各参数含义如下：

函数各参数含义如下：

PR：

输入向量的范围：

输入向量的范围S：

竞争层神经元个数，可设置为分类目标数竞争层神经元个数，可设置为分类目标数PC：

线性层输出类别比率向量：

线性层输出类别比率向量LR：

学习率，默认为：

学习率，默认为0.01LF：

学习函数，默认为：

学习函数，默认为learnlv1使用学习向量量化神经网络将三元色数据按照颜色数据所表征的特点归类。

其使用学习向量量化神经网络将三元色数据按照颜色数据所表征的特点归类。

其MATLAB实现程序如下实现程序如下：

clear;clc;%训练样本训练样本pConvert=importdata（C:

UsersAdministratorDesktoplnSelfOrganizationtrain.dat）;p=pConvert;%训练样本的目标矩阵训练样本的目标矩阵t=importdata（C:

UsersAdministratorDesktoplnSelfOrganizationtarget.dat）;t=t;%向量转换向量转换t=ind2vec（t）;%创建网络创建网络net=newlvq（minmax（p）,4,.32.29.25.14）;%开始训练开始训练net=train（net,p,t）;%用训练好的自组织竞争网络对样本点分类用训练好的自组织竞争网络对样本点分类Y=sim（net,p）;%分类数据转换输出分类数据转换输出Yt=vec2ind（Y）pause四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类%待分类数据待分类数据dataConvert=importdata（C:

UsersAdministratorDesktoplnSelfOrganizationSimulation.dat）;data=dataConvert;%用训练好的自组织竞争网络分类样本数据用训练好的自组织竞争网络分类样本数据Y=sim（net,data）;Ys=vec2ind（Y）运行上述程序后，系统显示运行过程，并给出聚类结果：

运行上述程序后，系统显示运行过程，并给出聚类结果：

TRAINR,Epoch0/100TRAINR,Epoch4/100TRAINR,Performancegoalmet.Yt=1至至15列列34314132443442216至至29列列13223324213444四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类如如图图a为为神经网络训练模块，在这里可以查看训练结果、训练状态等。

神经网络训练模块，在这里可以查看训练结果、训练状态等。

训练后即可达到误差要求，结果如训练后即可达到误差要求，结果如图图b所所示。

示。

四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类图图a神经网络训练图神经网络训练图图图b学习向量量化神经网络训练结果图学习向量量化神经网络训练结果图训练后的训练后的LVQ网络对训练数据进行分类后的结果与目标结果对网络对训练数据进行分类后的结果与目标结果对比如比如下下表所表所示。

示。

四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类序号ABC原始分类结果LVQ网络分类结果11739.941675.152395.96332373.33087.052429.474431756.7716521514.98334864.451647.312665.9115222.853059.542002.33446877.882031.663071.181171803.581583.122163.053382352.122557.041411.53229401.33259.942150.984410363.343477.952462.8644111571.171731.041735.333312104.83389.832421.834413499.853305.752196.2244142297.283340.14535.6222152092.623177.21584.3222161418.791775.892772.911171845.591918.812226.4933182205.363243.741202.6922192949.163244.44662.4222201692.621867.52108.9733211680.671575.781725.133222802.883017.111984.982223172.783084.492328.6544242063.543199.761257.2122251449.581641.583405.1211261651.521713.281570.383327341.593076.622438.634428291.023095.682088.954429237.633077.782251.9644训练训练后的后的LVQ网络对训练数据进行分类后的结果与目标结果完全吻合，可网络对训练数据进行分类后的结果与目标结果完全吻合，可见见LVQ网络训练效果良好。

继续运行程序则可得到待分类样本数据的分类结果：

网络训练效果良好。

继续运行程序则可得到待分类样本数据的分类结果：

Ys=1至至15列列34314132443442216至至30列列13223324213444331至至45列列34342234133124246至至49列列4342四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类比较比较三种竞争型人工神经网络分类器的分类结果：

三种竞争型人工神经网络分类器的分类结果：

Ys=（自组织竞争调整显示方式后的输出结果）（自组织竞争调整显示方式后的输出结果）331342234133124243422331141333Ys=（SOM调整显示方式后的输出结果）调整显示方式后的输出结果）331342234133124243422331141333Ys=（LVQ）334342234133124243422331141333四、四、学习向量量化学习向量量化神经网络神经网络模式分类模式分类五、总结五、总结u经对比可知，基本竞争型网络与经对比可知，基本竞争型网络与SOM网络的分类结果相同，而与网络的分类结果相同，而与LVQ网络第网络第3组数据的分类结果不同，与人工分类对比，发现组数据的分类结果不同，与人工分类对比，发现LVQ网络出错。

前两种网络对数据的分类完全正确。

网络出错。

前两种网络对数据的分类完全正确。

u调整调整LVQ网络后用训练样本进行训练，但分类结果没有改变，与网络后用训练样本进行训练，但分类结果没有改变，与原分类结果相同（因为该网络对其他数据的分类结果正确，所以原分类结果相同（因为该网络对其他数据的分类结果正确，所以未对网络参数做调整）。

原因为未对网络参数做调整）。

原因为LVQ网络的竞争层识别的类别仅网络的竞争层识别的类别仅与输入向量间的距离有关。

如果两个输入向量类似，竞争层就可与输入向量间的距离有关。

如果两个输入向量类似，竞争层就可能将其归为一类，竞争层的设计并没有严格界定不能将任意两个能将其归为一类，竞争层的设计并没有严格界定不能将任意两个输入向量归于同一类。

输入向量归于同一类。