模糊神经网络docx.docx
《模糊神经网络docx.docx》由会员分享,可在线阅读,更多相关《模糊神经网络docx.docx(13页珍藏版)》请在冰豆网上搜索。
![模糊神经网络docx.docx](https://file1.bdocx.com/fileroot1/2023-1/5/1ec11916-cf10-4407-8f76-52fa94e67bf0/1ec11916-cf10-4407-8f76-52fa94e67bf01.gif)
模糊神经网络docx
模糊神经网络
・模糊神经网络的发展历史
・模糊理论的基础知识
・模糊逻辑系统
・模糊神经网络
基于模糊神经网络的图像分割
・1965年,美国加州大学的控制论专家ZadehLA率先提出了模糊集合的概念。
它抓住了人类思维的模糊性特点,以模糊推理来处理常规方法难以解决的问题,能够对复杂事物进行模糊识别和模糊度量。
・模糊神经网络的发展是一个漫长的过程,最近二十年来,是模糊神经网络发展的金期。
1990年,Takagi有了关于模糊理论和神经网络结合的问题上综述性的讨论。
•1993年,Jang提出了基于网络结构的模糊推理的概念,给出了一种网络模型,作为模糊神经网络的雏形,为后来者在模糊神经网络的研究提供了一个方向。
・自此,各式各样的模糊神经网络的结构和学习算法如雨后春笋般被设计岀。
模糊集合的定义
经典集合的定义:
•对于一个经典集合4,空间中任一元素x,要么xeA,要么兀住4,二者必居其一,这一特征可用一个函数表示:
[1,xeA
禹⑴彳°左d
〔(),x^A
力(%)即为集合人的特征函数,将特征函数推广到Fuzzy集,在经典集合中只有取0,1两值推广到Fuzzy集中为区间[0,1]。
模糊集合定义,
•设以是论域X到区间[0,1]的一个映射,即
(劝
称入是X上的Fuzzy集,0(兀)称为Fuzzy集的2隶属函数(membershipfunction)(或称x对Fuzzy集R的隶属度(degreeofmembership))。
模糊集合的基本运算
•模糊集合有很多类运算,但常用的运算不外是集合的交、并和补等运算。
通过隶属函数来定义模糊集合,当然也可以通过隶属函数来定义运算。
用取大(\/)和取小(/\)运算定义Fuzzy集之间的运算,它们在模糊数学中常被称为Zadeh算子。
•定义:
设A,B为匕中两个模糊集合,隶属函数分别为卩人和卩b,分别称模糊集ADB,4UB为A与B的交集和并集,而称模糊集A为4的补集•其隶属函数被“的b,“aub和/对所有T分别被逐点定义为:
:
mi“寸(”)八门母(”)
“4U&=
“泓")}=“寸(”)v畑(//)
他=1—仏(“)
在无限集合中\/>A分别表示inf和sup,在有限元素之间则表示min和max。
常见隶属度函数
•模糊隶属度函数在模糊数学中的地位是非常突出的,在对客观事物进行描述和度量的过程中,通常是用隶属度函数来表示该事物的模糊程度。
在构造隶属函的过程中,应该充分考虑主观因素和客观因素,使隶属函数能全面反映事物的本质。
•经常使用的模糊隶属函数主要有三类,分别为三角函数、梯形函数和高斯函数。
•用语言来描述一件事或者一个东西,句子就是语言的表现形式,命题则是判断这个句子的真或假,一般用1表示真,0表示假,称之为命题的真值。
不是所有的句子都能简单的判断是真或假,当命题只能通过真或假的程度描述某个句子的结论时,则称这个命题为模糊命题。
它的逻辑是多值的,是连续的,模糊的。
•如果论域是由一组模糊命题组成,那么其中模糊集合F则可以由这些命题的真假程度构成,命题的真值对应的就是
这个集合的隶属度函数,取值范围为[0,1],模糊逻辑的运算方法对应模糊集合的运算方法。
以下为模糊逻辑运算:
设有模糊命题X和F,对应的真值j=Z/M(y)e[O,l],定义:
•XaY为模糊逻辑交(与),真值为x人y=min(_¥,刃;
•XyY为模糊逻辑并(或、真值为xvj=max(x?
y);
•云为模糊逻辑否定(补、非),真值为X=l-X;
•XtF为模糊逻辑蕴含,真值为兀=
•模糊推理最早由Zadeh教授提出,似性推理。
是以模糊性为基础、以模糊逻辑为工具的不精确推理,是模拟人的推理的一种近
•广义前向推理^(GeneralizeModusPonens,简称GMP)是模糊推理中最重要的推理规则,其定义如下:
前提1:
ifxisA,thenyisB
前提2:
ifxisA'
结论:
thenyis
•模糊推理的合成规则(这种规则是基于模糊关系合成运算,简称CRI,较GMP更准确),其规则如下:
前提1:
ifxisA,thenyisB
前提2:
ifxisA'
结论:
thenyis=
其中A和ASB和氏分别是论域U与论域V上相关的一对模糊集合,其中的算子“。
”表示模糊关系的合成运算。
推理过程:
假设地区为x,论域为{/二(0,3)A表示模糊集合“发达”:
仏(兀)A,表示模糊集合“很发达”:
仏心)
房价为y,论域为归(0,300)B表示模糊集合“高”:
d(y)B,表示模糊集合“很高”:
如3
前提1:
从x属于A的程度推出y属于B的程度,即地区“发达”的程度推出对应的房价“高”的程度:
仏卫(七刃
•模糊逻辑系统组成部分有模糊产生器、模糊规则库.模糊推理机、反模糊化器。
模糊规则库
论域U做为模糊产生器的输入,U上的模糊集合为输出,和论域U是一一对应的。
模糊规则库的存在为模糊推理机提供各种模糊推理知识,模糊推理机根据这些知识,把模糊产生器的输出做为输入,推理出结论,这个结论就是V上的模糊集合,它通过反模糊化器反模糊化,得到确定点的集合,这个集合是论域V。
Takagi-Sugeno(TS)模糊逻辑系统
•Takagi-Sugeno(TS)模糊逻辑系统是Takagi和Sugeno于1985年提出,它是复杂非线性系统模糊建模中的一种典型的模糊动态模型,它是现阶段应用最为广泛的模糊逻辑系统。
部分是由多项式线性方程来表达,从而构成各条规则间的线性组合,使非线性系统的全局输出具有良好的线性描述特性。
对应的模糊规则为:
:
if.丙.右・尺,…,兀-is-Fz^then・_/二c[}+彳再Hcnxn
F为模糊子集;J是实数,做为输入输出之间关系的表征;y也是一个实数,是系统应用模糊规则⑴推理后的输出,/=l,2,・・・,M,M为规则数,换种说法,这类模糊规则的输入部分是模糊的,输出部分是非模糊的,即输出是各输入变量的线性组合。
神经网络
模糊系统
基本组成
多个神经元
模糊规则
知识获取
样本、算法实例
专家知识、逻辑推理
知识表示
分布式表示
隶属函数
推理机制
学习函数的口控制、并行计算.速度快
模糊规则的组合、启发式搜索、速度慢
推理操作
神经元的叠加
隶属函数的最大一最小
自然语言
实现不明确,灵活性低
实现明确,灵活性高
自适应性
通过调整权值学习,容错性高
•归纳学习,容错性低
优点
自学习自组织能力,容错,泛化能力
可利用专家的经验
缺点
黑箱模型,难于表达知识
难于学习,推理过程中模糊性增加
•模糊系魏箭重麥待撫经翩塞播衮領埋辑究斑尿天側如商趣I独掘的鸥'逐躺较强曲课細餡;紡模継翻耗能鹼欖糊推理是其梆翁瘠逛迦甸谊的雅磴滋法这種龍傑删橫糊被綸協徹的|液珈馳力,模糊规则也难以确立,因此模糊系•続糊猱魏和神轻网貉毘慾在概念、内涵上有着显著不同'其中模糊系统模仿人类大脑的逻辑思维,用来处理模型未知或不精确的控制问题,然而人工神经网络却模仿人脑神经元的功能,可用作一般的函数估计器,它能映射输入输出关系,但是•闵为欖紐闕络腿敝i谢绻都测训馳鄭蔽据'就蹿确瑚除J题步创社I牝繃I稠撤的联系神经网络还具有较强的概括能力以及联想记忆能力。
人工神经网络理论的应用己渗透到各个领域/旦是人工神经网络研究的理论体系还不完善。
•模糊系统与神经网络的融合主要有三种方式,模糊神经网络是模糊系统向人工神经网络的一种融合方式,也被称为狭义的模糊神经网络,它在传统的人工神经网络中增加了模糊成分。
模糊神经网络保留了人工神经网络的一些基本性质和结构,只是人工神经网络中某些元件(包括输入、输出、转移函数、权值、学习算法等)的一种“模糊化”。
•模糊神经网络主要包括三种:
模糊神经网络{模糊化神经网络{
r基于模糊算子的网络模型J多层前向网络°9亦)
L有反馈网络(1990®
正则FNN(1990,s)
改进型FNN(19905s)'
厂Mamdani型推理网络(1990's)
<模糊推理网络(Takagi-Sugeno型推理网络(199(Fs)
J广义型推理网络(1990X)
基于模糊算子的模糊神经网络,主要是指网络输入输出和连接权全部或部分采用模糊实数'计算节点输出的权相加采用模糊算子的模糊神经网络。
模糊化神经网络,是指网络的输入输出及连接权均为模糊集,可以将其视为一种纯模糊系统,模糊集输入通过系统内部的模糊集关系而产生模糊输出。
模糊推理网络是模糊模型的神经网络的一种实现,是一种多层前向网络。
模糊推理网络的可调参数一般是非线性的,并且可调参数众多,具有强大的自学习功能,可以用作离线辨识的有效工具。
但是模糊推理网络计算量大,只适合离线使用。
自适应性较差。
•模糊神经元本质上还是神经元,
要具备处理模糊信息的能力。
所以它还是要具备非模神经元的基本功能,但是它最主要的功能是具有模糊性质,
("模糊神经兀总模烈
兀2--
Y
1、由模糊规则描述的模糊神经元
£■-
2、输入非模糊、含隶属度加权算子、输出模糊的模糊神经元
3、输入模糊、含模糊变换加权算子、输出模糊的模糊神经元
•模糊神经元本质上还是神经元,所以它还是要具备非模神经元的基本功能,但是它最主要的功能是具有模糊性质,要具备处理模糊信息的能力。
•按照功能进行分类,基本神经元主要有三种类型:
模糊化神经元、模糊逻辑神经元和去模糊化神经元
模糊化神经元一般在模糊神经元组成的网络的前端,它的输入数据是多种的,确定或模糊,连续或离散都可以,输出一般为标准化的值,由系统的模糊变量基本状态隶属度函数确定;
在网络的中间,一般为模糊逻辑神经元,它主要完成模糊逻辑函数的实现或模糊整合函数的实现,它是个多输入单输出的神经元;
网络的末端通过去模糊化神经元实现输出结果的去模糊化,以“确定值性”的形式表现出来
•模糊神经网络的逻辑结构:
确定性输入
f'
•模糊化运算
/
■
{f
—N模糊推理\~
/
V
1
h
清晰化运算H
■L
■
确世性输出
化层
理层
层
输入层
具体问题具体分析
输入层C
输I111层
模糊抽理层
、IZ
模糊化层
模糊变虽预处理
推理层
输入
本模糊状态
结论变虽的基
本模糊状态汽
网络翁数为愉'入偷山r訂签的模糊关系
层有一个节点的网其他层的节点数和要依据系统所需要
和模糊规则的确定推理层糊系统的节点数和输胪选取的不同,又可
沟。
虽然他们之间[勺,都是为了更好
模糊神经网络的结构特征
•模糊理论的应用一般以模糊系统的方式呈现出来,模糊神经网络也可以看作是一个模糊系统。
模糊系统」I模糊神经网络
一种结构简单T・S模糊神经网络
•共有四层,分别为输入层、模糊化层、规则计算层和输出层
朝隶属度函数完成对输入的模糊化,经过对比,采用高斯函数作为T-S
『更好的平滑性,所以本节采用的
•.一d
才尸)八1,2,…&心1,2,…/节:
古代表一条模糊规则,采用属度
、■
W二“(3)水“号(£)水…水Q;(无)
第四层为输出层。
通过式几=2讥加+A+…+加境)/E占得到对应的模糊神经网络的输出了/=,
一种结构简单T・S模糊神经网络
•两个规则的一阶T・S模糊推理系统
Rule1:
Ifxis/1andyisB\Then/i=/?
ix+如?
+门
Rule2:
IfxisandyisB2Then•护pix+q”+厂2
fi=AA+^iJ+ri
小2・f广和+"
>输入向量为卜*],权重阳和光通常由鯉世隶属函数值乘积得来,输出/知各规则输tk的加权平均,阳和叫为各权重在总权重中的比例。
•为了实现学习过程,将其转化为一个自适应网络,即自适应模糊神经推理系统。
>该自适应网络是一个多层前馈网络,其中的方形节点需要进行参数学习。
一种结构简单r・s模糊神经网络
•自适应模糊神经推理系统
第一层:
负责输入信号的模糊化,节点i具有输出函数:
q=“4(x)‘=或4="乳2(力7=3,4
第二层:
吗一层的节点负责将输入信号相乘。
i=l92
第三层:
第i个节点计算第i条规则的归一化可信度:
。
冷冠=%+叫心1'2
第四层:
第i个节点具有输出:
o;=Wifi=叱(PJ+剂+,;)ji,2
第五层:
该层计算总的输岀:
=(咛)口+(忖)引+
斤+
P1+
+
•单纯的模糊系统相比,模糊神经网络系统的优势在于,可以根据由真实系统的输入输出数据对构成的样本集来设计系统,这个过程往往称之为学习过程。
模糊神经网络的基本学习方法有三种:
基于梯度下降的学习算法、基于递推最小二乘的学习算法,以及聚类法。
这里以梯度下降法为例:
误差计算:
系数修正:
de
两
参数修正:
dea——
勺⑷1)-
dea——dcidea——
db.
i
•为解决BP神经网络在处理图像分割问题中出现的分割结果分辨率不高、清晰度低、边缘模糊等问题,提出了一种基于模糊BP神经网络的图像分割方法。
•模糊理论具有模糊不确定性,能够从大量数据中挖掘隐藏信息,选取合适的隶属度函数能够将原始图像分成若干个区间独立性较强的区域,非常适合对待分割的图像进行初步处理。
人工神经网络具有较好的泛化能力、鲁棒性和数值逼近能力,能够处理数值化信息。
对于基本的神经网络,训练集往往会出现冗余现象,从而导致过配。
利用模糊集则叮以过滤掉冗余信息,弥补了神经网络的不足,神经网络的数字处理能力可以对隶属度函数产生的数值结果做进一步的处理,最终产生一个较为满意的结果。
•论文中选取对BP神经网络的输入信息模糊化的方式来构造模糊BP神经网络,右图为模糊BP神经网络的组成
基于模糊BP网络的图像分割
•将原始图像划分为目标(Object)和背景(Backgroud)两个模糊集,隶属度函数的如下:
>隶属度函数一般表现为分段函数的形式。
在利用隶属度函数进行模糊分类时,如果将原始数据分为N类,则需要确定N-1个模糊阈值。
要确定模糊阈值,首先要确定隶属度函数中的参数值。
•隶属度函数的参数确定:
模糊爛是用来度量模糊度大小的,即经过分类的数据包含原始数据中信息量的多少。
隶属度函数中的参数通过计算模糊摘来求得。
以图像为例,模糊爛表示经过分类的图像对原始图像信息的保留程度。
设一灰度图像的大小为其灰度级数为L,坐标为(m,n)处的像素点灰度值为力⑷。
那么,目标(0)与背景(B)两个模糊集合产生的概率是:
1MN,
尸⑻=而££“仏)
“a、加・】n»I
“。
(口、曲(兀)分别表示像素点兀隶属于冃标和背景的程度,并且MoW+/zf(%)=lo当b=^时,像素尤隶属于目标和背景的隶属度均为0・5,因此将b做为模糊分割阔值。
即灰度小于b的像素归于背景,灰度大于〃的像素归于目标°此时,图像的模糊嫡为:
H=-P(0)logP(O)-P(B)logP(B)
由于P(o)4P⑻=1,则H二-P(O)logp(。
)一(1-p(o))log(l-P(。
))
当图像的爛取最大值时,可以获得图像的最佳模糊分割國值,由上式可求得最优的参数a和c,从而得到最佳模糊分割阈值bO
结束
•实例
基于模糊BP网络的图像分割
表5-1BP神经网络初始化参数表
Table5-1ThetableclBPneuralnetworktoinitialize
BP神经网络结构
网络层数
3
输入层节点数
2
隐含层节点数
7
输出层节点数
2
BP神经网络相关参数
隐含层Transferfunction
tansig
输岀层Transferfunction
pure]in
Trainingfunction
Trainlm
Learningfunction
Leamgdm
Epochs
1000
MSE
0.00]
Show
100
“(O)
0.05
•图像分割结果对比表
BP神经网络
模糊BP神经网络
改进算法
•实例
谢谢