智能计算Word文档格式.docx

智能计算Word文档格式.docx

《智能计算Word文档格式.docx》由会员分享，可在线阅读，更多相关《智能计算Word文档格式.docx（10页珍藏版）》请在冰豆网上搜索。

每个神经元都由一个细胞体，一个连接其他神经元的轴突和一些向外伸出的其它较短分支——树突组成。

轴突的功能是将本神经元的输出信号（兴奋）传递给别的神经元。

其末端的许多神经末梢使得兴奋可以同时传送给多个神经元。

树突的功能是接受来自其它神经元的兴奋。

神经元细胞体将接受到的所有信号进行简单处理（如：

加权求和，即对所有的输入信号都加以考虑且对每个信号的重视程度——体现在权值上——有所不同）后由轴突输出。

神经元的树突与另外的神经元的神经末梢相连的部分称为突触。

2.1人工神经网络的特点

人工神经网络是由大量的神经元广泛互连而成的系统，它的这一结构特点决定着人工神经网络具有高速信息处理的能力。

人脑的每个神经元大约有103～104个树突及相应的突触，一个人的大脑总计约形成1014～1015个突触。

用神经网络的术语来说，即是人脑具有1014～1015个互相连接的存储潜力。

虽然每个神经元的运算功能十分简单，且信号传输速率也较低（大约100次/秒），但由于各神经元之间的极度并行互连功能，最终使得一个普通人的大脑在约1秒内就能完成现行计算机至少需要数10亿次处理步骤才能完成的任务。

人工神经网络的知识存储容量很大。

在神经网络中，知识与信息的存储表现为神经元之间分布式的物理联系。

它分散地表示和存储于整个网络内的各神经元及其连线上。

每个神经元及其连线只表示一部分信息，而不是一个完整具体概念。

只有通过各神经元的分布式综合效果才能表达出特定的概念和知识。

由于人工神经网络中神经元个数众多以及整个网络存储信息容量的巨大，使得它具有很强的不确定性信息处理能力。

即使输入信息不完全、不准确或模糊不清，神经网络仍然能够联想思维存在于记忆中的事物的完整图象。

只要输入的模式接近于训练样本，系统就能给出正确的推理结论。

正是因为人工神经网络的结构特点和其信息存储的分布式特点，使得它相对于其它的判断识别系统，如：

专家系统等，具有另一个显著的优点：

健壮性。

生物神经网络不会因为个别神经元的损失而失去对原有模式的记忆。

最有力的证明是，当一个人的大脑因意外事故受轻微损伤之后，并不会失去原有

事物的全部记忆。

人工神经网络也有类似的情况。

因某些原因，无论是网络的硬件实现还是软件实现中的某个或某些神经元失效，整个网络仍然能继续工作。

人工神经网络是一种非线性的处理单元。

只有当神经元对所有的输入信号的综合处理结果超过某一门限值后才输出一个信号。

因此神经网络是一种具有高度非线性的超大规模连续时间动力学系统。

它突破了传统的以线性处理为基础的数字电子计算机的局限，标志着人们智能信息处理能力和模拟人脑智能行为能力的一大飞跃。

2.2几种典型神经网络简介

2.2.1多层感知网络（误差逆传播神经网络）

在1986年以Rumelhart和McCelland为首的科学家出版的《ParallelDistributedProcessing》一书中，完整地提出了误差逆传播学习算法，并被广泛接受。

多层感知网络是一种具有三层或三层以上的阶层型神经网络。

典型的多层感知网络是三层、前馈的阶层网络，即：

输入层I、隐含层（也称中间层）J和输出层K。

相邻层之间的各神经元实现全连接，即下一层的每一个神经元与上一层的每个神经元都实现全连接，而且每层各神经元之间无连接。

但BP网并不是十分的完善，它存在以下一些主要缺陷：

学习收敛速度太慢、网络的学习记忆具有不稳定性，即：

当给一个训练好的网提供新的学习记忆模式时，将使已有的连接权值被打乱，导致已记忆的学习模式的信息的消失。

2.2.2竞争型（KOHONEN）神经网络

它是基于人的视网膜及大脑皮层对剌激的反应而引出的。

神经生物学的研究结果表明：

生物视网膜中，有许多特定的细胞，对特定的图形（输入模式）比较敏感，并使得大脑皮层中的特定细胞产生大的兴奋，而其相邻的神经细胞的兴奋程度被抑制。

对于某一个输入模式，通过竞争在输出层中只激活一个相应的输出神经元。

许多输入模式，在输出层中将激活许多个神经元，从而形成一个反映输入数据的“特征图形”。

竞争型神经网络是一种以无教师方式进行网络训练的网络。

它通过自身训练，自动对输入模式进行分类。

竞争型神经网络及其学习规则与其它类型的神经网络和学习规则相比，有其自己的鲜明特点。

在网络结构上，它既不象阶层型神经网络那样各层神经元之间只有单向连接，也不象全连接型网络那样在网络结构上没有明显的层次界限。

它一般是由输入层（模拟视网膜神经元）和竞争层（模拟大脑皮层神经元，也叫输出层）构成的两层网络。

两层之间的各神经元实现双向全连接，而且网络中没有隐含层。

有时竞争层各神经元之间还存在横向连接。

竞争型神经网络的基本思想是网络竞争层各神经元竞争对输入模式的响应机会，最后仅有一个神经元成为竞争的胜者，并且只将与获胜神经元有关的各连接权值进行修正，使之朝着更有利于它竞争的方向调整。

神经网络工作时，对于某一输入模式，网络中与该模式最相近的学习输入模式相对应的竞争层神经元将有最大的输出值，即以竞争层获胜神经元来表示分类结果。

这是通过竞争得以实现的，实际上也就是网络回忆联想的过程。

除了竞争的方法外，还有通过抑制手段获取胜利的方法，即网络竞争层各神经元抑制所有其它神经元对输入模式的响应机会，从而使自己“脱颖而出”，成为获胜神经元。

除此之外还有一种称为侧抑制的方法，即每个神经元只抑制与自己邻近的神经元，而对远离自己的神经元不抑制。

这种方法常常用于图象边缘处理，解决图象边缘的缺陷问题。

竞争型神经网络的缺点和不足：

因为它仅以输出层中的单个神经元代表某一类模式。

所以一旦输出层中的某个输出神经元损坏，则导致该神经元所代表的该模式信息全部丢失。

2.2.3Hopfield神经网络

1986年美国物理学家J.J.Hopfield陆续发表几篇论文，提出了Hopfield神经网络。

他利用非线性动力学系统理论中的能量函数方法研究反馈人工神经网络的稳定性，并利用此方法建立求解优化计算问题的系统方程式。

基本的Hopfield神经网络是一个由非线性元件构成的全连接型单层反馈系统。

网络中的每一个神经元都将自己的输出通过连接权传送给所有其它神经元，同时又都接收所有其它神经元传递过来的信息。

即：

网络中的神经元t时刻的输出状态实际上间接地与自己的t-1时刻的输出状态有关。

所以Hopfield神经网络是一个反馈型的网络。

其状态变化可以用差分方程来表征。

反馈型网络的一个重要特点就是它具有稳定状态。

当网络达到稳定状态的时候，也就是它的能量函数达到最小的时候。

这里的能量函数不是物理意义上的能量函数，而是在表达形式上与物理意义上的能量概念一致，表征网络状态的变化趋势，并可以依据Hopfield工作运行规则不断进行状态变化，最终能够达到的某个极小值的目标函数。

网络收敛就是指能量函数达到极小值。

如果把一个最优化问题的目标函数转换成网络的能量函数，把问题的变量对应于网络的状态，那么Hopfield神经网络就能够用于解决优化组合问题。

对于同样结构的网络，当网络参数（指连接权值和阀值）有所变化时，网络能量函数的极小点（称为网络的稳定平衡点）的个数和极小值的大小也将变化。

因此，可以把所需记忆的模式设计成某个确定网络状态的一个稳定平衡点。

若网络有M个平衡点，则可以记忆M个记忆模式。

当网络从与记忆模式较靠近的某个初始状态（相当于发生了某些变形或含有某些噪声的记忆模式，也即：

只提供了某个模式的部分信息）出发后，网络按Hopfield工作运行规则进行状态更新，最后网络的状态将稳定在能量函数的极小点。

这样就完成了由部分信息的联想过程。

Hopfield神经网络的能量函数是朝着梯度减小的方向变化，但它仍然存在一个问题，那就是一旦能量函数陷入到局部极小值，它将不能自动跳出局部极小点，到达全局最小点，因而无法求得网络最优解。

2遗传算法

遗传算法（GeneticAlgorithms）是基于生物进化理论的原理发展起来的一种广为应用的、高效的随机搜索与优化的方法。

其主要特点是群体搜索策略和群体中个体之间的信息交换，搜索不依赖于梯度信息。

它是在70年代初期由美国密执根（Michigan）大学的霍兰（Holland）教授发展起来的。

1975年霍兰教授发表了第一本比较系统论述遗传算法的专著《自然系统与人工系统中的适应性》（《AdaptationinNaturalandArtificialSystems》）。

遗传算法最初被研究的出发点不是为专门解决最优化问题而设计的，它与进化策略、进化规划共同构成了进化算法的主要框架，都是为当时人工智能的发展服务的。

迄今为止，遗传算法是进化算法中最广为人知的算法。

近几年来，遗传算法主要在复杂优化问题求解和工业工程领域应用方面，取得了一些令人信服的结果，所以引起了很多人的关注。

在发展过程中，进化策略、进化规划和遗传算法之间差异越来越小。

遗传算法成功的应用包括：

作业调度与排序、可靠性设计、车辆路径选择与调度、成组技术、设备布置与分配、交通问题等等。

3.1特点

遗传算法是解决搜索问题的一种通用算法，对于各种通用问题都可以使用。

搜索算法的共同特征为：

①首先组成一组候选解；

②依据某些适应性条件测算这些候选解的适应度；

③根据适应度保留某些候选解，放弃其他候选解；

④对保留的候选解进行某些操作，生成新的候选解。

在遗传算法中，上述几个特征以一种特殊的方式组合在一起：

基于染色体群的并行搜索，带有猜测性质的选择操作、交换操作和突变操作。

这种特殊的组合方式将遗传算法与其它搜索算法区别开来。

遗传算法还具有以下几方面的特点：

（1）遗传算法从问题解的串集开始嫂索，而不是从单个解开始。

这是遗传算法与传统优化算法的极大区别。

传统优化算法是从单个初始值迭代求最优解的；

容易误入局部最优解。

遗传算法从串集开始搜索，覆盖面大，利于全局择优。

（2）许多传统搜索算法都是单点搜索算法，容易陷入局部的最优解。

遗传算法同时处理群体中的多个个体，即对搜索空间中的多个解进行评估，减少了陷入局部最优解的风险，同时算法本身易于实现并行化。

（3）遗传算法基本上不用搜索空间的知识或其它辅助信息，而仅用适应度函数值来评估个体，在此基础上进行遗传操作。

适应度函数不仅不受连续可微的约束，而且其定义域可以任意设定。

这一特点使得遗传算法的应用范围大大扩展。

（4）遗传算法不是采用确定性规则，而是采用概率的变迁规则来指导他的搜索方向。

（5）具有自组织、自适应和自学习性。

遗传算法利用进化过程获得的信息自行组织搜索时，硬度大的个体具有较高的生存概率，并获得更适应环境的基因结构。

3.2运用领域

前面描述是简单的遗传算法模型，可以在这一基本型上加以改进，使其在科学和工程领域得到广泛应用。

下面列举了一些遗传算法的应用领域