神经网络算法在数学建模中的应用文档格式.docx

神经网络算法在数学建模中的应用文档格式.docx

《神经网络算法在数学建模中的应用文档格式.docx》由会员分享，可在线阅读，更多相关《神经网络算法在数学建模中的应用文档格式.docx（25页珍藏版）》请在冰豆网上搜索。

3.2.3问题假设 P10

3.2.4符号说明 P10

3.2.5模型的建立与求解 P12

3.2.6检验模型的实用性和算法有效性 P16

3.2.7模型的评价与推广 P16

4Hopfield神经网络的发展展望 P17

致谢 P17

参考文献 P18

附录AHopfield神经网络模型代码 P19

Hopfield神经网络算法在数学建模中的应用

1引 言

Hopfield神经网络是神经网络发展历史上的一个重要的里程碑。

1982年，美国加州理工学院物理学家J.J.Hopfield教授对Hopfield神经网络的相关问题进行研究，研究结果显示Hopfield是一种单层反馈神经网络。

除此之外，1984年，Hopfield教授设计并研制了网络模型的电路，并成功地解决了TSP计算难题。

Hopfield神经网络分为离散型和连续型两种网络模型，分别记作DHNN（DiscreteHopfieldNeuralNetwork）和CHNN（ContinuesHopfieldNeuralNetwork）。

Hopfield神经网络算法主要用于解决TSP问题，但是现在还有很多方面都可应用Hopfield神经网络算法，例如许多由TSP所衍生的问题都可用Hopfield神经网络算法解决，但是需要将Hopfield神经网络模型改进，从而得到问题的答案。

Hopfield神经网络模型具有高效性和稳定性。

通过找出所有路径的组合之后，再进行比较从而找到最佳路径来解决TSP问题，但是这种传统穷举法的计量工作量会随着维数的增加而大幅度增加，用Hopfield神经网络算法来解决TSP问题就可以避免这种情况，但是Hopfield神经网络算法是一种贪心算法，通过寻找局部最优解来达到全局解，但是这个全局解不一定为全局最优解，所以本文改进约束条件能量函数，达到最优解，避免不足。

2Hopfield神经网络的基本理念

Hopfield神经网络分为离散型和连续型两种网络模型，分别记作DHNN（DiscreteHopfieldNeuralNetwork）和CHNN（ContinuesHopfieldNeuralNetwork）。

DHNN与CHNN的主要差别在于：

CHNN神经元激活函数使用sigmord函数，而DHNN神经元激活函数使用了硬极限函数。

2.1离散型Hopfield神经网络算法的定义及特性

23

离散Hopfield神经网络（DHNN）：

神经元的输出取1代表其为激活形态，

取0代表其为抑制形态，二值神经元的计算公式如下，uj

wijyi xj

i

其中xi为外部输入，并且有：

yi

yi

1,当ui 0时

0,当ui 0时

离散Hopfield神经网络是一个单层网络，有n个神经元节点，每个神经元节点的输出都能接到其它神经元节点的输入。

各节点没有自反馈，每个节点都附有一个阀值。

每个节点都可处于一种可能的状态（1或－1），即当阀值比神经元所受的刺激大时，神经元就处于一种状态（比如-1），否则神经元就始终处于另一种状态（比如1）。

一个DHNN的网络状态是输出神经元信息的集合。

对于一个输出层是n个

神经元的网络,其t时刻的状态为一个n维向量：

Yt y1t

,y2

1

t,...,ynt

因为yi

状态。

t可以取值为1或0，故n维向量Y（t）有2n种状态，即网络有2n种

如图所示：

如果Hopfield神经网络是一个稳定网络，有3个神经元，则有23种状态。

由图2-1可得：

若在网络的其中一个端点上加上一个输入向量，则网络的状态会产生变化，即从正八面体的一个顶点转向另一个顶点，最终趋于稳定。

101



011

100

111

001

110

000 010

图2-13神经元8种状态的立方体模型

1

假设一个DHNN，其状态为Yt：

t,...,ynt

如果对于任何t，当神经网络从t

0开始，有初始状态Y

0。

经过有限时

刻t，有：

Yt t Yt则称网络是稳定的。

Hopfield神经网络稳定的充分条件：

权系数矩阵W是对称矩阵，并且对角线元素为0。

无自反馈的权系数对称Hopfield神经网络是稳定的。

x1 x2 x3

w31

w32

w21

w23

w12

w13

y1 y2 y3

图2-2稳定的Hopfield神经网络

离散Hopfield神经网络有联想记忆的功能。

对于Hopfield神经网络，用它作联想记忆时，先确定权系数的值，使得所记忆的信息在网络的n维正八面体的某一个顶角的能量最小。

当网络的权系数确定之后，只要给网络加上输入向量，网络依旧可以完整输出所记忆的信息。

2.2连续型Hopfield神经网络算法的定义及特性

连续Hopfield神经网络（CHNN）拓扑结构和DHNN的结构相同。

不同之

处在于其函数g不是阶跃函数，而是S形的连续函数。

一般取Gu 1/1eu

连续型Hopfield神经网络（CHNN）是联接简易的电子线路形成的。

每个神经元都拥有一个输出值，这个输出值有着连续地时间变化。

模拟神经元的S型单

调输入——输出关系，即vi fiui

w1N

w2N

wN2

wN1

R1

R2

RN

I1

I2

IN

u1

C1

u2

C2

uN

CN

……

V1

V2

VN

V1

V2

图2-3电子线路连接的连续Hopfield神经网络（a）

I

ij

u

+

vj

j

T

-

v

vi

- v

Ci

图2-3电子线路连接的连续Hopfield神经网络（b）

对于一个N节点的CHNN模型来说，其神经元状态变量的动态变化可用下述非线性微分方程组来描述

Cdui

idt

N u

Tijvj

j1 Ri

Iii

1,2,3,..., N

vi fi（ui）

能量函数定义为

1N N N N 1 vi 1

E Tijvivj

viIi

f （v）dv

2i1j1

i1 i

1Ri 0

ji

CHNN的能量函数与物理意义上的能量函数不同，只是双方都表示网络状态的变化趋势。

定理：

若作用函数f

有界的。

1*是单调递增且连续的，则能量函数E是单调递减且

CHNN用非线性微分方程描述，网络的稳定性通过其能量函数（又称

Liapunov函数）的构造，并用Liapunov第二稳定性定理进行判断。

2.3Hopfield神经网络当前的研究成果

Hopfield神经网络在解决TSP问题上颇有建树，1985年Hopfield和Tank用Hopfield神经网络求解TSP问题，并以此进行深入研究，最终确定了神经网络优化的新方法。

弱引力透镜具有对暗能量的状态方程严格限制的潜力。

然而，这只有在剪切

测量方法可达到精度所要求的水平的时候才能成为可能。

通过将总的点扩散函数

（PSF）利用数据的直接去卷积，采用表示PSF作为特普利茨矩阵的线性代数形式主义，使得我们可以通过应用Hopfield神经网络迭代方案来解决卷积方程。

星系在去卷积图像中的椭圆率使用图像的自相关函数的二阶矩就能够得到测量。

在水质评价上，可以利用Hopfield神经网络的特性，并且在与其他水质评价方法对比之后，Hopfield更有它的独到之处。

在简化模型中，运用奇异设计值分解连接权重，使得运行效率提升。

而且通过删除不重要的权重得到了更为简单的Hopfield神经网络结构。

事实证明了该简化模型用于水质评价中的效率和可行性。

3Hopfield神经网络在数学建模中的应用

3.1Hopfield神经网络求解TSP

对于一个城市规模为N的TSP问题来说，需要用一组N N个神经元的输出表示其旅行次序。

假设当城市规模N=6时，则需要的神经元数为36个，

其神经元输出矩阵如图3-1所示。

图3-1神经元输出矩阵

图3-2旅行路径

图3-1代表一组神经元的输出状态，城市在本次行程中的顺序用输出矩阵每一行中1的位置来表示，假设起点为C，则图3-1表示的旅行顺序为

C A D B E，其旅行路径（见图3-2）长度d dCA

dAD

dDB

dBE

dEC，

这里dij表示i市与j市间的距离。

显然，在利用Hopfield神经网络求解TSP时，要求各神经元的输出矩阵在每一行每一列中有且仅有一个1，便可确定唯一的一条旅行路线。

利用Hopfield神经网络求解TSP，主要是将能量函数构造出来。

此能量函数应包含两部分：

一是对能量函数取得极小值时，各神经元输出矩阵在每一行每一列中有且仅有一个1；

二是将TSP旅行路径的长度表示出来。

例如:

E=A

2

n n n

VijVxj

Bn n n

VxiVyi

x1i1j1,j1 x1i1y1,yx

Cn n

Vxi

2n n