神经网络导论第三章.ppt

Hopfield模型应用实例8皇后问题 权值定义 第三十页，共六十四页，2022年，8月28日 Hopfield模型应用实例8皇后问题 神经元状态修改 为温度系数，目的是为了避免局部极小。 第三十一页，共六十四页，2022年，8月28日 Hopfield模型应用实例8皇后问题 模拟 第三十二页，共六十四页，2022年，8月28日 第二节 海明神经网络模型 第三十三页，共六十四页，2022年，8月28日 海明模型的结构 第三十四页，共六十四页，2022年，8月28日 海明模型的结构描述 海明网络由匹配子网和竞争子网组成。匹配子网的功能是将输入样本和存储在该子网中的标准模板相互匹配（如计算海明距离等）。而竞争子网是迭代寻找匹配子网中的最大匹配输出。 第三十五页，共六十四页，2022年，8月28日 海明网络的运行机理 匹配子网在学习阶段将若干类别的样本记忆存储在网络的连接权值中；在工作阶段（回忆阶段），该子网计算输入模式和各个样本模式的匹配程度，并将结果送入竞争子网中，由竞争子网选择出匹配子网中最大的输出。从而，实现了对离散输入模式进行在海明距离最小意义下的识别和分类。 第三十六页，共六十四页，2022年，8月28日 海明距离 如果将模式用向量来表示，Hamming距离是指两个模式不同元素的个数。如： A＝(0 0 1 1 0) B=(1 0 1 0 1） 则： H(A, B)=3 第三十七页，共六十四页，2022年，8月28日 海明网络的学习之权值设置 竞争子网的连接权值设置方法： 匹配子网的连接权值设置方法： 第三十八页，共六十四页，2022年，8月28日 海明网络的学习之阈值设置 竞争子网神经元的阈值设置为0； 匹配子网神经元阈值的设置为： N为匹配子网中神经元的个数。 第三十九页，共六十四页，2022年，8月28日 海明网络的回忆过程 第四十页，共六十四页，2022年，8月28日 海明网络的回忆过程 匹配子网计算匹配度： 将匹配子网的输出送入竞争子网 第四十一页，共六十四页，2022年，8月28日 海明网络的回忆过程 计算竞争子网的初始输出： 竞争子网迭代直至收敛： 第四十二页，共六十四页，2022年，8月28日 函数 f 的选择 函数 f 为非线性阈值函数： 第四十三页，共六十四页，2022年，8月28日 海明网络的特点 这种神经网络与Hopfield神经网络不同，它分别计算未知输入模式与每个已知标准样本模式的Hamming距离，对应距离最小的那个标准样本模式即是可以和输入模式匹配的模式。而对Hopfield网络而言，作为一识别器，要么精确地找到一个可以匹配的标准样本模式，要么找不到，即得到“不能匹配”的结果。 第四十四页，共六十四页，2022年，8月28日 海明神经网络应用 模式识别 海明网络中保存了5幅图象，现对其加噪，或挑选一幅没有学习过的图象，通过求相似性，选取最佳匹配的图象。 模拟 第四十五页，共六十四页，2022年，8月28日 神经网络导论第三章 第一页，共六十四页，2022年，8月28日 概述 反馈神经网络模型可用一完备的无向图表示。从系统的观点看，反馈神经网络模型是一反馈动力学系统，它具有极复杂的动力学特性。在反馈神经网络模型中，我们关心的是其稳定性,稳定性是神经网络相联存储性质的体现，可以说稳定就意味着完成回忆。从计算的角度讲，反馈神经网络模型具有比前馈神经网络模型更强的计算能力。 第二页，共六十四页，2022年，8月28日 内容提要 Hopfield神经网络模型 海明神经网络模型 双向联想存储器 应用实例分析 第三页，共六十四页，2022年，8月28日 第一节 Hopfield模型 第四页，共六十四页，2022年，8月28日 Hopfield神经网络模型的结构 第五页，共六十四页，2022年，8月28日 Hopfield神经网络模型结构描述 Hopfield神经网络模型一般由单层全互连的神经元ui(i=1,…，n)组成。神经元没有自连接,即wii＝0；神经元与神经元之间的连接是对称的，即wij＝wji。 第六页，共六十四页，2022年，8月28日 Hopfield模型数学描述 输入 该模型中神经元实际上是一线性阈值单元。图中x1，x2，…，xn为该自适应线性元在t时刻的外部输入，用向量表示为: X＝（x1，x2，…，xn）T 这个向量称为自适应线性元的输入信号向量或输入模式向量。 第七页，共六十四页，2022年，8