人工神经网络和其应用第8章人工神经网络及其应用第8章人工神经网络及其应用第8章人工神经网络及其应用8.1神经元与神经网络8.1.1生物神经元的结构8.1.1生物神经元的结构8.1.1生物神经元的结构8.1神经元与神经网络8.1.2神经元数学模型线性环节的传递函数：：1；；；及其组合等。8.1.2神经元数学模型8.1.2神经元数学模型8.1.2神经元数学模型8.1.2神经元数学模型8.1.2神经元数学模型8.1神经元与神经网络8.1.3神经网络的结构与工作方式1.神经网络的结构（1）前馈型（前向型）1.神经网络的结构（2）反馈型2.神经网络的工作方式探索时期（开始于20世纪40年代）：1958年，罗森布拉特（F.Rosenblatt）提出感知器模型（perceptron）。1959年，威德罗(B.Widrow)等提出自适应线性元件（adaline）网络，通过训练后可用于抵消通信中的回波和噪声。1960年，他和M.Hoff提出LMS（LeastMeanSquare最小方差）算法的学习规则。1969年，明斯基（M.Minsky）等在《Perceptron》中对感知器功能得出悲观结论。1972年，T.Kohonen和J.Anderson分别提出能完成记忆的新型神经网络。1976年，S.Grossberg在自组织神经网络方面的研究十分活跃。第二次热潮时期：20世纪80年代至今神经网络控制的研究领域第8章人工神经网络及其应用8.2BP神经网络及其学习算法8.2BP神经网络及其学习算法8.2.1BP神经网络的结构8.2.1BP神经网络的结构8.2.1BP神经网络的结构8.2BP神经网络及其学习算法（1）是否存在一个BP神经网络能够逼近给定的样本或者函数。8.2.2BP学习算法8.2.2BP学习算法8.2.2BP学习算法8.2.2BP学习算法8.2BP神经网络及其学习算法8.2.3BP算法的实现8.2.3BP算法的实现8.2.3BP算法的实现8.2.3BP算法的实现1.特点2.BP网络的主要优缺点8.3BP神经网络的应用8.3.1BP神经网络在模式识别中的应用例输入输出样本：测试数据：8.3.1BP神经网络在模式识别中的应用测试结果表明：除了8以外，所有被测的数字都能够被正确地识别。对于数字8，神经网络的第6个结点的输出值为0.53，第8个结点的输出值为0.41，表明第8个样本是模糊的，可能是数字6，也可能是数字8，但也不完全确信是两者之一。8.3.2BP神经网络在软测量中的应用软测量系统的设计：辅助变量的选择：变量类型、变量数量和检测点位置的选择。数据采集与处理。软测量模型的建立：通过辅助变量来获得对主导变量的最佳估计。序批式活性污泥法（SBR）BOD、COD、N和P：为软测量模型的主导变量。ORP、DO、PH和MLSS：辅助变量。三层BP网络：第8章人工神经网络及其应用8.4Hopfield神经网络及其改进8.4Hopfield神经网络及其改进…工作方式：（异步或同步方式）（异步或同步方式）稳定性定义：若从某一时刻开始，网络中所有神经元的状态不再改变，即，则称该网络是稳定的，为网络的稳定点或吸引子。Hopfield神经网络是高维非线性系统，可能有许多稳定优态。从任何初始状态开始运动，总可以到某个稳定状态。这些稳定状态可以通过改变网络参数得到。稳定性定理证明：1983年，科恩（Cohen）、葛劳斯伯格（S.Grossberg）。稳定性定理（Hopfield）8.4Hopfield神经网络及其改进8.4.2连续型Hopfield神经网络及其VLSI实现8.4.2连续型Hopfield神经网络及其VLSI实现8.4.2连续型Hopfield神经网络及其VLSI实现8.4.2连续型Hopfield神经网络及其VLSI实现8.4.3随机神经网络8.4.3随机神经网络8.4.3随机神经网络2.高斯机8.4.4混沌神经网络1.混沌（续）混沌学的研究热潮开始于20世纪70年代初期。1963年，Lorenz在分析气候数据时发现：初值十分接近的两条曲线的最终结果会相差很大，从而获得了混沌的第一个例子。1975年，Li-Yorke的论文《周期3意味着混沌》使“混沌”一词首先出现在科技文献中。混沌的发现，对科学的发展具有深远的影响。8.4.4混沌神经网络8.4.4混沌神经网络8.4.4混沌神经网络8.4.4混沌神经网络8.4.4混沌神经网络8.4.4混沌神经网络8.4.4混沌神经网络8.5Hopfield神经网络的应用例例样本:样本:，样本:，输入：[1，1，1]