1.神经网络的结构特点2.神经网络的数学模型3.感知器模型4.神经网络的应用—字符识别1.大规模并行计算2.非线性处理3.鲁棒性4.自组织及自适应性5.学习能力7.联想能力神经网络发展历史神经网络发展历史“人工大脑之父”的雨果·德·加里斯教授：“可能20年、30年后人工智能机器就可以和人做朋友了，但50年后，人工智能将成为人类最大的威胁。世界最终会因人工智能超过人类而爆发一场战争，这场智能战争也许会夺去数十人的生命。”这种听起来像“骇客帝国”一样的描述却是建立在科学研究的基础上。人工神经网络是对人脑的模拟人工神经元模拟生物神经元人工神经网络模拟生物神经网络人工神经网络的生物学基础人类大脑大约包含有1010～1012个神经元，每个神经元与大约103～105个其它神经元相连接，构成一个极为庞大而复杂的网络，即生物神经网络。生物神经元的结构信息输入生物神经网络由多个生物神经元以确定方式和拓扑结构相互连接即形成生物神经网络。注意：生物神经网络的功能不是单个神经元信息处理功能的简单叠加。神经元之间的突触连接方式和连接强度不同并且具有可塑性，这使神经网络在宏观呈现出千变万化的复杂的信息处理能力。神经元的建模神经元及其突触是神经网络的基本器件。因此，模拟生物神经网络应首先模拟生物神经元。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工神经元是对生物神经元的一种形式化描述。(1)每个神经元都是一个多输入单输出的信息处理单元；神经元的数学模型神经元的数学模型oj=f(netj)=f(WjTX)人工神经元－信息处理单元前馈型网络反馈型网络前馈型神经网络是广为应用的一种网络，其原理或算法也是其它一些网络的基础。径向基函数(RBF)神经网络也是一种前馈型神经网络，由于RBF网络学习收敛速度较快，近年来在应用中受到重视。Hopfield神经网络是反馈型网络的代表。网络的运行是一个非线性的动力学系统，已在联想记忆和优化计算中得到成功应用。自组织竞争型神经网络的特点是能识别环境的特征，并自动聚类。它们在特征抽取和大规模数据处理中已有极为成功的应用神经网络的性质主要取决于以下两个因素：一个是网络的拓扑结构；另一个是网络的权值。二者结合起来就可以构成一个网络的主要特征。神经网络的学习问题就是网络的权值调整问题。神经网络的连接权值的确定一般有两种方式：一种是通过设计计算确定，即所谓死记式学习；Hopfield网络作联想记忆和优化计算时就是属于这种情况。另一种是网络按一定的规则通过学习（训练）得到的。大多数神经网络使用后一种方法确定其网络权值。如自组织学习、有/无监督学习等。神经网络学习神经网络能够通过对样本的学习训练，不断改变网络的连接权值以及拓扑结构，以使网络的输出不断地接近期望的输出，其本质是可变权值的动态调整。神经网络的学习问题就是网络的权值调整问题。连接权wij通常在[-1,1]之间取值：wij>0，称为正连接，表示神经元i对j有激活作用wij<0，称为负连接，表示神经元i对j有抑制作用神经网络的各种学习算法的不同特点反映在调整权值的原则、方法、步骤和迭代过程的参数选择上。感知器的学习分类：详细讨论权值的确定：权值的确定：激励函数：通常选取下列函数之一：激励函数的选择BP网络是一种前馈网络,即误差反向传播神经网络一般的前馈网络包括一个输入层和一个输出层，若干隐单元。隐单元可以分层也可以不分层，若分层，则称为多层前馈网络。网络的输入、输出神经元其激活函数一般取为线性函数，而隐单元则为非线性函数。任意的前馈网络，不一定是分层网络或全连接的网络。多层前馈网络的每一层都是单层的网络，却无法用单层感知器的学习方法。其解决方法：通过误差函数求导使误差沿网络向后传播。BP模型学习算法的基本思想为：(1)从训练样例中取出一样例，把输入信息输入到网络中(2)由网络分别计算各层节点的输出(3)计算网络的实际输出和期望输出的误差(4)从输出层反向计算到第一隐层，根据减小误差原则调整网络的各个连接权值(5)对训练样例集中的每一个样例重复以上步骤，直到对整个训练样集的误差达到要求为止B－P模型学习公式推导：BP网络表示为：Oi。：结点i的输出netj:结点j的输入wij，结点i到结点j的连接权值yk、:分别表示输出层上结点k的实际输出和期望输出。在BP算法中，为了使学习以尽可能快的减少误差的方式进行，对误差采用基于梯度法极小化二次性能的指标函数：连接权值的修正公式为：结论：输出结点：权值调整为增益因子隐结点：权值调整基于神经网络的字符识别系统采用了粗网格特征提取办法。以数字“3”为例，提取字符特征的步骤为：首先将数字“3”归一化为32