神经网络详解与实例学习PPT教案.pptx
上传人:王子****青蛙 上传时间:2024-09-13 格式:PPTX 页数:70 大小:1.3MB 金币:10 举报 版权申诉
预览加载中,请您耐心等待几秒...

神经网络详解与实例学习PPT教案.pptx

神经网络详解与实例学习PPT教案.pptx

预览

免费试读已结束,剩余 60 页请下载文档后查看

10 金币

下载此文档

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

人工神经网络(ArtificialNeuralNetwroks-----ANN)-----HZAU数模基地引言ANN的研究内容研究ANN方法ANN研究的目的和意义神经网络研究的发展人工神经网络研究的局限性人工神经网络概述二、神经元与神经网络神经元的信息传递和处理是一种电化学活动.树突由于电化学作用接受外界的刺激;通过胞体内的活动体现为轴突电位,当轴突电位达到一定的值则形成神经脉冲或动作电位;再通过轴突末梢传递给其它的神经元.从控制论的观点来看;这一过程可以看作一个多输入单输出非线性系统的动态过程脑神经信息活动的特征神经网络基本模型神经元的数学模型其中x=(x1,…xm)T输入向量,y为输出,wi是权系数;输入与输出具有如下关系:例如,若记或2、神经网络的数学模型基本BP网络的拓扑结构ANN类型与功能一般而言,ANN与经典计算方法相比并非优越,只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面,ANN对处理大量原始数据而不能用规则或公式描述的问题,表现出极大的灵活性和自适应性。人工神经网络(ArtificialNeuronNets=ANN)问:如果抓到三只新的蚊子,它们的触角长和翼长分别为(l.24,1.80);(l.28,1.84);(1.40,2.04).问它们应分别属于哪一个种类?思路:作一直线将两类飞蠓分开分类结果:(1.24,1.80),(1.28,1.84)属于Af类;(1.40,2.04)属于Apf类.•缺陷:根据什么原则确定分类直线?再如,如下的情形已经不能用分类直线的办法:基本BP网络的拓扑结构四、反向传播算法(B-P算法)假设有P个训练样本,即有P个输入输出对(Ip,Tp),p=1,…,P,其中ipm=-1,wim=(第i个神经元的阈值)(5)图7多层前馈网络(3)设层与层间的神经元都有信息交换(否则,可设它们之间的权重为零);但同一层的神经元之间无信息传输.在上述假定下网络的输入输出关系可以表示为:定理2对于具有多个隐层的前馈神经网络;设激发函数为S函数;且指标函数取BP算法五.应用之例:蚊子的分类输入数据有15个,即,p=1,…,15;j=1,2;对应15个输出。建模:(输入层,中间层,输出层,每层的元素应取多少个?)建立神经网络规定目标为:当t(1)=0.9时表示属于Apf类,t(2)=0.1表示属于Af类。设两个权重系数矩阵为:(1)随机给出两个权矩阵的初值;例如用MATLAB软件时可以用以下语句:(6)p=p+1,转(2)即网络模型的解为:BP网络建模特点:非线性映照能力:神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。并行分布处理方式:在神经网络中信息是分布储存和并行处理的,这使它具有很强的容错性和很快的处理速度。自学习和自适应能力:神经网络在训练时,能从输入、输出的数据中提取出规律性的知识,记忆于网络的权值中,并具有泛化能力,即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。数据融合的能力:神经网络可以同时处理定量信息和定性信息,因此它可以利用传统的工程技术(数值运算)和人工智能技术(符号处理)。多变量系统:神经网络的输入和输出变量的数目是任意的,对单变量系统与多变量系统提供了一种通用的描述方式,不必考虑各子系统间的解耦问题。神经网络的应用基本BP网络的拓扑结构1.样本数据1.1收集和整理分组采用BP神经网络方法建模的首要和前提条件是有足够多典型性好和精度高的样本。而且,为监控训练(学习)过程使之不发生“过拟合”和评价建立的网络模型的性能和泛化能力,必须将收集到的数据随机分成训练样本、检验样本(10%以上)和测试样本(10%以上)3部分。此外,数据分组时还应尽可能考虑样本模式间的平衡。2.神经网络拓扑结构的确定2.1隐层数一般认为,增加隐层数可以降低网络误差Hornik等早已证明:若输入层和输出层采用线性转换函数,隐层采用Sigmoid转换函数,则含一个隐层的MLP网络能够以任意精度逼近任何有理函数。显然,这是一个存在性结论。在设计BP网络时可参考这一点,应优先考虑3层BP网络(即有1个隐层)。一般地,靠增加隐层节点数来获得较低的误差,其训练效果要比增加隐层数更容易实现。。在确定隐层节点数时必须满足下列条件:隐层节点数必须小于N-1输入层的节点数(变量数)必须小于N-1。(2)训练样本数必须多于网络模型的连接权数,一般为2~10倍,否则,样本必须分成几部分并采用“轮流训练”的方法才可能得到可靠的神经网络模型。学习率和冲量系数大的学习率可能使网络权值每一次的修正量过大,