论文(word).doc
上传人:sy****28 上传时间:2024-09-14 格式:DOC 页数:8 大小:358KB 金币:16 举报 版权申诉
预览加载中,请您耐心等待几秒...

论文(word).doc

论文(word).doc

预览

在线预览结束,喜欢就下载吧,查找使用更方便

16 金币

下载此文档

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

一个BFGS信赖域方法及其收敛性本文受国家自然科学基金(11161003),广西教育厅项目(201012MS013),广西大学科研基金项目资助(XJZ110632),高吸高校优秀人才资助计划。李向荣李向荣,女,(1979.9-),讲师,主要从事优化理论方法,金融模型等方面的研究。广西大学数学与信息科学学院,广西省南宁市,530004摘要:本文将一个修改的BFGS校正公式与信赖域技术相结合,得出一个新的算法。与其他算法相比,此算法具有比较理想的性质,其中之一:对一般凸函数而言,该校正公式能保持校正矩阵的正定性,在适当的条件下我们证明所给方法的收敛性,并给出数值检验结果。关键词:凸函数,BFGS方法,信赖域方法,收敛性学科分类号(GB/T13745-92):110.74.ABFGSTrustRegionMethodandItsConvergenceLi-XiangrongCollegeofMathematicsandInformationScience,GuangxiUniversity,Nanning,Guangxi,530004,P.R.China.E-mail:xrli68@163.com.Abstract.Inthispaper,combingamodifiedBFGSupdateformulawiththetrustregiontechnique,weproposeanewalgorithm.Comparedwithotheralgorithms,thisalgorithmhasamoreidealproperties.Oneoftheseisthatforgeneralconvexfunctions,theupdatematixispositivedefiniteTheconvergenceofthegivenmethodisestablishedundersuitableconditions,andthetestresultsisgiven.KeyWords:convexfunction,BFGSmethod,trust-regionmethod,convergence..AMSsubjectclassifications(GB/T13745-92):110.741引言:对于无约束最优化问题(1.1)其中是连续可微函数,拟牛顿方法经常用来求解问题(1.1),其中,BFGS方法是最有效的拟牛顿法之一,其校正公式如下(1.2)其中,和分别是在和处的梯度值。关于此方法许多学者都对其做了研究。同时有许多性质更好的拟牛顿方法出现(见文献[1,2]等)。近来,Yuan和Wei[4]给出了一个修改的BFGS校正公式(1.3)其中-,+是步长,是搜索方向。他们得到了该方法对一般凸函数的全局收敛性和超线性收敛性。信赖域算法也是求解无约束优化问题的非常重要的算法,关于这类算法的研究见文献[6,7]等。本文就是将公式(1.3)与一般的信赖域算法相结合给出一个新的算法,此算法能保持校正矩阵对一般凸函数的正定性,新方法不但拥有全局收敛性,同时具有二次收敛速度,相对于文献[4]而言,理论上得到了更好的结论。本文采用下列记号:表示中的Euclid范数,是在处的梯度值,是由算法产生的点列,记。2算法以及正定性首先,我们给出解问题(1.1)的一般信赖域算法子问题的定义式为(2.1)其中,是在的Hesse矩阵或其近似,是信赖域半径,是试探步。实际上,求解信赖域子问题是非常重要的,文献[8]给出了相应的方法并讨论了其收敛性。用表示在第步的实际下降量,定义(2.2)为对应的预测下降量:(2.3)定义比值(2.4)我们利用[3]中所给的信赖域算法与(1.3)结合给出一个修改的BFGS校正的信赖域算法,详细步骤如下:算法1步骤0:给定对称阵;步骤1:计算。如果满足终止规则,则终止:否则转步骤2;步骤2:解子问题(2.1),得试探步;步骤3:计算和的值;步骤4:如果,则令;如果和,令;否则置;步骤5:若,置;否则置,利用校正公式(1.3)产生,令,转步骤1.由算法1我们可得到下面的性质。注1:我们知道用BFGS校正当时,保持正定性。下面分析两种情况中的如下[4]:情形1.如果,有(2.5)情形2.如果,则=其中(2.5)利用了凸函数的性质和Taylor展开式,即而(2.6)的第二个不等式利用了凸函数的性质为结合情形1和情形2我们不难得出,对一般凸函数而言,我们恒有成立,即(1.3)公式保证了校正矩阵的正定性。相应的可得到,若得到是正定的,,本文讨论的都是在为对称正定时产生的。上述算法与文章[3]和[6]中的经典方法进行简单比