工程优化设计中的数学方法工程优化设计中的数学方法硕士研究生课程硕士研究生课程理学院数学系：穆学文Tel:88207669E-mail:mxw1334@163.comz下载课件邮箱：mxw_1334@sohu.comz密码：654321第二章基础知识z多元函数及其导数z等高线z二元函数z多元函数的极值z凸集、凸函数和凸规划z重要的不等式z下降迭代算法及其收敛性§1多元函数及其导数§1.1多元函数的可微性和梯度以后我们研究的最优化问题涉及的均是多元函数，并要求它们的可微性，下面先给出定义。nn11fDfD::⊂→⊂→RRRR表示f是定义在RRnn中区域D上的n元实值函数nn11nn定义1：设fDfD::⊂→⊂→RRRR,xDxD00∈∈,若，∃∈∃∈lRlR使对∀∈∀∈pRpRnn有：TTfxfx((00+−+−pp))ff((xx))−−llpplilimm00==00((11))pp→→00pp则称f(x)在xx00处可微。TT若令fxfx((00+−+−pp))ff((xx))−−llpp00==ααpp则f在xx00处可微时，有lilimmαα==00，即α是无穷pp→→00小量。TTfxfx((0000+−+−pp))ff((xx))==llpp++oo((pp))(2)其中opop()()==ααpp表示pp的高阶无穷小，与一ototot(())元函数可微性定义类似（ot(())即lilimm==00）tt→→00tt定理1:若fx()在x0处可微，则fx()在该点处关于各变量的一阶偏导数存在，且TT∂∂∂∂fxfx()()0000fxfx()()∂∂fxfx()()00ll==,,,,L,,((33))∂∂xxL∂x∂∂xx1212∂xnn证明：令ll=,,l,lTT，ll=[[1212,,lLL,lnn]]p==pe,1i,2,,np依次取p==peiiii,1i,2,LL,n,pii为任意无穷小变量，xpp=eei是单位向量，由f在x00处可微，则⑵对pp=iiiie成立，即fxfx+−+−ppeefxfx==llpp++oopp()()0000iiii(())iiii()()iiinin==1,1,22,,LL,,pp两边除以ii并取ppii→→00的极限有：∂+∂+fxfx((0000))fxfx((ppiiiiee))−−fxfx((00))==lilimm==lliinin==1,1,22,,,,P→0iLPi→0L∂∂xpxpiiiii定义2:以的f()xn个偏导数为分量的向量称为f(x)在x处的梯度。记为TT∂∂∂∂fxfx()()fxfx()()∂∂fxfx()()∇=∇=fxfx()(),,,,L((44))∂∂xxL∂x∂∂xx1212∂xnn梯度也可称为函数f(x)关于向量x的一阶导数。若f在处x0可微,将⑶代入⑵得Tfx(00+=p)f()x+∇f()x0p+o()p(5)这与一元函数展开到两项的Taylor公式是相对应的。§1.2梯度的性质设f(x)在定义域内有连续偏导数，即有连续梯度∇f(x)，则梯度有个重要性质：性质1:梯度方向是函数具有最大变化率的方向。为说明该条性质，先引进下面方向导数定义：定义3:设在fR:n→R1点x处可微，p为固定向量，e为向量p方向的单位向量，则称极限：∂+f(x)f(xte)(−fx)00=lim0∂ptt→0+∂f(x0)为函数f(x)在点x0处沿方向p的方向导数，其中∂p为其记号。由定义及极限性质可知：∂fx()0<0•若，∂p则f(x)从x0出发在x0附近沿p方向是下降的。∂fx()fx+−tefx∵，0<0则t＞0充分小时,(00)()<0∂ptfx<fx即()(0),x=xt0+e∂fx(0)•若，>0则f(x)从x0出发在x0附近沿∂p方向p是上升的。n1∂fx(0)T定理：若fR:→R在点x0处可微，则=∇fx()0e，2∂p其中e为p方向上的单位向量。证明：利用方向导数定义并将Tfx()00+=pf(x)+∇f(x0)p+o(p)中的p换成te有：T∂∇fx()00tf()xe+o(t)T==lim∇fx()0e∂ptt→0+推论：∇<fxTp0•若，()0则p是函数f(x)在x0处的下降方向。∇>fxTp0•若，()0则p是函数f(x)在处x0的上升方