线性最小二线乘问题的存在与唯一.ppt
上传人:天马****23 上传时间:2024-09-11 格式:PPT 页数:32 大小:1.2MB 金币:10 举报 版权申诉
预览加载中,请您耐心等待几秒...

线性最小二线乘问题的存在与唯一.ppt

线性最小二线乘问题的存在与唯一.ppt

预览

免费试读已结束,剩余 22 页请下载文档后查看

10 金币

下载此文档

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

实例讲解数据表格计算出它的正规方程得解得:a=0.15,b=0.859直线方程为:y*=0.15+0.859x一问题的提出插值法是使用插值多项式来逼近未知或复杂函数的,它要求插值函数与被插函数在插值节点上函数值相同,而在其他点上没有要求。在非插值节点上有时函数值会相差很大。若要求在被插函数的定义区间上,所选近似函数都能与被插函数有较好的近似,就是最佳逼近问题。最佳逼近是在函数空间M中选P(x)满足但由于绝对值函数不宜进行分析运算,常将上式化为来讨论,于是最佳逼近问题变为最佳平方逼近问题,而离散的最佳平方逼进问题就是常说的曲线拟合它们都可用最小二乘法求解。曲线拟合的最小二乘法•最小二乘法的求法•最小二乘法的几种特例例题二线性最小问题的存在与唯一2最小二乘解的存在性与唯一性定理:x*为Ax=b的最小二乘解充要条件ATAX*=ATb证明:充分性:若存在X*,使ATAX*=ATb则对任意向量令x=x*+y有b–Ax22=b–AX*22–2(y,AT(b–AX*))+Ay22=b–AX*22+Ay22b–AX*22X*为Ax=b的最小二乘解。必要性:令b–AX22=(x1,x2,,xn)=(x)则由多元函数极值的必要条件知,若X*为极值点,则(x)|——|=0xi|x=x*而(x1,x2,,xn)=bTb–2Ax+(Ax)TAx(x)由——=0(i=1,2,n)ATAx=ATb。xi若x*为Ax=b最小二乘解,则ATAx*=ATb。证毕ATAx=ATb称为最小二乘问题的Ax=b法方程组。当A=(aIj)mn的秩为n,既A的列线性无关时,ATAx=ATb有唯一解。三线形模型的正规方程n设离散数据模型(x)=cjj(x)j=0则求解归结为n+1元函数S的极值问题:mnS(c0,c1,…,cn)=i[yi¯cjj(xi)]2i=0j=0显然S达最小值必要条件是Smn—=2i[yi¯cjj(xi)]k(xi)=0Cki=0j=0(k=0,1,…,n)这是关于c0,c1,…,cn的方程组,n改写成(j,k)cj=(y,k)(k=0,1,2,…n)称为正规方程组j=0其中mn(j,k)=ij(xi)k(xi)i=0j=0一般,n<m,函数0,1,…,n,线性无关能保证正规方程组的系数矩阵(0,0)(1,0)…,(n,0)G=………,…(**)(0,n)(1,n)…,(n,n)的行列式不为零。因此正规方程组有唯一解。设其解为cj=cj*,j=0,1,…,n则所要求的离散点的拟合函数(最佳平方逼近)为n*(x)=cj*j(x)。J=0对已知连续函数f(x)的最佳平方逼近问题与离散点的最佳平方逼近有相同形式的正规方程组和结论,只不过内积公式变为表中提供离散数据(xi,yi),(0i4)试用二次多项式进行拟合.ixiyi*(xi)yi-*(xi)001.00001.0052-0.005210.251.28401.27400.010020.501.64871.64820.000530.752.11702.1279-0.010941.002.71832.71300.0053解:取M=Span(1,x,x2)其三个基函数为j(x)=xjj=0,1,2拟和函数是基函数的线性组合:(x)=c0+c1x+c2x2取0=1==4=1,由公式55(j,k)=xij+k,(y,k)=yixik,i=1i=1j,k=0,1,2可以算出(0,0)=5,(1,1)=1.875,(2,2)=1.3828(0,1)=(1,0)=2.5,(0,2)=(2,0)=1.875(1,2)=(2,1)=1.5625(y,0)=8.7680,(y,1)=5.4514,(y,2)=4.4215正规方程为5C0+2.5C1+1.875C2=8.76802.5C0+1.875C1+1.5625C2=5.45141.875C0+1.5625C1+1.3828C2=4.415解得C0=1.0052,C1=0.8641,C2=0.8427所求连续模型*为,*(x)=1.0052+0.8641x+0.8437x2最小平方残差5||y—*||22=(yi—*(xi))2=2.7610-4i=1由上述我们