迭代法研究主要问题定义:设｛xk｝是Rn上向量序列，矩阵序列极限证：证：矩阵A相同于其Jordan标准型,即存在可逆矩阵P,使得所以一、简单迭代思想定义：若称简单迭代法收敛，不然，称逐次迫近法不收敛或发散。迭代法收敛条件定理2：若迭代法迭代矩阵满足（矩阵某一个算子范数），则迭代格式产生序列收敛于x=Bx+f准确解x*，且有误差预计式：整理即得预计式。迭代格式收敛速度与初始值x(0)相关，同时也与||B||和(B)相关，普通来说，||B||和(B)越小，收敛速度越快。Def：称为迭代法渐近收敛速度。二、Jacobi迭代法注：怎样判断迭代过程终止？利用定理2误差预计式能够判断迭代过程是否能够终止，但这种方法比较麻烦，通常采取方法是经过前后两次迭代近似值差来判断，即利用：Jacobi迭代法步骤：Jacobi迭代矩阵形式记则有迭代格式：注：Jacobi迭代矩阵BJ：其中元素恰为原方程组系数矩阵A中主对角线元素换为0，而其余元素即为除以该行主对角元素后相反数。三、Gauss-Seidel迭代法矩阵表示：记上式整理可得：这是一个简单迭代格式，其中BG-S称为G—S迭代矩阵。例2：用G-S迭代法解方程组：取初始向量x(0)=(0,0,0)T代入迭代格式，得：定理4：若A为(行或列)严格对角占优矩阵，则对应G-S迭代格式收敛。定理5：设A是有正对角元n阶对称矩阵，则Jacobi迭代收敛A和2D-A同为正定矩阵。定理6：若A为对称正定矩阵，则对应G-S迭代格式收敛。证实:由A=D–L–LTBG-S=(D–L)-1LT所以,迭代矩阵BG-S谱半径ρ(BG-S)<1,从而当方程组Ax=b系数矩阵A是实对称正定矩阵时,G-S迭代法收敛(i=1,2,···,n;k=1,2,3,···)定理7.若A是对称正定矩阵,则当0<ω<2时SOR迭代法解方程组Ax=b是收敛例3：用松弛迭代法解方程组：★设x,y∈Rn,记(x,y)=xTy定理9.设A=(aij)n×n为实对称正定矩阵,b,x∈Rn,则x使二次函数令g(t)=f(u+tx),当t=0时,g(0)=f(u)到达极小值,所以,即梯度:取最小值。x(1)=x(0)+α0r(0)结论1：第m+1次和第m次负梯度方向是正交，即(r(m+1),r(m))=0六共轭梯度法共轭梯度法基本思想：由最速下降法中下降向量{r(k)}结构出关于A—共轭向量组{p(k)}，并以p(k)作为下降方向来结构迭代算法。第一步:取初值x(0)∈Rn,>0,计算r(k-1)=b–Ax(0),若||r0||≤结束;不然p(1)r(k-1),k1,转第二步;