协方差与协方差矩阵（完整版）实用资料(可以直接使用，可编辑完整版实用资料，欢迎下载）协方差与协方差矩阵协方差是统计学上表示两个随机变量之间的相关性，随机变量的离差与随机变量的离差的乘积的数学期望叫做随机变量与的协方差（也叫相关矩），记作：,记为对于离散随机变量，我们有；对于连续随机变量，我们有，随机变量的协方差用来描述随机变量之间的相关性，我们指出，独立随机变量的协方差等于零，即如果与在统计学与概率论中,协方差矩阵是一个矩阵，这是从标量随机变量到高维度随机向量独立，则=0.如果与相同，则协方差就是变量的方差。的自然推广。协方差矩阵对于多元随机变量，一般是对于一个多维随机变量来讲的，表现的是随机变量X各个元素分量（为1维随机变量）之间的相互关系，每一项都对应着其中两个变量的协方差，组合起来就是协方差矩阵了,比如一个n维的随机变量X,其协方差矩阵之第ij个元素即为E[(Xi-E(Xi))*(Xj-E(Xj))],Xi和Xj分别表示X的第i个和第j个元素分量。比如：随机变量x和y，为它们的协方差矩阵，为随机变量i和j的协方差，，其中，，，N为扫描数据点个数。现实中，由于测量值受噪声干扰，假设它们分别服从高斯白噪声分布且互相独立，方差分别为和，则：补充知识：数学期望：随机变量的一切可能值与对应的概率的乘积的和叫做随机变量的数学期望，记作。数学期望从几何意义上来说，就是分布曲线与x轴之间的平面图形的重心的横坐标，它是反映均值的问题。离差：叫做随机变量的离差。方差：随机变量的离差的平方的数学期望叫做随机变量的方差，记作，也记作，，于是，对于离散随机变量，我们有。对于连续随机变量，我们有，由方差的定义可知，随机变量的方差总是一个正数，显然，当随机变量的可能值密集在数学期望的附近时，方差较小，在相反情况下，方差较大。所以，由方差的大小可以推断随机变量分布的分散程度。方差是反映了随机变量的一切可能值在数学期望周围的分散程度。求逆矩阵的方法与矩阵的秩一、矩阵的初等行变换（由定理2.4给出的求逆矩阵的伴随矩阵法，要求计算矩阵A的行列式值和它的伴随矩阵.当A的阶数较高时，它的计算量是很大的，因此用伴随矩阵法求逆矩阵是不方便的.下面介绍利用矩阵初等行变换求逆矩阵的方法.在介绍这种方法之前，先给出矩阵初等行变换的定义.）定义2.13矩阵的初等行变换是指对矩阵进行下列三种变换：(1)将矩阵中某两行对换位置；(2)将某一行遍乘一个非零常数k；(3)将矩阵的某一行遍乘一个常数k加至另一行.并称(1)为对换变换，称(2)为倍乘变换，称(3)为倍加变换.矩阵A经过初等行变换后变为B，用ABij表示，并称矩阵B与A是等价的.iji（下面我们把）第行和第j行的对换变换，简记为“，”；把第行遍乘k倍的倍乘变换，简记为“k”；第j行的k倍加至第行上的倍加变换，简记为“+k”.①，②例如，矩阵A=③k②+①k（关于初等矩阵内容请大家自己阅读教材）二、运用初等行变换求逆矩阵由定理2.7的推论“任何非奇异矩阵均能经过初等行变换化为单位阵”可知，对于任意一个n阶可逆矩阵A，经过一系列的初等行变换可以化为单位阵I，那么用一系列同样的初等行变换作用到单位阵I上，就可以把I化成.因此，我们得到用初等行变换求逆矩阵的方法：在矩阵A的右边写上一个同阶的单位矩阵I，构成一个n2n矩阵(A,I)，用初等行变换将左半部分的A化成单位矩阵I，与此同时，右半部分的I就被化成了.即(A,I)(I,)例1设矩阵A=求逆矩阵.解因为②+①(-1)=3\*GB3③+①(-2)[A,I]=①+=3\*GB3③(-1)②+=3\*GB3③(-1)=1\*GB3①+=2\*GB3②②(1/2)=3\*GB3③+=2\*GB3②所以=所求逆矩阵是否正确，可以通过计算乘积矩阵A进行验证.如果A=I成立，则正确，否则不正确.对给定的n阶矩阵A，用上述方法也可以判断A是否可逆.即在对矩阵[A,I]进行初等行变换的过程中，如果[A,I]中的左边的方阵出现零行，说明矩阵A是奇异的，即，可以判定A不可逆；如果[A,I]中的左边的方阵被化成了单位阵I，说明A是非奇异的，可以判定A是可逆的，而且这个单位矩阵I右边的方阵就是A的逆矩阵，它是由单位矩阵I经过同样的初等行变换得到的.例2设矩阵A=，问A是否可逆？解因为[A,I]=[A,I]中的左边的矩阵A经过初等行变换后出现零行，所以矩阵A是奇异的，A不可逆.（下面利用矩阵求逆运算求解矩阵方程.）例3解矩阵方程AX=B，其中A=，B=解[思路]如果矩阵A可逆，则在矩阵方程AX=B等号的两边同时左乘