矩阵代数（完整版）实用资料(可以直接使用，可编辑完整版实用资料，欢迎下载）补充线性代数知识特征值与特征向量定义设是阶方阵，若对于一个数，存在一个维非零向量，使，则称为的特征根，而称为的属于的特征向量。根据定义：，而，则是的根，是一个p次多项式。二、特征值与特征向量的基本性质（1）与有相同的特征根因为＝（2）若与分别是和阶的矩阵，则和有相同的非零特征根。证明：因为可以证明，上面两式左边的行列式是相等的，故等式右边的行列式也相等。所以和有相同的解，即和有相同的非零特征值。思考：和是否有相同的非零特征根？（3）若为实对称阵，则的特征根全为实数，且个特征值按大小依次表示为。若，则相应的特征向量和必正交，即＝0。1）证明：设是的任一特征根，是相应的特征向量，于是两边取共轭复数，则两边同乘以，则可见，一对共轭复数相等，当且仅当该数是实数，故是实数。2）证明：因为设和是的任两个不等的特征根，即因为，所以因为但和是的任两个不等的特征根，所以，特征向量正交。（4）若，即为一个对角矩阵，则为的特征值，其特征向量为…例：（5）若设为一个阶对称矩阵，则存在正交矩阵，有实际上，，其中是的特征根，，诸是正交向量。则令则有（6）因为A是实对称矩阵，所以存在正交矩阵，有＝故三、迹的概念定义：设为一个阶方阵，则其对角线上的元素和称为矩阵的迹，记为，记为：。基本性质：（1）思考和是否有相同的迹？（2）（3）（4）（5）若是的特征根，则。因为所以1．7正定矩阵和非负定矩阵1、定义设是阶对称矩阵，是一维向量，称为二次型。若对一切，有，则称为正定矩阵，记为。若对一切的，，则称为非负定矩阵，记为。对与非负定矩阵和，表示；表示。2、性质（1）设是对称矩阵，则是正定（或非负定）矩阵，当且仅当的所有特征值均为正（或非负）。证明：必要性因为是对称阵，则一定存在一正交矩阵T，使令…则因为是正定的，且，则。因为是非负定的，且，。充分性，当诸，对任意的维向量，有其中，即不全为零，当诸，，所以是正定（或非负定）。（2），则设的特征根为，则所以故。（3）设，则当且仅当（4）若（），则（5），对一切矩阵成立。，有（6）若（或），则存在（或），使得，则称为的平方根。证：因为为对称阵，则存在正交矩阵，使其中是其特征根。则（7）设是阶秩为r的矩阵，则存在一个秩为r的矩阵，使。1．8特征值的极值问题几个与特征值有关的极值问题。结论一若是阶对称矩阵，其特征值依次为，则对，有证明：因为是对称矩阵，故存在正交矩阵T和对角阵使所以又所以结论二若是阶对称矩阵，是阶正定矩阵，是的个特征根，则证明：令，的特征值为与有相同的特征根，故的特征值为。结论三柯西—许瓦兹不等式若，则因为，与具有相同的非零特征根，且为，所以由（2）有特别，当时，。补充一、矩阵微分的符号符号性质内容变数向量矩阵向量矩阵向量（，）矩阵（）矩阵注:表示行号,表示列号。1、（是P维列向量）2、(是方阵)当,则。补充二、约定1、p维向量2、p维向量的协方差矩阵其中3、容量为n的观测值矩阵一行一个个案，一列一个指标4、样本的协方差矩阵其中线性代数复习1.1矩阵的概念给定数域上个数把它们按一定次序排成一个行列的长方形数表，称为数域上的一个行列的矩阵，简称为矩阵。其中称为矩阵的第行、第列的元素。矩阵（只有一行）称为维行向量；矩阵（只有一列）称为维列向量。零矩阵、方阵、对角矩阵、单位阵所有元素为零的矩阵称为零矩阵，记为。。如果矩阵的行、列数都是，则称A为阶方阵；阶方阵A的元素按次序构成的阶行列式，称为矩阵A的行列式，记为|A|。在阶方阵中，若主对角线两侧的元素全为零，则称之为对角矩阵，记为；若对角矩阵的主对角线元素全为1，则称之为单位阵，记为；特别地，称为数量矩阵1.2矩阵的运算矩阵的加、减运算以及数乘运算当矩阵A和B的行数和列数相等时，它们可以进行加、减运算；A＋B等于所有对应位置的元素相加、减。数乘运算就是数乘矩阵A中所有元素得到的矩阵。，，，，，，，，，．矩阵相乘记，，，且，那么A和B相乘得到的矩阵C的元素可用公式表示为，。注意，在一般情况下矩阵乘法不满足交换律和消去律，即；不能推出。矩阵相乘满足如下运算规则：，，，，，，，．转置把矩阵的行和列互换得到的矩阵称为A的转置矩阵，记为。转置矩阵满足如下运算规则：；；；。若，那么A称之为对