第五章作业：作业一：设有如下三类模式样本集ω1，ω2和ω3，其先验概率相等，求Sw和Sbω1：{(10)T,(20)T,(11)T}ω2：{(-10)T,(01)T,(-11)T}ω3：{(-1-1)T,(0-1)T,(0-2)T}答案：由于三类样本集的先验概率相等，则概率均为1/3。多类情况的类内散布矩阵，可写成各类的类内散布矩阵的先验概率的加权和，即：其中Ci是第i类的协方差矩阵。其中=QUOTE,=QUOTE则1/3QUOTE+QUOTE+QUOTE=QUOTE类间散布矩阵常写成：其中，m0为多类模式（如共有c类）分布的总体均值向量，即：=QUOTE=QUOTE则=QUOTE+QUOTE+QUOTE=QUOTE作业二：设有如下两类样本集，其出现的概率相等：ω1：{(000)T,(100)T,(101)T,(110)T}ω2：{(001)T,(010)T,(011)T,(111)T}用K-L变换，分别把特征空间维数降到二维和一维，并画出样本在该空间中的位置。答案：QUOTE将所有这些样本的各分量都减去0.5，便可以将所有这些样本的均值移到原点，即(0,0,0)点。新得到的两类样本集为：ω1：{(-0.5-0.5-0.5)T,(0.5-0.5-0.5)T,(0.5-0.50.5)T,(0.50.5-0.5)T}ω2：{(-0.5-0.50.5)T,(-0.50.5-0.5)T,(-0.50.50.5)T,(0.50.50.5)T}符合K-L变换进行特征压缩的最佳条件。因P(ω1)=P(ω2)=0.5，故解特征值方程|R-λI|=0，求R的特征值。求得特征值λ1=0.25，λ2=0.25，λ3=0.25其对应的特征向量可由RФi=λiФi求得：，，1、将其降到二维的情况：选λ1和λ2对应的变换向量作为变换矩阵，由y=ФTx得变换后的二维模式特征为：ω1：{(-0.5-0.5)T,(0.5-0.5)T,(0.5-0.5)T,(0.50.5)T}ω2：{(-0.5-0.5)T,(-0.50.5)T,(-0.50.5)T,(0.50.5)T}2、将其降到一维的情况：选λ1对应的变换向量作为变换矩阵，由y=ФTx得变换后的一维模式特征为：