TableofContents6.1基本概念特征的形成特征的选择与提取特征的选择与提取举例6.2类别可分离性判据基于距离的可分性判据基于距离的可分性判据矩阵形式基于概率的可分性判据基于熵函数的可分性判据类别可分离性判据应用举例Otsuthresholding6.3特征提取与K-L变换K-L变换离散K-L变换的均方误差求解最小均方误差正交基K-L变换的表示K-L变换的性质K-L变换的性质K-L变换图解K-L变换的数据压缩图解K-L变换的产生矩阵未知类别样本的K-L变换特征选择:=从原始特征中挑选出一些最有代表性、分类性能最好的特征进行分类。从D个特征中选取d个,共CdD种组合。若不限定特征选择个数，则共2D种组合－典型的组合优化问题特征选择的方法大体可分两大类：Filter方法：根据独立于分类器的指标J来评价所选择的特征子集S，然后在所有可能的特征子集中搜索出使得J最大的特征子集作为最优特征子集。不考虑所使用的学习算法。Wrapper方法：将特征选择和分类器结合在一起，在学习过程中表现优异的的特征子集会被选中。经典特征选择算法单独最优特征组合顺序前进法顺序后退法模拟退火法模拟退火法(II)模拟退火法(III)模拟退火法(IV)模拟退火法(V)特征选择的模拟退火法遗传算法遗传算法6.5讨论习题