第七章特征提取与选择_总结直接选择法：电,…，曲）二m时…,曲）］ 变换法提取：亍二明二工§7类别可分性判据准则一类别可分性判据，刻划特征对分类的贡献希望所构造的可分性判据满足下列要求：⑴与误分概率（或误分概率的上界、下界）有单调关系2）当特征相互独立时，判据有可加性，即U1（3）判据具有“距离”的某些特性，即ij ~ Ji（4）对特征数目是单调不减，即加入新的特征后，判据值不减，妇31，勺,・・・无）^"（死曲，…，知，"+1）7.2.1基于几何距离的可分性判据（一）类内距离衣㈤=上勇时—砂）t时—秋））类内均方欧氏距离 虬心（二）类内离差（散布）矩阵…盘押-砂Y（三）多类情况下总的类内、类间及总体离差（散布）矩阵£ r -I编=£既产£夫£尝.涎'-砂'寤* -砂V总的类内离差矩阵 H 7 现A1禺二夕敏炳⑴-初（折⑴一痢）T总的类间离差矩阵 强寿二滴尊「碗亍二3伸,总体离差矩阵为 此易导出 秋同顼牌+S』二可明其中，月为已类的先验概率，洞i）为吃类的均值矢量，演为总的均值矢量，在有些关系的推导和实际应用中，它们可用如下的统计量代替可以由跖、奂和斗构造如下的可分性判据:*二升［明喝可以证明，■、％与儿在任何非奇异线性变换下是不变的，与坐标系有关。
7.2.2基于类的概率密度函数的可分性判据基于类概密的可分性判据七应满足:（2）当两类密度函数完全不重迭时，七二皿密;(3) 当两类密度函数完全重合时，（4）相对两个概密具有“对称性”一）Bhattacharyya 判据（了 ^）=Tit [?（习啊）以耳印J dK'式中Q表示特征空间在最小误分概率准则下，误分概率（二）Chern o任判据（心）L = 一1也Jp（科可J孚（醇叱）'-切另A孔（昭奶，司A Jc（s; if ®） £ Jc（s） 心 w 1 性质：（1） 对一切是E Cl，心2） 对一切0 C次1，土二 =#（?应）3） 当占和（1-2参数互调时，才有对称性，即（互 ’ ^2，£）~丁 叫」—e）（4） 当亍的各分量如…,％相互独立时，IJc危瓦氏!， …时二 £—*,&）（5）当耕勺各分量 W&相互独立时，有（旦海，…，硫一J三了齐,^1，…双Qk
Op（另跖）二 p （2 叱）（4） 当f的各分量如…，心相互独立时，（具有可加性）A.%（电,⑶…，相=2 损 *5j-i（5） 当f的各分量 相互独立时，（对特征数目单调不减）心 01，七，…，虹—L）色心/电，J，…成Ql’ljt） 为 5验）二蛆—，3）+ （J* 泪]全即[—"） + （1 —睥]P2（q） < exp[-3£- ^&]< ^\-J^s）-s3]/-I 占、【又当5）= Fg时，° =5，当g） . g）时，占，而tn史⑹]== Jz对于c（c ＞ 2）类问题，可采用平均B-判据、判据:2-1 J-2+LL = Z尤尹（，泪（电任皿顶』•）j-L j'-i+l乙二一旦卜（弟）此?（％巧）i-1 扣 +1大盖小问题岛皿也.） = If』-J口回,"8总的平均（变换）判据!-1 ；-!+1如妈瑚』）二£ - 2哪（-孔皿，乳.）』风孑广立立Pg P奶'海％%）i-1 S7.2.3基于类的后验概率与熵的可分性判据I熵丑码丑⑦=-2＞山以二-2＞皿|方屈夙纳| a炳：熵的主要性质：⑴ E" 当且仅当某个1有勤=1而其余的为顼灯必）时等号成立，即， 确定场熵最小2）Hg・・/J由*，当且仅当叶!（E2・・S时等号成立，即，等概 率场熵最大。
①g）是万的连续上凸函数从特征选择角度看，应选择使熵最小的那些特征用于分类取熵函数的期望七=矶-―虱做I翊袈虱艳同 _ i-1 _使用口判据进行特征提取与选择时，我们的目标是使n mm如有侵权请联系告知删除，感谢你们的配合！。