[模式識別].(希臘)西奧多裡蒂斯<第四版>筆記5之__特徵選取

標籤：模式識別

1，引言

有關模式識別的一個主要問題是維數災難。我們將在第7章看到維數很容易變得很大。

    降低維數的必要性有幾方面的原因。計算複雜度是一個方面。另一個有關分類器的泛化效能。

    因此，本章的主要任務是：在儘可能保留特徵的分類判別資訊前提下，來選擇重要的和維數少的特徵量。這個過程被稱作特徵選取或者特徵降維。

    定量描述來講，選擇的特徵應該使得類內距離減小，類間距離增大。

    一些文獻表述中使用feature extraction,而不是我們本文使用的featureselection。這將會和第7章的一些描述有些衝突。

    2，預先處理

① 離群值刪除（outlier removal）

離群值定義為偏離相關變數均值較大的點

② 資料歸一化

許多特徵值位於不同的動態閾中，而大的特徵值對損耗函數會有較大影響。所以歸一化到相似閾值會有協助。

③ 缺失資料

一些特徵會從特徵量量中缺失。例如遙感在特定地區被其他感應器覆蓋的情況就是如此。

3，峰值現象

4，基於統計假設的特徵選取

5,接收操作（THE RECEIVER OPERATING）特性曲線

6，類可分性度量

7，特徵子集選取

8，最優特徵代（OPTIMAL FEATURE GENERATION）

9，神經網路和特徵選取

10，一個提示泛化理論

11，貝葉斯資訊標準

[模式識別].(希臘)西奧多裡蒂斯<第四版>筆記5之__特徵選取