徑向基神經網路RBF

RBF網路原理

RBF網路，即徑向基神經網路，也是前饋型網路的一種。它的設計思想和BP網路完全不一樣。

 

Cover定理：將複雜的模式分類問題非線性投射到高維空間將比投射到低維空間更可能是線性可分的。也就是說這個問題在低維空間不一定是線性可分的，但如果把它映射到高緯度的空間去，在那裡就可能是線性可分的。這就是RBF網路的原理。

 

RBF將問題轉換為線性可分之後便沒有了BP網路的局部極小值問題。但是RBF需要比BP網路更多的隱含層神經元。

 

RBF網路是一個三層的網路，出了輸入輸出層之外僅有一個隱層。隱層中的轉換函式是局部響應的高斯函數，而其他前向型網路，轉換函式一般都是全域響應函數。由於這樣的不同，要實現同樣的功能，RBF需要更多的神經元，這就是rbf網路不能取代標準前向型網路的原因。但是RBF的訓練時間更短。它對函數的逼近是最優的，可以以任意精度逼近任意連續函數。隱層中的神經元越多，逼近越精確

 

RBF網路學習過程

在RBF網路之前訓練，需要給出輸入向量X和目標向量T，訓練的目的是要求得第一層和第二層之間的權值W1、閥值B1，和第二層與第三層之間的權值W2、閥值B2。

整個網路的訓練分為兩步，第一部是無監督的學習，求W1、B1。第二步是有監督的學習求W2、B2。

 

隱藏層神經元個數

網路會從0個神經元開始訓練，通過檢查輸出誤差使網路自動增加神經元。每次迴圈使用，重複過程直到誤差達到要求。因此RBF網路具有結構自適應確定，輸出與初始權值無關的特徵。（BP網路就不這樣）

 

廣義迴歸神經網路GRNN

徑向基神經元和線性神經元可以建立廣義迴歸神經網路，它是徑RBF網路的一種變化形式，經常用於函數逼近。在某些方面比RBF網路更具優勢。

 

機率神經網路PNN

徑向基神經元和競爭神經元還可以組成機率神經網路。PNN也是RBF的一種變化形式，結構簡單訓練快捷，特別適合於模式分類問題的解決。

 

擴充速度spread的確定

RBF網路有個參數叫擴充速度spread，在MATLAB中建立RBF網路時是要事先設定好的，其預設值為1。

spread越大，函數擬合越平滑，但是逼近誤差會變大，需要的隱藏神經元也越多，計算也越大。

spread越小，函數的逼近會越精確，但是逼近過程會不平滑，網路的效能差，會出現過適應現象。

所以具體操作的時候要對不同的spread值進行嘗試，spread即要大到使得神經元產生響應的輸入範圍能夠覆蓋足夠大的地區，同時也不能太大，而使各個神經元都具有重疊的輸入向量響應地區。

 

MATLAB的實現

newrb（）

設計一個徑向基網路。newrb（）建立網路的過程是一個不斷嘗試隱藏層神經元個數的過程，在建立過程中，會根據誤差不斷向隱藏層添加神經元，直到誤差滿足要求為止。

 

newrbe（）

和newrb（）功能差不多，用於建立一個精確地神經網路，能夠基於設計向量快速的無誤差的設計一個徑向基網路。該函數在建立RBF網路的時候，自動選擇隱含層數目，隱藏層的數目等於樣本輸入向量的數目，使得誤差為0。在樣本輸入向量非常多的情況下，用rbe就不大合適。

 

Newpnn（）

建立一個機率神經網路，是一個適用於分類的神經網路。spread的預設參數是0.1，spread對分類效能的影響非常大。當spread接近於0時，對應的PNN就成為了一個最領域分類器，當spread接近於1時，對應的PNN就要考慮附近的設計向量。（這句話我也看不懂）

 

Newgrnn（）

建立一個廣義迴歸神經網路，通常用於函數逼近。

 

 

參考書目：

《MATLAB神經網路30個案例分析》

《MATLAB神經網路應用設計》

《神經網路理論與MATLAB r2007實現》

《精通matlab神經網路》

 

轉載自：http://blog.sina.com.cn/s/blog_6a90ae320100nr75.html