機器學習（二）：感知機學習演算法

標籤：nal   機器   理解   sig   更新   .com   ...   機器學習   集合   

感知機是一種線性分類模型，屬於判別模型

　　f(x)  = sign(wx+b) ;  f(x)∈{+1,-1};

其中M為錯分類點的集合M。

感知機學習演算法是誤分類驅動的，採用隨機梯度下降法進行參數更新。

w<-----w + γyixi

b<-----b + γyi

γ為學習率，反覆迭代直到所有樣本均分類正確。

 

總結：

輸入：訓練資料集T={(x1,y1),(x2,y2).....(xn,yn)},學習率γ∈[0,1]

輸出：w，b 感知模型f(x) = sign(wx+b)

(1)選取初值 w0,b0

(2)訓練集中選取資料(xi,yi);

(3)如果yi(wxi+b)<=0

　　w = w + γyixi

　　b = b + γyi

(4)轉至(2),直到訓練集中沒有誤分類點。

演算法是收斂的，易於理解與實現。但是對於只能處理線性可分情況。

 

機器學習（二）：感知機學習演算法