K-Means(K均值) 演算法__演算法

       

       K-Means演算法的基本思想是初始隨機給定K個簇中心，按照最鄰近原則把待分類樣本點分到各個簇。然後按平均法重新計算各個簇的質心，從而確定新的簇心。一直迭代，直到簇心的移動距離小於某個給定的值。K是我們事先需要給定的聚類數目(K小於樣本的個數N)。

K-Means聚類演算法主要分為三個步驟： (1)隨機在樣本中選取K個樣本點作為聚類中心。
(2)計算每個點到聚類中心的距離，將每個點聚類到離該點最近的聚類中心的簇中去。
(3)重新計算每個聚類中所有點的座標平均值，並將這個平均值作為新的聚類中心
反覆執行(2)、(3)，直到聚類中心點不再變化或變化很小為止。

下圖展示了對n個樣本點進行K-Means聚類的效果，這裡K=2：

K-Means演算法的優點：
是解決聚類問題的一種經典演算法，簡單、快速 對處理大資料集，該演算法保持延展性和高效率 當結果簇是密集的，它的效果較好

K-Means演算法的缺點：
K值需要事先給定，而這個 K 值的選定是非常難以估計的。很多時候，事先並不知道給定的資料集應該分成多少個類別才最合適。 K-Means演算法對初值敏感，對於不同的初始值，可能會得到不同的結果。(K-Means++演算法可以用來解決這個問題，其可以有效地選擇初始點)。 不適合於發現非凸面形狀的簇或者大小差別很大的簇。 對躁聲和孤立點資料敏感。

故K-Means演算法 常常用於其他聚類演算法的一個階段，如譜聚類。