論文中的機器學習演算法——基於密度峰值的聚類演算法_聚類

來源:互聯網
上載者:User
一、前言     最近有一篇Science上的文章引起了大家的關注,是由Alex Rodriguez和Alessandro Laio發表的《Clustering by fast search and find of density peaks》。網上有人做了一些說明,其實很多時候我在讀論文的過程中,也是學到了很多的知識,只是很少將這些內容整理在網上,前段時間我主要寫了一些有關機器學習的博文,搭建這樣的部落格只是記錄我的學習過程,伴隨著我的成長與進步。     在這個系列中,我會將自己閱讀過的論文的主要思想通過我自己的理解拿出來與大家分享,以前讀了一些論文沒有做好筆記,更多的是現實中一些條件的限制,沒有機會和組內的人分享一些學習的心得,遂想在這樣的一個平台上與大家一起討論,也希望這樣的過程能夠伴隨我的進步,促進我的進步。下面還是主要來談談論文的主要思想。 二、演算法的主要思想思想     在聚類演算法中主要有這樣幾種: 劃分的方法,如K-Means 層次的方法,如CURE 基於密度的方法,如DBSCAN 基於網格的方法,如CLIQUE 基於模型的方法,主要是一些機率分布 在以往的學習過程中,我只關注過劃分的方法,如K-Means(見博文“簡單易學的機器學習演算法——kMeans”)。     Science上的這篇文章《Clustering by fast search and find of density peaks》主要講的是一種基於密度的聚類方法,基於密度的聚類方法的主要思想是尋找被低密度地區分離的高密度地區。而在文章中提出的聚類方法(以下稱為“Desity Peaks Clusering Algorithm, DPCA”)也同樣基於這樣的一種假設:對於一個資料集,聚類中心被一些低局部密度的資料點包圍,而且這些低局部密度的點距離其他有高局部密度的點的距離都比較大。在這樣的模型中,DPCA主要有兩個需要計算的量:第一,局部密度 ;第二,與高密度點之間的距離 。 1、局部密度 的定義為:
其中,
稱為截斷距離(Cut-off distance)。這個公式的含義是說找到與第 個資料點之間的距離小於截斷距離 的資料點的個數。
2、與高密度點之間的距離
這個公式的含義是說找到所有比第 個資料點的局部密度都大的資料點中,與第 個資料點之間的距離的最小值。而對於具有最大密度的資料點,通常取 。 3、如何聚類    對於聚類問題,我們需要回答的是聚類中心是什麼,對於每個資料點,如何定義所屬的類別。DPCA中將那些具有較大距離 且同時具有較大局部密度 的點定義為聚類中心。
(圖片來源於文章) 如上圖B,資料點1和資料點10同時具有相對較高的距離和局部密度,所以是聚類中心。而在圖中具有相對較高的距離,但是局部密度卻較小的資料點26,27和28稱為異常點。對於那些非異常點,如何對他們聚類呢。DPCA採用的是將他們歸類到比他們的密度更大的最相近的類中心所屬的類別中。到此,整個演算法的基本思想解釋結束。     對於這樣的演算法,如何去定義相對較高,作者並沒有給出解釋,在作者提供的程式和資料中,我做了實驗,實驗結果如下:
(實驗結果)
參考文獻: 1、Clustering by fast search and find of density peaks
2、 Science上發表的超贊聚類演算法  http://www.52ml.net/16296.html 3、 Clustering By Fast Search And Find Of Density Peaks http://www.52ml.net/16351.html

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.