Network Representation 網路節點嵌入

Network Representation

  最近看了幾篇網路節點embedding的論文，思想很新穎，很有趣，這裡分享給大家。
  Network Representation可以翻譯為網路(節點)表徵、網路(節點)向量、網路(節點)嵌入等…
  Aim to learn distributed vector representation for each vertex in a network.
  目的是將學習圖的每個節點的向量，即embedding，類似word2vec.
  一旦將節點表示成向量了之後，很多問題都變得簡單了，如分類、聚類、半監督學習、標籤傳播、圖分割等等，關鍵就看效果了。

DeepWalk: Online Learning of Social Representations 在圖上隨機遊走產生長度為2w+1的路徑，對每個點隨機 γ \gamma個隨機遊走序列 每一條隨機遊走路徑便是相當於一個序列(相當於一句話,idea參考word2vec)，這樣序列中的點就有上下文，定義一個時間視窗w，並進行馬爾可夫假設，最後使用word2vec中的Skip-Gram訓練每一個節點的向量 假設一個路徑序列為 S={v1,...,v|S|} S=\{v_1,...,v_{|S|}\},對於 vi∈S v_i \in S ,其上下文為 C={vi−w,vi−w+1,...,vi+w−1,vi+w} C=\{v_{i-w},v_{i-w+1},...,v_{i+w-1},v_{i+w}\}, 那麼DeepWalk的最佳化目標為:
f=1|S|∑i=1|S|∑−w≤j≤w,j≠0logp(vi+j|vi) f=\frac{1}{|S|}\sum^{|S|}_{i=1}\sum_{-w \le j \le w, j \ne 0}log p(v_{i+j}|v_i)
其中,
p(vj|vi)=exp(cTvjrvi)∑v∈Cexp(