LDA實現的兩種方法

       今天看到美帝一個實現LDA的法子，實現了一把，結果也對，參加方法2。可以對比方法1，計算量是降低了很多。

      但無論如何，有一個顯著的開銷是很大的，這就是每個Wm,n 都需要記錄一個類標籤，也就是代碼中doc那個三維矩陣，x表示文檔編號{0-15}，y表示term編號{0-4}，z表示label{0-1}

     假定文檔有10M個（一千萬），每篇文章1000個詞，詞典空間10K個，類標號100個，那這個矩陣的大小起碼是 10M*1K*（3位元組+1位元組）= 40GB ？

     所以大規模計算肯定不能怎麼表示，怎麼搞呢？待續，我實現了一個，參見：http://weibo.com/1497035431/zoWcFqHt5

      

      我一直想把LDA徹底打通，但還是覺得差一些，這個周末兩天，還是沒有如願 

    

      

例子來源：https://github.com/pennyliang/MachineLearning-C---code/blob/master/gibbs_sampling/SteyversGriffithsLSABookFormatted.pdf

方法1：https://github.com/pennyliang/MachineLearning-C---code/blob/master/gibbs_sampling/main.cpp

方法2：https://github.com/pennyliang/MachineLearning-C---code/blob/master/gibbs_sampling/main2.cpp

方法2演算法流程