CRF++ Source code reading experience

讀了CRF++源碼，總結如下幾點

1，實現的是linear-chain結構

2，感覺對範例的表示方式不如maxent靈活，可以看看suit的實現

3，TaggerImpl儲存訓練範例，x儲存相應的output序列，result儲存相應的狀態序列，answer儲存模型算出來的狀態序列；為了實現多線程並發處理，另外儲存了處理該TaggerImpl的線程thread_id_；output序列中的每一個token都對應一個feature集合，整個output序列對應了feature集合的序列，系統將所有訓練範例的feature集合順序儲存在一個feature_cache中，因此在每一個TaggerImpl中儲存了自己的feature序列在feature_cache中位移量feature_id_，而這個feature_cache存在於FeatureIndex對象中。系統中所有的TaggerImpl都共用一個FeatureIndex對象；為了DP編程的方便，又包含一個Node二維數組，橫軸對應output中的每一個token，縱軸代表系統狀態集合中的每一個狀態。

4，Node儲存DP中的每一個狀態，包括alpha，beta，verterbi路徑前驅等。

5，與maxent不同的是在buildfeature的時候，系統會為每一個<obeservation,state>狀態建立feature，這裡的state包括unigram和bigram特徵，而不管他們是否在訓練資料中出現過。

6，所有的observation從training data中提取，然後儲存在feature_cache的dict中，這個dict的結構是observation->pair<observationId,count>，最後observationId的最大值就是模型所有參數的個數。