其他

PRAML學習筆記-資訊理論概述對<<pattern recognition and machine learning>> 一書關於資訊理論簡介的學習筆記, 對於一個隨機變數x,它攜帶有多少資訊量呢? 當我們觀察到了x的一個特定值的時候，我們獲得了多少資訊量呢? 資訊量可以表示為“驚訝度”(degree of surprise)。 如果我們觀察到了一個不常見的事情發生顯然驚訝度高，獲得資訊量大,極端的如果我們知道一個事件百分百發生那麼我們沒有任何資訊獲得。

當前僅僅完成了一小部分,程式上僅僅實現了普通的基於字元的huffman壓縮與解壓縮.程式管理上嘗試了使用cmake構建,還是很方便的.測試實驗了採用 google test 1.4,也是很好用的.文檔編輯嘗試使用latex+cjk, latex2html,相當好用:)恩,下一步先嘗試 python嵌入c++,利用pygraphviz從而可以列印產生的二叉樹形態,展示huffman建立所得的二叉樹.

這裡給一個例子，在n個數字中，任意找k個數字（k<=n)，列印所有的可能的情況例如0, 1, 2 在這3 個數中，找2個數字，應該列印0, 10, 21, 2這個經典問題可以用遞迴回溯，或者迭代回溯解決。遞迴回溯更清晰好理解。Code highlighting produced by Actipro CodeHighlighter

圖的深度優先遍曆，是一個基本的DFS架構，需要注意的是1.圖可能不聯通，需要注意遍曆的完整。2.圖可能存在環，需要避免死迴圈。（即使沒有環也需要避免重複的訪問）所以需要給訪問過的點做visit標記，避免重複訪問。Code highlighting produced by Actipro CodeHighlighter (freeware)http://www.CodeHighlighter.com/--> 1 void travel(Graph& G){ 2     for(int i

acm  2248給定n,找最小的序列。a0 = 1am = na0 < a1 < a2 ... < am任意 ak = al1 + al2.l1 l2 可以相等如 n = 5找到 1 2 3 5或者 12 4 5 都可 輸出一個即可但是 12 3 4 5 就不是最短的了開始問題沒想好，總是逾時，參考了http://hi.baidu.com/ecjtuzdh/blog/item/ea5d2c025ba7c381d53f7ce9.html提到問題的關鍵對於1<=P<=

written by goldenlock簡介：本文主要對PRML一書的第一章總結，結合moore關於迴歸的課件Predicting real-valued outputs: an introduction to regression。什麼是迴歸(regression)? 1. 單一參數線性迴歸 如考慮用一條過原點的直線去擬合採樣點，y=wx,那麼未知參數w取什麼值可以使得擬合最好的，即整體擬合誤差最小，這是一個最小二乘法擬合問題。目標是使得(Xi-Yi)^2的總和最小。2.

1. 簡介：主要是Andrew W.Moore 的課件Predicting real-valued outputs: an introduction to regression學習筆記（逐步完成)。2. 單一參數線性迴歸 single parameter linear regression前面關於PRML第一章學習筆記中已經貼了該部分。注意最後的最優求解很簡單，按照偏導數=0。對應最小值的然後可以利用這個來預測新值。   3. 多元線性迴歸

簡介：主要參考<<introduction to statistical pattern recognation>>第六章，做簡單筆記。1. 參數化與非參數化參數化是指我們對於機率預先做出了分布形式假設，我們要做的只是估算參數值，比如我們假定是高斯分布，二項式分布等等。非參數化直接從觀察資料估計機率密度，不依賴任何對分布形式的假設。2. 

不帶格式的輸入，將輸入資料流直接按位元組讀取 測試檔案均為24M大小的一個英文檔案。 C語言，fread#include <stdio.h>int main () {char c[1];int num;FILE* fp = fopen("http://www.cnblogs.com/big.log", "rb");while(1) {num = fread(c, 1, 1, fp); //每次唯讀一個char，第一個1表示一次讀1個byte，第二個1表示連續讀1次/

最近用boost::math庫，發現會和我以前的程式衝突。比如我的程式如果用到#include<tr1/unordered_map> 等等std::tr1名字域下的東西。。。 google了下，原因是boost::tr1設計初衷是為了在你的系統沒有std::tr1標準庫實現的情況下讓你仍然可以在程式中使用std::tr1::unordered_map, std::tr1::tuple等東東，當然了這是一個work

ngram模型是統計語言的最基本的模型了，這裡將給出用中文語料做實驗建立ngram模型的個人總結，主要參考sun拼音2.0的代碼以及有點意思拼音IME，會參考srilmstevejian.cublog.cn。我會盡量逐步完成所有的實驗總結。分詞與統計

一個小應用，show下代碼，為了推薦下我非常喜歡的glog,gflag:)感謝google 它們讓我的生活更輕鬆：）另外讀取資料庫用otl相當方便,我用otl封裝了下寫了一個DBReader,這樣處理資料庫基本就和處理文本一樣了完全相同的介面，完全屏蔽了資料庫的操作方便了很多。 /** * ============================================================================== * * \file

複習下。。。copy 線性代數及其應用 線性方程組1. 類似 x_1 – 2x_2 = –1-x_1 + 3x_2 = 3存在三種情況1. 無解 2. 有唯一解 3. 有無窮解考慮兩條平行直線，相交的直線，完全重合的直線。解方程組行初等變換 （倍加，對換，倍乘）線性方程組的兩個問題1. 是否至少有一個解？2.如果有解，是否是唯一的呢？行化簡，階梯型矩陣，增廣矩陣，主元可以用行初等變換類似解方程組的過程，將任意一個線性方程群組轉換成一個階梯型矩陣，如下1  0  -5  10   1   1  4

矩陣運算 矩陣加法，標量乘法，矩陣乘法。A(BC)=(AB)C 矩陣乘法順序無關AB=AC 不能推出 B = C 因為A可能不是列向量線性無關。 矩陣的逆這裡討論的是n*n的方陣，若矩陣可逆逆矩陣是唯一的，存在逆矩陣的矩陣又稱為非奇異矩陣。 怎樣判斷一個矩陣是否存在逆矩陣呢，即是否該矩陣是 非奇異矩陣呢？對於2*2的矩陣   即detA != 0 則該矩陣是 非奇異矩陣， 注意對於 2*2 如果 detA=0 即ad=bc 則 c/a = d/b 假設 a!=0 b!=0 這意味這

求二叉樹高度的變形，最大距離是兩個子樹的高度（定義一個空節點高度為-1，一個左右子樹都為空白的節點高度為0）之和+2 或者就是子問題左子樹的max distance 或者是右子樹的maxdistance。實際處理時只需要有一個全域變數，記錄下當前的maxdistance，利用後序遍曆，當訪問根節點時，左右子樹的中較大的max distance已經記錄在該全域變數中，如果 left depth  + right depth + 2 > max distance 更新 max

/* * 給定一個長度不大於80的數字序列如 01000102 * 3456 * 添加適當的逗號，使得分割的數字嚴格升序 * 要求給出使得最後數字最小的分割方法允許001,002,即0開頭 * 如果兩個不同分割使得最後的數字大小相同，取第一個數字較大的序列，如果 * 再相同取第二個數字較大的，如此... * 3546 * 35,46 而不是 3,5,46  3,5,46 的分割index 對應 -1 0 1 4 * 100000101 * 100,000101 * * 思路 *

/** 通過渡船運輸車輛過河* m輛車輛按照一定時間次序到原岸邊* 只有一個渡船，可以運輸n量車，運輸到對岸需要時間t* 回到原岸需要時間t* 問最少需要多少時間可以將車輛全部運到對岸* 在時間最短的情況下，最少需要運輸幾次**Sample Input//2個test case,渡船一次可載2輛車，單程運輸需要10分鐘，//有10輛車需要運輸，分別在0,10,20..時刻到原岸//test case num//n t m//arriving time of car

避免冗餘 冗餘的定義，用不同的方式表達了同樣的事務。 冗餘帶來空間的浪費和容易引起資料不一致性。      右圖manufacter of beer 

Ackerman 函數的解法1.定義    ack(m,n) =  n+1                     m = 0    ack(m,n) = ack(m-1,1)            m!=0  n = 0    ack(m,n) = ack(m-1,ack(m,n-1))        m!=0  n!=02.樣本     ack(3,0) = (2,1)                  = (1,(2,0))                 = (1,(1,1))    

文章目錄 只是展示下效果，注意字典裡面有“女”，“ 刀”字作為一個有意義的單字詞：）我是在伺服器上跑的，對於大量商品的標題做實驗，完全補全路徑的全切分可以達到8M/S，當然速度快慢還和歧義字典有關係，另外商品標題一般不會太長，因為有大量離線處理好歧義的地方不需要再全切分，預計沒有歧義字典的話速度也應該能達到幾M/S的。