目標檢測的映像特徵提取之（一）LBP特徵

 LBP（Local Binary Pattern，局部二值模式）是一種用來描述映像局部紋理特徵的運算元；它具有旋轉不變性和灰階不變性等顯著的優點。它是首先由T. Ojala, M.Pietikäinen,和 D. Harwood 在1994年提出，用於紋理特徵提取。而且，提取的特徵是映像的局部的紋理特徵；

 

1、LBP特徵的描述

       原始的LBP運算元定義為在3*3的視窗內，以視窗中心像素為閾值，將相鄰的8個像素的灰階值與其進行比較，若周圍像素值大於中心像素值，則該像素點的位置被標記為1，否則為0。這樣，3*3鄰域內的8個點經比較可產生8位位元（通常轉換為十進位數即LBP碼，共256種），即得到該視窗中心像素點的LBP值，並用這個值來反映該地區的紋理資訊。如下圖所示：

 

LBP的改進版本：

       原始的LBP提出後，研究人員不斷對其提出了各種改進和最佳化。

（1）圓形LBP運算元：

        基本的 LBP運算元的最大缺陷在於它只覆蓋了一個固定半徑範圍內的小地區，這顯然不能滿足不同尺寸和頻率紋理的需要。為了適應不同尺度的紋理特徵，並達到灰階和旋轉不變性的要求，Ojala等對 LBP運算元進行了改進，將 3×3鄰域擴充到任意鄰域，並用圓形鄰域代替了正方形鄰域，改進後的 LBP運算元允許在半徑為 R 的圓形鄰域內有任意多個像素點。從而得到了諸如半徑為R的圓形地區內含有P個採樣點的LBP運算元；

（2）LBP旋轉不變模式

       從 LBP 的定義可以看出，LBP 運算元是灰階不變的，但卻不是旋轉不變的。映像的旋轉就會得到不同的 LBP值。

         Maenpaa等人又將 LBP運算元進行了擴充，提出了具有旋轉不變性的 LBP運算元，即不斷旋轉圓形鄰域得到一系列初始定義的 LBP值，取其最小值作為該鄰域的 LBP值。

       圖 2.5 給出了求取旋轉不變的 LBP 的過程示意圖，圖中運算元下方的數字表示該運算元對應的 LBP值，圖中所示的 8種 LBP模式，經過旋轉不變的處理，最終得到的具有旋轉不變性的 LBP值為 15。也就是說，圖中的 8種 LBP模式對應的旋轉不變的 LBP模式都是 00001111。

（3）LBP等價模式

       一個LBP運算元可以產生不同的二進位模式，對於半徑為R的圓形地區內含有P個採樣點的LBP運算元將會產生P2種模式。很顯然，隨著鄰域集內採樣點數的增加，二進位模式的種類是急劇增加的。例如：5×5鄰域內20個採樣點，有220＝1,048,576種二進位模式。如此多的二值模式無論對於紋理的提取還是對於紋理的識別、分類及資訊的存取都是不利的。同時，過多的模式種類對於紋理的表達是不利的。例如，將LBP運算元用於紋理分類或Face Service時，常採用LBP模式的統計長條圖來表達映像的資訊，而較多的模式種類將使得資料量過大，且長條圖過於稀疏。因此，需要對原始的LBP模式進行降維，使得資料量減少的情況下能最好的代表映像的資訊。

        為瞭解決二進位模式過多的問題，提高統計性，Ojala提出了採用一種“等價模式”（Uniform Pattern）來對LBP運算元的模式種類進行降維。Ojala等認為，在實際映像中，絕大多數LBP模式最多隻包含兩次從1到0或從0到1的跳變。因此，Ojala將“等價模式”定義為：當某個LBP所對應的迴圈位元從0到1或從1到0最多有兩次跳變時，該LBP所對應的二進位就稱為一個等價模式類。如00000000（0次跳變），00000111（只含一次從0到1的跳變），10001111（先由1跳到0，再由0跳到1，共兩次跳變）都是等價模式類。除等價模式類以外的模式都歸為另一類，稱為混合模式類，例如10010111（共四次跳變）（這是我的個人理解，不知道對不對）。

       通過這樣的改進，二進位模式的種類大大減少，而不會丟失任何資訊。模式數量由原來的2P種減少為 P ( P-1)+2種，其中P表示鄰域集內的採樣點數。對於3×3鄰域內8個採樣點來說，二進位模式由原始的256種減少為58種，這使得特徵向量的維數更少，並且可以減少高頻雜訊帶來的影響。

 

2、LBP特徵用於檢測的原理

       顯而易見的是，上述提取的LBP運算元在每個像素點都可以得到一個LBP“編碼”，那麼，對一幅映像（記錄的是每個像素點的灰階值）提取其原始的LBP運算元之後，得到的原始LBP特徵依然是“一幅圖片”（記錄的是每個像素點的LBP值）。

        LBP的應用中，如紋理分類、人臉分析等，一般都不將LBP圖譜作為特徵向量用於分類識別，而是採用LBP特徵譜的統計長條圖作為特徵向量用於分類識別。

       因為，從上面的分析我們可以看出，這個“特徵”跟位置資訊是緊密相關的。直接對兩幅圖片提取這種“特徵”，並進行判別分析的話，會因為“位置沒有對準”而產生很大的誤差。後來，研究人員發現，可以將一幅圖片劃分為若干的子領域，對每個子領域內的每個像素點都提取LBP特徵，然後，在每個子領域內建立LBP特徵的統計長條圖。如此一來，每個子領域，就可以用一個統計長條圖來進行描述；整個圖片就由若干個統計長條圖組成；

        例如：一幅100*100像素大小的圖片，劃分為10*10=100個子領域（可以通過多種方式來劃分地區），每個子領域的大小為10*10像素；在每個子領域內的每個像素點，提取其LBP特徵，然後，建立統計長條圖；這樣，這幅圖片就有10*10個子領域，也就有了10*10個統計長條圖，利用這10*10個統計長條圖，就可以描述這幅圖片了。之後，我們利用各種相似性度量函數，就可以判斷兩幅映像之間的相似性了；

 

3、對LBP特徵向量進行提取的步驟

（1）首先將檢測視窗劃分為16×16的小地區（cell）；

（2）對於每個cell中的一個像素，將相鄰的8個像素的灰階值與其進行比較，若周圍像素值大於中心像素值，則該像素點的位置被標記為1，否則為0。這樣，3*3鄰域內的8個點經比較可產生8位位元，即得到該視窗中心像素點的LBP值；

（3）然後計算每個cell的長條圖，即每個數字（假定是十進位數LBP值）出現的頻率；然後對該長條圖進行歸一化處理。

（4）最後將得到的每個cell的統計長條圖進行串連成為一個特徵向量，也就是整幅圖的LBP紋理特徵向量；

然後便可利用SVM或者其他機器學習演算法進行分類了。

 ===========================================================================

Face Service之LBP (Local Binary Pattern)

1.演算法簡介

　　LBP是一種簡單，有效紋理分類的特徵提取演算法。LBP運算元是由Ojala等人於1996年提出的，主要的論文是"Multiresolution gray-scale and rotation invariant texture classification with local binary patterns", pami, vol 24, no.7, July 2002。LBP就是"local binary pattern"的縮寫。

　　關於論文的講解可參考連結　　http://blog.sina.com.cn/s/blog_916b71bb0100w043.html

　　從紋理分析的角度來看，映像上某個像素點的紋理特徵，大多數情況下是指這個點和周圍像素點的關係，即這個點和它的鄰域內點的關係。從哪個角度對這種關係提取特徵，就形成了不同種類的特徵。有了特徵，就能根據紋理進行分類。LBP構造了一種衡量一個像素點和它周圍像素點的關係。　

 

 

　　對映像中的每個像素，通過計算以其為中心的3*3鄰域內各像素和中心像素的大小關係，把像素的灰階值轉化為一個八位二進位序列。具體計算過程如下圖所示，對於映像的任意一點Ic，其LBP特徵計算為，以Ic為中心，取與Ic相鄰的8各點，按照順時針的方向記為 I0,I1,...,I7；以Ic點的像素值為閾值，如果 Ii 點的像素值小於Ic，則 Ii 被二值化為0，否則為1；將二值化得到的0、1序列看成一個8位位元，將該位元轉化為十進位就可得到Ic點處的LBP運算元的值。
　　基本的LBP運算元只局限在3*3的鄰域內，對於較大映像大尺度的結構不能很好的提取需要的紋理特徵，因此研究者們對LBP運算元進行了擴充。新的LBP運算元LBP（P,R） 可以計算不同半徑鄰域大小和不同像素點數的特徵值，其中P表示周圍像素點個數，R表示鄰域半徑，同時把原來的方形鄰域擴充到了圓形，下圖給出了四種擴充後的LBP例子，其中，R可以是小數，對於沒有落到整數位置的點，根據軌道內離其最近的兩個整數位置像素灰階值，利用雙線性差值的方法可以計算它的灰階值。

　　LBP(P,R)有2^p個值，也就是說映像共有2^p種二進位模型，然而實際研究中發現，所有模式表達資訊的重要程度是不同的，統計研究表明，一幅映像中少數模式特別集中，達到總模式的百分之九十左右的比例，Ojala等人定義這種模式為Uniform模式，如果一個二進位序列看成一個圈時，0-1以及1-0的變化出現的次數總和不超過兩次，那麼這個序列就是Uniform模式 ，比如，00000000、00011110、00100001、11111111，在使用LBP表達映像紋理時，通常只關心Uniform模式，而將所有其他的模式歸到同一類中。

人臉映像的各種LBP模式如下圖所示，由圖中可以看出，變化後的映像和原映像相比，能更清晰的體現各典型地區的紋理，同時又淡化了對於研究價值不大的平滑地區的特徵，同時降低了特徵的維數。比較而言，Uniform模式表現的更逼真，在Face Service和表情識別應用中，都是採用這種模式。

 

　　在表情識別中，最常用的是把LBP的統計柱狀圖作為表情映像的特徵向量。為了考慮特徵的位置資訊，把映像分成若干個小地區，在每個小地區裡進行長條圖統計，即統計該地區內屬於某一模式的數量，最後再把所有地區的長條圖一次串連到一起作為特徵向量接受下一級的處理。

　　LBP運算元利用了周圍點與該點的關係對該點進行量化。量化後可以更有效地消除光照對映像的影響。只要光照的變化不足以改變兩個點像素值之間的大小關係，那麼LBP運算元的值不會發生變化，所以一定程度上，基於LBP的識別演算法解決了光照變化的問題，但是當映像光照變化不均勻時，各像素間的大小關係被破壞，對應的LBP模式也就發生了變化。

　　如果映像旋轉了，那麼紋理特徵就旋轉了，這時得到的2進位串也就旋轉了，LBP值會相應變化。為了讓LBP具有旋轉不變性，將二進位串進行旋轉。假設一開始得到的LBP特徵為10010000，那麼將這個二進位特徵，按照順時針方向旋轉，可以轉化為00001001的形式，這樣得到的LBP值是最小的。無論映像怎麼旋轉，對點提取的二進位特徵的最小值是不變的，用最小值作為提取的LBP特徵，這樣LBP就是旋轉不變的了。當P=8時，能產生的不同的二進位特徵數量是2^8個，經過上述表示，就變為36個。(我以為應當是2^8/8=32個)