6 VC維

標籤：idt   次方   bsp   point   最大   表示   ima   維表   vc維   

1 VC維的定義

VC維其實就是第一個break point的之前的樣本容量。標準定義是：對一個假設空間，如果存在N個樣本能夠被假設空間中的h按所有可能的2的N次方種形式分開，則稱該假設空間能夠把N個樣本打散；假設空間的VC維就是它能打散的最大樣本數目N。若對任意數目的樣本都有函數能將它們打散，則函數集的VC維是無窮大：

幾種假設空間的VC維如下：

 

2 感知機的VC維

d維感知機的vc維是d+1。（證明略）

 

3 VC維的物理意義

VC維表示的是做二分類時假設空間的自由度，是把資料集打散的能力。

我們可以用如下的方法來估計VC維：

即這個假設空間裡面可調整的參數的個數。(只是一種估計的方法，有時候可能是不對的）

 

6 VC維