PHP堆實現TopK演算法執行個體

來源:互聯網
上載者:User

二元堆積是一種特殊的堆,二元堆積是完全二叉樹或者是近似完全二叉樹,二元堆積有兩種,最大堆 和 最小堆,最大堆:父結點的索引值總是大於或等於任何一個子節點的索引值;最小堆:父結點的索引值總是小於或等於任何一個子節點的索引值。

小頂堆-(圖片來自網路)

二元堆積一般用數組來表示(看),例如,根節點在數組中的位置是0,第n個位置的子節點分別在2n+1和 2n+2,因此,第0個位置的子節點在1和2,1的子節點在3和4,以此類推,這種儲存方式便於尋找父節點和子節點。

具體概念問題這裡就不在多說了,如果對二元堆積有疑問的可以在好好瞭解下這個資料結構,下面我們就針對上述topN問題來用php代碼實現並解決,為了看出區別這裡先用排序的方式去實現下看下效果如何。

利用快速排序演算法來實現 TopN

//為了測試回合記憶體調大一點ini_set('memory_limit', '2024M');//實現一個快速排序函數function quick_sort(array $array){    $length = count($array);    $left_array = array();    $right_array = array();    if($length <= 1){        return $array;    }    $key = $array[0];    for($i=1;$i<$length;$i++){        if($array[$i] > $key){            $right_array[] = $array[$i];        }else{            $left_array[] = $array[$i];        }    }    $left_array = quick_sort($left_array);    $right_array = quick_sort($right_array);    return array_merge($right_array,array($key),$left_array);    }//構造500w不重複數for($i=0;$i<5000000;$i++){    $numArr[] = $i; }//打亂它們shuffle($numArr);//現在我們從裡面找到top10最大的數var_dump(time());print_r(array_slice(quick_sort($all),0,10));var_dump(time());


運行之後結果

可以看到上面列印出了top10的結果,並輸出了下已耗用時間,大概99s左右,但這隻是500w個數且全部能裝入記憶體的情況,如果我們有一個檔案裡面有5kw或5億個數,肯定就會有些問題了.

利用二元堆積演算法來實現 TopN
實現流程是:
1、先讀取10個或100個數到數組裡面,這就是我們的topN數.
2、調用產生小頂堆函數,把這個數組產生一個小頂堆結構,這個時候堆頂一定是最小的.
3、從檔案或者數組依次遍曆剩餘的所有數.
4、每遍曆出來一個則跟堆頂的元素進行大小比較,如果小於堆頂元素則拋棄,如果大於堆頂元素則替換之.
5、跟堆頂元素替換完畢之後,在調用產生小頂堆函數繼續產生小頂堆,因為需要再找出來一個最小的.
6、重複以上4~5步驟,這樣當全部遍曆完畢之後,我們這個小頂堆裡面的就是最大的topN,因為我們的小頂堆永遠都是排除最小的留下最大的,而且這個調整小頂堆速度也很快,只是相對調整下,只要保證根節點小於左右節點就可以.
7、演算法複雜度的話按top10最壞的情況下,就是每遍曆一個數,如果跟堆頂進行替換,需要調整10次的情況,也要比排序速度快,而且也不是把所有的內容全部讀入記憶體,可以理解成就是一次線性遍曆.

//產生小頂堆函數function Heap(&$arr,$idx){    $left  = ($idx << 1) + 1;    $right = ($idx << 1) + 2;    if (!$arr[$left]){        return;    }    if($arr[$right] && $arr[$right] < $arr[$left]){        $l = $right;    }else{        $l = $left;    }    if ($arr[$idx] > $arr[$l]){         $tmp = $arr[$idx];          $arr[$idx] = $arr[$l];         $arr[$l] = $tmp;         Heap($arr,$l);    }}//這裡為了保證跟上面一致,也構造500w不重複數/*  當然這個資料集並不一定全放在記憶體,也可以在  檔案裡面,因為我們並不是全部載入到記憶體去進  行排序*/for($i=0;$i<5000000;$i++){    $numArr[] = $i;    }//打亂它們shuffle($numArr);//先取出10個到數組$topArr = array_slice($numArr,0,10);//擷取最後一個有子節點的索引位置//因為在構造小頂堆的時候是從最後一個有左或右節點的位置//開始從下往上不斷的進行移動構造(具體可看上面的圖去理解)$idx = floor(count($topArr) / 2) - 1;//產生小頂堆for($i=$idx;$i>=0;$i--){    Heap($topArr,$i);}var_dump(time());//這裡可以看到,就是開始遍曆剩下的所有元素for($i = count($topArr); $i < count($numArr); $i++){    //每遍曆一個則跟堆頂元素進行比較大小    if ($numArr[$i] > $topArr[0]){        //如果大於堆頂元素則替換        $topArr[0] = $numArr[$i];        /*          重新調用產生小頂堆函數進行維護,只不過這次是從堆頂          的索引位置開始自上往下進行維護,因為我們只是把堆頂          的元素給替換掉了而其餘的還是按照根節點小於左右節點          的順序擺放這也就是我們上面說的,只是相對調整下,並          不是全部調整一遍        */        Heap($topArr,0);    }}var_dump(time());


運行之後結果

可以看到最終的結果也是top10,只不過時間只用了1s左右,而且無論是記憶體還是時間效率都滿足我們的要求,而且跟排序比最好的一點就是不用把所有的資料集都讀如到記憶體裡面來,因為我們不需要排序,而上面是為了示範,所以直接在記憶體構造了500w元素,然而我們可以把這個全部轉移到檔案裡面去,然後一行一行讀取進行比較,因為我們這個資料結構的核心點就是線性遍曆跟記憶體裡面很小的小頂堆結構進行比較,最終得到TopN.

結束
最後想說的就是 演算法+資料結構 真的非常重要,一個好的演算法可以使我們的效率大大提高。

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.