PHP Curl多線程原理執行個體詳解_PHP教程

來源:互聯網
上載者:User
給各位介紹一下Curl多線程執行個體與原理。不對之處請指教
相信許多人對php手冊中語焉不詳的curl_multi一族的函數頭疼不已,它們文檔少,給的例子 更是簡單的讓你無從借鑒,我也曾經找了許多網頁,都沒見一個完整的應用例子。
curl_multi_add_handle
curl_multi_close
curl_multi_exec
curl_multi_getcontent
curl_multi_info_read
curl_multi_init
curl_multi_remove_handle
curl_multi_select
一般來說,想到要用這些函數時,目的顯然應該是要同時請求多個url,而不是一個一個依次請求,否則不如自己迴圈去調curl_exec好了。
步驟總結如下:
第一步:調用curl_multi_init
第二步:迴圈調用curl_multi_add_handle
這一步需要注意的是,curl_multi_add_handle的第二個參數是由curl_init而來的子handle。
第三步:持續調用curl_multi_exec
第四步:根據需要迴圈調用curl_multi_getcontent擷取結果
第五步:調用curl_multi_remove_handle,並為每個字handle調用curl_close
第六步:調用curl_multi_close
這裡有PHP手冊上的例子:
複製代碼 代碼如下:
// 建立一對cURL資源
$ch1 = curl_init();
$ch2 = curl_init();

// 設定URL和相應的選項
curl_setopt($ch1, CURLOPT_URL, "http://www.jb51.net/");
curl_setopt($ch1, CURLOPT_HEADER, 0);
curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/");
curl_setopt($ch2, CURLOPT_HEADER, 0);

// 建立批處理cURL控制代碼
$mh = curl_multi_init();

// 增加2個控制代碼
curl_multi_add_handle($mh,$ch1);
curl_multi_add_handle($mh,$ch2);

$active = null;
// 執行批處理控制代碼
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);

while ($active && $mrc == CURLM_OK) {
if (curl_multi_select($mh) != -1) {
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
}
}

// 關閉全部控制代碼
curl_multi_remove_handle($mh, $ch1);
curl_multi_remove_handle($mh, $ch2);
curl_multi_close($mh);
?>

整個使用過程差不多就是這樣,但是,這個簡單代碼有個致命弱點,就是在do迴圈的那段,在整個url請求期間是個死迴圈,它會輕易導致CPU佔用100%。
現在我們來改進它,這裡要用到一個幾乎沒有任何文檔的函數curl_multi_select了,雖然C的curl庫對select有說明,但是,php裡的介面和用法確與C中有不同。
把上面do的那段改成下面這樣:
複製代碼 代碼如下:
do {
$mrc = curl_multi_exec($mh,$active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
while ($active and $mrc == CURLM_OK) {
if (curl_multi_select($mh) != -1) {
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
}
}

因為$active要等全部url資料接受完畢才變成false,所以這裡用到了curl_multi_exec的傳回值判斷是否還有資料,當有資料的時候就不停調用curl_multi_exec,暫時沒有資料就進入select階段,新資料一來就可以被喚醒繼續執行。這裡的好處就是CPU的無謂消耗沒有了。
另外:還有一些細節的地方可能有時候要遇到:
控制每一個請求的逾時時間,在curl_multi_add_handle之前通過curl_setopt去做:
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
判斷是否逾時了或者其他錯誤,在curl_multi_getcontent之前用:curl_error($conn[$i]);

本類的特點:
運行非常穩定。
設定一個並發就會始終以這個並發數進行工作,即使通過回呼函數新增工作也不影響。
CPU佔用極低,絕大部分CPU消耗在使用者的回呼函數上。
記憶體利用率高,任務數量較多(15W個任務佔用記憶體會超過256M)可以使用回呼函數新增工作,個數自定。
能夠最大限度的佔用頻寬。
鏈式任務,比如一個任務需要從多個不同的地址採集資料,可以通過回調一氣呵成。
能夠對CURL錯誤進行多次嘗試,次數自定(大並發一開始容易產生CURL錯誤,網路狀況或對方伺服器穩定性也有可能產生CURL錯誤)。
回呼函數相當靈活,可以多種類型任務同時進行(比如下載檔案,抓取網頁,分析404可以在一個PHP進程中同時進行)。
可以非常容易的定製任務類型,比如檢查404,擷取redirect的最後url等。
可以設定緩衝,挑戰產品節操。
不足:
不能充分利用多核CPU(可以開多個進程解決,需要自己處理任務分割等邏輯)。
最大並發500(或512?),經過測試是CURL 內部限制,超過最大並發會導致總是返回失敗。
目前沒有斷點續傳功能。
目前任務是原子性的,不能對一個大檔案分為幾部分分別開線程下載。

http://www.bkjia.com/PHPjc/824988.htmlwww.bkjia.comtruehttp://www.bkjia.com/PHPjc/824988.htmlTechArticle給各位介紹一下Curl多線程執行個體與原理。不對之處請指教 相信許多人對php手冊中語焉不詳的curl_multi一族的函數頭疼不已,它們文檔少,給的...

  • 聯繫我們

    該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

    如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

    A Free Trial That Lets You Build Big!

    Start building with 50+ products and up to 12 months usage for Elastic Compute Service

    • Sales Support

      1 on 1 presale consultation

    • After-Sales Support

      24/7 Technical Support 6 Free Tickets per Quarter Faster Response

    • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.