PHP的cURL庫實現網頁抓取例子介紹

使用PHP的cURL庫可以簡單和有效地去抓網頁。你只需要運行一個指令碼，然後分析一下你所抓取的網頁，然後就可以以程式的方式得到你想要的資料了。無論是你想從從一個連結上取部分資料，或是取一個XML檔案並把其匯入資料庫，那怕就是簡單的擷取網頁內容，cURL 是一個功能強大的PHP庫。本文主要講述如果使用這個PHP庫。

下面是一個利用cURL庫抓取網頁的簡單例子：

<?php
$curl = curl_init(); //初始化一個cURL對象
curl_setopt($curl, CURLOPT_URL, 'http://cocre.com'); //設定你需要抓取的URL
curl_setopt($curl, CURLOPT_HEADER, 1); //設定header
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1); //設定cURL參數
$data = curl_exec($curl); //運行cURL，請求網頁
curl_close($curl); //關閉URL請求
var_dump($data); //顯示獲得的資料
?>

如何POST資料

上面是抓取網頁的代碼，下面則是向某個網頁POST資料。假設我們有一個處理表單的網址http://www.example.com/sendSMS.php，其可以接受兩個表單域，一個是電話號碼，一個是簡訊內容。

<?php
$phoneNumber = '13912345678';
$message = 'This message was generated by curl and php';
$curlPost  = 'pNUMBER=' . urlencode($phoneNumber);
$curlPost .= '&amp;MESSAGE=' . urlencode($message);
$curlPost .= '&amp;SUBMIT=Send';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com/sendSMS.php');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
$data = curl_exec();curl_close($ch);
?>
從上面的程式我們可以看到，使用CURLOPT_POST設定HTTP協議的POST方法，而不是GET方法，然後以CURLOPT_POSTFIELDS設定POST的資料。

關於Proxy 伺服器

下面是一個如何使用Proxy 伺服器的樣本。請注意其中高亮的代碼，代碼很簡單，我就不用多說了。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
$data = curl_exec();curl_close($ch);
?>

關於SSL和Cookie

關於SSL也就是HTTPS協議，你只需要把CURLOPT_URL串連中的http://變成https://就可以了。當然，還有一個參數叫CURLOPT_SSL_VERIFYHOST可以設定為驗證網站。

關於Cookie，你需要瞭解下面三個參數：

CURLOPT_COOKIE，在當面的會話中設定一個cookie

CURLOPT_COOKIEJAR，當會話結束的時候儲存一個Cookie

CURLOPT_COOKIEFILE，Cookie的檔案。

HTTP伺服器認證

最後，我們來看一看HTTP伺服器認證的情況。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
curl_setopt(CURLOPT_USERPWD, '[username]:[password]');
 
$data = curl_exec();
curl_close($ch);
?>
關於其它更多的內容，請參看相關的cURL手冊。