歡迎訪問個人原創地址: http://www.phpthinking.com/archives/468
使用PHP的cURL庫可以簡單和有效地去抓網頁。你只需要運行一個指令碼,然後分析一下你所抓取的網頁,然後就可以以程式的方式得到你想要的資料了。無論是你想從從一個連結上取部分資料,或是取一個XML檔案並把其匯入資料庫,那怕就是簡單的擷取網頁內容,cURL 是一個功能強大的PHP庫。本文主要講述如果使用這個PHP庫。
啟用 cURL 設定
首先,我們得先要確定我們的PHP是否開啟了這個庫,你可以通過使用php_info()函數來得到這一資訊。
如果你可以在網頁上看到下面的輸出,那麼表示cURL庫已被開啟。
如果你看到的話,那麼你需要設定你的PHP並開啟這個庫。如果你是在Windows平台下,那麼非常簡單,你需要改一改你的php.ini檔案的設定,找到php_curl.dll,並取消前面的分號注釋就行了。如下所示:
| |
//取消下在的注釋 extension=php_curl.dll |
如果你是在Linux下面,那麼,你需要重新編譯你的PHP了,編輯時,你需要開啟編譯參數??在configure命令上加上“?with-curl” 參數。
一個小樣本
如果一切就緒,下面是一個小常式:
| |
// 初始化一個 cURL 對象 $curl = curl_init(); // 設定你需要抓取的URL curl_setopt( $curl , CURLOPT_URL, ' http://coolshell.cn' ); // 設定header curl_setopt( $curl , CURLOPT_HEADER, 1); // 設定cURL 參數,要求結果儲存到字串中還是輸出到螢幕上。 curl_setopt( $curl , CURLOPT_RETURNTRANSFER, 1); // 運行cURL,請求網頁 $data = curl_exec( $curl ); // 關閉URL請求 curl_close( $curl ); // 顯示獲得的資料 var_dump( $data ); |
如何POST資料
上面是抓取網頁的代碼,下面則是向某個網頁POST資料。假設我們有一個處理表單的網址http://www.example.com/sendSMS.php,其可以接受兩個表單域,一個是電話號碼,一個是簡訊內容。
| |
$phoneNumber = '13912345678' ; $message = 'This message was generated by curl and php' ; $curlPost = 'pNUMBER=' . urlencode( $phoneNumber ) . '&MESSAGE=' . urlencode( $message ) . '&SUBMIT=Send' ; $ch = curl_init(); curl_setopt( $ch , CURLOPT_URL, ' http://www.example.com/sendSMS.php' ); curl_setopt( $ch , CURLOPT_HEADER, 1); curl_setopt( $ch , CURLOPT_RETURNTRANSFER, 1); curl_setopt( $ch , CURLOPT_POST, 1); curl_setopt( $ch , CURLOPT_POSTFIELDS, $curlPost ); $data = curl_exec(); curl_close( $ch ); ?> |
從上面的程式我們可以看到,使用CURLOPT_POST設定HTTP協議的POST方法,而不是GET方法,然後以CURLOPT_POSTFIELDS設定POST的資料。
關於Proxy 伺服器
下面是一個如何使用Proxy 伺服器的樣本。請注意其中高亮的代碼,代碼很簡單,我就不用多說了。
| |
$ch = curl_init(); curl_setopt( $ch , CURLOPT_URL, ' http://www.example.com' ); curl_setopt( $ch , CURLOPT_HEADER, 1); curl_setopt( $ch , CURLOPT_RETURNTRANSFER, 1); curl_setopt( $ch , CURLOPT_HTTPPROXYTUNNEL, 1); curl_setopt( $ch , CURLOPT_PROXY, 'fakeproxy.com:1080' ); curl_setopt( $ch , CURLOPT_PROXYUSERPWD, 'user:password' ); $data = curl_exec(); curl_close( $ch ); ?> |
關於SSL和Cookie
關於SSL也就是HTTPS協議,你只需要把CURLOPT_URL串連中的http://變成https://就可以了。當然,還有一個參數叫CURLOPT_SSL_VERIFYHOST可以設定為驗證網站。
關於Cookie,你需要瞭解下面三個參數:
CURLOPT_COOKIE,在當面的會話中設定一個cookie
CURLOPT_COOKIEJAR,當會話結束的時候儲存一個Cookie
CURLOPT_COOKIEFILE,Cookie的檔案。
HTTP伺服器認證
最後,我們來看一看HTTP伺服器認證的情況。
| |
$ch = curl_init(); curl_setopt( $ch , CURLOPT_URL, ' http://www.example.com' ); curl_setopt( $ch , CURLOPT_RETURNTRANSFER, 1); curl_setopt( $ch , CURLOPT_HTTPAUTH, CURLAUTH_BASIC); curl_setopt(CURLOPT_USERPWD, '[username]:[password]' ) $data = curl_exec(); curl_close( $ch ); ?> |