cURL 是一個功能強大的PHP庫,使用PHP的cURL庫可以簡單和有效地抓取網頁並採集內容,設定cookie完成類比登入網頁,curl提供了豐富的函數,開發人員可以從PHP手冊中擷取更多關於cURL資訊。本文以類比登入開源中國(oschina)為例,和大家分享cURL的使用。
PHP的curl()在抓取網頁的效率方面是比較高的,而且支援多線程,而file_get_contents()效率就要稍低些,當然,使用curl時需要開啟下curl擴充。
代碼實戰
先來看登入部分的代碼:
複製代碼 代碼如下:
//類比登入
function login_post($url, $cookie, $post) {
$curl = curl_init();//初始化curl模組
curl_setopt($curl, CURLOPT_URL, $url);//登入提交的地址
curl_setopt($curl, CURLOPT_HEADER, 0);//是否顯示頭資訊
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自動顯示返回的資訊
curl_setopt($curl, CURLOPT_COOKIEJAR, $cookie); //設定Cookie資訊儲存在指定的檔案中
curl_setopt($curl, CURLOPT_POST, 1);//post方式提交
curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的資訊
curl_exec($curl);//執行cURL
curl_close($curl);//關閉cURL資源,並且釋放系統資源
}
函數login_post()首先初始化curl_init(),然後使用curl_setopt()設定相關選項資訊,包括要提交的url地址,儲存的cookie檔案,post的資料(使用者名稱和密碼等資訊),是否返回資訊等等,然後curl_exec執行curl,最後curl_close()釋放資源。注意PHP內建的http_build_query()可以將數群組轉換成相串連的字串。
接下來如果登入成功後,我們要擷取登入成功後的頁面資訊。
複製代碼 代碼如下:
//登入成功後擷取資料
function get_content($url, $cookie) {
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie); //讀取cookie
$rs = curl_exec($ch); //執行cURL抓取頁面內容
curl_close($ch);
return $rs;
}
函數get_content()中也是先初始化curl,然後設定相關選項,執行curl,釋放資源。其中我們設定CURLOPT_RETURNTRANSFER為1即自動返回資訊,而CURLOPT_COOKIEFILE可以讀取到登入時儲存的cookie資訊,最後將頁面內容返回。
我們的最終目的是要擷取到類比登入後的資訊,也就是只有正常登入成功後才能擷取的有用資訊。接下來我們以登入開源中國的移動版為例,看看如何抓取到登入成功後的資訊。
複製代碼 代碼如下:
//設定post的資料
$post = array (
'email' => 'oschina賬戶',
'pwd' => 'oschina密碼',
'goto_page' => '/my',
'error_page' => '/login',
'save_login' => '1',
'submit' => '現在登入'
);
//登入地址
$url = "http://m.jb51.net/action/user/login";
//設定cookie儲存路徑
$cookie = dirname(__FILE__) . '/cookie_jb51.txt';
//登入後要擷取資訊的地址
$url2 = "http://m.jb51.net/my";
//類比登入
login_post($url, $cookie, $post);
//擷取登入頁的資訊
$content = get_content($url2, $cookie);
//刪除cookie檔案
@ unlink($cookie);
//匹配頁面資訊
$preg = "/<td class='portrait'>(.*)<\/td>/i";
preg_match_all($preg, $content, $arr);
$str = $arr[1][0];
//輸出內容
echo $str;
運行上述代碼後,我們會看到最終擷取到登入使用者的頭像圖片。
使用總結:
1、初始化curl;
2、使用curl_setopt設定目標url,和其他選項;
3、curl_exec,執行curl;
4、執行後,關閉curl;
5、輸出資料。