PHP的curl()在抓取網頁的效率方面是比較高的,而且支援多線程,而file_get_contents()效率就要稍低些,當然,使用curl時需要開啟下curl擴充。
代碼實戰
先來看登入部分的代碼:
//類比登入
functionlogin_post($url,$cookie,$post) {
$curl= curl_init();//初始化curl模組
curl_setopt($curl, CURLOPT_URL,$url);//登入提交的地址
curl_setopt($curl, CURLOPT_HEADER, 0);//是否顯示頭資訊
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自動顯示返回的資訊
curl_setopt($curl, CURLOPT_COOKIEJAR,$cookie);//設定Cookie資訊儲存在指定的檔案中
curl_setopt($curl, CURLOPT_POST, 1);//post方式提交
curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的資訊
curl_exec($curl);//執行cURL
curl_close($curl);//關閉cURL資源,並且釋放系統資源
}
|
函數login_post()首先初始化curl_init(),然後使用curl_setopt()設定相關選項資訊,包括要提交的url地址,儲存的cookie檔案,post的資料(使用者名稱和密碼等資訊),是否返回資訊等等,然後curl_exec執行curl,最後curl_close()釋放資源。注意PHP內建的http_build_query()可以將數群組轉換成相串連的字串。
接下來如果登入成功後,我們要擷取登入成功後的頁面資訊。
//登入成功後擷取資料
functionget_content($url,$cookie) {
$ch= curl_init();
curl_setopt($ch, CURLOPT_URL,$url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEFILE,$cookie);//讀取cookie
$rs= curl_exec($ch);//執行cURL抓取頁面內容
curl_close($ch);
return$rs;
}
|
函數get_content()中也是先初始化curl,然後設定相關選項,執行curl,釋放資源。其中我們設定CURLOPT_RETURNTRANSFER為1即自動返回資訊,而CURLOPT_COOKIEFILE可以讀取到登入時儲存的cookie資訊,最後將頁面內容返回。
我們的最終目的是要擷取到類比登入後的資訊,也就是只有正常登入成功後才能擷取的有用資訊。接下來我們以登入開源中國的移動版為例,看看如何抓取到登入成功後的資訊。
//設定post的資料
$post=array(
'email'=>'oschina賬戶',
'pwd'=>'oschina密碼',
'goto_page'=>'/my',
'error_page'=>'/login',
'save_login'=>'1',
'submit'=>'現在登入'
);
//登入地址 $url = "http://m.oschina.net/action/user/login"; //設定cookie儲存路徑 $cookie = dirname(__FILE__) . '/cookie_oschina.txt'; //登入後要擷取資訊的地址 $url2 = "http://m.oschina.net/my"; //類比登入
login_post($url,$cookie,$post);//擷取登入頁的資訊 $content = get_content($url2, $cookie); //刪除cookie檔案
@ unlink($cookie);//匹配頁面資訊 $preg = "/<td class='portrait'>(.*)<\/td>/i";
preg_match_all($preg,$content,$arr);$str=$arr[1][0];//輸出內容 echo $str;
|
使用總結
1、初始化curl;
2、使用curl_setopt設定目標url,和其他選項;
3、curl_exec,執行curl;
4、執行後,關閉curl;
5、輸出資料。