cURL 是一個功能強大的PHP庫,使用PHP的cURL庫可以簡單和有效地抓取網頁並採集內容,設定cookie完成類比登入網頁,curl提供了豐富的函數,開發人員可以從PHP手冊中擷取更多關於cURL資訊。本文以類比登入開源中國(oschina)為例,需要的朋友可以參考下
PHP的curl()在抓取網頁的效率方面是比較高的,而且支援多線程,而file_get_contents()效率就要稍低些,當然,使用curl時需要開啟下curl擴充。
代碼實戰
先來看登入部分的代碼:
//類比登入 function login_post($url, $cookie, $post) { $curl = curl_init();//初始化curl模組 curl_setopt($curl, CURLOPT_URL, $url);//登入提交的地址 curl_setopt($curl, CURLOPT_HEADER, 0);//是否顯示頭資訊 curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自動顯示返回的資訊 curl_setopt($curl, CURLOPT_COOKIEJAR, $cookie); //設定Cookie資訊儲存在指定的檔案中 curl_setopt($curl, CURLOPT_POST, 1);//post方式提交 curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的資訊 curl_exec($curl);//執行cURL curl_close($curl);//關閉cURL資源,並且釋放系統資源 }
函數login_post()首先初始化curl_init(),然後使用curl_setopt()設定相關選項資訊,包括要提交的url地址,儲存的cookie檔案,post的資料(使用者名稱和密碼等資訊),是否返回資訊等等,然後curl_exec執行curl,最後curl_close()釋放資源。注意PHP內建的http_build_query()可以將數群組轉換成相串連的字串。
接下來如果登入成功後,我們要擷取登入成功後的頁面資訊。
//登入成功後擷取資料 function get_content($url, $cookie) { $ch = curl_init(); curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_HEADER, 0); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie); //讀取cookie $rs = curl_exec($ch); //執行cURL抓取頁面內容 curl_close($ch); return $rs; }
函數get_content()中也是先初始化curl,然後設定相關選項,執行curl,釋放資源。其中我們設定CURLOPT_RETURNTRANSFER為1即自動返回資訊,而CURLOPT_COOKIEFILE可以讀取到登入時儲存的cookie資訊,最後將頁面內容返回。
我們的最終目的是要擷取到類比登入後的資訊,也就是只有正常登入成功後才能擷取的有用資訊。接下來我們以登入開源中國的移動版為例,看看如何抓取到登入成功後的資訊。
//設定post的資料 $post = array ( 'email' => 'oschina賬戶', 'pwd' => 'oschina密碼', 'goto_page' => '/my', 'error_page' => '/login', 'save_login' => '1', 'submit' => '現在登入' ); //登入地址 $url = "http://m.oschina.net/action/user/login"; //設定cookie儲存路徑 $cookie = dirname(__FILE__) . '/cookie_oschina.txt'; //登入後要擷取資訊的地址 $url2 = "http://m.oschina.net/my"; //類比登入 login_post($url, $cookie, $post); //擷取登入頁的資訊 $content = get_content($url2, $cookie); //刪除cookie檔案 @ unlink($cookie); //匹配頁面資訊 $preg = "/<td class='portrait'>(.*)<\/td>/i"; preg_match_all($preg, $content, $arr); $str = $arr[1][0]; //輸出內容 echo $str;
使用總結
1、初始化curl;
2、使用curl_setopt設定目標url,和其他選項;
3、curl_exec,執行curl;
4、執行後,關閉curl;
5、輸出資料。
以上就是本文的全部內容,希望對大家的學習有所協助。