使用php方法curl抓取AJAX非同步內容思路分析及代碼分享,curlajax
其實抓ajax非同步內容的頁面和抓普通的頁面區別不大。ajax只不過是做了一次非同步http請求,只要使用firebug類似的工具,找到請求的後端服務url和傳值的參數,然後對該url傳遞參數進行抓取即可。
利用Firebug的網路工具
如果抓去的是頁面,則內容中沒有顯示的資料,是一堆JS代碼。
Code
$cookie_file=tempnam('./temp','cookie');$ch = curl_init();$url1 = "http://www.cdut.edu.cn/default.html";curl_setopt($ch,CURLOPT_URL,$url1);curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1);curl_setopt($ch,CURLOPT_HEADER,0);curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析//設定串連結束後儲存cookie資訊的檔案curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file);$content=curl_exec($ch);curl_close($ch);$ch3 = curl_init();$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr";$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0";curl_setopt($ch3,CURLOPT_URL,$url3);curl_setopt($ch3,CURLOPT_POST,1);curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost);//設定串連結束後儲存cookie資訊的檔案curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file); $content1=curl_exec($ch3);curl_close($ch3);
php使用curl抓取一個網站的內容被拒絕
剛寫的。希望有用
>
php curl抓取ajax資料一段時間後就無響應
嘗試偽造 頭資訊 :Host 、Referer、User-Agent 等
http://www.bkjia.com/PHPjc/869450.htmlwww.bkjia.comtruehttp://www.bkjia.com/PHPjc/869450.htmlTechArticle使用php方法curl抓取AJAX非同步內容思路分析及代碼分享,curlajax 其實抓ajax非同步內容的頁面和抓普通的頁面區別不大。ajax只不過是做了一次非同步...