要提取google搜尋的部分資料，發現google對於軟體抓取它的資料屏蔽的厲害，以前偽造下 USER-AGENT 就可以抓資料，但是現在卻不行了。利用抓包資料發現，Google 判斷了 cookies，當你沒有cookies的時候，直接返回 302 跳轉，而且是連續幾十個302跳轉，根本抓不了資料。
因此，在發送搜尋命令時，需要先提取 cookies 並儲存，然後利用儲存下來的這個cookies再次發送搜尋命令即可正常抓資料了。這其實和論壇的類比登入一個道理，先POST登入，擷取cookies並儲存，然後利用這個cookies訪問就可以了。
PHP 代碼如下：
複製代碼 代碼如下:
header('Content-Type: text/html; charset=utf-8');
$cookie_file = dirname(__FILE__).'/cookie.txt';
//$cookie_file = tempnam("tmp","cookie");
//先擷取cookies並儲存
$url = "http://www.google.com.hk";
$ch = curl_init($url); //初始化
curl_setopt($ch, CURLOPT_HEADER, 0); //不返回header部分
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); //返回字串，而非直接輸出
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file); //儲存cookies
curl_exec($ch);
curl_close($ch);
//使用上面儲存的cookies再次訪問
$url = "http://www.google.com.hk/search?oe=utf8&ie=utf8&source=uds&hl=zh-CN&q=qq";
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file); //使用上面擷取的cookies
$response = curl_exec($ch);
curl_close($ch);
echo $response;
?>
http://www.bkjia.com/PHPjc/824998.htmlwww.bkjia.comtruehttp://www.bkjia.com/PHPjc/824998.htmlTechArticle要提取google搜尋的部分資料，發現google對於軟體抓取它的資料屏蔽的厲害，以前偽造下 USER-AGENT 就可以抓資料，但是現在卻不行了。利用抓...
