cURL抓取網頁 POST資料及其他功能介紹

來源:互聯網
上載者:User
關鍵字 網路程式設計 PHP教程

使用PHP的cURL庫可以簡單和有效地去抓網頁。 你只需要運行一個腳本,然後分析一下你所抓取的網頁,然後就可以以程式的方式得到你想要的資料了。 無論是你想從從一個連結上取部分資料,或是取一個XML檔並把其導入資料庫,那怕就是簡單的獲取網頁內容,cURL 是一個功能強大的PHP庫。 本文主要講述如果使用這個PHP庫。

啟用 cURL 設置

首先,我們得先要確定我們的PHP是否開啟了這個庫,你可以通過使用php_info()函數來得到這一資訊。

<?php
phpinfo();
?>

如果你可以在網頁上看到下面的輸出,那麼表示cURL庫已被開啟。

如果你看到的話,那麼你需要設置你的PHP並開啟這個庫。 如果你是在Windows平臺下,那麼非常簡單,你需要改一改你的php.ini檔的設置,找到php_curl.dll,並取消前面的分號注釋就行了。 如下所示:

取消下在的注釋
extension=php_curl.dll


如果你是在Linux下面,那麼,你需要重新編譯你的PHP了,編輯時,你需要打開編譯參數——在configure命令上加上「–with-curl」 參數。

一個小示例

如果一切就緒,下面是一個小常式:

<?php
初始化一個 cURL 物件
$curl = curl_init();

設置你需要抓取的URL
curl_setopt($curl, CURLOPT_URL, 'HTTP://cocre.com');

設置header
curl_setopt($curl, CURLOPT_HEADER, 1);

設置cURL 參數,要求結果保存到字串中還是輸出到螢幕上。
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);

運行cURL,請求網頁
$data = curl_exec($curl);

關閉URL請求
curl_close($curl);

顯示獲得的資料
var_dump($data);
?>


如何POST資料

上面是抓取網頁的代碼,下面則是向某個網頁POST資料。 假設我們有一個處理表單的網址HTTP://www.example.com/sendSMS.php,其可以接受兩個表單欄位,一個是電話號碼,一個是短信內容。

<?php
$phoneNumber = '13912345678';
$message = 'This message was generated by curl and php';
$curlPost = 'pNUMBER=' . urlencode($phoneNumber) . '&MESSAGE=' . urlencode($message) . '&SUBMIT=Send';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'HTTP://www.example.com/sendSMS.php');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
$data = curl_exec();curl_close($ch);
?>


從上面的程式我們可以看到,使用CURLOPT_POST設置HTTP協定的POST方法,而不是GET方法,然後以CURLOPT_POSTFIELDS設置POST的資料。

關於代理伺服器

下面是一個如何使用代理伺服器的示例。 請注意其中高亮的代碼,代碼很簡單,我就不用多說了。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'HTTP://www.example.com');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
$data = curl_exec();curl_close($ch);
?>


關於SSL和Cookie

關於SSL也就是HTTPS協定,你只需要把CURLOPT_URL連接中的HTTP://變成HTTPs://就可以了。 當然,還有一個參數叫CURLOPT_SSL_VERIFYHOST可以設置為驗證網站。

關於Cookie,你需要瞭解下面三個參數:

CURLOPT_COOKIE,在當面的會話中設置一個cookie

CURLOPT_COOKIEJAR,當會話結束的時候保存一個Cookie

CURLOPT_COOKIEFILE,Cookie的檔。

HTTP伺服器認證

最後,我們來看一看HTTP伺服器認證的情況。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'HTTP://www.example.com');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
curl_setopt(CURLOPT_USERPWD, '[username]:[password]')

$data = curl_exec();
curl_close($ch);
?>

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.