HttpClient及有關jar包詳解

1.HttpClient簡介
　　HttpClient 是 Apache Jakarta Common 下的子項目，可以用來提供高效的、最新的、功能豐富的支援 HTTP 協議的用戶端編程工具包，並且它支援 HTTP 協議最新的版本和建議。本文首先介紹 HTTPClient，然後根據作者實際工作經驗給出了一些常見問題的解決方案。HTTP 協議可能是現在 Internet 上使用得最多、最重要的協議了，越來越多的 Java 應用程式需要直接通過 HTTP 協議來訪問網路資源。雖然在 JDK 的 java.net 包中已經提供了訪問 HTTP
協議的準系統，但是對於大部分應用程式來說，JDK 庫本身提供的功能還不夠豐富和靈活。HttpClient 是 Apache Jakarta Common 下的子項目，用來提供高效的、最新的、功能豐富的支援 HTTP 協議的用戶端編程工具包，並且它支援 HTTP 協議最新的版本和建議。HttpClient 已經應用在很多的項目中，比如 Apache Jakarta 上很著名的另外兩個開源項目 Cactus 和 HTMLUnit 都使用了 HttpClient。現在HttpClient最新版本為 HttpClient
4.0-beta2
2.HttpClient 功能介紹
　　以下列出的是 HttpClient 提供的主要的功能，要知道更多詳細的功能可以參見 HttpClient 的首頁。
　　（1）實現了所有 HTTP 的方法（GET,POST,PUT,HEAD 等）
　　（2）支援自動轉向
　　（3）支援 HTTPS 協議
　　（4）支援Proxy 伺服器等
3.HttpClient 準系統的使用
　　(1) GET方法
　　使用 HttpClient 需要以下 6 個步驟：
　　1. 建立 HttpClient 的執行個體
　　2. 建立某種串連方法的執行個體，在這裡是 GetMethod。在 GetMethod 的建構函式中傳入待串連的地址
　　3. 調用第一步中建立好的執行個體的 execute 方法來執行第二步中建立好的 method 執行個體
　　4. 讀 response
　　5. 釋放串連。無論執行方法是否成功，都必須釋放串連
　　6. 對得到後的內容進行處理
　　根據以上步驟，我們來編寫用GET方法來取得某網頁內容的代碼。
　　大部分情況下 HttpClient 預設的建構函式已經足夠使用。 HttpClient httpClient = new HttpClient();
　　建立GET方法的執行個體。在GET方法的建構函式中傳入待串連的地址即可。用GetMethod將會自動處理轉寄過程，如果想要把自動處理轉寄過程去掉的話，可以調用方法setFollowRedirects(false)。 GetMethod getMethod = new GetMethod(".....");
　　調用執行個體httpClient的executeMethod方法來執行getMethod。由於是執行在網路上的程式，在運行executeMethod方法的時候，需要處理兩個異常，分別是HttpException和IOException。引起第一種異常的原因主要可能是在構造getMethod的時候傳入的協議不對，比如不小心將"http"寫成"htp"，或者伺服器端返回的內容不正常等，並且該異常發生是不可恢複的；第二種異常一般是由於網路原因引起的異常，對於這種異常 （IOException），HttpClient會根據你指定的恢複策略自動試著重新執行executeMethod方法。HttpClient的恢複策略可以自訂（通過實現介面HttpMethodRetryHandler來實現）。通過httpClient的方法setParameter設定你實現的恢複策略，本文中使用的是系統提供的預設恢複策略，該策略在碰到第二類異常的時候將自動重試3次。executeMethod傳回值是一個整數，表示了執行該方法後伺服器返回的狀態代碼，該狀態代碼能表示出該方法執行是否成功、需要認證或者頁面發生了跳轉（預設狀態下GetMethod的執行個體是自動處理跳轉的）等。
//設定成了預設的恢複策略，在發生異常時候將自動重試3次，在這裡你也可以設定成自訂的恢複策略
　　getMethod.getParams().setParameter(HttpMethodParams.RETRY_HANDLER,
　　new DefaultHttpMethodRetryHandler());
　　//執行getMethod
　　int statusCode = client.executeMethod(getMethod);
　　if (statusCode != HttpStatus.SC_OK) {
　　System.err.println("Method failed: " + getMethod.getStatusLine());
　　}
　　在返回的狀態代碼正確後，即可取得內容。取得目標地址的內容有三種方法：第一種，getResponseBody，該方法返回的是目標的二進位的byte流；第二種，getResponseBodyAsString，這個方法返回的是String類型，值得注意的是該方法返回的String的編碼是根據系統預設的編碼方式，所以返回的String值可能編碼類別型有誤，在本文的"字元編碼"部分中將對此做詳細介紹；第三種，getResponseBodyAsStream，這個方法對於目標地址中有大量資料需要傳輸是最佳的。在這裡我們使用了最簡單的getResponseBody方法。
byte[] responseBody = method.getResponseBody();
　　釋放串連。無論執行方法是否成功，都必須釋放串連。 method.releaseConnection();
　　處理內容。在這一步中根據你的需要處理內容，在例子中只是簡單的將內容列印到控制台。 System.out.println(new String(responseBody));
　　下面是程式的完整代碼，這些代碼也可在附件中的test.GetSample中找到。
　　package test;
　　import java.io.IOException;
　　import org.apache.commons.httpclient.*;
　　import org.apache.commons.httpclient.methods.GetMethod;
　　import org.apache.commons.httpclient.params.HttpMethodParams;
　　public class GetSample{
　　public static void main(String[] args) {
　　//構造HttpClient的執行個體
　　HttpClient httpClient = new HttpClient();
　　//建立GET方法的執行個體
　　GetMethod getMethod = new GetMethod("...");
　　//使用系統提供的預設的恢複策略
　　getMethod.getParams().setParameter(HttpMethodParams.RETRY_HANDLER,
　　new DefaultHttpMethodRetryHandler());
　　try {
　　//執行getMethod
　　int statusCode = httpClient.executeMethod(getMethod);
　　if (statusCode != HttpStatus.SC_OK) {
　　System.err.println("Method failed: "
　　+ getMethod.getStatusLine());
　　}
　　//讀取內容
　　byte[] responseBody = getMethod.getResponseBody();
　　//處理內容
　　System.out.println(new String(responseBody));
　　} catch (HttpException e) {
　　//發生致命的異常，可能是協議不對或者返回的內容有問題
　　System.out.println("Please check your provided http address!");
　　e.printStackTrace();
　　} catch (IOException e) {
　　//發生網路異常
　　e.printStackTrace();
　　} finally {
　　//釋放串連
　　getMethod.releaseConnection();
　　}
　　}
　　}
　　（2）POST方法
　　根據RFC2616，對POST的解釋如下：POST方法用來向目的伺服器發出請求，要求它接受被附在請求後的實體，並把它當作請求隊列（Request-Line）中請求URI所指定資源的附加新子項。POST被設計成用統一的方法實現下列功能：
　　對現有資源的注釋（Annotation of existing resources）
　　向電子公告欄、新聞群組，郵件清單或類似討論群組發送訊息
　　提交資料區塊，如將表單的結果提交給資料處理過程
　　通過附加操作來擴充資料庫
　　調用HttpClient中的PostMethod與GetMethod類似，除了設定PostMethod的執行個體與GetMethod有些不同之外，剩下的步驟都差不多。在下面的例子中，省去了與GetMethod相同的步驟，只說明與上面不同的地方，並以登入清華大學BBS為例子進行說明。
　　構造PostMethod之前的步驟都相同，與GetMethod一樣，構造PostMethod也需要一個URI參數。在建立了PostMethod的執行個體之後，需要給method執行個體填充表單的值，在BBS的登入表單中需要有兩個域，第一個是使用者名稱（網域名稱叫id），第二個是密碼（網域名稱叫passwd）。表單中的域用類NameValuePair來表示，該類的建構函式第一個參數是網域名稱，第二參數是該域的值；將表單所有的值設定到PostMethod中用方法setRequestBody。另外由於BBS登入成功後會轉向另外一個頁面，但是HttpClient對於要求接受後繼服務的請求，比如POST和PUT，不支援自動轉寄，因此需要自己對頁面轉向做處理。具體的頁面轉向處理請參見下面的"自動轉向"部分。代碼如下：
　　String url = "....";
　　PostMethod postMethod = new PostMethod(url);
　　// 填入各個表單域的值
　　NameValuePair[] data = { new NameValuePair("id", "youUserName"),
　　new NameValuePair("passwd", "yourPwd") };
　　// 將表單的值放入postMethod中
　　postMethod.setRequestBody(data);
　　// 執行postMethod
　　int statusCode = httpClient.executeMethod(postMethod);
　　// HttpClient對於要求接受後繼服務的請求，象POST和PUT等不能自動處理轉寄
　　// 301或者302
　　if (statusCode == HttpStatus.SC_MOVED_PERMANENTLY ||
　　statusCode == HttpStatus.SC_MOVED_TEMPORARILY) {
　　// 從頭中取出轉向的地址
　　Header locationHeader = postMethod.getResponseHeader("location");
　　String location = null;
　　if (locationHeader != null) {
　　location = locationHeader.getValue();
　　System.out.println("The page was redirected to:" + location);
　　} else {
　　System.err.println("Location field value is null.");
　　}
　　return;
　　}
[編輯本段]
4 使用HttpClient過程中常見的一些問題
　　下面介紹在使用HttpClient過程中常見的一些問題。
　　字元編碼
　　某目標頁的編碼可能出現在兩個地方，第一個地方是伺服器返回的http頭中，另外一個地方是得到的html/xml頁面中。
　　在http頭的Content-Type欄位可能會包含字元編碼資訊。例如可能返回的頭會包含這樣子的資訊：Content-Type: text/html; charset=UTF-8。這個頭資訊表明該頁的編碼是UTF-8，但是伺服器返回的頭資訊未必與內容能匹配上。比如對於一些雙位元組語言國家，可能伺服器返回的編碼類別型是UTF-8，但真正的內容卻不是UTF-8編碼的，因此需要在另外的地方去得到頁面的編碼資訊；但是如果伺服器返回的編碼不是UTF-8，而是具體的一些編碼，比如gb2312等，那伺服器返回的可能是正確的編碼資訊。通過method對象的getResponseCharSet()方法就可以得到http頭中的編碼資訊。
　　對於象xml或者html這樣的檔案，允許作者在頁面中直接指定編碼類別型。比如在html中會有<meta http-equiv="Content-Type" content="text/html; charset=gb2312"/>這樣的標籤；或者在xml中會有<?xml version="1.0" encoding="gb2312"?>這樣的標籤，在這些情況下，可能與http頭中返回的編碼資訊衝突，需要使用者自己判斷到底那種編碼類別型應該是真正的編碼。
　　自動轉向
　　根據RFC2616中對自動轉向的定義，主要有兩種：301和302。301表示永久的移走（Moved Permanently），當返回的是301，則表示請求的資源已經被移到一個固定的新地方，任何向該地址發起請求都會被轉到新的地址上。302表示暫時的轉向，比如在伺服器端的servlet程式調用了sendRedirect方法，則在用戶端就會得到一個302的代碼，這時伺服器返回的頭資訊中location的值就是sendRedirect轉向的目標地址。
　　HttpClient支援自動轉向處理，但是象POST和PUT方式這種要求接受後繼服務的請求方式，暫時不支援自動轉向，因此如果碰到POST方式提交後返回的是301或者302的話需要自己處理。就像剛才在POSTMethod中舉的例子：如果想進入登入BBS後的頁面，必須重新發起登入的請求，請求的地址可以在頭欄位location中得到。不過需要注意的是，有時候location返回的可能是相對路徑，因此需要對location返回的值做一些處理才可以發起向新地址的請求。
　　另外除了在頭中包含的資訊可能使頁面發生重新導向外，在頁面中也有可能會發生頁面的重新導向。引起頁面自動轉寄的標籤是：<meta http-equiv="refresh" content="5; url=....">。如果你想在程式中也處理這種情況的話得自己分析頁面來實現轉向。需要注意的是，在上面那個標籤中url的值也可以是一個相對位址，如果是這樣的話，需要對它做一些處理後才可以轉寄。
　　處理HTTPS協議
　　HttpClient提供了對SSL的支援，在使用SSL之前必須安裝JSSE。在Sun提供的1.4以後的版本中，JSSE已經整合到JDK中，如果你使用的是JDK1.4以前的版本則必須安裝JSSE。JSSE不同的廠家有不同的實現。下面介紹怎麼使用HttpClient來開啟Https串連。這裡有兩種方法可以開啟https串連，第一種就是得到伺服器頒發的認證，然後匯入到本地的keystore中；另外一種辦法就是通過擴充HttpClient的類來實現自動接受認證。
　　方法1，取得認證，並匯入本地的keystore：
　　安裝JSSE （如果你使用的JDK版本是1.4或者1.4以上就可以跳過這一步）。本文以IBM的JSSE為例子說明。先到IBM網站上下載JSSE的安裝包。然後解壓開之後將ibmjsse.jar包拷貝到<java-home>\lib\ext\目錄下。
　　取得並且匯入認證。認證可以通過IE來獲得：
　　1． 用IE開啟需要串連的https網址，會彈出如下對話方塊：
　　2． 單擊"View Certificate"，在彈出的對話方塊中選擇"Details"，然後再單擊"Copy to File"，根據提供的嚮導產生待訪問網頁的認證檔案
　　3． 嚮導第一步，歡迎介面，直接單擊"Next"，
　　4． 嚮導第二步，選擇匯出的檔案格式，預設，單擊"Next"，
　　5． 嚮導第三步，輸入匯出的檔案名稱，輸入後，單擊"Next"，
　　6． 嚮導第四步，單擊"Finish"，完成嚮導
　　7． 最後彈出一個對話方塊，顯示匯出成功
　　用keytool工具把剛才匯出的認證倒入本地keystore。Keytool命令在<java-home>\bin\下，開啟命令列視窗，併到<java-home>\lib\security\目錄下，運行下面的命令：
　　keytool -import -noprompt -keystore cacerts -storepass changeit -alias yourEntry1 -file your.cer
　　其中參數alias後跟的值是當前認證在keystore中的唯一識別碼，但是大小寫不區分；參數file後跟的是剛才通過IE匯出的認證所在的路徑和檔案名稱；如果你想刪除剛才匯入到keystore的認證，可以用命令：
　　keytool -delete -keystore cacerts -storepass changeit -alias yourEntry1
　　寫程式訪問https地址。如果想測試是否能連上https，只需要稍改一下GetSample例子，把請求的目標變成一個https地址。
　　GetMethod getMethod = new GetMethod("your url");
　　運行該程式可能出現的問題：
　　1. 拋出異常java.net.SocketException: Algorithm SSL not available。出現這個異常可能是因為沒有加JSSEProvider，如果用的是IBM的JSSE Provider，在程式中加入這樣的一行：
　　if(Security.getProvider("com.ibm.jsse.IBMJSSEProvider") == null)
　　Security.addProvider(new IBMJSSEProvider());
　　或者也可以開啟<java-home>\lib\security\java.security，在行
　　security.provider.1=sun.security.provider.Sun
　　security.provider.2=com.ibm.crypto.provider.IBMJCE
　　後面加入security.provider.3=com.ibm.jsse.IBMJSSEProvider
　　2. 拋出異常java.net.SocketException: SSL implementation not available。出現這個異常可能是你沒有把ibmjsse.jar拷貝到<java-home>\lib\ext\目錄下。
　　3. 拋出異常javax.net.ssl.SSLHandshakeException: unknown certificate。出現這個異常表明你的JSSE應該已經安裝正確，但是可能因為你沒有把認證匯入到當前運行JRE的keystore中，請按照前面介紹的步驟來匯入你的認證。
　　方法２，擴充HttpClient類實現自動接受認證
　　因為這種方法自動接收所有認證，因此存在一定的安全問題，所以在使用這種方法前請仔細考慮您的系統的安全需求。具體的步驟如下：
　　提供一個自訂的socket factory（test.MySecureProtocolSocketFactory）。這個自訂的類必須實現介面org.apache.commons.httpclient.protocol.SecureProtocolSocketFactory，在實現介面的類中調用自訂的X509TrustManager(test.MyX509TrustManager)，這兩個類可以在隨本文帶的附件中得到
　　建立一個org.apache.commons.httpclient.protocol.Protocol的執行個體，指定協議名稱和預設的連接埠號碼 Protocol myhttps = new Protocol("https", new MySecureProtocolSocketFactory (), 443);
　　註冊剛才建立的https協議對象 Protocol.registerProtocol("https ", myhttps);
　　然後按照普通編程方式開啟https的目標地址，代碼請參見test.NoCertificationHttpsGetSample
[編輯本段]
5 處理Proxy 伺服器
　　HttpClient中使用Proxy 伺服器非常簡單，調用HttpClient中setProxy方法就可以，方法的第一個參數是Proxy 伺服器地址，第二個參數是連接埠號碼。另外HttpClient也支援SOCKS代理。
　　httpClient.getHostConfiguration().setProxy(hostName,port);