再談Java中文問題
來源:互聯網
上載者:User
問題|中文 我來說一下tomcat如何?JSP的你就明白了。
預備知識:
1.位元組和unicode
Java核心是unicode的,就連class檔案也是,但是很多媒體,包括檔案/流的儲存方式
是使用位元組流的。 因此Java要對這些位元組流經行轉化。char是unicode的,而byte是位元組.
Java中byte/char互轉的函數在sun.io的包中間有。其中ByteToCharConverter類是中調度,
可以用來告訴你,你用的Convertor。其中兩個很常用的靜態函數是
public static ByteToCharConverter getDefault() ;
public static ByteToCharConverter getConverter(String encoding);
如果你不指定converter,則系統會自動使用當前的Encoding,GB平台上用GBK,EN平台上用
8859_1
我們來就一個簡單的例子:
"你"的gb碼是:0xC4E3 ,unicode是0x4F60
你用:
--encoding="gb2312";
--byte b[]={(byte)’\u00c4’,(byte)’\u00E3’};
--convertor=ByteToCharConverter.getConverter(encoding);
--char [] c=converter.convertAll(b);
--for(int i=0;i<c.length;c++)
--{
-- System.out.println(Integer.toHexString(c[i]));
--}
--列印出來是0x4F60
--但是如果使用8859_1的編碼,列印出來是
--0x00C4,0x00E3
----例1
反過來:
--encoding="gb2312";
char c[]={’\u4F60’};
convertor=ByteToCharConverter.getConverter(encoding);
--byte [] b=converter.convertAll(c);
--for(int i=0;i<b.length;c++)
--{
-- System.out.println(Integer.toHexString(b[i]));
--}
--列印出來是:0xC4,0xE3
----例2
--如果用8859_1就是0x3F,?號,表示無法轉化 --
很多中文問題就是從這兩個最簡單的類派生出來的。而卻有很多類
不直接支援把Encoding輸入,這給我們帶來諸多不便。很多程式難得用encoding
了,直接用default的encoding,這就給我們移植帶來了很多困難
--
2.UTF-8
--UTF-8是和Unicode一一對應的,其實現很簡單
--
-- 7位的Unicode: 0 _ _ _ _ _ _ _
--11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _
--16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
--21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
--大多數情況是只使用到16位以下的Unicode:
--"你"的gb碼是:0xC4E3 ,unicode是0x4F60
--我們還是用上面的例子
-- --例1:0xC4E3的二進位:
-- -- 1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1
-- -- 由於只有兩位我們按照兩位的編碼來排,但是我們發現這行不通,
-- -- 因為第7位不是0因此,返回"?"
-- --
-- --例2:0x4F60的二進位:
-- -- 0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0
-- -- 我們用UTF-8補齊,變成:
-- -- 11100100 10111101 10100000
-- -- E4--BD-- A0
-- -- 於是返回0xE4,0xBD,0xA0
-- --
3.String和byte[]
--String其實核心是char[],然而要把byte轉化成String,必須經過編碼。
--String.length()其實就是char數組的長度,如果使用不同的編碼,很可
--能會錯分,造成散字和亂碼。
--例:
----byte [] b={(byte)’\u00c4’,(byte)’\u00e3’};
----String str=new String(b,encoding); ----
----如果encoding=8859_1,會有兩個字,但是encoding=gb2312隻有一個字 ----
--這個問題在處理分頁是經常發生
4.Reader,Writer/InputStream,OutputStream
--Reader和Writer核心是char,InputStream和OutputStream核心是byte。
--但是Reader和Writer的主要目的是要把Char讀/寫InputStream/OutputStream
--一個reader的例子:
--檔案test.txt只有一個"你"字,0xC4,0xE3--
--String encoding=;
--InputStreamReader reader=new InputStreamReader(
----new FileInputStream("text.txt"),encoding);
--char []c=new char[10];
--int length=reader.read(c);
--for(int i=0;i<c.length;i++)
----System.out.println(c[i]);
--如果encoding是gb2312,則只有一個字元,如果encoding=8859_1,則有兩個字元
--------
--
--
----
2.我們要對Java的編譯器有所瞭解:
--javac -encoding
我們常常沒有用到ENCODING這個參數。其實Encoding這個參數對於跨平台的操作是很重要的。
如果沒有指定Encoding,則按照系統的預設Encoding,gb平台上是gb2312,英文平台上是ISO8859_1。
--Java的編譯器實際上是調用sun.tools.javac.Main的類,對檔案進行編譯,這個類 --
有compile函數中間有一個encoding的變數,-encoding的參數其實直接傳給encoding變數。
編譯器就是根據這個變數來讀取java檔案的,然後把用UTF-8形式編譯成class檔案。
一個例子:
--public void test()
--{
----String str="你";
----FileWriter write=new FileWriter("test.txt");
----write.write(str);
----write.close();
--}
----例3
--如果用gb2312編譯,你會找到E4 BD A0的欄位
--
--如果用8859_1編譯,
--00C4 00E3的二進位:
--00000000 11000100 00000000 11100011--
--因為每個字元都大於7位,因此用11位編碼:
--11000001 10000100 11000011 10100011
--C1-- 84-- C3-- A3
--你會找到C1 84 C3 A3 --
但是我們往往忽略掉這個參數,因此這樣往往會有跨平台的問題:
-- 例3在中文平台上編譯,產生ZhClass
-- 例3在英文平台上編譯,輸出EnClass
--1. ZhClass在中文平台上執行OK,但是在英文平台上不行
--2. EnClass在英文平台上執行OK,但是在中文平台上不行
原因:
--1.在中文平台上編譯後,其實str在運行態的char[]是0x4F60, ----
--在中文平台上運行,FileWriter的預設編碼是gb2312,因此
--CharToByteConverter會自動用調用gb2312的converter,把str轉化
--成byte輸入到FileOutputStream中,於是0xC4,0xE3放進了檔案。
--但是如果是在英文平台下,CharToByteConverter的預設值是8859_1,
--FileWriter會自動調用8859_1去轉化str,但是他無法解釋,因此他會
--輸出"?" ----
--2. 在英文平台上編譯後,其實str在運行態的char[]是0x00C4 0x00E3, ----
--在中文平台上運行,中文無法識別,因此會出現??
-- 在英文平台上,0x00C4-->0xC4,0x00E3->0xE3,因此0xC4,0xE3被放進了
--檔案
----
1.對於JSP本文的解釋:
--Tomcat首先看一下你的葉面中有沒有"<%@page include的符號。有,則在相同
--地方設定response.setContentType(..);按照encoding的來讀,沒有他按照8859_1
--讀取檔案,然後用UTF-8寫成.java檔案,然後用sun.tools.Main去讀取這個檔案,
--(當然它使用UTF-8去讀),然後編譯成class檔案
--setContentType改變的是out的屬性,out變數預設的encoding是8859_1
2.對Parameter的解釋
--很不幸Parameter只有ISO8859_1的解釋,這個質料可以在servlet的實現代碼中找到。
3.對include的解釋
格式的,但是很不幸,由於那個寫"org.apache.jasper.compiler.Parser"的人
在數組JspUtil.ValidAttribute[]忘記加了一個參數:encoding,因此導致不支
持這種方式。你完全可以編譯原始碼,加上對encoding的支援
總結:
如果你在NT底下,最簡單的方法就是欺騙java,不加任何Encoding變數:
<html>
你好<%=request.getParameter("value")%>
</html>
http://localhost/test/test.jsp?value=你
結果:你好你
但這種方法局限性較大,比如對上傳的文章分段,這樣的做法是死定的,最好的
解決方案是用這種方案:
<%@ page contentType="text/html;charset=gb2312" %>
<html>
你好<%=new String(request.getParameter("value").getBytes("8859_1"),"gb2312")%>
</html>