fast-json 內幕

標籤：des   style   http   io   ar   os   使用   sp   java   

JSON協議使用方便，越來越流行。JSON的處理器有很多，為什麼需要再寫一個呢？因為我們需要一個效能很好的JSON Parser，希望JSON Parser的效能有二進位協議一樣好，比如和protobuf一樣，這可不容易，但確實做到了。有人認為這從原理上就是不可能的，但是電腦乃實踐科 學，看實際的結果比原理推導更重要。

這篇文章告訴大家：
* Fastjson究竟有多快
* 為什麼Fastjson這麼快
* 你能用Fastjson來做什麼！
* 如何獲得fastjson？

首先，Fastjson究竟有多快？
我們看一下使用https://github.com/eishay/jvm-serializers/提供的程式進行測試得到的結果：

	序列化時間	還原序列化時間	大小	壓縮後大小
java序列化	8654	43787	889	541
hessian	6725	10460	501	313
protobuf	2964	1745	239	149
thrift	3177	1949	349	197
avro	3520	1948	221	133
json-lib	45788	149741	485	263
jackson	3052	4161	503	271
fastjson	2595	1472	468	251

這是一個468bytes的JSON Bytes測試，從測試結果來看，無論序列化和還原序列化，Fastjson超越了protobuf，可以當之無愧fast! 它比java deserialize快超過30多倍，比json-lib快100倍。由於Fastjson的存在，你可以放心使用json統一協議，達到文本協議的可維護性，二進位協議的效能。

JSON處理主要包括兩個部分，serialize和deserialize。serialize就是把Java對象變成JSON String或者JSON Bytes。Deserialize是把JSON String或者Json Bytes變成java對象。其實這個過程有些JSON庫是分三部分的，json string <－-> json tree <－-> java object。Fastjson也支援這種轉換方式，但是這種轉換方式因為有多餘的步驟，效能不好，不推薦使用。

為什麼Fastjson能夠做到這麼快？
一、Fastjson中Serialzie的最佳化實現
1、自行編寫類似StringBuilder的工具類SerializeWriter。
把java對象序列化成json文本，是不可能使用字串直接拼接的，因為這樣效能很差。比字串拼接更好的辦法是使用java.lang.StringBuilder。StringBuilder雖然速度很好了，但還能夠進一步提升效能的，fastjson中提供了一個類似StringBuilder的類com.alibaba.fastjson.serializer.SerializeWriter。

SerializeWriter提供一些針對性的方法減少數組越界檢查。例如public void writeIntAndChar(int i, char c) {}，這樣的方法一次性把兩個值寫到buf中去，能夠減少一次越界檢查。目前SerializeWriter還有一些關鍵的方法能夠減少越界檢查的，我還沒實現。也就是說，如果實現了，能夠進一步提升serialize的效能。

2、使用ThreadLocal來緩衝buf。
這個辦法能夠減少對象分配和gc，從而提升效能。SerializeWriter中包含了一個char[] buf，每序列化一次，都要做一次分配，使用ThreadLocal最佳化，能夠提升效能。

3、使用asm避免反射
擷取java bean的屬性值，需要調用反射，fastjson引入了asm的來避免反射導致的開銷。fastjson內建的asm是基於objectweb asm 3.3.1改造的，只保留必要的部分，fastjson asm部分不到1000行代碼，引入了asm的同時不導致大小變大太多。

使用一個特殊的IdentityHashMap最佳化效能。
fastjson對每種類型使用一種serializer，於是就存在class -> JavaBeanSerizlier的映射。fastjson使用IdentityHashMap而不是HashMap，避免equals操作。我們知道HashMap的演算法的transfer操作，並發時可能導致死迴圈，但是ConcurrentHashMap比HashMap系列會慢，因為其使用volatile和lock。fastjson自己實現了一個特別的IdentityHashMap，去掉transfer操作的IdentityHashMap，能夠在並發時工作，但是不會導致死迴圈。

5、預設啟用sort field輸出
json的object是一種key/value結構，正常的hashmap是無序的，fastjson預設是排序輸出的，這是為deserialize最佳化做準備。

6、整合jdk實現的一些最佳化演算法
在最佳化fastjson的過程中，參考了jdk內部實現的演算法，比如int to char[]演算法等等。

二、fastjson的deserializer的主要最佳化演算法
deserializer也稱為parser或者decoder，fastjson在這方面投入的最佳化精力最多。
1、讀取token基於預測。
所有的parser基本上都需要做詞法處理，json也不例外。fastjson詞法處理的時候，使用了基於預測的最佳化演算法。比如key之後，最大的可能是冒號":"，value之後，可能是有兩個，逗號","或者右括弧"}"。在com.alibaba.fastjson.parser.JSONScanner中提供了這樣的方法：

Java代碼  

1. public void nextToken(int expect) {  
2.     for (;;) {  
3.         switch (expect) {  
4.             case JSONToken.COMMA: //   
5.                 if (ch == ‘,‘) {  
6.                     token = JSONToken.COMMA;  
7.                     ch = buf[++bp];  
8.                     return;  
9.                 }  
10.   
11.                 if (ch == ‘}‘) {  
12.                     token = JSONToken.RBRACE;  
13.                     ch = buf[++bp];  
14.                     return;  
15.                 }  
16.   
17.                 if (ch == ‘]‘) {  
18.                     token = JSONToken.RBRACKET;  
19.                     ch = buf[++bp];  
20.                     return;  
21.                 }  
22.   
23.                 if (ch == EOI) {  
24.                     token = JSONToken.EOF;  
25.                     return;  
26.                 }  
27.                 break;  
28.         // ... ...  
29.     }  
30. }  

從上面摘抄下來的代碼看，基於預測能夠做更少的處理就能夠讀取到token。

2、sort field fast match演算法
fastjson的serialize是按照key的順序進行的，於是fastjson做deserializer時候，採用一種最佳化演算法，就是假設key/value的內容是有序的，讀取的時候只需要做key的匹配，而不需要把key從輸入中讀取出來。通過這個最佳化，使得fastjson在處理json文本的時候，少讀取超過50%的token，這個是一個十分關鍵的最佳化演算法。基於這個演算法，使用asm實現，效能提升十分明顯，超過300％的效能提升。

Java代碼  

1. { "id" : 123, "name" : "魏加流", "salary" : 56789.79}  
2.   ------      --------          ----------    

在上面例子看，虛線標註的三個部分是key，如果key_id、key_name、key_salary這三個key是順序的，就可以做最佳化處理，這三個key不需要被讀取出來，只需要比較就可以了。

這種演算法分兩種模式，一種是快速模式，一種是常規模式。快速模式是假定key是順序的，能快速處理，如果發現不能夠快速處理，則退回常規模式。保證效能的同時，不會影響功能。

在這個例子中，常規模式需要處理13個token，快速模式只需要處理6個token。

實現sort field fast match演算法的代碼在這個類com.alibaba.fastjson.parser.deserializer.ASMDeserializerFactory
http://code.alibabatech.com/svn/fastjson/trunk/fastjson/src/main/java/com/alibaba/fastjson/parser/deserializer/ASMDeserializerFactory.java，是使用asm針對每種類型的VO動態建立一個類實現的。
這裡是有一個用於示範sort field fast match演算法的代碼：
http://code.alibabatech.com/svn/fastjson/trunk/fastjson/src/test/java/data/media/ImageDeserializer.java

Java代碼  

1. // 用於快速匹配的每個欄位的首碼  
2. char[] size_   = "\"size\":".toCharArray();  
3. char[] uri_    = "\"uri\":".toCharArray();  
4. char[] titile_ = "\"title\":".toCharArray();  
5. char[] width_  = "\"width\":".toCharArray();  
6. char[] height_ = "\"height\":".toCharArray();  
7.   
8. // 儲存parse開始時的lexer狀態資訊  
9. int mark = lexer.getBufferPosition();  
10. char mark_ch = lexer.getCurrent();  
11. int mark_token = lexer.token();  
12.   
13. int height = lexer.scanFieldInt(height_);  
14. if (lexer.matchStat == JSONScanner.NOT_MATCH) {  
15.     // 退出快速模式, 進入常規模式  
16.     lexer.reset(mark, mark_ch, mark_token);  
17.     return (T) super.deserialze(parser, clazz);  
18. }  
19.   
20. String value = lexer.scanFieldString(size_);  
21. if (lexer.matchStat == JSONScanner.NOT_MATCH) {  
22.     // 退出快速模式, 進入常規模式  
23.     lexer.reset(mark, mark_ch, mark_token);  
24.     return (T) super.deserialze(parser, clazz);  
25. }  
26. Size size = Size.valueOf(value);  
27.   
28. // ... ...  
29.   
30. // batch set  
31. Image image = new Image();  
32. image.setSize(size);  
33. image.setUri(uri);  
34. image.setTitle(title);  
35. image.setWidth(width);  
36. image.setHeight(height);  
37.   
38. return (T) image;  

3、使用asm避免反射
deserialize的時候，會使用asm來構造對象，並且做batch set，也就是說合并連續調用多個setter方法，而不是分散調用，這個能夠提升效能。

4、對utf-8的json bytes，針對性使用最佳化的版本來轉換編碼。
這個類是com.alibaba.fastjson.util.UTF8Decoder，來源於JDK中的UTF8Decoder，但是它使用ThreadLocal Cache Buffer，避免轉換時分配char[]的開銷。
ThreadLocal Cache的實現是這個類com.alibaba.fastjson.util.ThreadLocalCache。第一次1k，如果不夠，會增長，最多增長到128k。

Java代碼  

1. //代碼摘抄自com.alibaba.fastjson.JSON  
2. public static final <T> T parseObject(byte[] input, int off, int len, CharsetDecoder charsetDecoder, Type clazz,  
3.                                       Feature... features) {  
4.     charsetDecoder.reset();  
5.   
6.     int scaleLength = (int) (len * (double) charsetDecoder.maxCharsPerByte());  
7.     char[] chars = ThreadLocalCache.getChars(scaleLength); // 使用ThreadLocalCache，避免頻繁分配記憶體  
8.   
9.     ByteBuffer byteBuf = ByteBuffer.wrap(input, off, len);  
10.     CharBuffer charByte = CharBuffer.wrap(chars);  
11.     IOUtils.decode(charsetDecoder, byteBuf, charByte);  
12.   
13.     int position = charByte.position();  
14.   
15.     return (T) parseObject(chars, position, clazz, features);  
16. }  

6、symbolTable演算法。
我們看xml或者javac的parser實現，經常會看到有一個這樣的東西symbol table，它就是把一些經常使用的關鍵字緩衝起來，在遍曆char[]的時候，同時把hash計算好，通過這個hash值在hashtable中來擷取緩衝好的symbol，避免建立新的字串對象。這種最佳化在fastjson裡面用在key的讀取，以及enum value的讀取。這是也是parse效能最佳化的關鍵演算法之一。

以下是摘抄自JSONScanner類中的代碼，這段代碼用於讀取類型為enum的value。

Java代碼  

1. int hash = 0;  
2. for (;;) {  
3.     ch = buf[index++];  
4.     if (ch == ‘\"‘) {  
5.         bp = index;  
6.         this.ch = ch = buf[bp];  
7.         strVal = symbolTable.addSymbol(buf, start, index - start - 1, hash); // 通過symbolTable來獲得緩衝好的symbol，包括fieldName、enumValue  
8.         break;  
9.     }  
10.       
11.     hash = 31 * hash + ch; // 在token scan的過程中計算好hash  
12.   
13.     // ... ...  
14. }  

我們能用fastjson來作什嗎？
1、替換其他所有的json庫，java世界裡沒有其他的json庫能夠和fastjson可相比了。
2、使用fastjson的序列化和還原序列化替換java serialize，java serialize不單效能慢，而且體制大。
3、使用fastjson替換hessian，json協議和hessian協議大小差不多一樣，而且fastjson效能優越，10倍於hessian
4、把fastjson用於memached緩衝對象資料。


如何獲得fastjson
h3. 官方網站
Fastjson是開源的，基於Apache 2.0協議。你可以在官方網站瞭解最新資訊。
http://code.alibabatech.com/wiki/display/FastJSON/Home

maven使用者
* Maven倉庫 http://code.alibabatech.com/mvn/releases/

Java代碼  

1. <dependency>  
2.      <groupId>com.alibaba</groupId>  
3.      <artifactId>fastjson</artifactId>  
4.      <version>1.1.2</version>  
5. </dependency>  

Downlaods
Binary : http://code.alibabatech.com/mvn/releases/com/alibaba/fastjson/1.1.2/fastjson-1.1.2.jar
Source :http://code.alibabatech.com/mvn/releases/com/alibaba/fastjson/1.1.2/fastjson-1.1.2-sources.jar
Subversion : http://code.alibabatech.com/svn/fastjson/trunk/fastjson/

fast-json 內幕