標籤:
在對超過百萬條記錄的集合進行彙總操作。
DBObject match=(DBObject)JSON.parse("{$match:{logType:{‘$in‘:[5,9]}}}");DBObject group=(DBObject)JSON.parse("{$group:{‘_id‘:‘$domainUrl‘,‘count‘:{‘$sum‘:1}}}");AggregationOutput output = logCollection.aggregate(match,group);
偶爾會發生Read timed out 異常。
com.mongodb.MongoException$Network: Read operation to server /192.168.10.202:27017 failed on database adLogTableat com.mongodb.DBTCPConnector.innerCall(DBTCPConnector.java:253)at com.mongodb.DB.command(DB.java:261)at com.mongodb.DB.command(DB.java:243) ...Caused by: java.net.SocketTimeoutException: Read timed out at java.net.SocketInputStream.socketRead0(Native Method) at java.net.SocketInputStream.read(SocketInputStream.java:152)
通過多次測試,發現執行一次彙總平均時間為5s,超過5s時就會報錯!
然後查看MongoDB的配置資訊:
socket-timeout="5000" //5s
socket-timeout的預設配置為0,也就是沒有限制。
沒有逾時限制,系統出了問題也不容易發現,應該根據實際情況,給出合理的逾時時間。
通過多次測試發現最長執行時間為6秒,就把逾時時間設定成了10000。
socket-timeout="10000" //10s
注意:MongoDB在與Spring整合時,如果要配置多個MongDB源,只會啟用最後一個<mongo:options>配置。
應該把參數配置資訊儲存在properties檔案中。
<mongo:mongo host="${mongodb.ip}" id="mongo202" port="${mongodb.port}"><mongo:options connections-per-host="200"threads-allowed-to-block-for-connection-multiplier="100"connect-timeout="1000" max-wait-time="1000" auto-connect-retry="true"socket-keep-alive="true" socket-timeout="10000" slave-ok="true"write-number="1" write-timeout="0"write-fsync="true" /></mongo:mongo>通過Java API擷取配置參數
DBCollection logCollection = mongoTemplate.getCollection(collName);MongoOptions mongoOptions = logCollection.getDB().getMongo().getMongoOptions();System.out.println(mongoOptions.getSocketTimeout());
最後一點: ConnectionTimeOut和SocketTimeOut的區別:
一次完整的請求包括三個階段:1、建立串連 2、資料轉送 3、中斷連線
如果與伺服器(這裡指資料庫)請求建立串連的時間超過ConnectionTimeOut,就會拋 ConnectionTimeOutException,即伺服器連線逾時,沒有在規定的時間內建立串連。
如果與伺服器串連成功,就開始資料轉送了。
如果伺服器處理資料用時過長,超過了SocketTimeOut,就會拋出SocketTimeOutExceptin,即伺服器響應逾時,伺服器沒有在規定的時間內返回給用戶端資料。
MongoDB 查詢逾時異常 SocketTimeoutException