在九月初的時候,RMongoDB正式發布了修訂版本,這也就意味著,從事數值計算的語言也可以於Nosql產品相接軌了,但是鑒於我身邊並沒有公司真的在使用R和MongoDB的結合,所以在效率問題上,我們也不敢掉以輕心,所以就做了一個這樣的測試。
測試環境是8核,64位機。 用於測試的庫是一個未經Sharding,大概30G左右的Collection。用於儲存使用者的喜好資訊,標籤資訊等資料。
1 library(rmongodb)
2
3 mongo <- mongo.create()
4
5 if(mongo.is.connected(mongo))
6 {
7 ns <- 'rivendell.user'
8 print('查詢一個沒有索引的欄位,查詢一條')
9 print(system.time(p <- mongo.find.one(mongo,ns,list(Friend=600))))
10 print('查詢一個沒有索引的欄位,多條,without buffer')
11 print(system.time(p <- mongo.find(mongo,ns,list(Friend=600))))
12 print('看看是否有緩衝策略')
13 print(system.time(p <- mongo.find(mongo,ns,list(Friend=600))))
14
15 print('查詢一個沒有索引的欄位,多條,has buffer')
16 buf <- mongo.bson.buffer.create()
17 mongo.bson.buffer.append(buf,'Friend',600L)
18 query <- mongo.bson.from.buffer(buf)
19 print(system.time(p <- mongo.find(mongo,ns,query)))
20 print('看看是否有緩衝策略')
21 buf <- mongo.bson.buffer.create()
22 mongo.bson.buffer.append(buf,'Friend',600L)
23 query <- mongo.bson.from.buffer(buf)
24 print(system.time(p <- mongo.find(mongo,ns,query)))
25
26 print('大於的查詢,查詢一條記錄')
27 print(system.time(p <- mongo.find.one(mongo,ns,list(Friend=list('$gt'=600L)))))
28 print('大於的記錄,查詢多條記錄')
29 print(system.time(cursor <- mongo.find(mongo,ns,list(Friend=list('$gt'=600L)))))
30 mongo.cursor.destroy(cursor)
31
32 print('查詢一條有索引的記錄')
33 print(system.time(p <- mongo.find.one(mongo,ns,list('_id'=3831809L))))
34 print('查詢索引的記錄')
35 print(system.time(p <- mongo.find(mongo,ns,list('_id'=3831809L))))
36
37 print('插入一條記錄')
38 buf <- mongo.bson.buffer.create()
39 mongo.bson.buffer.append(buf,'name',"huangxin")
40 mongo.bson.buffer.append(buf,'age',22L)
41 p <- mongo.bson.from.buffer(buf)
42 print(system.time(mongo.insert(mongo,ns,p)))
43
44 print('找到剛剛插入的記錄')
45 print(system.time(p <- mongo.find.one(mongo,ns,list('name'='huangxin'))))
46 if(!is.null(p))
47 {
48 print('success')
49 }
50
51 print('批量插入')
52
53 buf <- mongo.bson.buffer.create()
54 mongo.bson.buffer.append(buf,'name','huangxin')
55 mongo.bson.buffer.append(buf,'age',22L)
56 p1 <- mongo.bson.from.buffer(buf)
57
58 buf <- mongo.bson.buffer.create()
59 mongo.bson.buffer.append(buf,'name','huangxin')
60 mongo.bson.buffer.append(buf,'age',22L)
61 p2 <- mongo.bson.from.buffer(buf)
62
63 buf <- mongo.bson.buffer.create()
64 mongo.bson.buffer.append(buf,'name','huangxin')
65 mongo.bson.buffer.append(buf,'age',22L)
66 p3 <- mongo.bson.from.buffer(buf)
67
68 print(system.time(mongo.insert.batch(mongo,ns,list(p1,p2,p3))))
69
70 print('找到剛剛批量插入的記錄')
71 print(system.time(cursor <- mongo.find(mongo,ns,list('name'='huangxin'))))
72
73 i <- 0
74 while(mongo.cursor.next(cursor))
75 {
76 i <- i + 1
77 }
78 print(i)
79
80 print('批次更新')
81 print(system.time(mongo.update(mongo,ns,list(name='huangxin'),list('name'= 'kym'))))
82
83 print('查看更新是否成功')
84 print(system.time(p <- mongo.find.one(mongo,ns,list('name'='kym'))))
85 if(!is.null(p))
86 {
87 print('success')
88 }
89
90 print('大量刪除')
91 print(system.time(mongo.remove(mongo,ns,list(name='kym'))))
92 }
93
94 print(system.time(p <- mongo.find.one(mongo,ns,list('name'='kym'))))
95 if(!is.null(p))
96 {
97 print('success')
98 }
[1] "查詢一個沒有索引的欄位,查詢一條"
user system elapsed
0.000 0.000 0.115
[1] "查詢一個沒有索引的欄位,多條,without buffer"
user system elapsed
0.000 0.000 32.513
[1] "看看是否有緩衝策略"
user system elapsed
0.000 0.000 32.528
[1] "查詢一個沒有索引的欄位,多條,has buffer"
user system elapsed
0.000 0.000 32.685
[1] "看看是否有緩衝策略"
user system elapsed
0.000 0.000 33.172
[1] "大於的查詢,查詢一條記錄"
user system elapsed
0.000 0.000 0.001
[1] "大於的記錄,查詢多條記錄"
user system elapsed
0.000 0.000 0.014
[1] "查詢一條有索引的記錄"
user system elapsed
0 0 0
[1] "查詢索引的記錄"
user system elapsed
0 0 0
[1] "插入一條記錄"
user system elapsed
0 0 0
[1] "找到剛剛插入的記錄"
user system elapsed
0.00 0.00 35.42
[1] "success"
[1] "批量插入"
user system elapsed
0 0 0
[1] "找到剛剛批量插入的記錄"
user system elapsed
0.004 0.000 35.934
[1] 7
[1] "批次更新"
user system elapsed
0.000 0.004 0.000
[1] "查看更新是否成功"
user system elapsed
0.000 0.000 67.773
[1] "success"
[1] "大量刪除"
user system elapsed
0 0 0
user system elapsed
0.000 0.000 91.396
之前我一直不太理解的就是為什麼大於和等於,差距會差這麼多。後來當我在用Python去做同樣的測試的時候發現,Python兩者的效率其實是相同的,所以這就證明了這個不是MongoDB的問題,而我不相信在資料庫層面,一個語言的Driver會有這麼大的差別。
後來我發現了Python和R的關於MongoDB Driver的一個區別。首先,Python find的時候,不是將查詢到的資料集整體拉回,而是返回一個cursor,也就是說,他在執行find命令的時候並不消耗時間,而如果加上while cursor.next()的時候,才會真正地去執行這個查詢。
但是R不一樣,R會首先考慮資料集的大小(或者其他情況),然後視情況而定地返回cursor還是將整個資料集整體拉回。如果我們將之前的while mongo.cursor.next(cursor)也算在計算時間的時候,那麼我們就會發現,其實大於和等於的操作,效率相差並不明顯了.......
在實際操作中,批量插入是一個非常常見的應用情境,但是對於R或者Matlab語言來說,迴圈的效率一直是硬傷,所以接下來,我會嘗試著用apply系列來解決R語言的迴圈問題,如果實際操作發現可行,那麼接下來使用mutilab等R的並行計算庫來充分發揮多核的效率也值得嘗試了!