資料庫效能測試：sysbench用法詳解

標籤：.sh   size   end   mon   代碼   exe   rate   pen   pos   

1.簡介和安裝

sysbench是一個很不錯的資料庫效能測試工具。

官方網站：https://github.com/akopytov/sysbench/

rpm包下載：https://packagecloud.io/akopytov/sysbench/packages/el/7/sysbench-1.0.15-1.el7.centos.x86_64.rpm

源碼包下載：https://github.com/akopytov/sysbench/archive/1.0.15.tar.gz

如果是編譯安裝，需要先安裝好mysql的開發包(儘管編譯錯誤時提示的是缺少Mysql庫檔案)。

yum -y install mysql-community-develtar xf 1.0.15.tar.gzcd sysbench-1.0.15./autogen.sh./configuremake -jmake install

安裝後，只有一個二進位檔案sysbench，還提供了很多個lua指令碼。

[[email protected] ~]# rpm -ql sysbench | grep 'bin\|lua'  /usr/bin/sysbench/usr/share/sysbench/bulk_insert.lua/usr/share/sysbench/oltp_common.lua/usr/share/sysbench/oltp_delete.lua/usr/share/sysbench/oltp_insert.lua/usr/share/sysbench/oltp_point_select.lua/usr/share/sysbench/oltp_read_only.lua/usr/share/sysbench/oltp_read_write.lua/usr/share/sysbench/oltp_update_index.lua/usr/share/sysbench/oltp_update_non_index.lua/usr/share/sysbench/oltp_write_only.lua/usr/share/sysbench/select_random_points.lua/usr/share/sysbench/select_random_ranges.lua/usr/share/sysbench/tests/include/inspect.lua/usr/share/sysbench/tests/include/oltp_legacy/bulk_insert.lua/usr/share/sysbench/tests/include/oltp_legacy/common.lua/usr/share/sysbench/tests/include/oltp_legacy/delete.lua/usr/share/sysbench/tests/include/oltp_legacy/insert.lua/usr/share/sysbench/tests/include/oltp_legacy/oltp.lua/usr/share/sysbench/tests/include/oltp_legacy/oltp_simple.lua/usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua/usr/share/sysbench/tests/include/oltp_legacy/select.lua/usr/share/sysbench/tests/include/oltp_legacy/select_random_points.lua/usr/share/sysbench/tests/include/oltp_legacy/select_random_ranges.lua/usr/share/sysbench/tests/include/oltp_legacy/update_index.lua/usr/share/sysbench/tests/include/oltp_legacy/update_non_index.lua

本文介紹的是新版本sysbench oltp lua指令碼的用法(/usr/share/sysbench/*.lua)，所以不涉及傳統的lua(tests/include/oltp_legacy/*.lua)，如果想要瞭解這些傳統Lua指令碼的用法，網上隨便找。

2.sysbench使用方法

以下列出了sysbench對測試mysql時常用的選項。

[[email protected] ~]# sysbench --helpUsage:  sysbench [options]... [test_lua] [lua_options] [command]Commands implemented by most tests: prepare run cleanup help通用選項：以下中括弧中的值表示預設值  --threads=N                     指定線程數[1]  --events=N                      限制最大請求數，0表示不限制[0]  --time=N                        限制最長執行時間，0表示不限制[10]                    --events和--time二者選一即可  --forced-shutdown=STRING        達到最長執行時間後還需等待多久關閉sysbench                                  off表示禁用該功能[off]  --thread-stack-size=SIZE        每個線程使用的棧空間大小[64K]  --rate=N                        平均交易處理速率，0表示不限制[0]  --report-interval=N             每隔幾秒報告一次結果，0表示禁用間隔報告[0]  --config-file=FILENAME          從檔案中讀取命令列選項  --tx-rate=N                     已廢棄，是--rate的別名[0]  --max-requests=N                已廢棄，是--events的別名[0]  --max-time=N                    已廢棄，是--time的別名[0]  --num-threads=N                 已廢棄，是--threads的別名[1]mysql相關選項：  --mysql-host=[LIST,...]          MySQL server host [localhost]  --mysql-port=[LIST,...]          MySQL server port [3306]  --mysql-socket=[LIST,...]        MySQL socket  --mysql-user=STRING              MySQL user [sbtest]  --mysql-password=STRING          MySQL password []  --mysql-db=STRING                MySQL database name [sbtest]  --mysql-ignore-errors=[LIST,...] 要忽略的錯誤碼，值可為"all" [1213,1020,1205]Compiled-in tests:  fileio - File I/O test  cpu - CPU performance test  memory - Memory functions speed test  threads - Threads subsystem performance test  mutex - Mutex performance test

其中，command部分有4類：prepare run cleanup和help：

• prepare：準備資料的命令。例如，在sysbench壓力測試之前，需要先準備好測試庫、測試表以及測試表中的資料。具體用法見後文。
  
• run：表示進行壓力測試。
  
• cleanup：清除測試時產生的資料。
  
• help：輸出給定lua指令碼的協助資訊。

test_lua是想要使用的lua指令碼，如果是rpm包安裝的sysbench，則這些指令碼都是/usr/share/sysbench目錄下。對於一般的資料庫測試，只需使用和oltp有關的lua指令碼就足夠。

options和lua_options是不同的，options是sysbench的選項，lua_options是lua指令碼的選項，lua_options應該要放在test_lua的後面(非必需，但建議)。

例如，要查看oltp_common.lua的用法，可以：

sysbench /usr/share/sysbench/oltp_common.lua help

3.準備測試資料

首先建立sysbench所需資料庫sbtest(這是sysbench預設使用的庫名，必須建立測試庫)。

mysqladmin -h127.0.0.1 -uroot [email protected]! -P3306 create sbtest;

然後，準備測試所用的表，這些測試表放在測試庫sbtest中。這裡使用的lua指令碼為/usr/share/sysbench/oltp_common.lua。

sysbench --mysql-host=127.0.0.1          --mysql-port=3306          --mysql-user=root          [email protected]!          /usr/share/sysbench/oltp_common.lua          --tables=10          --table_size=100000          prepare

其中--tables=10表示建立10個測試表，--table_size=100000表示每個表中插入10W行資料，prepare表示這是準備數的過程。

mysql> show tables from sbtest;+------------------+| Tables_in_sbtest |+------------------+| sbtest1          || sbtest10         || sbtest2          || sbtest3          || sbtest4          || sbtest5          || sbtest6          || sbtest7          || sbtest8          || sbtest9          |+------------------+mysql> select count(*) from sbtest.sbtest1;+----------+| count(*) |+----------+|   100000 |+----------+

如果想要清除這10個表，可使用cleanup命令。

sysbench --mysql-host=127.0.0.1          --mysql-port=3306          --mysql-user=root          [email protected]!          /usr/share/sysbench/oltp_common.lua          --tables=10          cleanup

4.資料庫測試和結果分析

稍微修改下之前準備資料的語句，就可以拿來測試了。

需要注意的是，之前使用的lua指令碼為oltp_common.lua，它是一個泛型指令碼，是被其它lua指令碼調用的，它不能直接拿來測試。

所以，我這裡用oltp_read_write.lua指令碼來做讀、寫測試。還有很多其它類型的測試，比如唯讀測試、唯寫測試、刪除測試、大批量插入測試等等。可找到對應的lua指令碼進行調用即可。

sysbench --threads=4          --time=20          --report-interval=5          --mysql-host=127.0.0.1          --mysql-port=3306          --mysql-user=root          [email protected]!          /usr/share/sysbench/oltp_read_write.lua          --tables=10          --table_size=100000          run

以下是測試返回的結果：

Initializing worker threads...Threads started!####以下是每5秒返回一次的結果，統計的指標包括：#### 線程數、tps(每秒事務數)、qps(每秒查詢數)、#### 每秒的讀/寫/其它次數、延遲、每秒錯誤數、每秒重連次數[ 5s ] thds: 4 tps: 130.16 qps: 2606.30 (r/w/o: 1824.51/520.66/261.13) lat (ms,95%): 104.84 err/s: 0.00 reconn/s: 0.00[ 10s ] thds: 4 tps: 126.74 qps: 2539.17 (r/w/o: 1778.17/507.52/253.47) lat (ms,95%): 108.68 err/s: 0.00 reconn/s: 0.00[ 15s ] thds: 4 tps: 136.54 qps: 2736.34 (r/w/o: 1915.25/548.01/273.07) lat (ms,95%): 102.97 err/s: 0.00 reconn/s: 0.00[ 20s ] thds: 4 tps: 107.44 qps: 2148.65 (r/w/o: 1505.60/428.17/214.89) lat (ms,95%): 132.49 err/s: 0.00 reconn/s: 0.00SQL statistics:    queries performed:        read:          35098   # 執行的讀運算元量        write:         10028   # 執行的寫運算元量        other:         5014    # 執行的其它運算元量        total:         50140    transactions:      2507   (124.29 per sec.)    # 執行事務的平均速率    queries:           50140  (2485.82 per sec.)   # 平均每秒能執行多少次查詢    ignored errors:    0      (0.00 per sec.)    reconnects:        0      (0.00 per sec.)General statistics:    total time:                  20.1694s     # 總消耗時間    total number of events:      2507         # 總請求數量(讀、寫、其它)Latency (ms):         min:                            2.32         avg:                           32.13         max:                          575.78         95th percentile:              118.92    # 採樣計算的平均延遲         sum:                        80554.96Threads fairness:    events (avg/stddev):           626.7500/2.49    execution time (avg/stddev):   20.1387/0.04

5.cpu/io/記憶體等測試

sysbench內建了幾個測試單位。

Compiled-in tests:  fileio - File I/O test  cpu - CPU performance test  memory - Memory functions speed test  threads - Threads subsystem performance test  mutex - Mutex performance test

可直接help輸出測試方法。例如，fileio測試。

[[email protected] ~]# sysbench fileio helpsysbench 1.0.15 (using bundled LuaJIT 2.1.0-beta2)fileio options:  --file-num=N                  number of files to create [128]  --file-block-size=N           block size to use in all IO operations [16384]  --file-total-size=SIZE        total size of files to create [2G]  --file-test-mode=STRING       test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}  --file-io-mode=STRING         file operations mode {sync,async,mmap} [sync]  --file-async-backlog=N        number of asynchronous operatons to queue per thread [128]  --file-extra-flags=[LIST,...] list of additional flags to use to open files {sync,dsync,direct} []  --file-fsync-freq=N           do fsync() after this number of requests (0 - don't use fsync()) [100]  --file-fsync-all[=on|off]     do fsync() after each write operation [off]  --file-fsync-end[=on|off]     do fsync() at the end of test [on]  --file-fsync-mode=STRING      which method to use for synchronization {fsync, fdatasync} [fsync]  --file-merged-requests=N      merge at most this number of IO requests if possible (0 - don't merge) [0]  --file-rw-ratio=N             reads/writes ratio for combined test [1.5]

例如，建立5個檔案，總共1G，每個檔案大概200M。

sysbench fileio --file-num=5 --file-total-size=1G prepare[[email protected] ~]# ls -lh test*-rw------- 1 root root 205M Jul  8 12:15 test_file.0-rw------- 1 root root 205M Jul  8 12:15 test_file.1-rw------- 1 root root 205M Jul  8 12:15 test_file.2-rw------- 1 root root 205M Jul  8 12:15 test_file.3-rw------- 1 root root 205M Jul  8 12:15 test_file.4

然後，運行測試。

sysbench --events=5000          --threads=16          fileio          --file-num=5          --file-total-size=1G          --file-test-mode=rndrw          --file-fsync-freq=0          --file-block-size=16384          run

結果：

File operations:    reads/s:                      98.67    writes/s:                     66.85    fsyncs/s:                     6.26Throughput:     # 輸送量    read, MiB/s:                  1.54  # 表示讀的頻寬    written, MiB/s:               1.04  # 表示讀的頻寬General statistics:    total time:                   12.7426s    total number of events:       2117Latency (ms):         min:                          0.00         avg:                         86.66         max:                       2919.41         95th percentile:            646.19         sum:                     183460.80Threads fairness:    events (avg/stddev):          132.3125/24.19    execution time (avg/stddev):  11.4663/1.09

再比例cpu效能測試：

[[email protected] ~]# sysbench cpu --threads=40 --events=10000 --cpu-max-prime=20000 runsysbench 1.0.15 (using bundled LuaJIT 2.1.0-beta2)Running the test with following options:Number of threads: 40Initializing random number generator from current timePrime numbers limit: 20000Initializing worker threads...Threads started!CPU speed:    events per second:  2127.81General statistics:    total time:                          4.6986s    total number of events:              10000Latency (ms):         min:                                    1.72         avg:                                   18.16         max:                                  302.17         95th percentile:                      110.66         sum:                               181628.49Threads fairness:    events (avg/stddev):           250.0000/30.81    execution time (avg/stddev):   4.5407/0.10

資料庫效能測試：sysbench用法詳解