最近在研究PHP,很喜歡,碰到PHP並發查詢MySQL的問題,本文主要介紹PHP並發查詢MySQL的執行個體代碼,小編覺得挺不錯的,現在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧,希望能協助到大家。
同步查詢
這是我們最常的調用模式,用戶端調用Query[函數],發起查詢命令,等待結果返回,讀取結果;再發送第二條查詢命令,等待結果返回,讀取結果。總耗時,會是兩次查詢的時間之和。簡化一下過程,例如:
例圖,由1.1到1.3為一個Query[函數]的調用,兩次查詢,就要串列經曆1.1、1.2、1.3、2.1、2.2、2.3,尤其在1.2和2.2會阻塞等待,進程沒法做其他事情。
同步調用的好處是,符合我們的直觀思維,調用和處理都簡單。缺點是進程阻塞在等待結果返回,增加額外的已耗用時間。
如果,有多條查詢請求,或者進程還有其他的事情處理,那麼能否把等待的時間也合理利用起來,提高進程的處理能力呢,顯然是可以的。
拆分
現在,我們把Query[函數]打碎,用戶端在1.1後,馬上返回,用戶端跳過1.2,在1.3有資料達到後再去讀取資料。這樣進程在原來的1.2階段就解放了,可以做更多的事情,例如…再發起一條sql查詢[2.1],是否看到了並發查詢的雛形了。
並發查詢
相對於同步查詢的下一條查詢的發起都在上一條完成後,並發查詢,可以在上一條查詢請求發起後,立刻發起下一條查詢請求。簡化一下過程,:
例圖,在1.1.1成功發送完請求後,立馬返回[1.1.2],最終查詢結果的返回時在遙遠的1.2 。但是在,1.1.1到1.2中間,還發起了另一個查詢請求,這時間段內,就同時發起了兩條查詢請求,2.2先於1.2到達,那麼兩條查詢的總耗時,只相當於第一條查詢的時間。
並發查詢的優點是,可以提高進程的使用率,避免阻塞等待伺服器處理查詢,縮短了多條查詢的耗時。但缺點也很明顯,發起N條並發查詢,就需要建立N條資料庫連結,對於有資料庫連接池的應用來說,可以避免這種情況。
退化
理想情況下,我們希望並發N條查詢,總耗時等於查詢時間最長的一條查詢。但也有可能並發查詢會[退化]為[同步查詢]。What?例圖中,如果1.2在2.1.1前就返回了,那麼並發查詢就[退化]為[同步查詢]了,但付出的代價卻比同步查詢要高。
多工
發起query1
發起query2
發起query3
………
等待query1、query2、query3
讀取query2結果
讀取query1結果
讀取query3結果
那麼,怎麼等待知道什麼時候查詢結果返回了,又是哪個的查詢結果返回呢?
對每個查詢IO調用read?如果是遇上阻塞IO,這樣就會阻塞在一個IO上,其他IO有結果返回了,也沒法處理。那麼,如果是非阻塞IO,那不用怕會阻塞在其中一個IO上了,確實是,但又會造成不斷地輪詢判斷,浪費CPU資源。
對於這種情況可以使用多工輪詢多個IO。
PHP實現並發查詢MySQL
PHP的mysqli(mysqlnd驅動)提供多工輪詢IO(mysqli_poll)和非同步查詢(MYSQLI_ASYNC、mysqli_reap_async_query),使用這兩個特性實現並發查詢,範例程式碼:
<?php $sqls = array( 'SELECT * FROM `mz_table_1` LIMIT 1000,10', 'SELECT * FROM `mz_table_1` LIMIT 1010,10', 'SELECT * FROM `mz_table_1` LIMIT 1020,10', 'SELECT * FROM `mz_table_1` LIMIT 10000,10', 'SELECT * FROM `mz_table_2` LIMIT 1', 'SELECT * FROM `mz_table_2` LIMIT 5,1' ); $links = []; $tvs = microtime(); $tv = explode(' ', $tvs); $start = $tv[1] * 1000 + (int)($tv[0] * 1000); // 連結資料庫,並發起非同步查詢 foreach ($sqls as $sql) { $link = mysqli_connect('127.0.0.1', 'root', 'root', 'dbname', '3306'); $link->query($sql, MYSQLI_ASYNC); // 發起非同步查詢,立即返回 $links[$link->thread_id] = $link; } $llen = count($links); $process = 0; do { $r_array = $e_array = $reject = $links; // 多工輪詢IO if(!($ret = mysqli_poll($r_array, $e_array, $reject, 2))) { continue; } // 讀取有結果返回的查詢,處理結果 foreach ($r_array as $link) { if ($result = $link->reap_async_query()) { print_r($result->fetch_row()); if (is_object($result)) mysqli_free_result($result); } else { } // 操作完後,把當前資料連結從待輪詢集合中刪除 unset($links[$link->thread_id]); $link->close(); $process++; } foreach ($e_array as $link) { die; } foreach ($reject as $link) { die; } }while($process < $llen); $tvs = microtime(); $tv = explode(' ', $tvs); $end = $tv[1] * 1000 + (int)($tv[0] * 1000); echo $end - $start,PHP_EOL;
mysqli_poll源碼:
#ifndef PHP_WIN32#define php_select(m, r, w, e, t) select(m, r, w, e, t)#else#include "win32/select.h"#endif/* {{{ mysqlnd_poll */PHPAPI enum_func_statusmysqlnd_poll(MYSQLND **r_array, MYSQLND **e_array, MYSQLND ***dont_poll, long sec, long usec, int * desc_num){ struct timeval tv; struct timeval *tv_p = NULL; fd_set rfds, wfds, efds; php_socket_t max_fd = 0; int retval, sets = 0; int set_count, max_set_count = 0; DBG_ENTER("_mysqlnd_poll"); if (sec < 0 || usec < 0) { php_error_docref(NULL, E_WARNING, "Negative values passed for sec and/or usec"); DBG_RETURN(FAIL); } FD_ZERO(&rfds); FD_ZERO(&wfds); FD_ZERO(&efds); // 從所有mysqli連結中擷取socket連結描述符 if (r_array != NULL) { *dont_poll = mysqlnd_stream_array_check_for_readiness(r_array); set_count = mysqlnd_stream_array_to_fd_set(r_array, &rfds, &max_fd); if (set_count > max_set_count) { max_set_count = set_count; } sets += set_count; } // 從所有mysqli連結中擷取socket連結描述符 if (e_array != NULL) { set_count = mysqlnd_stream_array_to_fd_set(e_array, &efds, &max_fd); if (set_count > max_set_count) { max_set_count = set_count; } sets += set_count; } if (!sets) { php_error_docref(NULL, E_WARNING, *dont_poll ? "All arrays passed are clear":"No stream arrays were passed"); DBG_ERR_FMT(*dont_poll ? "All arrays passed are clear":"No stream arrays were passed"); DBG_RETURN(FAIL); } PHP_SAFE_MAX_FD(max_fd, max_set_count); // select輪詢阻塞時間 if (usec > 999999) { tv.tv_sec = sec + (usec / 1000000); tv.tv_usec = usec % 1000000; } else { tv.tv_sec = sec; tv.tv_usec = usec; } tv_p = &tv; // 輪詢,等待多個IO可讀,php_select是select的宏定義 retval = php_select(max_fd + 1, &rfds, &wfds, &efds, tv_p); if (retval == -1) { php_error_docref(NULL, E_WARNING, "unable to select [%d]: %s (max_fd=%d)", errno, strerror(errno), max_fd); DBG_RETURN(FAIL); } if (r_array != NULL) { mysqlnd_stream_array_from_fd_set(r_array, &rfds); } if (e_array != NULL) { mysqlnd_stream_array_from_fd_set(e_array, &efds); } // 返回可操作的IO數量 *desc_num = retval; DBG_RETURN(PASS);}
並發查詢操作結果
為了更直觀地看效果,我找了一個1.3億資料量並且沒有最佳化過的表進行操作。
並發查詢的結果:
同步查詢的結果:
從結果來看,同步查詢的總耗時是所有查詢的時間的累加;而並發查詢的總耗時在這裡其實是查詢時間最長的那一條(同步查詢的第四條,耗時是10幾秒,符合并發查詢的總耗時),而且並發查詢的查詢順序和結果到達的順序是不一樣的。
多條耗時較短的查詢對比
使用多條查詢時間較短的sql進行對比一下
並發查詢的測試1結果(資料庫連結時間也統計進去):
同步查詢的結果(資料庫連結時間也統計進去):
並發查詢的測試2結果(不統計資料庫連結時間):
從結果上看,並發查詢測試1並沒有討到好處。從同步查詢上看,每條查詢耗時大概3-4ms左右。但如果不把資料庫連結時間統計進去(同步查詢只有一次資料庫連結),並發查詢的優勢又能體現出來了。
結語
這裡探討了一下PHP實現並發查詢MySQL,從實驗上結果直觀地認識了並發查詢的優缺點。建立資料庫連接的時間在一條最佳化了的sql查詢上,佔得比重還是很大。#沒有串連池,要你何用