比如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或者其他問題 我想每次取10000 三次取完 這隻是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝!!!
還有就是如果查倆張表的資料 合并在一起 還有辦法排序嗎根據某個欄位?
回複內容:
比如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或者其他問題 我想每次取10000 三次取完 這隻是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝!!!
還有就是如果查倆張表的資料 合并在一起 還有辦法排序嗎根據某個欄位?
謝邀,對於資料量較大的結果集,我目前一般採用以下兩種方式處理。採用這兩種方式處理的目的就是:一是減少資料集擷取時頻寬資源的佔用,二是減少程式對結果集處理時記憶體的使用。
分塊,就是題主的思路
$sql = 'SELECT xxx FROM table WHERE xxx LIMIT limit :limit offset :offset';$limit = 10000;$offset = 0;do{ $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY)); $stmt->execute(array(':limit' => $limit, ':offset' => $offset)); $data = $stmt->fetchAll(); // 處理邏輯 $offset += $limit;}while(count($data));
遊標,按行讀取返回
$sql = 'SELECT xxx FROM table WHERE xxx';$stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_SCROLL));$stmt->execute();$row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_LAST);do { // 處理邏輯 $row} while ($row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_PRIOR));
個人建議當你要尋找後面的分塊的時候,用where條件而不是直接limit 100000 , 100000:
二者區別舉例如下:
//這個是第一種,取第20w開始的10w條資料select * from table limit 100000 , 100000 order by id//這是第二種取法select * from table where id > 100000 limit 100000 order by id因為mysql用limit越往後,排序之後取後面的越慢
直接通過sql語句就能搞定呀,不需要幕後處理;可以排序呀,根據你指定欄位order by就行了
連表查詢
例如:SELECT a.* from tableA as a, tableB as b where a.id = b.id order by a.id desc limit 0,10000";
你可以先select count(1) from table where 條件。看看一共有多少資料。大於N條的時候,
你再select * from table limit m,n 分頁查詢
2張表的話就
select * from table1 union all select * form table2 order by 某個欄位。注意查詢的列數量要一樣。最好類型也一樣
假設表id均勻分布的情況下,可以利用ID的區間來分段查詢資料
//每次計劃讀取的資料條數$max_per_size = 10000;//找到合格最小ID和最大ID$sql = "SELECT min(id),max(id) AS max_id AS num FROM `table` WHERE xx='xx'";$stmt = $pdo->prepare($sql);$stmt->execute();$res = $stmt->fetch(PDO::FETCH_ASSOC);//合格最大ID$max_id = $res['max_id'];//合格最小ID$min_id = $res['min_id'];$times = ceil(($max_id - $min_id + 1) / $max_per_size);//第一次的ID區間$current_min_id = $min_id;$current_max_id = $min_id + $max_per_page;for($i = 0; $i<$times; $i++) { //產生SQL語句 $sql = "SELECT * FROM `table` WHERE xx='xx' AND (id>= {$current_min_id} AND id <= {$current_max_id})"; //得到資料之後的操作 //......... //重新計算下一次的ID區間 $current_min_id = $current_max_id + 1; $current_max_id = $current_max_id + $max_per_page; if ($current_max_id > $max_id) { $current_max_id = $max_id; }}