怎麼實現從資料查詢資料的時候判斷如果資料大於N條分次查詢 遞迴嗎?

來源:互聯網
上載者:User
比如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或者其他問題 我想每次取10000 三次取完 這隻是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝!!!
還有就是如果查倆張表的資料 合并在一起 還有辦法排序嗎根據某個欄位?

回複內容:

比如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或者其他問題 我想每次取10000 三次取完 這隻是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝!!!
還有就是如果查倆張表的資料 合并在一起 還有辦法排序嗎根據某個欄位?

謝邀,對於資料量較大的結果集,我目前一般採用以下兩種方式處理。採用這兩種方式處理的目的就是:一是減少資料集擷取時頻寬資源的佔用,二是減少程式對結果集處理時記憶體的使用。

  1. 分塊,就是題主的思路

$sql = 'SELECT xxx FROM table WHERE xxx LIMIT limit :limit offset :offset';$limit = 10000;$offset = 0;do{    $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY));    $stmt->execute(array(':limit' => $limit, ':offset' => $offset));    $data = $stmt->fetchAll();    // 處理邏輯    $offset += $limit;}while(count($data));
  1. 遊標,按行讀取返回

$sql = 'SELECT xxx FROM table WHERE xxx';$stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_SCROLL));$stmt->execute();$row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_LAST);do {    // 處理邏輯 $row} while ($row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_PRIOR));

個人建議當你要尋找後面的分塊的時候,用where條件而不是直接limit 100000 , 100000
二者區別舉例如下:

//這個是第一種,取第20w開始的10w條資料select * from table limit 100000 , 100000 order by id//這是第二種取法select * from table where id > 100000 limit 100000 order by id因為mysql用limit越往後,排序之後取後面的越慢

直接通過sql語句就能搞定呀,不需要幕後處理;可以排序呀,根據你指定欄位order by就行了

連表查詢
例如:SELECT a.* from tableA as a, tableB as b where a.id = b.id order by a.id desc limit 0,10000";

你可以先select count(1) from table where 條件。看看一共有多少資料。大於N條的時候,
你再select * from table limit m,n 分頁查詢
2張表的話就
select * from table1 union all select * form table2 order by 某個欄位。注意查詢的列數量要一樣。最好類型也一樣

假設表id均勻分布的情況下,可以利用ID的區間來分段查詢資料

//每次計劃讀取的資料條數$max_per_size = 10000;//找到合格最小ID和最大ID$sql = "SELECT min(id),max(id) AS max_id AS num FROM `table` WHERE xx='xx'";$stmt = $pdo->prepare($sql);$stmt->execute();$res = $stmt->fetch(PDO::FETCH_ASSOC);//合格最大ID$max_id = $res['max_id'];//合格最小ID$min_id = $res['min_id'];$times = ceil(($max_id - $min_id + 1) / $max_per_size);//第一次的ID區間$current_min_id = $min_id;$current_max_id = $min_id + $max_per_page;for($i = 0; $i<$times; $i++) {    //產生SQL語句    $sql = "SELECT * FROM `table` WHERE xx='xx' AND (id>= {$current_min_id} AND id <= {$current_max_id})";    //得到資料之後的操作    //.........    //重新計算下一次的ID區間    $current_min_id = $current_max_id + 1;    $current_max_id = $current_max_id + $max_per_page;    if ($current_max_id > $max_id) {        $current_max_id = $max_id;    }}
  • 聯繫我們

    該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

    如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

    A Free Trial That Lets You Build Big!

    Start building with 50+ products and up to 12 months usage for Elastic Compute Service

    • Sales Support

      1 on 1 presale consultation

    • After-Sales Support

      24/7 Technical Support 6 Free Tickets per Quarter Faster Response

    • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.