PHP讀取CSV大檔案匯入資料庫

來源:互聯網
上載者:User

標籤:

PHP如何對CSV大檔案進行讀取並匯入資料庫?

對於數百萬條資料量的CSV檔案,檔案大小可能達到數百M,如果簡單讀取的話很可能出現逾時或者卡死的現象。

為了成功將CSV檔案裡的資料匯入資料庫,分批處理是非常必要的。

下面這個函數是讀取CSV檔案中指定的某幾行資料:

/**  * csv_get_lines 讀取CSV檔案中的某幾行資料  * @param $csvfile csv檔案路徑  * @param $lines 讀取行數  * @param $offset 起始行數  * @return array  * */ function csv_get_lines($csvfile, $lines, $offset = 0) { if(!$fp = fopen($csvfile, ‘r‘)) { return false; } $i = $j = 0; while (false !== ($line = fgets($fp))) { if($i++ < $offset) { continue; } break; } $data = array(); while(($j++ < $lines) && !feof($fp)) { $data[] = fgetcsv($fp); } fclose($fp); return $data; }
調用方法:

 

$data = csv_get_lines(‘path/bigfile.csv‘, 10, 2000000);

print_r($data);

函數主要採用行定位的思路,通過跳過起始行數來實現檔案指標定位。

至於資料如何入庫本文不再詳細講述。

上述函數對500M以內的檔案進行過測試,運行通暢,對於更大的檔案未做測試,請斟酌使用或加以改進。

PHP讀取CSV大檔案匯入資料庫

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.