php+ajax匯入大資料時產生的問題處理_php執行個體

遇到的問題就從先到後的一一說吧。

問題1 按照我最初的想法，先上傳檔案再讀取檔案。這裡問題就來了，當檔案較大的時候上傳較慢，導致客戶看到的操作一直處於等待狀態，不人性化。

處理辦法：我是這樣做的，大神有更好的辦法，求介紹。我先把檔案上傳上去，然後把檔案存到一個特定的檔案夾就叫 import吧   ，然後返回一個這個檔案名稱字。這樣就確保了檔案是上傳成功的。並且我可以在他返回名字的這一步用js  給客戶一個提示。然後就是ajax去請求php讀取檔案，插入資料庫。可是問題來了。

問題2 當我用ajax去請求php讀取檔案並插入資料庫的時候，遇到一個問題，就是ajax請求總是在1min的時候，斷掉。我一想 ，這應該是php的最大執行時間max_execution_time的原因吧，結果我修改為300秒。還是這樣，那我就認為會不會是apache的 最大get時間max_input_time呢，我就在代碼加一個 ini_set  結果，用ini_get   查看max_input_time,用ini_set設定無效，還是60秒，在網上查了很多資料，還是不知道為啥。有大神知道的，請給我回複下。菜鳥先謝過了。那沒辦法，我只能去伺服器把php.ini配置修改了。經理說不讓修改的，為了測試，偷偷改了--最後修改回來了。修改之後，測試，還是不行。還是到一分鐘 就執行逾時。真的很納悶。不知道什麼原因。求指教。那沒辦法。

這種辦法行不通了，對一個5m的檔案只能分行讀取了。然後就是對代碼的一通修改，分行讀取是這樣操作的，先ajax請求，然後每次讀取2000條  然後對這2000條資料進行處理，插入資料庫（文章最後介紹一個好用的分行讀取函數）。然後每次ajax執行完，返回一個狀態符，和本次讀取到的行數，然後下次接著讀。知道最後讀取完。這中間還遇到一個問題：就是當我對每一行資料進行查重的時候遇到的，是這樣的，我對得到的內容進行迴圈，然後查一下每行是否存在，當我判斷$count是否大於0 的時候，當已存在的時候，我用continue，執行下一次迴圈。但是當我在匯入10000條的時候，總是在8000條的時候報錯說 伺服器內部錯誤。很悶，不解問什麼，結果只能用if  else代替了。納悶。一個小提醒：插入資料庫的時候 不要一條一條的插入，最好這樣 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。這樣 速度會快很多。

行號讀取函數，SplFileObject這個類庫真的很好用推薦。有知道我的問題的，求大神指教。

複製代碼 代碼如下:

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 轉到第N行, seek方法參數從0開始計數
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()擷取當前行內容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter過濾：false,null,''
}