記憶體對應檔方式(MappedByteBuffer)處理檔案的執行個體

來源:互聯網
上載者:User

標籤:

package org.phoenix.cases.kafka;import java.io.File;import java.io.FileNotFoundException;import java.io.FileReader;import java.io.IOException;import java.io.RandomAccessFile;import java.nio.MappedByteBuffer;import java.nio.channels.FileChannel;import org.apache.commons.io.IOUtils;import org.apache.commons.io.LineIterator;import org.junit.Test;/** * 記憶體對應檔方式處理檔案的執行個體 * @author mengfeiyang * */public class MappedBytes { String filePath = "E:\\工作目錄\\新項目\\鳳舞一期\\backup\\new_show_style_json.txt";   /**  * 記憶體對應檔方式處理檔案的執行個體  * @throws FileNotFoundException  * @throws IOException  */ @SuppressWarnings("resource") @Test public void testMappedByte() throws FileNotFoundException, IOException {  long start = System.currentTimeMillis();  File file = new File(filePath);  long fileLength = file.length();  final int BUFFER_SIZE=0x500000;//5M  MappedByteBuffer inputBuffer = new RandomAccessFile(file,"rw").getChannel().map(FileChannel.MapMode.READ_WRITE, 0, fileLength);  byte[] dst = new byte[BUFFER_SIZE];  int count=0;  for(int offset=0;offset<fileLength;offset += BUFFER_SIZE){            if (fileLength - offset >= BUFFER_SIZE) {                    for (int i = 0; i < BUFFER_SIZE; i++)                        dst[i] = inputBuffer.get(offset + i);                } else {                    for (int i = 0; i < fileLength - offset; i++)                        dst[i] = inputBuffer.get(offset + i);                }                String bs = new String(dst,"UTF-8");//將buffer中的位元組轉成字串            String[] ns = bs.split("\n");            for(String s : ns){             if(s.contains("-1-")){              count++;              System.out.println(s.split("-1-")[0]);             }            }                       System.out.println();            //String s = IOUtils.toString(new ByteArrayInputStream(dst));            //System.out.println(s);  }  System.out.println("總處理條數:"+count);  long end = System.currentTimeMillis();   System.out.println((end - start)/1000);//處理809M的檔案,90000條資料,只用了6秒 }  }}


記憶體對應檔方式(MappedByteBuffer)處理檔案的執行個體

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.