MongoDB Hadoop Connector發布

來源:互聯網
上載者:User

10gen剛剛發布了MongoDB Hadoop Connector的1.0版本,它是一個中介軟體產品,用於將MongoDB和Hadoop串連起來,讓MongoDB可以方便的使用Hadoop的分散式運算能力。

MongoDB Hadoop Connector的主要流程是讓Hadoop從MongoDB中讀取未經處理資料,在通過Hadoop計算完成後,再將結果匯入到MongoDB中。原始數 據的讀取和結果寫入可以對同一個MongoDB,也可以是不同的。其主要目的是讓使用MongoDB的使用者能夠更方便地直接使用Hadoop功能。

目前MongoDB Hadoop Connector已經與Hadoop生態系統中的一些組件進行了整合,後續還會根據反饋進行更全方便的整合。具體如下:

  • 可以通過 Pig 向 MongoDB 中寫入資料。
  • 可以通過分布式日誌系統 Flume 往MongoDB中匯入日誌未經處理資料。
  • 通過使用Hadoop Streaming,可以用 Python來寫 MapReduce函數。

MongoDB Hadoop Connector目前支援2.0以上的版本(1.8.x版本也基本上能夠支援)。

當然項目是開源的,項目地址:mongo-hadoop

訊息來源:blog.10gen.com

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.