DataFu在Apache進入孵化狀態_hadoop

來源:互聯網
上載者:User

該項目建立於2012年1月,早期的定位是作為Pig項目的使用者定義函數集(UDF )。相對於更加通用的UDF集如Piggybank,Datafu更側重於資料採礦和統計 類的函數,例如分位元計算和取樣方法。2013年10月,一個名為DataFu Hourglass的新庫加入到此項目。Hourglass是用於MapReduce的類庫,為作業提供了處理增量資料的能力。其處理方式一般是在HDFS中儲存上一個作業的狀態,並用它來處理新的輸入。現在這兩個項目都成為孵化器的一部分。

DataFu在Apache進入孵化狀態,是其前進過程中的一大步。任何項目都要經過嚴格的審查,完成投票程式才能進入孵化器。2012年初建立的DataFu,2014年初才成功進入孵化器。通常,一個Apache項目完成孵化需要一定的時間,一旦項目的相關服務(wiki、郵件清單、教程等等)建設完成,DataFu將結束孵化,成為ASF的頂級項目或者Hadoop的子項目。

隨著最近進入Apache孵化器,DataFu有了很多近期的發展計劃。其中最關鍵的功能之一是為Hive和Crunch提供同一UDF,以使其得到更大範圍的應用。其中包括將項目的構建系統移植到Gradle,這些工作DataFu社區目前正在做。構建系統從Ant改為Gradle的好處是能夠鞏固社區,使其以更簡單的 流程添加新功能。

DataFu社區還比較小,但保持著穩定的增長。Russell Jurney最近的貢獻使Open NLP項目成了DataFu 1.3.0的一部分。郵件清單中討論的焦點是增加更多UDF,就像項目貢獻者Matthew Hayes和Sam Shah所描述的,讓DataFu成為“大資料的WD-40”。

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.