Hive&Hbase

標籤：from   命名空間   控制   社交   缺點   pac   com   hba   row   

1. 兩者分別是什嗎？  

 Apache Hive是一個構建在Hadoop基礎設施之上的資料倉儲。通過Hive可以使用HQL語言查詢存放在HDFS上的資料。HQL是一種類SQL語言，這種語言最終被轉化為Map/Reduce. 雖然Hive提供了SQL查詢功能，但是Hive不能夠進行互動查詢--因為它只能夠在Haoop上批量的執行Hadoop。

    Apache HBase是一種Key/Value系統，它運行在HDFS之上。和Hive不一樣，Hbase的能夠在它的資料庫上即時運行，而不是運行MapReduce任務。Hive被分區為表格，表格又被進一步分割為列簇。列簇必須使用schema定義，列簇將某一類型列集合起來（列不要求schema定義）。例如，“message”列簇可能包含：“to”, ”from” “date”, “subject”, 和”body”. 每一個 key/value對在Hbase中被定義為一個cell，每一個key由row-key，列簇、列和時間戳記。在Hbase中，行是key/value映射的集合，這個映射通過row-key來唯一標識。Hbase利用Hadoop的基礎設施，可以利用通用的裝置進行水平的擴充。

2. 兩者的特點

  Hive協助熟悉SQL的人運行MapReduce任務。因為它是JDBC相容的，同時，它也能夠和現存的SQL工具整合在一起。運行Hive查詢會花費很長時間，因為它會預設遍曆表中所有的資料。雖然有這樣的缺點，一次遍曆的資料量可以通過Hive的分區機制來控制。分區允許在資料集上運行過濾查詢，這些資料集儲存在不同的檔案夾內，查詢的時候只遍曆指定檔案夾（分區）中的資料。這種機制可以用來，例如，只處理在某一個時間範圍內的檔案，只要這些檔案名稱中包括了時間格式。

    HBase通過儲存key/value來工作。它支援四種主要的操作：增加或者更新行，查看一個範圍內的cell，擷取指定的行，刪除指定的行、列或者是列的版本。版本資訊用來擷取曆史資料（每一行的曆史資料可以被刪除，然後通過Hbase compactions就可以釋放出空間）。雖然HBase包括表格，但是schema僅僅被表格和列簇所要求，列不需要schema。Hbase的表格包括增加/計數功能。

3. 限制

  Hive目前不支援更新操作。另外，由於hive在hadoop上運行大量操作，它需要花費很長的時間，通常是幾分鐘到幾個小時才可以擷取到查詢的結果。Hive必須提供預先定義好的schema將檔案和目錄映射到列，並且Hive與ACID不相容。

    HBase查詢是通過特定的語言來編寫的，這種語言需要重新學習。類SQL的功能可以通過Apache Phonenix實現，但這是以必須提供schema為代價的。另外，Hbase也並不是相容所有的ACID特性，雖然它支援某些特性。最後但不是最重要的--為了運行Hbase，Zookeeper是必須的，zookeeper是一個用來進行分布式協調的服務，這些服務包括佈建服務，維護元資訊和命名空間服務。

4. 應用情境

    Hive適合用來對一段時間內的資料進行分析查詢，例如，用來計算趨勢或者網站的日誌。Hive不應該用來進行即時的查詢。因為它需要很長時間才可以返回結果。

    Hbase非常適合用來進行大資料的即時查詢。Facebook用Hbase進行訊息和即時的分析。它也可以用來統計Facebook的串連數。

5. 總結

    Hive和Hbase是兩種基於Hadoop的不同技術--Hive是一種類SQL的引擎，並且運行MapReduce任務，Hbase是一種在Hadoop之上的NoSQL 的Key/vale資料庫。當然，這兩種工具是可以同時使用的。就像用Google來搜尋，用FaceBook進行社交一樣，Hive可以用來進行統計查詢，HBase可以用來進行即時查詢，資料也可以從Hive寫到Hbase，設定再從Hbase寫回Hive。

Hive&Hbase