兩者分別是什么?
Apache Hive是一個(gè)構建在hadoop基礎設施之上的數據倉庫。通過(guò)Hive可以使用HQL語(yǔ)言查詢(xún)存放在HDFS上的數據。HQL是一種類(lèi)SQL語(yǔ)言,這種語(yǔ)言最終被轉化為Map/Reduce. 雖然Hive提供了SQL查詢(xún)功能,但是Hive不能夠進(jìn)行交互查詢(xún)–因為它只能夠在Haoop上批量的執行Hadoop。
Apache HBase是一種Key/Value系統,它運行在HDFS之上。和Hive不一樣,Hbase的能夠在它的數據庫上實(shí)時(shí)運行,而不是運行MapReduce任務(wù)。Hive被分區為表格,表格又被進(jìn)一步分割為列簇。列簇必須使用schema定義,列簇將某一類(lèi)型列集合起來(lái)(列不要求schema定義)。例如,“message”列簇可能包含:“to”, ”from” “date”, “subject”, 和”body”. 每一個(gè) key/value對在Hbase中被定義為一個(gè)cell,每一個(gè)key由row-key,列簇、列和時(shí)間戳。在Hbase中,行是key/value映射的集合,這個(gè)映射通過(guò)row-key來(lái)唯一標識。Hbase利用Hadoop的基礎設施,可以利用通用的設備進(jìn)行水平的擴展。
兩者的特點(diǎn)
Hive幫助熟悉SQL的人運行MapReduce任務(wù)。因為它是JDBC兼容的,同時(shí),它也能夠和現存的SQL工具整合在一起。運行Hive查詢(xún)會(huì )花費很長(cháng)時(shí)間,因為它會(huì )默認遍歷表中所有的數據。雖然有這樣的缺點(diǎn),一次遍歷的數據量可以通過(guò)Hive的分區機制來(lái)控制。分區允許在數據集上運行過(guò)濾查詢(xún),這些數據集存儲在不同的文件夾內,查詢(xún)的時(shí)候只遍歷指定文件夾(分區)中的數據。這種機制可以用來(lái),例如,只處理在某一個(gè)時(shí)間范圍內的文件,只要這些文件名中包括了時(shí)間格式。
HBase通過(guò)存儲key/value來(lái)工作。它支持四種主要的操作:增加或者更新行,查看一個(gè)范圍內的cell,獲取指定的行,刪除指定的行、列或者是列的版本。版本信息用來(lái)獲取歷史數據(每一行的歷史數據可以被刪除,然后通過(guò)Hbase compactions就可以釋放出空間)。雖然HBase包括表格,但是schema僅僅被表格和列簇所要求,列不需要schema。Hbase的表格包括增加/計數功能。
限制
Hive目前不支持更新操作。另外,由于hive在hadoop上運行批量操作,它需要花費很長(cháng)的時(shí)間,通常是幾分鐘到幾個(gè)小時(shí)才可以獲取到查詢(xún)的結果。Hive必須提供預先定義好的schema將文件和目錄映射到列,并且Hive與ACID不兼容。
HBase查詢(xún)是通過(guò)特定的語(yǔ)言來(lái)編寫(xiě)的,這種語(yǔ)言需要重新學(xué)習。類(lèi)SQL的功能可以通過(guò)Apache Phonenix實(shí)現,但這是以必須提供schema為代價(jià)的。另外,Hbase也并不是兼容所有的ACID特性,雖然它支持某些特性。最后但不是最重要的–為了運行Hbase,Zookeeper是必須的,zookeeper是一個(gè)用來(lái)進(jìn)行分布式協(xié)調的服務(wù),這些服務(wù)包括配置服務(wù),維護元信息和命名空間服務(wù)。
應用場(chǎng)景
Hive適合用來(lái)對一段時(shí)間內的數據進(jìn)行分析查詢(xún),例如,用來(lái)計算趨勢或者網(wǎng)站的日志。Hive不應該用來(lái)進(jìn)行實(shí)時(shí)的查詢(xún)。因為它需要很長(cháng)時(shí)間才可以返回結果。
Hbase非常適合用來(lái)進(jìn)行大數據的實(shí)時(shí)查詢(xún)。Facebook用Hbase進(jìn)行消息和實(shí)時(shí)的分析。它也可以用來(lái)統計Facebook的連接數。
總結
Hive和Hbase是兩種基于Hadoop的不同技術(shù)–Hive是一種類(lèi)SQL的引擎,并且運行MapReduce任務(wù),Hbase是一種在Hadoop之上的NoSQL 的Key/vale數據庫。當然,這兩種工具是可以同時(shí)使用的。就像用Google來(lái)搜索,用FaceBook進(jìn)行社交一樣,Hive可以用來(lái)進(jìn)行統計查詢(xún),HBase可以用來(lái)進(jìn)行實(shí)時(shí)查詢(xún),數據也可以從Hive寫(xiě)到Hbase,設置再從Hbase寫(xiě)回Hive。
聯(lián)系客服