hbase優化

HBase的性能優化

1.數據寫入到WAL和memstore中。

  memstore中的數據flush到HDFS中。

  數據存放在內存中,一般存放在jvm中的新生代、老生代區域。

  memstore一般設置大小爲128MB。

  設置合理的memstore的值,可以提高數據裝載到HBase中的速度。

 

2.對列簇啓用壓縮

  比如GZIP、LZO、Zippy、Snappy
 

3.對region進行預拆分

    region熱點

    bin/hbase org.apache.hadoop.hbase.util.RegionSplitter -c 10 aaa -f cf HexStringSplitter

   

4.當數據進行勻速的批量裝載的時候,當多個region達到指定的閾值時,就會同時進行分裂,形成分裂風暴。

   可進行手工提前分裂。
發佈了84 篇原創文章 · 獲贊 3 · 訪問量 5萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章