高可用
在HBase中Hmaster負責監控RegionServer的生命週期,均衡RegionServer的負載,如果Hmaster掛掉了,那麼整個HBase集羣將陷入不健康的狀態,並且此時的工作狀態並不會維持太久。所以HBase支持對Hmaster的高可用配置。
關閉HBase集羣(如果沒有開啓則跳過此步)
[liujh@hadoop102 hbase]$ bin/stop-hbase.sh
在conf目錄下創建backup-masters文件
[liujh@hadoop102 hbase]$ touch conf/backup-masters
在backup-masters文件中配置高可用HMaster節點
[liujh@hadoop102 hbase]$ echo hadoop103 > conf/backup-masters
將整個conf目錄scp到其他節點
[liujh@hadoop102 hbase]$ scp -r conf/ hadoop103:/opt/module/hbase/
[liujh@hadoop102 hbase]$ scp -r conf/ hadoop104:/opt/module/hbase/
打開頁面測試查看
預分區
每一個region維護着startRow與endRowKey,如果加入的數據符合某個region維護的rowKey範圍,則該數據交給這個region維護。那麼依照這個原則,我們可以將數據所要投放的分區提前大致的規劃好,以提高HBase性能。
手動設定預分區
hbase> create 'staff1','info','partition1',SPLITS => ['1000','2000','3000','4000']
生成16進制序列預分區
create 'staff2','info','partition2',{NUMREGIONS => 15, SPLITALGO => 'HexStringSplit'}
按照文件中設置的規則預分區
創建splits.txt文件內容如下:
aaaa
bbbb
cccc
dddd
然後執行:
create 'staff3','partition3',SPLITS_FILE => 'splits.txt'
使用JavaAPI創建預分區
//自定義算法,產生一系列Hash散列值存儲在二維數組中
byte[][] splitKeys = 某個散列值函數
//創建HBaseAdmin實例
HBaseAdmin hAdmin = new HBaseAdmin(HBaseConfiguration.create());
//創建HTableDescriptor實例
HTableDescriptor tableDesc = new HTableDescriptor(tableName);
//通過HTableDescriptor實例和散列值二維數組創建帶有預分區的HBase表
hAdmin.createTable(tableDesc, splitKeys);
RowKey設計
一條數據的唯一標識就是rowkey,那麼這條數據存儲於哪個分區,取決於rowkey處於哪個一個預分區的區間內,設計rowkey的主要目的 ,就是讓數據均勻的分佈於所有的region中,在一定程度上防止數據傾斜。接下來我們就談一談rowkey常用的設計方案。
生成隨機數、hash、散列值
比如:
原本rowKey爲1001的,SHA1後變成:dd01903921ea24941c26a48f2cec24e0bb0e8cc7
原本rowKey爲3001的,SHA1後變成:49042c54de64a1e9bf0b33e00245660ef92dc7bd
原本rowKey爲5001的,SHA1後變成:7b61dec07e02c188790670af43e717f0f46e8913
在做此操作之前,一般我們會選擇從數據集中抽取樣本,來決定什麼樣的rowKey來Hash後作爲每個分區的臨界值。
字符串反轉
20170524000001轉成10000042507102
20170524000002轉成20000042507102
這樣也可以在一定程度上散列逐步put進來的數據。
字符串拼接
20170524000001_a12e
20170524000001_93i7
內存優化
HBase操作過程中需要大量的內存開銷,畢竟Table是可以緩存在內存中的,一般會分配整個可用內存的70%給HBase的Java堆。但是不建議分配非常大的堆內存,因爲GC過程持續太久會導致RegionServer處於長期不可用狀態,一般16~48G內存就可以了,如果因爲框架佔用內存過高導致系統內存不足,框架一樣會被系統服務拖死。
基礎優化
允許在HDFS的文件中追加內容
hdfs-site.xml、hbase-site.xml
屬性:dfs.support.append
解釋:開啓HDFS追加同步,可以優秀的配合HBase的數據同步和持久化。默認值爲true。
優化DataNode允許的最大文件打開數
hdfs-site.xml
屬性:dfs.datanode.max.transfer.threads
解釋:HBase一般都會同一時間操作大量的文件,根據集羣的數量和規模以及數據動作,設置爲4096或者更高。默認值:4096
優化延遲高的數據操作的等待時間
hdfs-site.xml
屬性:dfs.image.transfer.timeout
解釋:如果對於某一次數據操作來講,延遲非常高,socket需要等待更長的時間,建議把該值設置爲更大的值(默認60000毫秒),以確保socket不會被timeout掉。
優化數據的寫入效率
mapred-site.xml
屬性:
mapreduce.map.output.compress
mapreduce.map.output.compress.codec
解釋:開啓這兩個數據可以大大提高文件的寫入效率,減少寫入時間。第一個屬性值修改爲true,第二個屬性值修改爲:org.apache.hadoop.io.compress.GzipCodec或者其他壓縮方式。
設置RPC監聽數量
hbase-site.xml
屬性:hbase.regionserver.handler.count
解釋:默認值爲30,用於指定RPC監聽的數量,可以根據客戶端的請求數進行調整,讀寫請求較多時,增加此值。
優化HStore文件大小
hbase-site.xml
屬性:hbase.hregion.max.filesize
解釋:默認值10737418240(10GB),如果需要運行HBase的MR任務,可以減小此值,因爲一個region對應一個map任務,如果單個region過大,會導致map任務執行時間過長。該值的意思就是,如果HFile的大小達到這個數值,則這個region會被切分爲兩個Hfile。
優化hbase客戶端緩存
hbase-site.xml
屬性:hbase.client.write.buffer
解釋:用於指定HBase客戶端緩存,增大該值可以減少RPC調用次數,但是會消耗更多內存,反之則反之。一般我們需要設定一定的緩存大小,以達到減少RPC次數的目的。
指定scan.next掃描HBase所獲取的行數
hbase-site.xml
屬性:hbase.client.scanner.caching
解釋:用於指定scan.next方法獲取的默認行數,值越大,消耗內存越大。
flush、compact、split機制
當MemStore達到閾值,將Memstore中的數據Flush進Storefile;compact機制則是把flush出來的小文件合併成大的Storefile文件。split則是當Region達到閾值,會把過大的Region一分爲二。
涉及屬性:
即:128M就是Memstore的默認閾值
hbase.hregion.memstore.flush.size:134217728
即:這個參數的作用是當單個HRegion內所有的Memstore大小總和超過指定值時,flush該HRegion的所有memstore。RegionServer的flush是通過將請求添加一個隊列,模擬生產消費模型來異步處理的。那這裏就有一個問題,當隊列來不及消費,產生大量積壓請求時,可能會導致內存陡增,最壞的情況是觸發OOM。
hbase.regionserver.global.memstore.upperLimit:0.4
hbase.regionserver.global.memstore.lowerLimit:0.38
即:當MemStore使用內存總量達到hbase.regionserver.global.memstore.upperLimit指定值時,將會有多個MemStores flush到文件中,MemStore flush 順序是按照大小降序執行的,直到刷新到MemStore使用內存略小於lowerLimit
簡書:https://www.jianshu.com/u/0278602aea1d
CSDN:https://blog.csdn.net/u012387141