原创 常見HBase故障分析和解決方法

1. java.net.SocketException: Too many open files 問題原因: 問題現象:所有節點region server進程掛掉,hbase不可訪問,查看日誌有如下信息 tail hbase-hbase-

原创 Hadoop & HBase 故障排除

Hadoop & HBase 故障排除 接到報警反饋HBase故障。 1.上線檢查HBase日誌信息,有如下報錯信息,無法鏈接RegionServer 2015-06-23 08:50:39,219 DEBUG org.apache.h

原创 25個常用的ssh命令

本文轉自:http://www.cnblogs.com/weafer/archive/2011/06/10/2077852.html OpenSSH是SSH連接工具的免費版本。telnet,rlogin和ftp用戶可能還沒意識到他

原创 Hadoop DataNode 增加磁盤

Hadoop DataNode 增加磁盤 1.磁盤格式化 mkfs -t ext4 /dev/xvdd 2.掛載磁盤 vim /etc/fstab; mount -a 3.創建datanode數據目錄 mkdir -p /data2/H

原创 MySQL5.6支持的online DDL操作及注意事項

MySQL5.6之後提供在線修改數據庫的操作,這些操作無需創建臨時表,不需要拷貝數據本身,所以速度非常快。 MySQL5.6以後InnoDB表支持的在線操作: 1.重命名錶:alter table original_table rena

原创 MySQL Jdbc驅動的rewriteBatchedStatements參數--批量修改開關

本文轉自:http://www.cnblogs.com/chenjianjx/archive/2012/08/14/2637914.html 介紹MySQL Jdbc驅動的rewriteBatchedStatements參數 MyS

原创 MySQL 5.6配置GTID複製模式

1.主從數據庫參數文件中加入一下配置: gtid_mode=on enforce-gtid-consistency=on master-info-repository=TABLE relay-log-info-repository=

原创 mysql 鎖超時定位與分析

mysql 鎖超時調查方法 此SQL可以顯示鎖等待的詳細信息,包括阻塞SQL,被阻塞SQL及阻塞時間等。 select r.trx_id as waiting_trx_id, r.trx_mysql_thread_id as waiti

原创 Linux 技巧:讓進程在後臺可靠運行的幾種方法

轉自 http://www.ibm.com/developerworks/cn/linux/l-cn-nohup/ 我們經常會碰到這樣的問題,用 telnet/ssh 登錄了遠程的 Linux 服務器,運行了一些耗時較長的任務, 結果

原创 Hadoop/HBase常用操作及命令

注:第4節hbase shell常用命令轉自http://www.cnblogs.com/nexiyi/p/hbase_shell.html 1.HDFS存儲服務故障 快速恢復進行重啓 Cd /opt/hadoop/; ./bin/st

原创 HBase長時間無法關閉問題及處理(Waiting on regionserver(s) to go down)

HBase長時間無法關閉[Waiting on regionserver(s) to go down] 爲了釋放已經刪除的region,重啓hbase,執行./bin/stop-hbase.sh。 等了很久還未關閉,查看master日誌

原创 MySQL管理常用命令

1. 新建slave設置複製座標 a.) 5.5之前以及5.6未開啓GTID複製的場合: CHANGE MASTER TO MASTER_HOST='xxxx', MASTER_PORT=3306, MASTER_USER='xxxx',

原创 HBase 備份及恢復

注意事項:1.HBase版本需要保持一致,否則數據無法恢復 本方案使用export及import方法,還有其他方法可以實現,暫不涉及。 1.備份,以表爲單位進行導出 ./bin/hbase org.apache.hadoop.hbase

原创 hadoop datanode 磁盤數據平衡

Hadoop DataNode Disk Balance Hadoop 支持 DataNode 間數據平衡,但是對於單個DataNode內的各磁盤平衡,則需要人工進行數據遷移。 1.確認各數據磁盤可用空間,以確定需要遷移的數據量及遷移路

原创 Hadoop&HBase部署文檔

安裝是需要特別注意HBase與Hadoop兼容性問題 安裝jdk aptitude install openjdk-7-jdk 創建hbase用戶 for i in AP-HB1 AP-HB2 AP-HB3; do echo =====