原创 Hive Job log解析——perl腳本
Hive Job log解析 cat parseHiveJobLog.pl use Data::Dumper; if (!defined($ARGV[0]) or $ARGV[0] eq '') { print "useage
原创 oozie web-console 時間本地化
Oozie web console(版本oozie-3.2.0-incubating)顯示的時間是GMT,始終跟北京時間差8個小時,且格式不好看,通過修改$OOZIE_HOME/oozie-server/
原创 LVS IPVS負載均衡機制詳解
IPVS的負載均衡機制有三種: Virtual Server via NAT Virtual Server via IP Tunneling Virtual Server via
原创 secondaryNamenode配置與nameNode故障恢復
*注:本文基於0.20.2配置測試,0.21以後已改成Checkpoint Node和Backup Node 一、配置 1. 在masters文件中添加 Secondary節點的主機名。 *注:masters文件用於指定secondary
原创 關於memcache
addServer(ip,port) 增加多臺服務器,並記錄servernum。get或set時通過crc32($key)%servernum來指定某臺具體的服務器。 缺點,增減服務器時由於servernum變化,可能會導致所有的key-
原创 Hadoop 權限管理
如下圖,hadoop訪問控制分爲兩級,其中ServiceLevel Authorization爲系統級,用於控制是否可以訪問指定的服務,例如用戶/組是否可以向集羣提交Job,它是最基礎的訪問控制,優先於文件權限和mapred隊列權限驗證。