原创 yarn與第一代mapreduce比較

jobtracker變成了ResourceManager和ApplicationMaster; tasktraker變成了nodeManager applicationMaster是一個可變更的部分,用戶可以對不同的編程模型些自己的a

原创 elasticsearch2.2系列一(es的安裝)

環境爲centos 7,已經安裝了jdk7, jdk必須要安裝7及以上版本 切換到非root用戶(目前的es不能使用root用戶) 下載es並解壓: wget https://download.elasticsearch.org/ela

原创 hadoop增加新節點實踐

之前已經有了namenode和datanode1,現在要新增節點datanode2 第一步:修改將要增加節點的主機名 hadoop@datanode1:~$ vim /etc/hostname datanode2 第二步:修改host

原创 部署zookeeper實踐

1.解壓zookeeper 2.設置環境變量 hadoop@namenode:~/zookeeper-3.4.6/conf$ sudo vim /etc/profile export JAVA_HOME=/usr/programs/jd

原创 storm部署實踐

1.下載storm並解壓 2.修改文件 storm.yaml  我這裏填的是域名,填ip也可以 hadoop@namenode:~/storm-0.9.2/conf$ vim storm.yaml  # Licensed to the

原创 hbase原理

1.hbase利用hdfs作爲其文件存儲系統,利用mapreduce來處理數據,利用zookeeper作爲協調工具 2.行鍵(row key),類似於主鍵,但row key是表自帶的 3.列族(column family) ,列(也稱作標

原创 zookeeper原理

1.爲了解決分佈式事務性一致的問題 2.文件系統也是一個樹形的文件系統,但比linux系統簡單,不區分文件和文件夾,所有的文件統一稱爲znode 3.znode的作用:存放數據,但上限是1M ;存放ACL(access control l

原创 hadoop2新特性

一 hdfs聯邦 1.hdfs兩層模型: namespace 包括目錄/文件 和 塊 。它支持所有命名空間相關的文件操作,如對文件和目錄的增刪改查 block storage service 在namenode中塊的管理 datanode

原创 linux 常用命令2

ln 建立鏈接文件(***)ln -s /home/itcast/familyA/house/roomB   /home/roomB 遇到 Permission denied(權限拒絕)說明itcast用