原创 mapreduce on yarn圖解

mapreduce on yarn

原创 Hadoop僞分佈式部署之HDFS二

基礎配置hdfs看我上一篇,這篇是進階,然後在這裏我要講一下,我們配置要配置hostname,因爲配置ip的話可能以後在企業會進行ip遷移 然後現在我們開始來配置 namenode(老大):vi core-site.xml,然後配

原创 Linux超級詳細部署MySQL環境

通過yum部署 輸入yum search mysql 找到mysql-server.x86_64, 然後輸入yum install + mysql-server.x86_64進行MySQL服務的安裝 這種方法安裝簡單,缺點就是一般

原创 HDFS詳解一

block bolck塊一般默認爲128M,運行一個文件會把這個文件分成一個一個的塊來運行 比如160M大小的文件會分成倆個塊,第一個是佔滿的,而剩下的就給第二個塊,也就是第一個塊128M,第二個快32M 那這時我們想一個問題,文

原创 hadoop僞分佈式部署之hdfs

部署hdfs 首先先去官網下載hadoop編譯完的tar包,可以去appche官網下載地址進行下載 但是我這裏建議還是去CDH下載下載地址,因爲這裏有打補丁,可以減少一些bug 版本的話我建議還是下載hadoop2.x版本的,因爲

原创 Linux基礎命令二

設置輸入的快捷方式(alias) alias + 快捷名稱=‘想設置的命令(等號前後不能有空格)’ 例如:alias lin = ‘cd /home’ ,表示輸入lin命令就可以進入到家目錄 但這樣設置只是在當前界面有效 ali

原创 Linux命令三

普通用戶的超級用戶權限(sudo) vi /etc/sudoers 找到## Allow root to run any commands anywhere root ALL=(ALL) ALL 然後在下面添加

原创 生產HDFS Block損壞恢復最佳實踐

一.文件opencv_bigdata.md 上傳: -bash-4.2$ hdfs dfs -mkdir /blockrecover -bash-4.2$ echo "www.opencv_bigdata.com" > openc

原创 Hadoop僞分佈式部署之Yarn和Mapreduce

部署yarn mapreduce不用部署,因爲它就是運行在yarn上面的,所以我們只需要部署yarn就行了,我們廢話不多說,直接來配置,我直接上代碼吧,不會的先看我前面兩篇 [hadoop@hadoop002 hadoop]$ c

原创 Linux命令四

VI編輯器的基本使用 按esc鍵進入命令行模式 按i或a進入編輯模式 按shift+:進入末行模式 快捷鍵的使用 gg定位到首行首字符 dd刪除光標所在行,ndd刪除n行包括光標所在行 dG清空 G 定位到尾行首字,shi