Ubuntu 12.04搭建hadoop单机版环境

一、在Ubuntu下创建hadoop用户组和用户

1、创建hadoop用户组:

sudo addgroup hadoop

如图:

2、创建hadoop用户:

sudo adduser -ingroup hadoop hadoop

如图:

3、给hadoop用户添加权限,打开/etc/sudoers文件:

sudo vi /etc/sudoers;

给hadoop用户赋予root用户同样的权限;

在root   ALL=(ALL:ALL)  ALL下添加hadoop ALL=(ALL:ALL) ALL,

hadoop ALL=(ALL:ALL) ALL

如图:

 

二、在Ubuntu下安装JDK

使用如下命令执行即可:

sudo apt-get install openjdk-6-jre

如图:

三、修改机器名

每当ubuntu安装成功时,我们的机器名都默认为:ubuntu,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由/etc/hostname文件决定。

1.打开/etc/hostname文件:

sudo vi /etc/hostname

2.将/etc/hostname文件中的ubuntu改为你想取得机器名。这里我取“lichunan-ubuntu”。重启系统后才会生效。

四、安装ssh服务

这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体课可以参考其他相关资料。

安装openssh-server,

sudo apt-get install ssh openssh-server

五、建立ssh无密码登录本机

首先要转换成hadoop用户,执行以下命令:

su - hadoop

ssh生成密钥有rsa和dsa两种方式,默认情况下采用rsa方式。

1、创建ssh-key,这里我们采用rsa方式:

 ssh-keygen -t rsa -P ""

(注:回车后会在~/.ssh/下生成两个文件:id-rsa和id-rsa.pub,这两个文件是成对出现的)

2、进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:

cd ~/.ssh

cat id_rsa.pub >> authorized_keys

(完成后就可以无密码登录本机了。)

3、登录localhost:

ssh localhost

(当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本机。)

4、执行退出命令

 exit

六、安装hadoop

我们采用的hadoop版本是:hadoop-1.2.1.tar.gz

1、将hadoop安装文件复制到/usr/local/下:

sudo cp hadoop-1.2.1.tar.gz   /usr/local/

2、解压hadoop-1.2.1.tar.gz

cd /usr/local

sudo tar -zxvf hadoop-1.2.1.tar.gz

3、将解压出的文件夹改名为hadoop:

sudo mv hadoop-1.2.1.tar.gz hadoop

4、将该hadoop文件夹的属主用户设为hadoop:

sudo chown -R hadoop:hadoop hadoop

5、打开hadoop/conf/hadoop-env.sh文件:

 sudo vi hadoop/conf/hadoop-env.sh

6、配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径):

export  JAVA_HOME=/usr/lib/jvm/java-6-openjdk-i386

7、conf/core-site.xml文件:

sudo vi hadoop/conf/core-site.xml

编辑如下:

<configuration>

<property>

     <name>fs.default.name</name>

     <value>hdfs://localhost:9000</value>

</propery>

</configuration>

8、打开conf/mapred-site.xml文件:

sudo vi hadoop/conf/mapred-site.xml

编辑如下:

<configuration>

  <property>

       <name>mapred.job.tracker</name>

       <value>localhost:9001</value>

  <property>

</configuration>

9、打开conf/hdfs-site.xml文件

sudo vi hadoop/conf/hdfs-site.xml

编辑如下:

<configuration>

<property>

<name>dfs.name.dir</name>

<value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2</value>

</property>

<property>

<name>dfs.data.dir</name>

<value>/usr/local/hadoo/data1,/usr/local/hadoop/data2</value>

<property>

<property>

<name>dfs.replication</name>

<value>2</value>

</property>

</configuration>

10、打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写localhost就ok了。

sudo vi hadoop/conf/masters

11、打开conf/slaves文件,添加作为slave的主机名,一行一个。作为单机版,这里也只需要填写localhost就ok了。

sudo vi hadoop/conf/slaves

七、在单机上运行hadoop

1、进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,

cd /usr/local/hadoop/

bin/hadoop namenode -format

2、当你看到下图时,就说明你的hdfs文件系统格式化成功了

3、启动bin/start-all.sh:

bin/start-all.sh

4、检测hadoop是否启动成功:

jps

如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!

如下图:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章