Linux 下伪分布式方式安装hadoop-2.9.2

1.远程工具连接Linux服务器,home文件夹下创建hadoop文件夹

mkdir hadoop

2.文件传输工具将[hadoop-2.9.2.tar.gz](这里下载)
下载,传输至/home/hadoop
注:使用2.9.2是因为我要安装hbase2.2.4,这两个版本是兼容的,可以在这里查看
解压

tar –zxvf hadoop-2.9.2.tar.gz

3.配置hadoop
服务器上要先安装jdk。
进入/home/hadoop/hadoop-2.9.2/etc/hadoop下,编辑hadoop-env.sh文件,配置jdk地址,hadoop-env.sh全局搜索“JAVA_HOME”

export  JAVA_HOME=“jdk路径”

注:如果不知道jdk地址,可以用
which java 或echo $JAVA_HOME查看

4.配置环境变量

vi /etc/profile

添加
hadoop环境变量
环境变量生效

source /etc/profile

5.修改 core-site.xml
要先配置hosts文件,将主机名和ip地址进行映射
编辑hosts文件:
vim /etc/hosts,
localhost映射到本地127.0.0.1,或者改成其他的也行。
core-site.xml里面添加

<property>
       <name>fs.defaultFS</name>
       <value>hdfs://localhost:9000</value>
   </property>
<property>
     <name>hadoop.tmp.dir</name>
     <value>/home/hadoop/hadoop-2.9.2/data</value>
</property>

6.配置 mapred-site.xml
将mapred-site.xml.template复制为mapred-site.xml

cp mapred-site.xml.template mapred-site.xml

编辑mapred-site.xm
添加如下配置

<property>
    <!-- 指定将MapReduce在Yarn上运行  -->
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

7.配置yarn-site.xml
编辑yarn-site.xml
添加

<configuration>
    <property>
       <name>yarn.resourcemanager.hostname</name>
       <value>localhost</value>
    </property>
    <property>
       <name>yarn.nodemanager.aux-services</name>
       <value>mapreduce_shuffle</value>
    </property>
</configuration>

注:yarn.resourcemanager.hostname的值要和hosts中的以及core-site.xml的一致。
8.格式化文件系统

hdfs  namenode  -format

格式化文件系统
出现上图说明成功。
9.启动hadoop
hadoop不推荐用root用户启动,所以要用其他用户。
以aaa用户为例
root为用户aaa 赋/home/hadoop/hadoop-2.9.2 文件夹的权限

chown –R aaa  /home/hadoop/hadoop-2.9.2

登录 aaa

su aaa

aaa用户登录成功以后需要
设置免密登录

ssh-keygen -t rsa

会有提示输入什么的,一直回车就好。
然后再执行

ssh-copy-id localhost

启动:
start-all.sh
出现下图
在这里插入图片描述
yes 就好。
jps命令查看如下进程说明启动成功。
hadoop启动
还可以到http://localhost:50070/
查看。
在这里插入图片描述
10.出错了怎么办?
我自己安装的时候也出了很多错误。

出错了可以看下/home/hadoop/hadoop-2.9.2/logs 下面的日志。
我安装的时候报了8088端口冲突,
参考12解决了。
又出现"another node has already locked the storage directory"错误·
参考3删除
/dfs/*并且重新格式化解决了。

参考:
1.https://www.cnblogs.com/Komorebi-john/p/11725030.html
2.https://blog.csdn.net/weixin_30616969/article/details/99268398
3. http://www.javaear.com/question/29918984.html
4. https://segmentfault.com/a/1190000019899721
5. https://blog.csdn.net/LiuY521/article/details/93980053

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章