Windows下Eclispe遠程開發Mapreduce程序
1.將hadoop-eclipse-plugin-2.6.0.jar 拷貝到${MyEclispe_HOME} /plugins
2.Windows安裝hadoop
1)解壓hadoop-2.5.0.tar.gz到D:/根目錄
右鍵winrar--》屬性--》兼容性-》勾選 以管理員運行此程序
打開==》瀏覽到到hadoop-2.5.0.tar.gz ==>解壓到 D:/根目錄
2)配置hadoop的環境變量
HADOOP_HOME=【hadoop的解壓目錄】 //新建項
path=%HADOOP_HOME%\bin;//在原有配置的最前面
;%HADOOP_HOME%\bin //在原有配置的最後面
;%HADOOP_HOME%\bin; //在原有位置的中間插入
cmd命令提示符
hadoop -h
Error: JAVA_HOME is incorrectly set.
Please update D:\green\hadoop-2.5.0\conf\hadoop-env.cmd
Definde Hadoop Location
3.配置插件參數
Mavreduce(V2)
host:[hostname]
port:8032 //resourcemanager 的默認端口號
DFS Master
host:[hostname]
port:8020
4.拷貝winutils.exe 和hadoop.dll到${hadoop_HOME}/bin
5.單獨拷貝hadoop.dll到C:\Windows\System32
6.創建工程的兩種方式
1)使用插件,自動導入jar包,使用模板創建mapper reducer
driver類
2)創建maven工程
2-1)解壓apache-maven-3.0.5.tar.gz
2-2) 配置maven環境變量
MAVEN_HOME=[maven的解壓目錄]
path=%MAVEN_HOME%/bin
2-3)命令提示符 mvn --v
Apache Maven 3.0.5 (r01de14724cdef164cd33c7c8c2fe155faf9602da; 2013-02-19 21:51:28+0800)
3)修改apache-maven-3.0.5\conf\settings.xml
<localRepository>C:\Users\Administrator\.m2\repository</localRepository>
4)解壓repository.tar.gz到settings.xml配置文件中指定的repository
5)配置使用自己解壓的maven
6)將${hadoop_Home}/ect/hadoop/log4j.properties拷貝到項目的src目錄
在linux中的hadoop安裝目錄下的etc/hadoop/hdfs-site.xml添加如下配置
,重啓HDFS的進程
<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.