Hadoop集羣參數和常用端口

 一、Hadoop集羣參數配置

在hadoop集羣中,需要配置的文件主要包括四個,分別是core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml,這四個文件分別是對不同組件的配置參數,具體如下:

  • core-site.xml,集羣全局參數。用於定義系統級別的參數,如HDFS、URL、Hadoop的臨時目錄等。
  • hdfs-site.xml,HDFS參數。如名字節點和數據節點的存放位置、文件副本的個數、文件讀取權限等。
  • yarn-site.xml,集羣資源管理系統參數。配置ResourceManager、NodeManager的通信端口,web監控端口等。
  • mapred-site.xml,MapReduce參數。包括JobHistory Server和應用程序參數兩部分,如reduce任務的默認個數、任務所能使用內存的默認上下限等。

1.1 core-site.xml

參數名稱

默認值/缺省值

說明

fs.defaultFS

file:///

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章