原创 運行hadoop MapReduce程序常見錯誤及解決方法整理

一、Permission denied 1、Win系統下用Eclipse中運行遠程Hadoop MapReduce程序出現報錯 [javascript] view plain copy org.apache.had

原创 hadoop常用配置

Hadoop集羣具體來說包含兩個集羣:HDFS集羣和YARN集羣,兩者邏輯上分離,經常在物理上在一起. HDFS集羣: 負責存儲海量的數據,集羣中的角色主要有NameNode/DataNode. YARN集羣: 負責數據運算時的資源調度,

原创 【hadoop】ssh localhost 免密碼登陸

首先ssh-keygen 生成祕鑰,然後ssh-copy-id localhost 加到本地.

原创 外網遠程linux

不想借助第三方工具.一開始不知道linux遠程,網上一通亂搜也沒頭緒.乾脆就跟windows一樣做個端口映射直接使用,結果是可以的. 系統環境我這裏是centos,防火牆直接是關閉的因爲我自己測試搭建的服務器. 虛擬機改成橋接模式,然後做

原创 重新格式化HDFS的方法

重新格式化hdfs系統的方法: (1)查看hdfs-ste.xml: <span style="font-size:18px;"><property>     <name>dfs.namenode.name.dir</name>

原创 Hadoop格式化報錯java.net.UnknownHostException:

異常描述 在對HDFS格式化,執行Hadoop namenode -format命令時,出現未知的主機名的問題,異常信息如下所示: [plain] view plain copy  [shirdrn@local

原创 Srping Boot 註解整理

記錄一些Spring Boot中的註解,一方面幫助記憶,一方面用的時候可以查詢. @Controller  @Controller 用於標記在一個類上,使用它標記的類就是一個SpringMVC Controller 對象。分發處理器將會掃