原创 Hadoop集羣的NameNode的備份

Hadoop集羣中,NameNode節點存儲着HDFS上所有文件和目錄的元數據信息如果NameNode掛了,也就意味着整個Hadoop集羣也就完了所以,NameNode節點的備份很重要,可以從以下2個方面來備份NameNode節點1. 在h

原创 下載兩個 hadoop 安裝包的區別

     剛接觸hadoop,在下載hadoop安裝包的時候,發現有兩個zip,分別爲:hadoop-2.4.1.tar.gz和hadoop-2.4.1-src.tar.gz,這兩個文件夾有什麼不同,分別是用來做什麼的?      答:ta

原创 hadoop中的balancer

對於HDFS集羣,經常長時間的運行,尤其是大量的delete操作後,集羣中各個Datanode上的空間使用率可能會存在比較大的差異。所以需要一種機制使各個Datanode保持平衡,防止少數Datanode存儲過多的文件。少數使用率過高的Da

原创 Hadoop刪除節點

1.集羣配置 修改conf/hdfs-site.xml文件<property> <name>dfs.hosts.exclude</name> <value>/data/soft/hadoop/conf/excludes</value> <d

原创 最深入的網絡安全設備知識講解

主要涉及的網絡安全設備簡介: ◇Router:Router 通常是 Cisco 的 Router 才能加上網絡安全的解決方案,Cisco  新一代 Router 都叫ISR(Integrated Service Router),可以整合IP

原创 linux下mail 郵件查看命令

系統提供了用戶之間通信的郵件系統,當用戶打開終端註冊登錄時發現系統給出如下信息:    you have mail. 這時用戶可通過鍵入mail命令讀取信件:    $ mail    mail程序將逐個顯示用戶的信件,並依照時間順序,顯示

原创 ssh連接自動斷開時間問題

修改/etc/ssh/sshd_config文件,將ClientAliveInterval 0和ClientAliveCountMax 3的註釋符號去掉,將ClientAliveInterval對應的0改成60,ClientAliveInt

原创 我的友情鏈接

51CTO博客開發

原创 hadoop入門之namenode工作特點介紹

本文主要介紹了hadoop中namenode的工作特點,,namenode在將metadata寫到editlog的時候會同步到磁盤,大家參考使用吧namenode始終在內存中保存metedata(整個文件系統的目錄結構,每個目錄有哪些文件,

原创 ZooKeeper的分佈模式安裝

2013年08月10日  hadoop及周邊, zookeeper  3條評論ZooKeeper(以下簡稱ZK)是一個分佈式協調服務框架,可以做到各節點之間的數據強一致性。簡單的理解就是在一個節點修改某個變量的值後,在其他節點可以最新的變化

原创 win7安裝virtualbox遇到的問題

問題1:無法創建unbuntu 64bit 虛擬機          安裝完virtualbox後,新建虛擬機。類型選擇爲Linux時,版本下拉選項只有ubuntu 32bit,無ubuntu 64bit。原因     64 bit 的虛擬

原创 VirtualBox虛擬機,更改默認路徑,遷移

     不斷的備份,導致C盤滿了,於是想修改下備份的默認路徑。     把C盤的虛擬機文件全部剪切的E盤,打開虛擬機直接報錯,網上查了半天沒找到有用的,都是非常麻煩的輸入一些命令,或者改註冊便之類的。     接下說說我修改成功的方法: 

原创 解決SSH閒置時間過長中斷命令執行

   ssh斷開連接會使得需要長時間執行的命令中斷執行,爲解決這個問題基本有兩種方法,一種方法是讓命令在Linux後臺運行,另一種方法就是想辦法不讓ssh斷開連接。  Linux後臺運行命令: 1. cron 和 crontab格式: 分<