Cloudera Manager安裝部署手冊

1. 準備階段—系統環境搭建

1.1 網絡配置（所有節點）

修改hostname：vi /etc/sysconfig/network，按照如下進行設置：

NETWORKING=yes

HOSTNAME=master（注意這裏的主機名稱，可以自己定義）

重啓網絡服務生效：service network restart

修改ip與主機名的對應關係，vi /etc/hosts

192.168.147.132master

192.168.147.133slave

注意：這裏需要將集羣中每臺機器的ip及主機名對應關係都寫進去，本機的也要寫進去，否則啓動Agent的時候會提示hostname解析錯誤。

 

1.2 設置ssh無密碼登陸（所有節點）

在主節點上執行如下命令，一路回車，生成無密碼的密鑰對。

ssh-keygen -t rsa

將公鑰添加到認證文件中

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

設置authorized_keys的訪問權限：

chmod 600 ~/.ssh/authorized_keys。

scp文件到集羣所有其它節點：

scp ~/.ssh/* root@node:~/.ssh/

測試：在集羣中任意節點上可以ssh到任意其它節點，正常情況下，不需要密碼就能直接登陸進去了。

 

1.3 安裝Oracle的Java（所有節點）

CentOS，自帶OpenJdk，不過運行CDH5需要使用Oracle的Jdk，需要Java 7及以上的支持。

查看java相關的包：

rpm –qa|grep –i java

卸載mysql

rpm -e --nodeps 包名

去Oracle的官網下載jdk的rpm安裝包進行安裝

rpm -ivh 包名

修改/etc/profile,添加JDK的環境變量

JAVA_HOME=/usr/java/jdk1.7.0_79/

JRE_HOME=/usr/java/jdk1.7.0_79/jre/

PATH=$PATH:JAVA_HOME/bin:$JRE_HOME/bin

CLASSPATH=$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar

export JAVA_HOME

export JRE_HOME

export PATH

export CLASSPATH

注意：在Windows系統中各個路徑之間用“;”分隔，在linux系統中各個路徑用“:”分隔。

環境變量CLASSPATH中的”.”表示當前路徑，如果你不再引用別的外部包下的類,這個路徑可以不用配置。

保存使生效

按 esc 輸入wq保存環境變量

輸入source /etc/profile使得環境變量生效

檢查JDK環境是否安裝成功，執行命令 java –version，如果出現jdk的版本號信息則表示安裝成功

 

1.4 安裝配置MySql（主節點）

查看已經安裝的MySQL：

rpm -qa|grep -i mysql

將查到的MySQL的包全部刪除

rpm -e --nodeps 包名

刪除老版本mysql的開發頭文件和庫

rm -rf /usr/lib/mysql

rm -rf /usr/include/mysql

注意：卸載後/var/lib/mysql中的數據及/etc/my.cnf不會刪除，如果確定沒用後就手工刪除

rm -f /etc/my.cnf

rm -rf /var/lib/mysql

 

安裝前準備三個rpm的包

MySQL-server-5.6.32-1.linux_glibc2.5.x86_64.rpm

MySQL-devel-5.6.32-1.linux_glibc2.5.x86_64.rpm

MySQL-client-5.6.32-1.linux_glibc2.5.x86_64.rpm

 

安裝服務端：

命令如下：

rpm -ivh MySQL-server-5.6.32-1.linux_glibc2.5.x86_64.rpm

安裝成功會出現....

warning: MySQL-server-5.6.32-1.linux_glibc2.5.x86_64.rpm: V3 DSA signature: NOKEY,key ID 5072e1f5

Preparing...########################################### [100%]

1:MySQL-server########################################### [100%]

 

安裝devel：

命令如下：

rpm -ivh MySQL-devel-5.6.32-1.linux_glibc2.5.x86_64.rpm

安裝成功會出現：

warning: MySQL-devel-5.6.32-1.linux_glibc2.5.x86_64.rpm: V3 DSA signature: NOKEY,key ID 5072e1f5

Preparing...########################################### [100%]

1:MySQL-devel########################################### [100%]

 

安裝客戶端：

命令如下：

rpm -ivh MySQL-client-5.6.32-1.linux_glibc2.5.x86_64.rpm

安裝成功會出現：

warning:MySQL-client-5.6.32-1.linux_glibc2.5.x86_64.rpm: V3 DSA signature: NOKEY,key ID 5072e1f5

Preparing... ###########################################[100%]

1:MySQL-client###########################################[100%]

 

啓動MySQL服務：

service mysql start

初始化設置

/usr/bin/mysql_install_db

更改root用戶登錄mysql數據庫密碼 

    (a) 查看root賬號和密碼：cat /root/.mysql_secret

    (b) 首先root用戶登錄mysql數據庫

    (c) mysql>SET PASSWORD = PASSWORD('root@123456');

   (d) 賦予root用戶權限：GRANT ALLPRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root@123456' WITH GRANT OPTION;

    (e) mysql> flushprivileges;

    (f) mysql> quit ;

 

Cloudera manager 支持三種數據庫類型：MySQL,PostgreSQL,Oracle;下面採用是mysql;

通常需要創建的數據庫：

（1）、Create a database for theActivity Monitor. For example:

           mysql> createdatabase amon DEFAULT CHARACTER SET utf8;         

（2）、Create a database for theService Monitor. For example:

           mysql> createdatabase smon DEFAULT CHARACTER SET utf8;           

（3）、Create a database for theReport Manager. For example:

        mysql> create database rman DEFAULTCHARACTER SET utf8;

（4）、Create a database for theHive metastore. For example:

        mysql> create database hive DEFAULTCHARACTER SET utf8;

（5）、Create a database forCloudera Navigator. For example:

        mysql> create database nav DEFAULTCHARACTER SET utf8;

 執行創建數據庫的命令，創建數據庫結束

1.5 關閉防火牆（所有節點）

關閉防火牆：service iptables stop （臨時關閉）

驗證 service iptables status

執行 chkconfig iptables off（重啓後生效）

驗證 chkconfig --list | grepiptables

 

臨時關閉：setenforce 0

修改配置文件：vi /etc/selinux/config

將SELINUX=enforcing改爲SELINUX=disable

查看SELINUX狀態：

/usr/sbin/sestatus –v  或

使用命令：getenforce

1.6 NTP服務對時（所有節點）

所有節點安裝NTP: yuminstall ntp

設置開機啓動：chkconfigntpd on

檢查設置是否成功：chkconfig –list ntpd

    注意：2-5爲on狀態則成功

設置時間同步：ntpdate –u s2m.time.edu.cn

    注意：s2m.time.edu.cn爲時鐘服務器，根據實際環境進行設置

 

2. 裝Cloudera Manager Server 和Agent

2.1 server節點安裝

（1） 解壓安裝包：tar -xzvf cloudera-manager*.tar.gz -C /opt

        將解壓後的cm-5.13.1和cloudera目錄放到/opt目錄下。（所有節點）

（2） 配製CM5 server數據庫，首先需要去MySql的官網下載JDBC驅動，http://dev.mysql.com/downloads/connector/j/，解壓後，找到mysql-connector-java-5.1.33-bin.jar，重命名爲：mysql-connector-java.jar 放到/opt/cm-5.13.1/share/cmf/lib/。（所有節點）

注意：mysql的包名一定要改成上面的名稱，否則報錯

 

（3） 在server節點配置CM5的數據庫：

/opt/cm-5.13.1/share/cmf/schema/scm_prepare_database.sh mysql -h node1 -uroot -pxxxx --scm-host node1 scm scm scm

注意：後面的參數對應於：數據庫類型、數據庫服務器名稱（或IP地址）、用戶名、密碼、CMServer節點所在...。

上面mysql數據庫初始化的時候已經爲root用戶賦予了權限，-uroot和-pxxxx爲主節點mysql的用戶名和密碼。

若上述過程失敗，則刪除所有庫，重新裝：mysql>drop user 'root'@''%;

2.2 創建用戶cloudera-scm（所有節點）

在所有節點創建cloudera-scm用戶

useradd --system --home=/opt/cm-5.13.1/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User"cloudera-scm

2.3 Agent配置（所有節點）

修改/opt/cm-5.1.3/etc/cloudera-scm-agent/config.ini中的server_host爲server的名字，server_port=7182爲server和agent的通信端口號。

 

同步到Agent節點：scp -r /opt/cm-5.13.1/etc/cloudera-scm-agent/config.ini root@n2:/opt/cm-5.1.3/etc/cloudera-scm-agent/

 

2.4  創建Parcel目錄

在server節點創建/opt/cloudera/parcel-repo目錄（主節點）

chown cloudera-scm:cloudera-scm/opt/cloudera/parcel-repo

將CHD5相關的Parcel包放到server節點的/opt/cloudera/parcel-repo/目錄中（CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel 、 CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha、 manifest.json）。

  

將下載好的文件（如下所示），放到上述目錄下：

CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel

CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha1

manifest.json

 最後將CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel.sha1，重命名爲CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel.sha，這點必須注意，否則，系統會重新下載CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel文件。高版本的話這個已經不需要修改。

在Agent節點上，創建目錄:/opt/cloudera/parcels，然後執行：

chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

 

2.5 啓動CM Server和Agent服務

相關啓動腳本

通過/opt/cm-5.1.3/etc/init.d/cloudera-scm-server start啓動服務端。（Server節點）

通過/opt/cm-5.1.3/etc/init.d/cloudera-scm-agent start啓動Agent服務。（所有Agent節點）

我們啓動的其實是個service腳本，需要停止服務將以上的start參數改爲stop就可以了，重啓是restart。

啓動後通過命令 lsof  –i:7180監視端口的信息，如果該端口出現相應的內容，就可以可視化操作了。

3. CDH5的安裝配置

Cloudera Manager Server和Agent都啓動以後，就可以進行CDH5的安裝配置了。

這時可以通過瀏覽器訪問主節點的7180端口測試一下了（由於CM Server的啓動需要花點時間，這裏可能要等待一會才能訪問），默認的用戶名和密碼均爲admin

 

登錄進去之後進行cdh的安裝部署，選擇部署免費的，高亮顯示即可，然後點擊繼續就可以進行下一步。

 

各個Agent節點正常啓動後，可以在當前管理的主機列表中看到對應的節點。選擇要安裝的節點，點繼續。

 

接下來，出現以下包名，說明本地Parcel包配置無誤，直接點繼續就可以了。

 

點擊，繼續，如果配置本地Parcel包無誤，那麼下圖中的已下載，應該是瞬間就完成了，然後就是耐心等待分配過程就行了，大約10多分鐘吧，取決於內網的網速。

接下來是服務器檢查，可能會遇到一個異常信息

 

通過在主節點執行命令：echo 0 >/proc/sys/vm/swappiness即可解決，然後點擊該頁上邊的重新運行，即可發現消除異常信息。

接下來是選擇安裝服務：

服務配置，一般情況下保持默認就可以了（Cloudera Manager會根據機器的配置自動進行配置，如果需要特殊調整，自行進行設置就可以了）

注意：後邊的操作一般都是直接默認的操作即可。一般剛開始建議自定義安裝，先安裝HDFS以及yarn，一路操作下去即可安裝成功。

注意：後續安裝Hive的時候可能會報錯，因爲我們使用了MySql作爲hive的元數據存儲，hive默認沒有帶mysql的驅動，通過以下命令拷貝一個就行了：

cp  /opt/cm-5.13.1/share/cmf/lib/mysql-connector-java.jar  /opt/cloudera/parcels/CDH-5.13.1-1.cdh5.13.1.p0.2/lib/hive/lib

 

安裝完成後，就可以進入集羣界面看一下集羣的當前狀況了。

這裏可能會出現無法發出查詢：對 Service Monitor 的請求超時的錯誤提示，如果各個組件安裝沒有問題，一般是因爲服務器比較卡導致的，過一會刷新一下頁面就好了：