ambari部署Hadoop集羣

ambari部署Hadoop集羣

在三臺初始機器上部署,具體安裝配置過程參考之前的《Hadoop試驗之虛擬機準備》

192.168.56.101 centos01
192.168.56.102 centos02
192.168.56.103 centos03

配置yum

yum源可以使用public repository,也可以在本地局域網搭建本地repository。

使用public repository,則在centos01上修改本地/etc/yum.repos.d/ambari.repo:

wget http://public-repo-1.hortonworks.com/ambari/centos6/2.x/updates/2.0.1/ambari.repo #注意ambari版本
cp ambari.repo /etc/yum.repo.d/ #該路徑下文件名必須爲ambari.repo
yum clean all && yum repolist

public repository一般在國外,網速慢經常導致安裝失敗。所以建議搭建本地yum源。下載Ambari、HDP、CentOS的軟件庫,然後用createrepo工具生成repository。最後用httpd或ftp等服務使其他節點可以訪問該repository。

適用於CentOS 7 版本的Ambari Repository:
http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.2.0.0/ambari-2.2.0.0-centos7.tar.gz.md5

下載適用於CentOS 7 版本的HDP Stack Repository:
HDP下載鏈接:
http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.3.4.0/HDP-2.3.4.0-centos7-rpm.tar.gz.md5

HDP下載鏈接:
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz.md5

本人採用的httpd。將上面三個壓縮包解壓到/var/www/html/,然後在該路徑運行createrepo /var/www/html/ 。或者在其他路徑建好本地倉庫後創建軟鏈接到/var/www/html/ 路徑下ln -s /data /var/www/html/localrepo

最後配置/etc/yum.repos.d/ambari.repo,將一下信息寫入即可。該配置文檔分發到所有節點對應路徑。

[local]
name=local
baseurl=http://centos01/ #使用軟鏈接的話,寫成centos01/localrepo
gpgcheck=0

安裝ambari-server

在centos01上安裝ambari-server yum install -y ambari-server

安裝完後對Ambari Server做配置 ambari-server setup

配置完就可以啓動Ambari Server ambari-server start

成功啓動後就可以在瀏覽器訪問管理界面,默認端口是8080 。 登錄密碼爲 admin/admin 。登錄後可以管理Ambari用戶、界面和安裝集羣。

部署Hadoop集羣

在Ambari web端點擊“Launch Install Wizard”。

第一步 , 命名集羣的名字,比如 bigdata。

第二步 , 選擇一個 Stack,這個 Stack 相當於一個 Hadoop 生態圈軟件的集合。Stack 的版本越高,裏面的軟件版本也就越高。 HDP版本與Apache Hadoop版本有個對應管理,詳細可以查官網。

第三步 , 指定 Agent 機器(在終端使用`hostname -f`` 查看),這些機器會被安裝 Hadoop 等軟件包。這裏需要指定當時在 Ambari Server 機器生成的私鑰(ssh-keygen 生成的,公鑰已經拷貝到 Ambari Agent 的機器)。另外不要選擇“Perform [manual registration](javascript:void(null)) on hosts and do not use SSH“。因爲我們需要 Ambari Server 自動去安裝 Ambari Agent。

第四步 , Ambari Server 會自動安裝 Ambari Agent 到剛纔指定的機器列表。安裝完成後,Agent 會向 Ambari Server 註冊。成功註冊後,就可以繼續 Next 到下一步。

第五步 , 我們需要選擇要安裝的軟件名稱。本文環境選擇了 HDFS,YARN + MapReduce2,Zoopkeeper,Storm 以及 Spark。選的越多,就會需要越多的機器內存。選擇之後就可以繼續下一步了。這裏需要注意某些 Service 是有依賴關係的。如果您選了一個需要依賴其他 Service 的一個 Service,Ambari 會提醒安裝對應依賴的 Service。

第六步和第七步 , 分別是選擇安裝軟件所指定的 Master 機器和 Slave 機器,以及 Client 機器。這裏使用默認選擇即可(真正在生產環境中,需要根據具體的機器配置選擇)。

第八步 , Service 的配置。絕大部分配置已經有默認值,不需要修改。初學者,如果不需要進行調優是可以直接使用默認配置的。有些 Service 會有一些必須的手工配置項,則必須手動輸入,纔可以下一步。

第九步 , Ambari 會總結一個安裝列表,供用戶審閱。這裏沒問題,就直接下一步。

第十步 , Ambari 會開始安裝選擇的 Service 到 Ambari Agent 的機器。安裝完成之後,Ambari 就會啓動這些 Service。

至此,集羣已經安裝完成。

報錯排查

安裝agent報錯

第四步,Ambari Server安裝各節點Agent時,所有節點都失敗,報錯顯示:

ERROR: Bootstrap of host c6401.ambari.apache.org fails because previous action finished
with non-zero exit code (1)
> ERROR MESSAGE: Execute of '<bound method BootstrapDefault.copyNeededFiles of <BootstrapDefault(Thread-1,
started daemon 139849329964800)>>' failed
> STDOUT: Try to execute '<bound method BootstrapDefault.copyNeededFiles of <BootstrapDefault(Thread-1,
started daemon 139849329964800)>>'

解決:在/etc/yum.repos.d/ 下邊必須有個名叫ambari.repo的源。

SSL報錯

第四步,安裝Agent時報錯:

[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:579)

是由於系統的python版本過高,導致驗證ssl失敗,將python降級爲2.7.5以下或修改每個安裝節點的python證書驗證配置文件,執行以下命令修改:sed -i 's/verify=platform_default/verify=disable/' /etc/python/cert-verification.cfg

還可以參考以下解決辦法:

https://community.hortonworks.com/articles/68799/steps-to-fix-ambari-server-agent-expired-certs.html

https://community.hortonworks.com/questions/120861/ambari-agent-ssl-certificate-verify-failed-certifi.html

刷新瀏覽器

使用Ambari安裝HDP時,如果在某一步耗時過長,需要刷新瀏覽器,重新之前的步驟,不然可能一直卡在某一步導致安裝進行不下去。

Java環境變量

ambari-server setup 配置Ambari Server時會安裝Java。安裝完java,記得設置java相關PATH環境變量,切記將java的環境變量放在PATH前面。如果放在後面,會使用系統默認安裝的java版本。安裝新軟件後,如果系統已經安裝了其他版本的軟件,切記設置PATH時將使用的bin放置在前面。

yum本地倉庫

如果yum源通過http方式訪問,需要確保/var/www/html/目錄有下列文件夾且包含了相應的軟件安裝包:

  • ambari:安裝ambari相關軟件
  • centos74:安裝操作系統相關軟件
  • HDP:安裝HDP相關軟件
  • HDP-UTILS-1.1.0.21:安裝HDP相關工具軟件
  • mysql:安裝mysql相關軟件。非必須。

在/etc/yum.repos.d/目錄要有以上幾個倉庫的yum源配置。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章