CDH5.14安裝spark2

cdh5.14 默認自帶的spark版本是1.6的,如果需要使用spark2,那麼需要另外安裝。官網上給出了CDH版本和spark2版本對應的說明以及離線安裝包的地址,在安裝時需要安裝自己集羣版本下載相應的spark2:
https://www.cloudera.com/documentation/spark2/latest/topics/spark2_requirements.html
在這裏插入圖片描述

1.下載安裝包

下載4個文件

manifest.json
SPARK2-2.4.0.cloudera2-1.cdh5.13.3.p0.1041012-el6.parcel
SPARK2-2.4.0.cloudera2-1.cdh5.13.3.p0.1041012-el6.parcel.sha1
SPARK2_ON_YARN-2.4.0.cloudera2.jar

2. 上傳安裝包到指定目錄

2.1、SPARK2_ON_YARN-2.4.0.cloudera2.jar 上傳到/opt/cloudera/csd
2.2、另外三個文件上傳到/opt/cloudera/parcel-repo,注意,可能manifest.json已存在,先將原來的重命名後綴加.bak
[root@cdh01 cloudera]# cd /opt/cloudera/csd
[root@cdh01 csd]# cp /root/soft/cdh5.14/spark2.4/SPARK2_ON_YARN-2.4.0.cloudera2.jar ./
[root@cdh01 cloudera]# cd /opt/cloudera/parcel-repo
[root@cdh01 parcel-repo]# mv manifest.json manifest.json.bak
[root@cdh01 parcel-repo]# cp /root/soft/cdh5.14/spark2.4/SPARK2-2.4.0.cloudera2-1.cdh5.13.3.p0.1041012-el6.parcel ./
[root@cdh01 parcel-repo]# cp /root/soft/cdh5.14/spark2.4/SPARK2-2.4.0.cloudera2-1.cdh5.13.3.p0.1041012-el6.parcel.sha1 ./SPARK2-2.4.0.cloudera2-1.cdh5.13.3.p0.1041012-el6.parcel.sha
[root@cdh01 parcel-repo]# cp /root/soft/cdh5.14/manifest.json ./

3. 重啓集羣和CM

3.1、在重啓先先確認下在cm上有沒有配置jdk路徑,不是linux裏面,是cm的web頁面【主機】- 【所有主機】-【配置】-【高級】

在這裏插入圖片描述

3.2、重啓

/opt/cm-5.14.0/etc/init.d/cloudera-scm-server restart
/opt/cm-5.14.0/etc/init.d/cloudera-scm-agent restart

4. 安裝

4.1、登錄cm web管理頁面
4.2、【主機】-【Parcel】可以看到我們剛剛添加是spark2狀態是已下載,點擊分配, 然後分配完成後點擊激活。

在這裏插入圖片描述

4.3、返回集羣主界面,添加服務,選擇spark2,即可安裝
4.4、安裝完可以在集羣主界面看到已啓動的spark2服務。

在這裏插入圖片描述
注.所有服務打問號是我將cm管理關了,筆記本資源不足。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章