Impala CDH5.14.0安裝部署

因爲impala沒有提供tar包供我們進行安裝,只提供了rpm包,所以我們在安裝impala的時候,需要使用rpm包來進行安裝,rpm包只有cloudera公司提供了,所以我們去cloudera公司網站進行下載rpm包即可,但是另外一個問題,impala的rpm包依賴非常多的其他的rpm包,可以一個個的將依賴找出來,也可以將所有的rpm包下載下來,製作成我們本地yum源來進行安裝。我們這裏就選擇製作我們本地的yum源來進行安裝

下載依賴包

http://archive.cloudera.com/cdh5/repo-as-tarball/5.14.0/cdh5.14.0-centos6.tar.gz


掛載一塊新磁盤
df -lh 
fdisk -l
開始分區
fdisk /dev/sdb   這個命令執行後依次輸 n  p  1  回車  回車  w
fdisk -l
格式化我們的分區
mkfs -t ext4 -c /dev/sdb1   格式化我們的分區
mkdir /data02
將我們的分區掛載到/data02目錄下
mount -t ext4 /dev/sdb1 /data02
df -lh
將我們的掛載磁盤設置開機啓動,避免開機之後掛載的磁盤就沒了
echo "/dev/sdb1 /data02 ext4 defaults 0 0" >> /etc/fstab

掛載完成後在安裝MySQL的節點確定MySQL已經啓動。

製作本地yum源
yum  -y install httpd
service httpd start
cd /etc/yum.repos.d
vim localimp.repo 
# 寫入以下內容
[localimp]
name=localimp
baseurl=http://*.*.*.*/cdh5.14.0/
gpgcheck=0
enabled=1

創建Apache httpd的讀取鏈接

ln -s /data02/cdh/5.14.0 /var/www/html/cdh5.14.0

在這裏插入圖片描述
將製作好的localimp配置文件發放到所有需要安裝impala的節點上去

以3臺節點爲例,安裝規劃
服務名稱 node01 node02 node03
impala-catalog 不安裝 不安裝 安裝
impala-state-store 不安裝 不安裝 安裝
impala-server 安裝 安裝 安裝

主節點node03執行以下命令進行安裝

yum install impala -y
yum install impala-server -y
yum install impala-state-store  -y
yum install impala-catalog  -y
yum install impala-shell -y

從節點node01與node02安裝以下服務

yum install impala-server -y

配置Impala

修改hive-site.xml
vim /hive-1.1.0-cdh5.14.0/conf/hive-site.xml
  • 添加以下參數
<property>
    <name>hive.metastore.uris</name>
    <value>thrift://node03.hadoop.com:9083</value>
</property>
<property>
    <name>hive.metastore.client.socket.timeout</name>
    <value>3600</value>
</property>
配置完之後分發到所有的節點之上
scp hive-site.xml node01:$PWD
scp hive-site.xml node02:$PWD
node03 啓動Hive的metadata服務

後臺啓動

nohup bin/hive --service metastore &
nohup bin/hive --service hiveserver2 &

一定要保證mysql的服務正常啓動,否則metastore的服務不能夠啓動


所有hadoop節點修改hdfs-site.xml
# 所有節點創建
mkdir -p /var/run/hdfs-sockets
  • 在hdfs-site.xml添加以下內容
vim  /hadoop-2.6.0-cdh5.14.0/etc/hadoop/hdfs-site.xml
<property>
	<name>dfs.client.read.shortcircuit</name>
	<value>true</value>
</property>
<property>
	<name>dfs.domain.socket.path</name>
	<value>/var/run/hdfs-sockets/dn</value>
</property>
<property>
	<name>dfs.client.file-block-storage-locations.timeout.millis</name>
	<value>10000</value>
</property>
<property>
<name>dfs.datanode.hdfs-blocks-metadata.enabled</name>
<value>true</value>
</property>

注意權限問題

chown -R hadoop:hadoop /var/run/hdfs-sockets/
重啓hdfs

創建hadoop與hive的配置文件的連接

所有節點執行以下命令創建鏈接到impala配置目錄下來

ln -s /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/core-site.xml /etc/impala/conf/core-site.xml
ln -s /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/hdfs-site.xml /etc/impala/conf/hdfs-site.xml
ln -s /export/servers/hive-1.1.0-cdh5.14.0/conf/hive-site.xml /etc/impala/conf/hive-site.xml
所有節點修改impla默認配置
vim /etc/default/impala
IMPALA_CATALOG_SERVICE_HOST=node03
IMPALA_STATE_STORE_HOST=node03

所有節點創建mysql的驅動包的軟連接

ln -s /hive-1.1.0-cdh5.14.0/lib/mysql-connector-java-5.1.38.jar /usr/share/java/mysql-connector-java.jar

所有節點修改bigtop的java路徑
vim /etc/default/bigtop-utils
export JAVA_HOME=/export/servers/jdk1.8.0_141
啓動Impala服務

主節點node03啓動以下三個服務進程

service impala-state-store start
service impala-catalog start
service impala-server start

從節點啓動node01與node02啓動impala-server

service impala-server start

瀏覽器頁面訪問:
訪問impalad的管理界面
http://node03:25000/
在這裏插入圖片描述
訪問statestored的管理界面
http://node03:25010/

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章