原创 Spark Install
1. Spark install 01 1.1下載spark-2.4.4-bin-hadoop2.7.tgz 1.2.解壓 tar -zxvf spark-2.4.4-bin-hadoop2.7.tgz 1.3. mv
原创 解決hadoop ambari 提示各service"黃色問號"
Ambari 所有Service提示黃色問號,一般爲heartbeat lost引起,而這種情況爲python版本問題解決方法:vim /etc/python/cert-verification.cfg[html] view plain
原创 linux 硬盤格式化
1. fdisk -l 2.mkfs -t ext4 -c /dev/sdb1 (快速格式化:mkfs.ext4 /dev/sdb1) 3.mount /dev/sdb1 /data 4.df -h ll /dev/sdb1 mo
原创 linux下使用磁帶備份
1. 將磁帶卷至起始位置 mt -f /dev/st0 rewind 2. 擦掉磁帶上的內容 mt -f /dev/st0 erase 3. 將磁帶卷至初始位置然後從磁帶機內彈出 mt –f /dev/s
原创 Hadoop---Zookeeper安裝
配置完全分佈式zk集羣 --------------------- 1.挑選3臺主機 S101 ~ s103 2.每臺機器都安裝zk tar
原创 Hadoop---HA安裝
配置細節 --------------- 1.s101和s108具有完全一致的配置,尤其是ssh. 將S108 authorized_keys cat 到S101中,並分發到其它node 2.
原创 Hadoop--HDFS 安裝
1.刪除原系統上的JAVA rpm -qa|grep jdk rpm -qa|grep gcj yum -y remove java-1.7.0-openjdk-1.7.0.99-2.6.5.1.el6.x86_64 yum -y
原创 解決Redhat 7 不能用yum安裝軟件
1.check yum在linux所安裝的包#rpm -qa| grep yumyum-utils-1.1.31-24.el7.noarchyum-langpacks-0.4.2-3.el7.noarchyum-metadata-pars
原创 Linux rsyslog記錄指定的設備IP存放到指定的目錄位置
在/etc/rsyslog.conf中加上如下設定$template aaa,"/log/%$YEAR%-%$MONTH%/%fromhost-ip%/%fromhost-ip%_%$YEAR%-%$MONTH%-%$DAY%-%$HOU
原创 linux快速查找文件中的字符串
linux Check目錄中所有文件中的字符find .|xargs grep -ri" aaa"
原创 HDFS API 例子
1. 列出目錄文件信息import java.net.URI;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileStatus;impor
原创 解決Redhat 7 ambari安裝hadoop過程中出現myql安裝出錯
Redhat 7 ambari安裝hadoop過程中出現myql安裝出錯, check log, 這爲沒有可用的包所引起download mysqlrepo源# wget http://repo.mysql
原创 Hadoop重要配置文件
l Hadoop的配置文件 1. Hadoop-site.xml, *-default.xml,*-site.xml,2. Core-default.xml: 默認的核心hadoop屬性文件。該配置文件位於下面JAR
原创 解決hadoop ambari 提示各service"黃色問號"
Ambari 所有Service提示黃色問號,一般爲heartbeat lost引起,而這種情況爲python版本問題解決方法:vim /etc/python/cert-verification.cfg[html] view plain
原创 解決Redhat 7無法自動啓動ntpd
redhat7 無法自動啓動ntp這是由於chronyd service所引起的問題關閉chronyd service就可以解決#systemctl disable chronyd#systemctl start ntpd