原创 find命令過濾權限不夠的信息

find / -name filename 2>/dev/null  

原创 Kibana ElasticSearch

#kibana 從ElasticSearch中查數據 GET ind/ty/_search { "query": { "match_all": {} } } #kibana 向ElasticSearch生成數據 POS

原创 無網絡環境安裝python模塊

#已安裝的模塊名稱導出到文件 pip freeze >requirements.txt #導出已安裝的模塊到文件夾,指定模塊名稱或導出所有已安裝的模塊 pip3 download -d D:\python\pip\package

原创 htop安裝

#CentOS6 rpm -ivh https://mirrors.tuna.tsinghua.edu.cn/epel/6/x86_64/epel-release-6-8.noarch.rpm rpm --import /etc/pk

原创 CentOS安裝jdk

#安裝前檢查是否已經安裝了open-jdk rpm -qa |grep java rpm -qa |grep jdk rpm -qa |grep gcj #批量卸載 rpm -qa | grep java | xargs rpm

原创 數據倉庫分層設計

根據目前的業務需求,數據倉庫分爲四層 Buffering Data Model 源業務數據的快照,保存細節數據。按天保存 Operational Data Store 基礎數據層,和源系統數據是同構數據,數據粒度爲明細級別 Da

原创 啓動hiveserver2

hive --service hiveserver2 netstat -ntulp |grep 10000  

原创 查看端口

netstat -ntlpu |grep 10000  

原创 python操作mysql數據庫

安裝mysql-connector import mysql.connector config { 'host':'127.0.0.1', 'port':'3306', 'user':'usr', 'password':'pwd

原创 python訪問hdfs

pip install hdfs python 讀取hdfs目錄或文件 import hdfs client =hdfs.Client("http://10.10.1.4:50070") fileDir="/user/hive/wa

原创 CentOS查看CPU信息

#查看 CPU 物理個數   grep 'physical id' /proc/cpuinfo | sort -u | wc -l #查看 CPU 核心數量   grep 'core id' /proc/cpuinfo | sort

原创 DBeaver配置hive jdbc

無網絡環境下,把hive的jar包導進去就可以 

原创 查看centOS版本

cat /etc/redhat-release  

原创 shell調用sqoop

Mysql 數據導入Hive 自動創建hive表  #!/bin/bash source /etc/profile num=0 list="table1 table2 table3" for i in $list; do echo

原创 Mysql存儲過程遊標使用

--在windows系統中寫存儲過程時,如果需要使用declare聲明變量,需要添加這個關鍵字,否則會報錯。 delimiter // drop procedure if exists StatisticStore; CREATE PR