原创 centos6.7安裝docker

接着上一篇文章,這篇文章主要是按照docker centos6.7運行命令yum install docker,發生錯誤 No package docker available 可以看到,在Centos6.7的標準yum源中已經沒有Doc

原创 windows編寫的shell腳本到linux環境下運行

在windows下編寫shell腳本回車符是\n\r,而linux下的回車符是\n,所以在linux下運行腳本的時候,需要修改下腳本的的編碼格式, vi 腳本,底行模式,輸入 set fileformat=unix  

原创 hive整合hbase

1.1 hive與hbase版本兼容性 Hive版本 hive-1.2.1、hbase的版本hbase-1.2.1 hbase與hive哪些版本兼容? hive0.90與hbase0.92是兼容的,早期的hive版本與hbase0.89/

原创 Hive映射Hbase表的幾種方式

1.Hive內部表,語句如下 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 CREATE TABLE ods.s01_buyer_calllogs_info_ts( key string commen

原创 spark sql腳本

############## # 客戶基本屬性模型表腳本開發 ############## #!/bin/sh yesterday=`date -d '-1 day' "+%Y-%m-%d"` if [ $1 ];then yes

原创 hive中操作表語句

添加分區並指定數據所在的位置 alter table bdm.itcast_bdm_order add partition (dt='2017-01-01') location '/business/itcast_bdm_order/2

原创 多線程併發情況下使用日期轉換函數

最近,要對每條log進行日期過濾,由於log日期是這種樣式的“2018-08-03 00:00:00”,需要在過濾的時候將其轉化成long類型進行比較篩選,這時候就要用到SimpleDateFormat了,但是,由於rdd有多個分區,各個

原创 kill掉所有java進程

pkill -9 java  

原创 Hadoop2.6.0開發遇到的所有問題及解決方案

一、如果配置了HDFS的federation,使用eclipse插件配置完M/R Master的端口(50020)和DFS Master的端口(9000)後,無法連接到HDFS看遠程目錄結構 解決辦法:切換到Advanced parame

原创 Hbase shell 命令練習

獲取user表中row key爲rk0001,列標示符中含有a的信息 get 'people', 'rk0001', {FILTER => "(QualifierFilter(=,'substring:a'))"} put 'user

原创 linux nc命令使用詳解

功能說明:功能強大的網絡工具 語  法:nc [-hlnruz][-g<網關...>][-G<指向器數目>][-i<延遲秒數>][-o<輸出文件>][-p<通信端口>][-s<來源位址>][-v...][-w<超時秒數>][主機名稱][通

原创 maven 打包 編碼GBK的不可映射字符

安裝系統之後,一般中文系統默認字符集是GBK。我們安裝的軟件一般都繼承使用操作系統的默認字符集。所以當在中文XP或者win7系統開發,在使用maven(mvn compile)編譯項目的時候,就會出現“編碼 gbk 的不可映射字符”: 這

原创 關於mave的一些運用

上網搜maven的一些用法的時候,發現大神關於maven的一些文章。收藏起來 https://blog.csdn.net/liupeifeng3514/article/category/7500193/1

原创 springboot結合mybatis多套druid數據源入門級音樂網站後臺

   這幾天研究springboot和mybatis,正好手裏邊有個原來做過的javaweb項目,就直接拿過來整合了起來。這裏前臺用vue.js實現的代碼就不分享了,前後端分離麼,不影響看後邊。想看整套源碼可以到文章末尾去拿。自動忽略那幾

原创 InteliJ IDEA開發工具簡單實現Spring-boot+mybatis註解形式和xml形式的maven項目

1、創建數據庫及數據表CREATE DATABASE /*!32312 IF NOT EXISTS*/`springbootdb` /*!40100 DEFAULT CHARACTER SET utf8 */;USE `springboo