原创 mysql5.7 centos 7.*:libaio.so.1()(64bit) is needed by mysql-community-server-5.7.24-1.el7.x86_64

mysql5.7 centos 7.* 安裝報錯, 解決:yum install libaio [root@izbp111tnz2hnwzij0olswz mysql]# rpm -ivh mysql-community-serve

原创 mysql 安裝 內容衝突:rpm -e mariadb-libs-1:5.5.60-1.el7_5.x86_64 --nodeps

centos 7.* 安裝mysql 報錯 解決:rpm -e mariadb-libs-1:5.5.60-1.el7_5.x86_64 --nodeps file /usr/share/mysql/dutch/errmsg.sy

原创 Cause: Could not load a dependent class com/jcraft/jsch/Logger

Cause: Could not load a dependent class com/jcraft/jsch/Logger 原因ant scp 依賴jsch-xxx.jar 解決: 到maven 中央庫中,找一個jar 放到ant

原创 shell 腳本更新azkaban job

shell 腳本更新azkaban job #!/bin/bash set -e zip_name=clear_nginx_logs.zip project_name=clear_nginx_logs cd `dirname $0`

原创 mysql 8.*** windows 安裝

mysql 8.*** windows 安裝 windows 環境下 MySQL 8.0.13 免安裝版配置 目錄 下載壓縮包 解壓zip文件,創建 my.ini 文件 配置環境變量 以管理員權限運行 命令提示符 設置密碼 重啓服務,

原创 azkaban 參數傳值坑.

如圖,azkaban 中 “” 的內容會被過濾掉。

原创 打卡,只是打卡,又是打卡,還是打卡,髮卡卡

GET zebra_geo_poi/poi_data/_search { "query": { "bool": { "must": [ { "match": {

原创 Spark 從RDD 到DataFrme 的兩種方法, Get 打卡

方法1, 利用case class ,然後利用spark.implicits._ 調用toDF 構造 DataFrame,詳見下面。 package com.sydney.dream.dianshang.create_data im

原创 ## scala breakable 的用法

scala breakable 的用法 package com.sydney.dream.learnclass import scala.util.control.Breaks._ object Main { def ma

原创 elasticsearch 煩人的搜索打卡

總的來說,query 裏面套着query 就Ok 了。 GET zebra_geo_poi/poi_data/_search { "query": { "bool": { "must": [

原创 scala break 和continue 的實現

scala break 和continue 的實現 package com.sydney.dream.learnclass import scala.util.control.Breaks._ object Main {

原创 hive 學習系列六 hive 去重辦法的思考

方法1,建立臨時表,利用hive的collect_set 進行去重。 create table if not exists tubutest ( name1 string, name2 string ) ROW FOR

原创 hive 學習系列之七 hive 常用數據清洗函數

1,case when 的利用,清洗諸如評分等的內容,用例如下。 case when new.comment_grade = '五星商戶' then 50 when new.comment_grade = '準五星商戶'

原创 map的put 方法的返回值 null

具體原因還有待分析。 object Main { def main(args: Array[String]): Unit = { val str = "{\"formatted_address\":\"內蒙古自

原创 Caused by: java.lang.ClassNotFoundException: java.time.ZoneId

Exception in thread "main" java.lang.NoClassDefFoundError: java/time/ZoneId at com.icongtai.zebra.geo.utils.D