原创 PostgreSql遞歸查詢
PostgreSQL遞歸查詢 https://blog.csdn.net/wickedvalley/article/details/70717328 點贊 收藏 分享 文章舉報
原创 IDEA快捷鍵
原文鏈接:https://blog.csdn.net/weixin_38405253/article/details/102583954 參考:https://blog.csdn.net/wei
原创 crontab命令詳解
原文鏈接:https://www.cnblogs.com/ftl1012/p/crontab.html crontab -l 查看定時任務 crontab -e 編輯定時任務 參考: htt
原创 presto sql語句優化
寫高效sql語句,效率瞬間提升 1.避免使用函數轉換,如to_char 高效寫法: select ... from ... where time=cast('20190101' as date) 低效寫法: select ... from
原创 Hive Moving速度慢原因
原文鏈接:https://blog.csdn.net/houzhizhen/article/details/52411579 執行hive語句之前,添加參數:set hive.exec.stag
原创 查看Postgresql表名、主鍵、列名
Postgresql有很多系統表,可以查主鍵、列名、類型、備註、索引等。 參考:https://www.yiibai.com/manual/postgresql/catalogs.html 爲了配置datax通用腳本,用到這些,記錄一下:
原创 DataX批量生成json文件(簡單java代碼)
DataX抽數時,需要配置json文件,如果一兩個可以手動配就完事了,但是如果有上百個,手動配的話就要死人了,所以簡單寫了個java程序,批量生成json文件,包括全量導數和增量導數。 代碼寫的有點亂,湊合着用吧,會點java的都能看懂。
原创 Mysql表結構遷移到Postgresql
目的:把mysql的建表語句通過工具轉成pg的建表語句 參考:https://www.alibabacloud.com/help/zh/doc-detail/35458.htm 操作: 下載mysql2pgsql二進制安裝包 解壓 修改m
原创 簡單數倉建設(含最詳細步驟)
最簡單數倉建設,原理:將所有源數據抽取到同一個地方,建模,加工處理。 需求:將不同mysql庫數據,抽取到同一個pg庫,對抽取數據進行加工,生成報表。如:在B機器上抽取A機器上數據到C機器上。 使用工具:DataX 步驟: B機器上安裝j
原创 DataX使用
官方地址:https://github.com/alibaba/DataX 安裝部署:https://blog.csdn.net/paicmis/article/details/53563824 { "job": {
原创 查詢Mysql表名、主鍵、列名
Mysql有幾個內部表,存放schema,表名,主鍵,索引,列名等信息。 此次做數倉遷移,用到這些,順手整理一下: select t.table_schema,t.table_name,concat('vnm_db01_',t.tabl
原创 Hive參數配置
set hive.exec.dynamici.partition=true; set hive.exec.dynamic.partition.mode=nonstrict; set mapreduce.map.memory.mb=1600
原创 Notepad++ 常用快捷鍵
Ctrl+C 複製 Ctrl+X 剪切 Ctrl+V 粘貼 Ctrl+Z 撤消 Ctrl+Y 恢復 Ctrl+A 全選 Ctrl+S 保存文件 Ctrl+Alt+S 另存爲 Ctrl+Shift+S 保存所有文件 Ctrl+F 鍵查找對話
原创 linux下find查找文件和grep查找文件內容
1.find命令 2.grep命令 grep -r "hello" . 組合查找 find ./ -name '*'|xargs grep -i dragonball_product
原创 Xshell/SecureCRT的上傳下載功能(sz/rz命令)
安裝命令: yum install lrzsz sz:從服務器傳文件到客戶端,等於下載(send to client) sz filename sz filename1 filename2... sz dir/* rz:從客戶端傳文件到服