原创 PostgreSql遞歸查詢

PostgreSQL遞歸查詢 https://blog.csdn.net/wickedvalley/article/details/70717328 點贊 收藏 分享 文章舉報

原创 IDEA快捷鍵

原文鏈接:https://blog.csdn.net/weixin_38405253/article/details/102583954 參考:https://blog.csdn.net/wei

原创 crontab命令詳解

原文鏈接:https://www.cnblogs.com/ftl1012/p/crontab.html crontab -l   查看定時任務 crontab -e 編輯定時任務 參考: htt

原创 presto sql語句優化

寫高效sql語句,效率瞬間提升 1.避免使用函數轉換,如to_char 高效寫法: select ... from ... where time=cast('20190101' as date) 低效寫法: select ... from

原创 Hive Moving速度慢原因

原文鏈接:https://blog.csdn.net/houzhizhen/article/details/52411579 執行hive語句之前,添加參數:set hive.exec.stag

原创 查看Postgresql表名、主鍵、列名

Postgresql有很多系統表,可以查主鍵、列名、類型、備註、索引等。 參考:https://www.yiibai.com/manual/postgresql/catalogs.html 爲了配置datax通用腳本,用到這些,記錄一下:

原创 DataX批量生成json文件(簡單java代碼)

DataX抽數時,需要配置json文件,如果一兩個可以手動配就完事了,但是如果有上百個,手動配的話就要死人了,所以簡單寫了個java程序,批量生成json文件,包括全量導數和增量導數。 代碼寫的有點亂,湊合着用吧,會點java的都能看懂。

原创 Mysql表結構遷移到Postgresql

目的:把mysql的建表語句通過工具轉成pg的建表語句 參考:https://www.alibabacloud.com/help/zh/doc-detail/35458.htm 操作: 下載mysql2pgsql二進制安裝包 解壓 修改m

原创 簡單數倉建設(含最詳細步驟)

最簡單數倉建設,原理:將所有源數據抽取到同一個地方,建模,加工處理。 需求:將不同mysql庫數據,抽取到同一個pg庫,對抽取數據進行加工,生成報表。如:在B機器上抽取A機器上數據到C機器上。 使用工具:DataX 步驟: B機器上安裝j

原创 DataX使用

官方地址:https://github.com/alibaba/DataX 安裝部署:https://blog.csdn.net/paicmis/article/details/53563824 { "job": {

原创 查詢Mysql表名、主鍵、列名

Mysql有幾個內部表,存放schema,表名,主鍵,索引,列名等信息。 此次做數倉遷移,用到這些,順手整理一下: select t.table_schema,t.table_name,concat('vnm_db01_',t.tabl

原创 Hive參數配置

set hive.exec.dynamici.partition=true; set hive.exec.dynamic.partition.mode=nonstrict; set mapreduce.map.memory.mb=1600

原创 Notepad++ 常用快捷鍵

Ctrl+C 複製 Ctrl+X 剪切 Ctrl+V 粘貼 Ctrl+Z 撤消 Ctrl+Y 恢復 Ctrl+A 全選 Ctrl+S 保存文件 Ctrl+Alt+S 另存爲 Ctrl+Shift+S 保存所有文件 Ctrl+F 鍵查找對話

原创 linux下find查找文件和grep查找文件內容

1.find命令   2.grep命令 grep -r "hello" . 組合查找 find ./ -name '*'|xargs grep -i dragonball_product

原创 Xshell/SecureCRT的上傳下載功能(sz/rz命令)

安裝命令: yum install lrzsz sz:從服務器傳文件到客戶端,等於下載(send to client) sz filename sz filename1 filename2... sz dir/* rz:從客戶端傳文件到服