原创 CSAPP: Chapter1.1~Chapter1.2

In a sense, the goal of this book is to help you understand what happens and why when you run hello on your system. //

原创 CSAPP:Chapter1.5

1.5 Caches Matter 1)Physical laws Larger storage devices are slower than smaller storage devices. Faster devices are mo

原创 Github resources about MachineLearning,DeepLearning and relevant Interviews

聲明:非利益相關,Git倉內資源非博主原創,來自github大佬,純粹廣而告之,侵刪! 1、內容截圖 2、Github地址 直達:Github地址 地址:https://github.com/imhuay/Algorithm_Inter

原创 shell系列-3.批量並行運行腳本

需求:實現根據輸入的起始時間和結束時間,以及設置並行度,來批量跑shell腳本。(前提是您的腳本是可以並行多進程的。) 腳本:RunHistoryByDateMultithread.sh 用法: sh RunHistoryByDateM

原创 shell系列-4.Linux的echo和Macos的printf

想要實現的目標:在shell中輸出換行等需要轉義的字符。 1.Linux實現方式 $ echo -e "\n"  或者 printf  "\n" 2.Macos $ printf  "\n"

原创 sparksql-1.sparksql的schema和udf

1.spark根據schema讀取json數據進行sparksql操作 注意:讀取json數據,特別是數據量比較大的json數據,需要定義schema,減少讀取的數據量,不然加載太多數據浪費集羣資源,而且太浪費時間,吃力不討好。 1)

原创 互聯網金融-1.互聯網金融用戶、行業的一些特點

1.現金貸的用戶規模 1)用戶量大:目前小額現金貸活躍用戶3000萬左右,滲透了3%左右; 2)滲透率加快:201709月新增用戶1240萬,201606月新增用戶344萬; 3)央行8.8億徵信人,只有3.8億有過信貸記錄,很多人是白戶

原创 sqoop系列-1.upsert

1、執行語句sqoop export \  --D mapred.job.queue.name=default \  --driver com.mysql.jdbc.Driver \  --connect jdbc:mysql://nam

原创 shell系列-1.cat實現文件合併

1.問題 描述:如何將某個目錄下所有文件合併成單個文件(前提是相同schema文件,不同的話合併也沒多大意義,當然你想這麼做也沒啥問題。) 2.解決方案 1)舉例 從將hdfs上多日的數據彙總成一個單文件 2)shell版本解決方案

原创 yarn系列-1.yarn中查看jobs日誌的兩種方式

查看yarn日誌的兩種方式 1.界面版 1)點擊application 2)輸入即可 2.命令行版 yarn logs -applicationId application_1517538889175_2550 > logs.tx

原创 做好兩件事:專業+人品

朋友說:“無論從事什麼行業,只要做好兩件事就夠了:一個是你的專業,一個是你的人品。專業決定了你的存在,人品決定了你的人脈,剩下的就是堅持!用善良、專業和真誠贏取更多的信任。” 

原创 MacOS系統使用系列-2.Mac命令行提升效率工具thefuck

在mac的命令行操作時,是不是經常忘記一些命令,或者記錯了命令,這個時候是不是想說一句fuck,好的,現在就介紹這款能讓你爽翻天,還能提高效率的工具。首先感謝 @liamosaur tweet 大神開發了該工具 ,也要感謝我的同事介紹給

原创 idea使用-1.快捷鍵

1.command+o:搜索類文件 2.command+shift+f:關鍵字全文件夾文件搜索 

原创 MacOS系統使用系列-1.終端中自定義快捷命令

    在使用mac系統時,特別是代碼開發,經常要在終端中執行一些命令(比如cd到上層目錄,以及cd到某個固定的目錄),以及執行一些其他命令(比如查看某文件夾下的所有文件的內容信息)等。由於很多命令是反覆使用,而且比較固定,這樣就可以固化

原创 sqoop從myqsql導數據import到hdfs數據變ascii碼解決方案

1、mysql數據導入到hdfssqoop import \--driver com.mysql.jdbc.Driver \--connect jdbc:mysql://host/database \--username xxx \--p