原创 Hive中JOIN的用法以及一些注意事項總結。

常見用法Hive表連接的語法支持如下:join_table:      table_reference JOIN table_factor [join_condition]    | table_reference {LEFT|RIGHT

原创 Spark和MapReduce的Shuffle比較。

熟悉 Hadoop MapReduce 中的 shuffle 過程,學習Spark的時候可能會按照 MapReduce 的思路去想象 Spark 的

原创 Python單雙三引號的使用

引號出問題,無非就是 發現有的時候需要轉義。很麻煩。其實單引號雙引號三引號都是拿來包裹字符串的。看到一篇博客中說的很有道理,適用於一般場景:如果你需要輸入一段帶單引號的字符串,那麼使用雙引號包裹字符串吧:s1 = "Let's go!"

原创 hive跨庫讀取數據出現的bug記錄

場景在mysql查詢數據,並保存到臨時文件。然後在hive中讀取數據時,發現存在一個異常數據,其string類型字段的值都爲字段名,double類型的字段的值都爲0。分析原因應該是mysql保存數據時,保存了表頭,然後hive讀取時,將表

原创 Java基類和派生類中方法的執行順序

這篇文章主要介紹了Java基類和派生類中各種方法的加載順序(常見於面試題),本文直接給出代碼實例和運行結果,給後給出了加載過程總結,需要的朋友可以參考下。先放結論,總結如下:1. 構造類的實例對象前,先加載類本身。2.若要加載類A,則先加

原创 LeetCode 接雨水 Trapping Rain Water 積水問題

中文題目使用兩根指針:給定 n 個非負整數表示每個寬度爲1的柱子的高度圖,計算下雨之後能接多少水。給定 n 個非負整數表示每個寬度爲1的柱子的高度圖,計算下雨之後能接多少水。例如,輸入 [0,1,0,2,1,0,1,3,2,1,2,1],

原创 B樹、B+樹、B*樹

第一節、B樹、B+樹、B*樹1.前言:動態查找樹主要有:二叉查找樹(Binary Search Tree),平衡二叉查找樹(Balanced Binary Search Tree),紅黑樹(Red-Black Tree ),B-tree/

原创 18網易春招筆試題-牛牛的揹包-記憶化搜索

/* 牛牛準備參加學校組織的春遊, 出發前牛牛準備往揹包裏裝入一些零食, 牛牛的揹包容量爲w。 牛牛家裏一共有n袋零食, 第i袋零食體積爲v[i]。 牛牛想知道在總體積不超過揹包容量的情況下,他一共有多少種零食放法(總體積爲0也算一種放法

原创 java技術面試基礎知識點總結

建議點開目錄先讀題。 目錄 1.面向對象和麪向過程的區別 2. Java的四個基本特性(抽象、封裝、繼承,多態) 3. 重載和重寫的區別 4. 構造器Constructor是否可被override 5. 訪問控制符public,prote

原创 11. 盛最多水的容器 Container With Most Water

中文題目:給定 n 個正整數 a1,a2,...,an,其中每個點的座標用(i, ai)表示。 畫 n 條直線,使得線 i 的兩個端點處於(i,ai)和(i,0)處。請找出其中的兩條直線,使得他們與 X 軸形成的容器能夠裝最多的水。注意:

原创 Shell下關於時間和日期的函數總結

shell下獲取系統時間的方法直接調用系統變量 獲取今天時期:`date +%Y%m%d` 或 `date +%F` 或 $(date +%y%m%d) 獲取昨天時期:`date -d yesterday +%Y%m%d` 獲取前天日期:

原创 Hive導入導出數據(本地,hdfs,其他表)

從本地導入hive> LOAD DATA LOCAL INPATH '/home/username/hivedata/source.txt' INTO TABLE tablename PARTITION(create_time='2018

原创 京東廣告部散招面試

一面    先問了項目。關注了商秀app問題:Q:後臺是如何將所有模板和實際圖片作比對的。A:是用類似LRUcache的方式。最近訪問的放隊頭。然後逐一比對。    然後問了Java相關的:Q:你對多線程併發編程瞭解多少?A:核心是通過鎖

原创 Hive表保存數據到Excel做數據比對

由於工作需要,將一些數據庫要從hive中遷移到clickhouse中,遷移完成後需要覈對數據。在此記錄將hive中和clickhouse中兩張表做數據對比時遇到的一些問題。1.hive 保存數據hive保存數據用的是linux下的重定向。

原创 2018年春招網易筆試題-數對問題o(n-k)解法

題目描述牛牛以前在老師那裏得到過一個整數對(x,y),牛牛忘記他們具體是多少了,只記得老師說過,x和y均不大於n,且x%y不小於k,牛牛希望你能幫他計算一共有多少種可能的整數對。輸入描述:兩個整數n,k。其中1<=n<=10^5, 0<=