原创 pip安裝pyspark報MemoryError錯誤

解決辦法: 增加--no-cache-dir pip --no-cache-dir install pyspark

原创 【tkGo】一鍵查找文件內容

1 背景 有時候,我們想不起自己記錄的信息在哪個文件裏,需要一個個打開文件查找,非常麻煩。 這時候,我們可以藉助python,實現一鍵快速查找。 2 環境 Python 3.7.3 64-bit tkinter re 3 os.walk(

原创 【皇室戰爭】使用Clash Royale API,構建你的皇室應用

Clash Royale API 通過Clash Royale API你可以準確並安全的訪問皇室戰爭的數據,獲取美妙的體驗,開發令人驚歎的工具或是網站。 Clash Royale API保持和遊戲本身一樣的質量保準,而且持續開發和改進着

原创 Hive函數大全(含例子)之集合函數、日期函數、條件函數

目錄 # 集合函數 Collection Functions # 日期函數 Date Functions # 條件函數 Conditional Functions # 相關文章 # 集合函數 Collection Functions  

原创 Linux下安裝mysqlclient

嘗試安裝mysqlclient[root@Salve2 WebSite]# pip3 install mysqlclient報錯OSError: mysql_config not foundCollecting mysqlclient

原创 【EA-MT4】外匯程序化交易之樞軸點

樞軸點(Pivot Points)是一個非常單純的阻力支撐體系,是一種經典的日內交易策略。 大概10年前由某個期貨高手所發明,至今已廣泛應用在股票、期貨、國債、指數等高成交量的金融商品上。 經典的Pivot Point是7點系統,由7個價

原创 我回答面試官,說緩慢變化維有10種處理方式,他驚了

顧名思義,緩慢變化維(Slowly Changing Dimension)就是變化相對緩慢(相對與快速變化的事實表來說)的維度。 在維度建模理論中,有8種處理方式,包括基礎的5種以及混合的3種。 再加上大數據時代的2種極限型,共1

原创 你還記得Spark湖畔reduce和reduceByKey的區別嗎

一、方法說明 def reduce(f: (T, T) ⇒ T): T Reduces the elements of this RDD using the specified commutative and associat

原创 你真的懂Hive窗口函數嗎,如何開窗聚合?

目錄 1 窗口函數 Windowing functions FIRST_VALUE(col, bool DEFAULT) LAST_VALUE(col, bool DEFAULT) LEAD(col, n, DEFAULT) LAG(co

原创 Hive函數大全(含例子)之數學函數(Mathematical Functions)

爲了方便測試,創建了dual表,該表只有一個字段以及只有一行數據,建表語句如下: CREATE TABLE dual ( x INT ) 函數名稱:round(DOUBLE a),返回類型:DOUBLE 返回數字 a 四捨五入後的值

原创 Hive下數據倉庫歷史拉鍊表如何加工,分區鍵該如何選擇

  1 緩慢變化維 說到歷史拉鍊表,首先得說下緩慢變化維。 在現實世界中,維度的屬性並不是靜態的,而是隨着時間的變化而變化,這也體現了數據倉庫的特點之一,是反映歷史變化的。相對於數據增長較爲快速的事實表,維度的變化是相對緩慢的。 在維度建

原创 Hive函數大全(含例子)之字符串函數(String Functions)

字符串函數 String Functions ascii(string str) 返回結果: 返回字符串str首字母的十進制ascii碼 返回類型: int select ascii('ABC'); -- 結果爲 65 base64(bi

原创 一鍵識別圖片中的表格數據,並轉爲Excel

背景 有時候我們需要將圖片中的表格數據提取出來進行再次編輯,但一個字一個字的敲出來是件非常麻煩的事。 有沒有更好的辦法,一鍵提取圖片中的表格數據,並轉成Excel。 這時候,就需要用到OCR 技術了。 OCR 傳統OCR (Optical

原创 Hive函數大全(含例子)之數據屏蔽函數、雜項函數、XML解析函數

目錄 一、數據屏蔽函數 Data Masking Functions 二、雜項函數 Misc. Functions 三、XML解析函數 XPathUDF 四、相關文章 五、下期預告 一、數據屏蔽函數 Data Masking Functi

原创 【本週Python熱點回顧】畫一棵漂亮的櫻花樹,Python3*和**運算符,Python入門,這就是Python3.8麼,i了

熱點1:Python——畫一棵漂亮的櫻花樹(不同種櫻花+玫瑰+聖誕樹喔) 摘要:最近翻到一篇知乎,上面有不少用Python(大多是turtle庫)繪製的樹圖,感覺很漂亮,我整理了一下,挑了一些我覺得不錯的代碼分享給大家(這些我都測試過,