原创 1.3 數據類型與操作符

Scala的數據類型: scala中所有的類型都使用大寫字母開頭 整形使用Int而不是Integer scala中定義變量可以不寫類型,讓scala編譯器自動推斷 Scala 中的運算符: 基本上和Java一樣, 除了: s

原创 如何釋放linux內存

free -m sync echo 1 > /proc/sys/vm/drop_caches echo 2 > /proc/sys/vm/drop_caches echo 3 > /proc/sys/vm/drop_caches fre

原创 大數據中爲什麼使用scala?

原因: 開發大數據應用程序 (Spark程序、Flink程序 ) Hadoop已經是我們大數據領域的事實標準了。Spark生態並不是要取代Hadoop生態,而是爲了更好的拓展大數據生態,兩者結合。而Spark由我們Scala開發的,我們

原创 軟件資料下載

mysql: https://dev.mysql.com/doc/refman/8.0/en/keywords.html idea各版本官方下載地址 https://www.jetbrains.com/idea/download/othe

原创 RDD如何設置分區數

設置分區輸出: val rdd1: RDD[Int] = sc.parallelize(1 to 10,4) 如果設置成4,則輸出4個分區文件。 如果設置成5,則輸出5個分區文件。 package com.dl.sparkhell

原创 RDD的分區數

1.RDD分區原則: 讓RDD的分區數儘量和集羣的CPU的核數保持一直,這樣可以充分利用CPU的計算資源。開發中爲了更加充分的壓榨CPU的計算資源,會把平行度設置爲cpu核數的2~3倍 2.分區數還和哪些因數有關? 腳本參數/API

原创 解決Maven 編譯出的jar中沒有主清單屬性

<build> <plugins> <plugin> <groupId>org.apache.maven.plugins</groupId>

原创 Elasticsearch乾貨

Elasticsearch學習,請先看這一篇 引用 題記: Elasticsearch研究有一段時間了,現特將Elasticsearch相關核心知識、原理從初學者認知、學習的角度,從以下9個方面進行詳細梳理。歡迎討論…… 1. 帶着問題上

原创 elaticSearch較好的網站總結

1.Elasticsearch 6.x:先按照評分排序,再按照時間排序 https://blog.csdn.net/chengyuqiang/article/details/80280759   這個人的博客,不錯。

原创 網址小集合

搞學習 猿學:http://yuanxue365.com/ 簡書:https://www.jianshu.com/ doyoudo:http://www.doyoudo.com/ 好知網:http://www.howzhi.com/ 學小

原创 MYSQL - Warning: #1681 Integer display width is deprecated

MYSQL - Warning: #1681 Integer display width is deprecated mysql8.0不支持, 這裏就不要使用Int了,換成 `id` bigint NOT NULL AUTO_INCRE

原创 VNC的安裝與使用(Windows環境下使用VNC進行遠程桌面控制)

window安裝: https://www.realvnc.com/en/connect/download/viewer/ ubutun安裝: https://www.realvnc.com/en/connect/download/vnc

原创 Ubutun上使用virtualenv

pip安裝virtualenv: pip3 install virtualenv 然後,假定我們要開發一個新的項目,需要一套獨立的Python運行環境,可以這麼做: 第一步,創建目錄: mkdir myproject cd mypr

原创 elasticSearch的相關分詞器

Elasticsearch 默認分詞器和中分分詞器之間的比較及使用方法 https://my.oschina.net/u/4000872/blog/2254688   官網介紹: https://www.elastic.co/guide/

原创 華爲openEuler

openEuler 項目來源於華爲服務器操作系統 EulerOS,2019 年 9 月 18 日宣佈開源,同時上線了其開源社區,12 月 31 日,華爲宣佈開放 openEuler 源碼,源碼託管於 Gitee 平臺。 華爲openEul