原创 圖文:以MapReduce編程五步走爲基礎,說MapReduce工作原理

在之前的Hadoop是什麼中已經說過MapReduce採用了分而治之的思想,MapReduce主要分爲兩部分,一部分是Map——分,一部分是Reduce——合 MapReduce全過程的數據都是以鍵值對的形式存在的 首先,我們假設

原创 運算符(=還是==怎樣區分)

運算符:(1)算術運算符+、-、*、/、%、++、--除法有兩種:一般除法和整除,如果除數和被除數都爲整型,則執行的是整除,否則執行一般除法。求餘可用於判斷奇偶、判別因子、控制數據的週期性變化 關係運算符>、<、>=、<=、==、!=邏輯

原创 CentOS 6.x 用yum安裝mysql

查看安裝:yum list mysql* 安裝:sudo yum -y install mysql-server 設置免密登錄:切到/etc下,在my.cnf最後追加skip-grant-tables sudo echo “ski

原创 Sqoop將SQLServer數據導入Hive表中

這裏我使用的的CDH5.15.0對應的sqoop版本1.4.6 java使用的是jdk1.8 正常的安裝配置完sqoop之後,並不能通過sqoop將SQLServer數據導入到Hive或HDFS中,還需要三個jar包。 java-json

原创 Linux CentOS 6將mysql 5.1.73 升級到 mysql 5.7.25

參考:https://blog.csdn.net/u010199866/article/details/80997485 先下載mysql 5.7.25 wget https://cdn.mysql.com//Downloads/MyS

原创 clickhouse安裝部署

clickhouse官網提供了各種安裝方式 官網鏈接:https://clickhouse.tech/ 但是我是在內網安裝,所以需要先下載安裝包 下載最穩定版本:https://packagecloud.io/app/Altinity/c

原创 IDEA怎樣創建一個maven項目

   用idea創建一個maven項目,新建項目,選擇maven                下一步填入GroupId和ArtifactId,下一步   SNAPSHOT:快照版本,非正式版本   release:正式發佈版本   添加

原创 常用的maven命令

maven常用命令    mvn -version:查看版本信息    mvn clean:清除編譯的文件,刪除target目錄    mvn compile:編譯主目錄文件    mvn package:打包         java

原创 工具類Collection,Set的實現類HashSet和TreeSet,List的實現類ArrayList和LinkedList

Collection: 單例集合的根接口 List:如果是實現了List接口的集合類,具備的特點:有序,重複。 ArrayList:底層是使用了Object數組實現的,特點:查詢快,增刪慢 LinkedList:底層是

原创 代碼:Java實現大數據經典案例WordCount

要求:統計文本中出現的單詞數,並按數量降序、單詞升序輸出 在一個名爲word.txt中放入 after a minute or two and said to his friend he opened them again

原创 Linux面試題

1.簡述Linux文件系統通過i節點把文件的邏輯結構和物理結構轉換的工作過程。 參考答案: Linux通過i節點表將文件的邏輯結構和物理結構進行轉換。 i節點是一個64字節長的表,表中包含了文件的相關信息,其中有文件的大

原创 Hadoop安裝配置之僞分佈式安裝

Hadoop僞分佈式安裝 版本選擇2.7.X,我選擇的是2.7.3 安裝過程 安裝前準備 (1)上傳解壓 (2)查看目錄結構(刪除以下文件) bin/*.cmd sbin/*.cmd share/doc

原创 泛型

泛型:泛型是JDK1.5出現的新特性。 泛型的好處: 1:將運行時出現的問題提前至了編譯時 2:避免了無謂強制類型轉換 泛型是JDK1.5使用的新特性。 泛型在集合中的常見應用: ArrayLis

原创 【Hive】:java.lang.RuntimeException: Error creating a batch

Hive運行時報如下錯誤:  Error: java.lang.RuntimeException: Error creating a batch at org.apache.hadoop.hive.ql.io.orc.V

原创 Linux centOS 6將mysql 5.1.73 升級到 mysql 5.7.25

參考:https://blog.csdn.net/u010199866/article/details/80997485 先下載mysql 5.7.25 wget https://cdn.mysql.com//Downloads/MyS