原创 Kafka學習筆記(三) -- 使用Java和Scala開發Kafka程序

     之前的Kafka學習筆記,我們介紹了Kafka的基本特性以及windows環境下Kafka的安裝和使用,詳情可以參見如下兩篇博客: kafka學習筆記(一)–初識kafka kafka學習筆記(二)–windows環境下

原创 數據結構與算法--使用Java實現二叉樹

上一篇博客中,使用Java實現了循環雙鏈的LinkedList,博客鏈接如下: 數據結構與算法–使用Java實現循環雙鏈的LinkedList 這篇博客,我們將使用Java. 利用鏈表作爲底層的數據結構,來實現重要的數據結構: 二

原创 Spark2.4 基本RDD的Transform 操作總結

本篇博客涉及代碼已經全部上傳至github,需要可自行下載: 項目github鏈接     本篇文章主要內容如下: 環境準備 必要的初始化 Transform操作總結 transform操作簡介 map操作 filter操作

原创 Windows環境下安裝Jenkins最新穩定版本2.176.3

Windows環境下安裝Jenkins最新穩定版本2.176.3 本篇文章要點如下: 一.Jenkins簡介 二.Jenkins安裝 安裝準備 配置Java環境變量 安裝Tomcat 安裝配置Maven 正式安裝 下載解

原创 實際工作中的 Map Reduce優化

接觸Hadoop體系,在實際工作中使用MapReduce編程,已經有一段時間. 但最近個工作重心在實時ETL開發, 對MapReduce編程接觸較少,擔心時間久了會將過去的經驗遺忘. 就將之前工作中應用過的MapReduce開發的

原创 MongoDB基本操作總結

本篇博客要點如下: 準備工作: MongoDB語法總結: 插入操作 基本查詢操作 修改操作 刪除操作 去重操作 環境準備   閱讀本篇博客前,你需要先創建好MongoDB環境, 並且安裝配置好MongoDB管理工具 : 例如

原创 記一次maven打包失敗:Compilation failure

記一次maven打包失敗:Compilation failure 本篇文章要點如下: 一.maven打包報錯詳情 二.將本地jar包上傳到nexus 上傳普通的第三方jar包 上傳snapshots jar包 三.打包方式

原创 kafka學習筆記(二)--windows環境下kafka2.1的安裝和使用

本篇博客主要內容 : windows環境下kafka的安裝 kafka的簡單使用 一. kafka下載安裝 準備工作 : java環境變量配置 : 我選用的1.8版本 scala環境變量配置 : 我選用的2.12版本 有關

原创 記一次Kafka實時ETL程序CPU佔用率過高的線上問題排查

Kafka實時ETL程序CPU佔用率過高的線上問題排查 本篇博客要點如下: 問題描述 問題排查 Kafka Manager界面查看基本信息 CPU佔用率過高問題定位 問題進程定位 問題線程定位 問題線程堆棧信息 全部線程的堆棧

原创 數據結構與算法--使用Java實現循環雙鏈的LinkedList

上一篇博客中,使用Java實現了單鏈的LinkedList,博客鏈接如下: 數據結構與算法–使用Java實現單鏈的LinkedList 但我們知道,在Java源碼裏LinkedList是通過循環雙鏈實現的, 並非上篇博客中介紹的單

原创 如何使用Java最快捷的找出兩個大量數據List集合的不同元素

近期,花了一段時間開發生產環境中的自動補數工具,來替代我完成繁瑣無趣的人肉運維工作. 這款補數工具有這樣一個小的需求點: 快速的找出兩個相似度非常高的List集合裏的不同元素. (每個集合大約有200W個元素,並且隨着業務的擴展

原创 Kafka Tool 2.0.7(最新)版本超詳細使用指北

Kafka Tool 2.0.7版本使用指北 本篇博客要點如下: Kafka Tool 2.0.7下載安裝 Kafka Tool 2.0.7參數優化及連接Kafka集羣 Kafka Tool 2.0.7參數優化 使用Kafka

原创 Java內部類淺析(含經典面試題解答)

本文相關代碼已經上傳至github 項目github鏈接如下: 本篇博客涉及到的代碼鏈接如下: Java內部類淺析 內部類是Java語言中很重要的一個概念 它總是躲在外部類裏,像個幕後英雄一樣爲我們的代碼保價護航 但對於一般開

原创 hive2.3.6安裝指南

本篇博客要點如下: 一. 準備工作 二. 正式安裝Hive 三. 安裝中遇到的問題 hive2.3.6安裝指南 一. 準備工作 安裝hive前,需要先安裝好對應版本的hadoop和mysql並啓動 1.1 hadoop安裝 首先

原创 linux下安裝MySQL5.7及遇到的問題總結

這兩天要幫一個小可愛安裝hive. 記得以前安裝hive的時候進展比較順利,在MySql的安裝上卻遇到過一些問題. 爲了到時候操作小可愛電腦時能行雲流水,先用自己的虛擬機偷偷的把MySQL安裝一遍 機智如我~ 把這次安裝的詳細過程