原创 Maven搭建SpringCloud項目(eureka、gateway、路由轉發)【無敵詳細圖文】

本文將向讀者介紹如果使用Maven搭建SpringCloud項目,基於父子模塊結構,搭建eureka註冊中心模塊/業務模塊/路由網關gateway模塊,圖文並茂超級詳細哦,傻瓜式教學,還看不懂勸退!!!   一 、下載最基本的spring

原创 Scala學習筆記【從入門到放棄】

  一、關於Scala安裝 https://www.scala-lang.org/download/   如果你是Java程序員,想學習Scala,請看官網提供的快速入門: https://docs.scala-lang.org/tuto

原创 Sqoop快速入門【導入數據到HDFS與導出數據到數據庫】

1、Sqoop概述 Sqoop - “SQL到Hadoop和Hadoop到SQL” sqoop是apache旗下一款"Hadoop和關係數據庫服務器之間傳送數據"的工具。 導入數據:MySQL,Oracle導入數據到Hadoop的HDFS

原创 Yarn框架深入理解【Yarn集羣配置】

一、Yarn框架產生的背景與原因 我們都知道Hadoop誕生的目標是爲了支持十幾臺機器的搜索服務,但是隨着數據的增加,數據的可用性也是一個待解決的問題。但是Hadoop框架的自身問題限制了集羣的發展。 首先是,JobTracker和Nam

原创 Hadoop核心組件之HDFS詳解【運行機制、安裝、操作與實戰、NameNode高可用】

一、Hadoop的3個核心組件: 分佈式文件系統:HDFS ——實現將文件分佈式存儲在很多的服務器上 分佈式運算編程框架:MapReduce ——實現在很多機器上分佈式並行運算 分佈式資源調度平臺:YARN ——幫用戶調度大量的MapRe

原创 git從gitlab拉取最新的代碼到本地

1、Git下載地址 https://www.git-scm.com/download/win 2、安裝Git  (安裝步驟參考https://www.cnblogs.com/xwgcxk/p/9209237.html) 3、從管理員手中拿

原创 Spark Core入門1【Spark集羣安裝、高可用、任務執行流程、使用Scala/Java/Lambda編寫Spark WordCount】

一、Spark介紹 Spark是一種快速、通用、可擴展的大數據分析引擎,包含SparkSQL、Spark Streaming、GraphX、MLlib等子項目。 Spark是基於內存計算的大數據並行計算框架。Spark基於內存計算,提高了

原创 MapReduce工作流程超詳細解釋

MapReduce是我們再進行離線大數據處理的時候經常要使用的計算模型,MapReduce的計算過程被封裝的很好,我們只用使用Map和Reduce函數,所以對其整體的計算過程不是太清楚,同時MapReduce1.0和MapReduce2.

原创 JAVA獲取當前日期或指定日期的前N天的日期集合

因爲最近的業務系統需求,前端有兩個時間選擇框,分別爲startTime和endTime,用戶展示一段時間內的折線圖,但是如果用戶選擇的時間段太長,折線圖時間軸太密集,展示效果十分不佳,於是我使用java代碼書寫了一個時間工具類,可以返回當

原创 MySQL數據類型與優化

關於數據類型的優化 1、假如只需要存0~255之間的數,無負數,應使用tinyint unsigned(保證最小數據類型) 2、如果長度不可定,如varchar,應該選擇一個你認爲不會超過範圍的最小類型 比如: varchar(20),可

原创 《On Java 8》中文版,《Java編程思想》第5版

前言 簡介 第一章 對象的概念 第二章 安裝Java和本書用例 第三章 萬物皆對象 第四章 運算符 第五章 控制流 第六章 初始化和清理 第七章 封裝 第八章 複用 第九章 多態 第十章 接口 第十一章 內部類 第十二章 集合 第十三章

原创 MySQL計數器、每日計數器表設計與調優

計數器 如果應用在表中保存計數器,則在更新計數器時可能碰到併發問題。計數器表在Web應用中很常見。可以用這種表緩存一個用戶的朋友數、文件下載次數等。創建一張獨立的表存儲計數器通常是個好主意,這樣可使計數器表小且快。使用獨立的表可以幫助避免

原创 版本控制工具Git詳解

一、Git和SVN的區別? 這是一個學Git無法繞開的話題,也是面試的常見題,我猜很多人的回答都是百度上直接背的,有了解過SVN底層的實現原理嗎? SVN是一種集中式版本控制工具,SVN架構如圖: A、B、C三個開發者如果需要提交自己的

原创 ElasticSearch基於version進行樂觀鎖併發控制實戰解析

一、ES解決併發問題的實質 ES在多線程異步修改數據時,是根據_version(版本號)來進行樂觀鎖控制的。   1.1  瞭解_version是什麼 1、在第一次創建document的時候,該document的_version版本號爲1

原创 Java8新特性 利用流和Lambda表達式對List集合進行處理

最近在做項目的過程中經常會接觸到 lambda 表達式,隨後發現它基本上可以替代所有 for 循環,包括增強for循環。也就是我認爲,絕大部分的for循環都可以用 lambda 表達式改寫。 lambda表達式有它自己的優點:(1)簡潔,