原创 使用Logstash將MySQL數據同步到Elasticsearch

附:logstash官網下載地址 1.準備環境 jdk8;Logstash-7.4.2;Elasticsearch-7.4.2. 2、數據同步配置 1.解壓Logstash壓縮包,並在Logstash文件夾中創建sync文件夾。 2.

原创 Elastic-Job (三)實現Script 作業

附:可以參考:Elastic-Job (一)實現Simple作業,Elastic-Job (二)實現Dataflow作業 對於Script類型作業,官方文檔給的解釋是: Script類型作業:     Script類型作業意爲腳本類型作業

原创 【RocketMQ】 (三)定時消息

定時消息:         是指消息發到 Broker 後,不能立刻被Consumer 消費,要到特定的時間點或者等待特定的時間後才能被消費。         如果要支持任意的時間精度,在 Broker 層面,必須要做消息排序,如果再涉

原创 【Sharding-JDBC 】(四)整合mybatis-plus 公共表

概念:        公共表屬於系統中數據量較小,變動少,而且屬於高頻聯合查詢的依賴表。參數表、數據字典表等屬於此類型。可 以將這類表在每個數據庫都保存一份,所有更新操作都同時發送到所有分庫執行。 數據庫: 數據庫腳本:(兩個服務器的u

原创 Linux CentOS7.5搭建高可用Hadoop分佈式集羣環境

1.Linux環境準備   1.1 關閉防火牆(三臺虛擬機均執行) firewall-cmd --state #查看防火牆狀態 systemctl start firewalld.service #開啓防火牆 syste

原创 Linux centos7.5 編譯hadoop源碼

 爲什麼要編譯hadoop?        由於Apache給出的hadoop的安裝包沒有提供帶c程序訪問的接口,所以我們在使用本地庫(本地庫可以用來做壓縮,以及支持c程序等等)的時候就會出現問題,需要對hadoop源碼包重新編譯。 1、

原创 Google Guava 實戰之Maps篇

 Guava是一種基於開源的Java庫,谷歌很多項目使用它的很多核心庫。這個庫是爲了方便編碼,並減少編碼錯誤。 <dependency> <groupId>com.google.guava</groupId> <a

原创 Google Guava 實戰之Lists篇

<dependency> <groupId>com.google.guava</groupId> <artifactId>guava</artifactId> <version>27.0.1-jre</v

原创 Google Guava 實戰之字符串處理篇

<dependency> <groupId>com.google.guava</groupId> <artifactId>guava</artifactId> <version>27.0.1-jre</v

原创 通過canal將mysql中數據同步到elasticsearch

 環境: mysql 5.7,elasticsearch 7.4.2,canal.deployer-1.1.5 這裏我要做的是通過canal將MySQL中修改的數據同步到elasticsearch當中。 一、MySQL配置 1.1 修改M

原创 spring boot 對請求進行全局異常處理

個人認爲:如果不使用全局異常處理的話,那麼會有很多異常都需要使用try catch進行捕獲,重複代碼增加,增加代碼的噁心程度。  controller層代碼: @RestController @RequestMapping(value

原创 Docker 安裝elasticsearch、kibana

1、下載鏡像文件(elasticsearch:7.4.2、 kibana:7.4.2) [root@localhost ~]# docker pull elasticsearch:7.4.2 Trying to pull repo

原创 Docker 刪除鏡像:Error: No such image:

 問題:剛開始使用如下命令,均無法進行刪除:如 docker rmi 鏡像id [root@localhost sha256]# docker rmi 5acf0e8da90b Error: No such image: 5acf0e8

原创 JDK8日期API (一)jdk8版本前的日期api問題

1、 java8之前對日期的計算有誤,並且寫法複雜: package com.lucifer.day01; import java.time.LocalDate; import java.time.temporal.ChronoUni

原创 Elastic-Job (六)SpringBoot整合Simple作業

項目結構:  ZookeeperProperties :讀取application.yml中的自定義配置 package com.lucifer.study.autoconfig; import lombok.Data; impor