原创 (一)logstash的簡單介紹

一、logstash的一些名詞介紹 Pipeline input-filter-output 的 3個階段的處理流程。 隊列管理。 插件生命週期管理。 Logstash Event 他是logstash內部流轉的數據的表現形

原创 (八)elasticsearch之聚合分析的簡單介紹

一、聚合分析的簡單介紹 聚合分析,英文爲 Aggregation,是es 除搜索功能外提供的針對es數據做統計分析的功能。 es聚合分析功能豐富,提供 Bucket、Metric、Pipeline等多種分析方式,可以滿足大部分的

原创 (四)elasticsearch之mapping詳解和數據類型

elasticsearch之mapping詳解和數據類型 一、mapping介紹 類似數據庫中的表結構定義,主要作用如下: 定義 index 下的字段名(Field name) 定義字段的類型,比如 數值型,字符串型,布爾型

原创 接口冪等性介紹與應用

接口冪等性介紹與應用 場景與問題 假設有兩個線程A和B,現假設線程A走到了開始事務和提交事務中間的流程,線程B還在判斷手機號是否存在的流程,因爲Mysql的默認事務隔離級別是repeatable-read,因此線程B不會讀取到線

原创 otter全量同步之自由門

原理:使用canel讀取了源庫的retl_buffer操作binlog來進行實現的,所以在使用此功能時,channel必須處於工作狀態。 步驟一:在otter配置otter同步的庫/表。 配置好channel—>pipeline—

原创 mysql查詢優化

數據庫查詢優化 Innodb存儲引擎支持以下幾種常見的索引: B+樹索引 全文索引 哈希索引 Innodb存儲引擎支持的哈希索引是自適應的,Innodb存儲引擎會根據表的使用情況自動生成哈希索引,不能認爲干預是否生成哈希索

原创 領域驅動設計---Domain Driver Design

https://www.cnblogs.com/baihmpgy/p/10259264.html

原创 logstash 離線安裝插件和打包

【Logstash離線安裝插件】https://blog.csdn.net/abcd1101/article/details/82970810 【logstash快速安裝插件並打離線包(不改動永遠別想裝上)】https://blog.cs

原创 elasticsearch 增刪改查 ---長期更新

1、單字段 多個搜索值 的 模糊查詢 使用 bool 的 should 去查詢。 { "query": { "bool": { "must": [ { "bool": {

原创 elasticsearch 6.x 關於 join 類型的 一些問題記錄(長期更新)

背景: 隨着es 版本的不斷向前演進,在es 6.x 版本中,已經開始有意識地,主動的去弱化 type 這個概念。原因簡單來說就是,es 底層存儲時,相同 type的數據會存儲在一起,但類比到數據庫中的表,我們知道,不同數據庫的同樣名

原创 elasticsearch join 關係的一些代碼示例---增加篇

package com.ustcinfo.ishare.esCURD; import com.ustcinfo.ishare.utils.Blog; import com.ustcinfo.ishare.utils.ClassFiel

原创 Java 8 新特性 及 常見 面試題

Java 8 新特性簡介: 1. 代碼更少(增加了新語法:Lambda 表達式) 2. 強大的 Stream API(集合數據的操作) 3. 最大化的減少空指針 異常:Optional 類 的使用 4. 接口的新特性 5. 註解的新特

原创 mysql 數據庫 開啓 binary log 記錄

由於項目需要,現有需求,將 mysql 數據庫中的 數據同步到 elasticsearch中,我們的方案如下:使用 canal 做數據同步;所以需要開啓 mysql 的 binary log。 第一步,找到 my.ini 文件,一般在