原创 Spark廣播變量的java 使用踩坑記 賦值,更新與重啓

本文爲純原創,轉載請註明出處,謝謝 spark廣播變量適用於多節點並行操作同一變量的情況,如果spark每次都將該變量分發到不同executor節點那麼浪費資源又佔用帶寬,所以可以將變量在driver端創建一份然後通過廣播變量廣播到各個e

原创 ElasticSearch之es概述及簡單配置(類似前言,用處不大)

ES的起源 1999年一個名爲Lucene的開源項目誕生,lucene是一個用java寫成的檢索工程庫,2005年成爲apache的頂級項目,對full-text檢索非常高效,但是難於應用,難於配置,難以擴展制約了lucene發展。基於此

原创 JVM瞎琢磨之堆棧理解

衆所周知,JVM的內存模型分爲方法區,堆,棧(虛擬機棧),本地方法棧,程序計數器。其中方法區和堆爲線程共享,其餘三類爲線程私有。大部分的文章都在講解其作用,但是爲什麼這麼劃分卻並未涉及,本文從堆棧的職能角度剖析,拋磚引玉,希望能帶來啓發。

原创 NoClassDefFoundError的產生及處理

NoClassDefFoundError 經常與ClassNotfoundException混淆,ClassNotfoundException意爲未找到類,即類丟失。而NoClassDefFoundError 意爲未找到class的定義,

原创 JVM瞎琢磨之內存模型及簡單調優思路記錄

JVM:java虛擬機,是每個程序員又愛又恨的存在,因爲有了它,我們的程序纔可以跨平臺,但是又因爲它的艱澀難懂,讓很多人望而卻步。 JVM的內存模型有點像咱們國家的土地,由國家統一規劃分配,有的是公共用地作爲公共場所供所有線程訪問

原创 Elasticsearch是如何實現master選舉的?什麼是腦裂及如何避免腦裂

Elasticsearch是如何實現master選舉的 master選舉默認是由zendiscovery模塊負責。 系統剛剛啓動的時候,選取id最小的備選master爲master節點。 系統運行起來之後,master和非master節點

原创 Java數組總結

最近在重溫基礎,core Java 卷1結合java編程思想,將數組知識點總結如下:特性數組是一種引用類型,存儲同一種數據類型的集合容器. 存儲時數組元素存儲在堆內存(heap)中,數組的引用變量存儲在棧內存中(stack)中。優點:隨機

原创 painless腳本應用及與elasticsearch,java的結合使用

寫在前面    painless是一個較新的腳本語言,畢竟不是一加一等於二那麼簡單,開始不懂是很正常的,如果看不懂 請看第二遍第三遍乃至N次  相信我 一定能看得懂的,書讀百遍,其義自見 es5以上版本推出了簡單安全快捷的painless

原创 這就是搜索引擎核心技術詳解讀書筆記(1)

本文基於《這就是搜索引擎核心技術詳解》,2018年2月印刷版,本書雖然年代有點久遠(2012年的書),但是關於搜索引擎及倒排索引等內容還是講解的透徹易懂,對理解原理有很大的幫助,本文針對第一章---第三章3.1之前的內容做了筆記整理,後續

原创 HSSFWorkbook poi創建鎖定的單元格

最近的項目中用到了poi方式創建excel文件,某些單元格要進行鎖定,某些單元格需要進行填寫選項的預設值,發現現在網上給出的鎖定的代碼基本上行不通,所以把自己寫的整理出來分享一下。 全部的代碼就不寫出來了,只寫主要的,免得看得頭暈。 首先

原创 Elasticsearch6.2版本_默認集羣節點發現機制(zendiscovery) Api翻譯

官網api地址:https://www.elastic.co/guide/en/elasticsearch/reference/current/modules-discovery-zen.html#modules-discovery-ze

原创 java正則表達式 matches方式匹配ip

最近遇到了一個要校驗ipv4 ipv6格式的問題,應用正則表達式方便簡單,代碼如下,已經通過驗證,可方便判斷字符串是否爲正確ip /** * @Title: isIPAddress ip校驗 * @Description: 判斷I

原创 eclipse中10個最有用的快捷鍵

一個Eclipse骨灰級開發者總結了他認爲最有用但又不太爲人所知的快捷鍵組合。通過這些組合可以更加容易的瀏覽源代碼,使得整體的開發效率和質量得到提升。 1. ctrl+shift+r:打開資源 這可能是

原创 elastisearch之java api Transportclient創建連接

ElasticSearch提供了NodeClient,Transport方式。 NodeClient這種方式相當於創建了一個節點,放入集羣中,這個節點不存儲數據,並且不能作爲主節點,因爲是一個節點,它知道整個集羣的狀態(每個節點在哪,哪些