原创 java實現Dijkstra最短路徑算法

這篇文章主要爲大家詳細介紹了java實現Dijkstra最短路徑算法,具有一定的參考價值,感興趣的小夥伴們可以參考一下 任務描述:在一個無向圖中,獲取起始節點到所有其他節點的最短路徑描述 Dijkstra(迪傑斯特

原创 Region拆分邏輯

Table of ContentsRegion拆分拆分前提獲取拆分點執行拆分回滾操作Region拆分Region的拆分邏輯是通過CompactSplitThread線程的requestSplit方法來觸發的,每當執行MemstoreFlu

原创 RPC通信功能實現

Table of Contents RPC通信功能實現 配置參數調用方法 RPC通信功能實現 HBase的RPC通信功能主要基於Protobuf和NIO這兩個組件來實現,在通信管道上選擇的是protobuf對外聲明的

原创 HFile存儲格式

Table of ContentsHFile存儲格式Block塊結構HFile存儲格式HFile是參照谷歌的SSTable存儲格式進行設計的,所有的數據記錄都是通過它來完成持久化,其內部主要採用分塊的方式進行存儲,如圖所示:每個HFile

原创 RegionServer功能職責

Table of ContentsRegionServer功能職責租約管理Nonce管理堆內存監控健康檢測RegionServer功能職責租約管理HBase的租約管理功能主要應用在scan查詢上,如果客戶端執行scan操作以後,在60秒內

原创 Region恢復邏輯

Table of Contents Region恢復邏輯 配置參數 Region恢復邏輯 RegionServer出現宕機以後,其上部署的Region將會被Master重新分配處理,由於在宕機前,某些Region的m

原创 Tapestry5.3使用總結

1.Tapestry框架的加載是通過Filter來完成的,需要在web.xml中加入以下配置:<filter> <filter-name>app</filter-name> <filter-class

原创 Hadoop之HDFS子框架

體系結構 由圖片可以看到HDFS主要包含這樣幾個功能組件 Namenode:存儲文檔的元數據信息,還有整個文件系統的目錄結構 DataNode:存儲文檔塊信息,並且文檔塊之間是有冗餘備份的 這裏面提到了文檔塊的概念,同本地文件系統一樣,

原创 將kafka工程轉成maven項目

kafka默認提供的源碼是通過sbt進行構建的,在向eclipse導入的時候不是很方便,所以可先將其轉換成maven項目,pom.xml配置如下:<project xmlns="http://maven.apache.org/POM/4.

原创 elasticsearch選舉master

數據節點確定了master以後,會開啓MasterPinger線程來與其保持心跳通信的邏輯如果通信過程中鏈接斷開,會通過MasterNodeFailureListener監聽器進行回調處理處理過程中會去調用

原创 Hive-On-Tez性能測試

Table of Contents Hive-On-Tez測試 MRR計算模型測試MPJ計算模型測試 Hive-On-Tez測試 在MRR和MPJ計算模型的處理上,TEZ能夠提升的性能較爲明顯,具體測試如下:

原创 Virgo整合ECF

ECF框架是OSGI-RemoteService的聲明實現,其依賴Bundle包括: org.eclipse.ecf org.eclipse.ecf.osgi.services.distribution

原创 MapReduce執行流程

MapReduce的大體流程是這樣的,如圖所示: 由圖片可以看到mapreduce執行下來主要包含這樣幾個步驟 1.首先對輸入數據源進行切片 2.master調度worker執行map任務 3.worke

原创 參觀者與組合模式

Demo背景 實現類似於gwt框架的功能,通過java代碼來編寫界面組件,在將界面組件轉換成瀏覽器可識別的UI元素 設計思路: 代碼要實現兩部分功能: 1.編寫界面組件代碼,用java類定義出所需要的界面元素(Button、Label、P

原创 SpringSecurity個性化配置

應用場景 現有的數據庫中包含以下幾張表格用於權限管理 要求在此基礎上集成SpringSecurity,將表格的數據作爲數據源來完成登錄和權限校驗邏輯 SpringSecurity的配置可通過兩種方式呈現,基於自身的namespace配置和