原创 spark 調度分析(四)

文章目錄1. 概述2. 各個階段2.1 提交作業(Job)2.2 劃分調度(DAGScheduler)2.3 提交劃分調度階段2.4 提交任務(Task)2.5 執行任務(Excutor Task)2.6 獲取計算結果2.7 調度

原创 死磕Elasticsearch(二)選主流程

文章目錄1 選舉算法2 相關配置3 流程概述4 流程分析4.1 選舉臨時Master流程4.2 投票4.3 確認master4.4 小結5 節點失效檢測5.1 NodesFaultDetection5.2 MasterFaultD

原创 死磕elasticsearch(三)集羣啓動過程

文章目錄1 總體流程2 選主流程3 gateway過程4 allocation過程4.1 選主分片4.2 選副分片4.3 小結5 recovery過程5.1 主分片 recovery5.2 副分片 recovery6 總結 1 總

原创 關於AQS的思考

關於AQS的思考 1概述 在java中,常常使用synchronized實現併發訪問,但是ReentrantLock是基於AQS實現的,AQS僅僅是一個工具類,沒有使用更底層的機器指令,不是關鍵字,也不依靠 JDK 編譯時的特殊處理,僅僅

原创 spark 容錯HA(五)

spark 容錯HA 1. Executor 異常 spark在各種運行模式中的集羣管理器會爲任務分配運行資源,在運行資源中啓動Executor,由Executor是負責執行任務的,最終會把任務運行狀態發送給Driver。 首先

原创 Redis必學(七)Redis分佈式鎖的實現

1 單機 https://blog.csdn.net/holdbelief/article/details/79745270 2 集羣 https://mp.weixin.qq.com/s/y_Uw3P2Ll7wvk_j5Fdlu

原创 死磕JVM(五)對象的創建

死磕JVM(五)對象的創建對象的創建1 檢查引用2 分配內存空間2.1空間分配方案2.2 解決在創建對象時內存空間衝突的問題3 內存分配完成後需要初始化值4 虛擬機需要對對象內存進行設置4.1 對象頭4.2 實例數據4.3 對齊填

原创 死磕JVM(三)內存溢出

目錄 內存泄漏 內存溢出 1 java堆溢出 1.1 溢出場景 1.2 解決方法 2 虛擬機棧和本地方法棧溢出 2.1 溢出場景 2.2 解決方法: 3 方法區和運行常量池溢出 3.1 溢出場景 3.2 解決方法 死磕JVM(一)內存區域

原创 死磕Elasticsearch(五)Get流程和Search流程

文章目錄1 前言2 GET/MGET2.1 GET/MGET:官網介紹2.2 可選參數:2.3 GET粗粒度流程2.4 GET詳細分析2.4.1協調節點執行流程2.4.1.1內容路由2.4.1.2 轉發請求2.4.2 數據節點2.

原创 Redis必學(三)redis多節點集羣

文章目錄1 概述2 集羣搭建2.1 創建配置2.2 啓動服務2.3 創建集羣2.4 哈希槽分配2.4.1 cluster meet 創建集羣(在集羣中添加節點)2.4.2 cluster setlots命令2.5 集羣擴容2.5.

原创 Redis必學(一)redis RDB和AOF持久化

文章目錄1 概述2 取消持久化3 RDB方式3.1 根據配置文件設置進行自動快照3.2 用戶執行SAVE命令或者BGSAVE命令3.2.1 save命令3.2.2 bgsave命令3.2.3 執行FLUSHALL命令3.2.4 執

原创 死磕Elasticsearch(四)寫入過程

文章目錄參考來源1 基礎數據模型2 粗粒度流程3 細粒度流程3.1 協調節點流程:3.1.1 參數檢查3.1.2 處理pipeline請求3.1.3 自動創建索引3.1.4 對請求的預先處理3.1.5 檢測集羣狀態3.1.6 內

原创 終於知道啥是回調了·

以前一直用回調回調,其實不咋知道啥是回調,今天終於想起來去搜一下,其實也就10分鐘的事情。多麼簡單,同步回調,異步回調!!! look~~~ https://www.cnblogs.com/prayjourney/p/96678

原创 Redis必學(六)慢查詢日誌分析

文章目錄1 慢查詢概念2 參數3 命令 1 慢查詢概念     慢查詢日誌就是系統在命令執行前後計算每條命令的執行時間,當超過預設閥值,就將這條命令的相關信息(慢查詢ID,發生時間戳,耗時,命令的詳細信息)記錄下來。慢查詢日誌幫助

原创 Redis必學(二)redis主從模式和哨兵模式

文章目錄1 概述2 主從集羣2.1 複製原理2.2 樂觀複製2.3 增量複製3 哨兵模式3.1 哨兵實現原理3.2 主觀下線和客觀下線 1 概述   一般的文檔,都把redis的集羣方式分成三種:主從、哨兵、集羣(這裏的集羣只是廣