原创 Flink 原理與實現:再談反壓

Flink 原理與實現:如何處理反壓問題 這一篇文章中我們講了 Flink 的反壓機制。本文我將更加詳細的介紹先後採用的兩種反壓機制: 基於 TCP 的反壓(< 1.5) 基於信用的反壓(≥ 1.5) 1. 邏輯視圖 Flin

原创 Huffman編碼

1. 概念 我們來學習一種能夠大幅壓縮自然語言文件空間(以及許多其他類型文件)的數據壓縮技巧。它的主要思想是放棄文本文件的普通保存方式:不再使用 7 位或 8 位二進制數表示每一個字符,而是使用較少的比特表示出現頻率高的字符,用較

原创 流計算中的 Exactly Once 語義

在大數據領域,分佈式事件流處理已經成爲了熱門話題。目前流行的流處理引擎包括 Apache Storm、Apache Flink、Heron、Apache Kafka(Kafka Streams)和 Apache Spark(Spa

原创 Spring Boot 實戰

Spring Boot 實戰 本文整理了 Spring Boot 各種使用技巧,以及繼承第三方庫的使用案例,可訪問 spring boot 獲取源碼。後續文章會拆解每個使用案例。 spring-boot-actuator:Spr

原创 Flink 原理與實現:如何處理反壓問題

流處理系統需要能優雅地處理反壓(backpressure)問題。反壓通常產生於這樣的場景:短時負載高峯導致系統接收數據的速率遠高於它處理數據的速率。許多日常問題都會導致反壓,例如,垃圾回收停頓可能會導致流入的數據快速堆積,或者遇到

原创 Apache Flink 事件時間處理和 Watermarks

原文地址:Flink Event Time Processing and Watermarks 如果你正在搭建一個實時流程序,事件時間處理是你不久將不得不使用的一個功能之一。因爲在現實世界中絕大多數用例的消息都是亂序的,你的系統應該有

原创 線上故障排查(二)——高MEM佔用

1. 高內存佔用 線上故障排查(一)——高CPU佔用一文中介紹了高 CPU 佔用程序的排查,今天我們介紹高MEM佔用的程序。高內存佔用的程序是指內存消耗比較大的程序。我們在開發 Java 應用程序的時候,一定見過 OOM(即 java

原创 線上故障排查(一)——高CPU佔用

1. 計算密集型任務 一般線上的任務會分爲:計算密集型任務和IO密集型任務,其中計算密集型任務也叫做CPU密集型任務,是指CPU計算佔主要的任務,CPU一直處於近乎滿負荷狀態。 在公司中,一般服務器CPU佔用率超過一定的閾值,就會有報

原创 Java 併發概述

併發(Concurrency),是指在某個時間段內,多任務交替處理的能力。並行(Parallelism),是指同一時刻同時處理多任務的能力。 在併發環境下,由於程序的封閉性被打破,出現了以下特點: 併發程序之間有相互制約的關係。直接

原创 Java 數據結構與集合

1. 集合圖譜 Java 集合圖譜: 1.1 List 集合 List 集合是線性數據結構的主要實現,List 集合的遍歷結果是穩定的。該體系最常用的是 ArrayList 和 LinkedList。 ArrayList 是容量可以改

原创 RMQ(Range Minimum Query)

版權聲明:本文爲博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/u010376788/article/details/78010389 RMQ RMQ(Range Minimu

原创 MapReduce多路徑輸入與多文件輸出

版權聲明:本文爲博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/u010376788/article/details/51291166 我前段時間在完成一個公司業務時,遇到了一

原创 MyBatis 筆記(三)——優化配置

版權聲明:本文爲博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/u010376788/article/details/77462408 在之前的講解中,不難發現 MyBatis

原创 MyBatis 筆記(二)——XML vs 註解

版權聲明:本文爲博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/u010376788/article/details/77418049 MyBatis 支持註解和 XML 兩種

原创 Python定時任務調度——APScheduler

版權聲明:本文爲博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/u010376788/article/details/75726182 簡介 APScheduler 框架可以讓