原创 Kafka學習之四 Kafka常用命令

Kafka常用命令 以下是kafka常用命令行總結:   1.查看topic的詳細信息   ./kafka-topics.sh -zookeeper 127.0.0.1:2181 -describe -topic testKJ1   2、

原创 Linux內存、性能分析詳解

在做雙十一投放紅包項目時,做壓力測試,分析性能問題,用到了一些linux工具,以此做了一些總結: TOP 啓動 top  top 的全屏對話模式可分爲3部分:系統信息欄、命令輸入欄、進程列表欄: top - 20:05:40

原创 shell筆記-全面總結-強化腳本編寫能力

最近給雙十一晚會做直播,並且雙十一紅包一角標廣告形式投放出去,在預熱階段需要看下效果,數據團隊沒法給出一些指標數據,需要我們自己做數據分析給出,平時shell使用的少,很多數據分析的命令忘記了,趁此機會總結下: shell文件頭 需

原创 通過dump分析Java對象在內存中到底佔用多大空間?

一、內存結構分析 1、概念: Shallow Size:Shallow size就是對象本身佔用內存的大小,不包含其引用的對象。 retained size: 自身對象+引用對象的retained大小。 2、jvm內存創建對象組成部分 1

原创 微信紅包系統設計分享 | 如何扛住100億次請求

轉自:http://www.woshipm.com/pd/232838.html 春晚搖一搖活動形式 在瞭解這個系統之前,先看看羊年春晚有哪些活動形式?春晚搖一搖複用了搖一搖入口,但提供了全新的界面和交互內容。 在羊年春晚搖一

原创 Kafka學習之七 爲什麼說Kafka使用磁盤比內存快

        Kafka最核心的思想是使用磁盤,而不是使用內存,可能所有人都會認爲,內存的速度一定比磁盤快,我也不例外。在看了Kafka的設計思想,查閱了相應資料再加上自己的測試後,發現磁盤的順序讀寫速度和內存持平。        而且

原创 Centos安裝NodeJs 二進制文件方法

1、在官網https://nodejs.org/en/download/下載Linux Binaries (.tar.xz)文件:node-v4.4

原创 JVM 調優總結:一些概念

轉自:http://my.oschina.net/leejun2005/blog/647017 http://www.importnew.com/18961.html 1、數據類型     Java虛擬機中,數據類型可以分爲兩類:基

原创 Kafka學習之六 zookeeper存儲結構總圖

當我們kafka啓動運行以後,就會在zookeeper上初始化kafka相關數據,主要包括六大類: · consumers · admin · config · controller · brokers · controller_epoc

原创 基於Flume的美團日誌收集系統(二)改進和優化

轉自:http://www.aboutyun.com/thread-8318-1-1.html 問題導讀: 1.Flume的存在些什麼問題? 2.基於開源的Flume美團增加了哪些功能? 3.Flume系統如何調優? 在《基於

原创 flume學習之一 是什麼,主要應用在什麼場景

1、Flume是什麼? Flume是Cloudera開發的一個高可用的,高可靠的,分佈式的海量日誌採集、聚合和傳輸的系統,Flume支持在日誌系統中定製各類數據發送方,用於收集數據。數據源可定製、可擴展,數據存儲系統可定製、可擴展。 fl

原创 電信詐騙導致臨沂多名學生走進天堂

這兩天臨沂多名學生學被騙,導致心臟停止,刷爆了各大新聞頭條,大家都在怨恨罪犯的無恥,互聯網安全的問題,國家對電信詐騙立法的不全。當然這些無一不是這起事件原因。今天早上刷新聞,看到罪犯許玉玉案的罪犯6名有4名已經落網,我們感到很欣慰,同時也

原创 Kafka學習之五 Kafka架構以及設計原理

1、架構圖 Producers、Kafka broker、consumers,它們分別運行在不同的節點 2、設計思想 consumer group: 各個consumer可以組成一個組,每個消息只能被組中的一個consumer消費,如果

原创 揭祕微信紅包架構、搶紅包算法和高併發和降級方案

轉自: http://mp.weixin.qq.com/s?__biz=MzIxMTIwNDcxOA==&mid=2649786999&idx=1&sn=76695da2aae04bff6e746100fe81701d與傳統意義上的紅

原创 Kafka學習之三 Kafka線上環境集羣部署及客戶端應用

1、Zookeeper集羣構建 我們有3個zk實例,分別爲zk-0,zk-1,zk-2;如果你僅僅是測試使用,可以使用1個zk實例.(本示例基於分佈式部署)     1) zk-0     調整配置文件: clientPort=2181