原创 RocketMQ-4.7.0初始化安裝

將多塊硬盤合併注:操作系統使用Centos7.6版本#yum install lvm2 -y && yum -y install parted初始化並掛載硬件#!/bin/bashfor n in b c ;do parted /dev/v

原创 RocketMQ集羣節點閃斷引起的故障

1,問題描述收到告警平臺告警,Rockemq集羣有異常RocketMQ節點cpu飆高,網絡丟包100%IO有飆高內存中斷2,查看broker日誌2.1查看GC日誌並無異常$cd /dev/shm/2020-02-23T23:02:11.86

原创 Rocketmq延遲服務無法正常消費數據

背景架構部署32C  128G 1.8T 4主4從架構部署rocketmq延遲服務生產者生產數據,消費者無法正常消費到數據,查看日誌有重大發現,所有的主節點均有這報錯#vim  /data2/logs/rocketmqlogs/storee

原创 RocketMQ集羣生產環境master節點節點優雅下線

1,現狀描述由於某些原因,導致rocketmq集羣中某個master節點不能正常服務,需要爲master節點做流量遷移動作,已確保消息不丟失配置策略爲:異步刷盤主從異步複製如果直接下線該master,由於主從異步複製,可能導致部分消息來不及

原创 開啓Kafka ACL認證控制

通過 producer、consumer、admin 實現了寫入、讀取和 consumer-group 控制權限的分離。沒有配置 zookeeper 的 SASLBroker 端1. 創建 JAAS 文件,注意結尾兩個分號,保存爲 kafk

原创 ETCD集羣部署

etcd 是一個高可用的 Key/Value 存儲系統,主要用於分享配置和服務發現。etcd 的靈感來自於 ZooKeeper 和 Doozer,側重於:簡單:支持 curl 方式的用戶 API (HTTP+JSON)安全:可選 SSL 客

原创 Pulsar集羣搭建部署

一、集羣組成說明1. 搭建 Pulsar 集羣至少需要 3 個組件:ZooKeeper 集羣、BookKeeper 集羣和 broker 集羣(Broker 是 Pulsar 的自身實例)。這三個集羣組件如下:ZooKeeper 集羣(3

原创 RocketMQ4.5.1兩主兩從集羣部署

RockerMQ簡介RocektMQ是阿里巴巴在2012年開源的一個純java、分佈式、隊列模型的第三代消息中間件,不僅在傳統高頻交易鏈路有着低延遲的出色表現,在實時計算等大數據領域也有着不錯的吞吐。2016年11月11號,雙十一大促見證了

原创 zookeeper kafka遷移後logstash消費不了Kafka消息

zookeeper和kafka安裝在同3臺機器上,組成一個集羣,對外提供服務因爲種種原因,需要將kafka和zookeeper 做整體遷移首先 申請3臺機器部署好zookeeper服務,加到原來的集羣中,方法見上篇Zookeeper遷移(擴

原创 Zookeeper遷移(擴容/縮容)

zookeeper選舉原理在遷移前有必要了解zookeeper的選舉原理,以便更科學的遷移。快速選舉FastLeaderElectionzookeeper默認使用快速選舉,在此重點了解快速選舉:向集羣中的其他zookeeper建立連接,並且

原创 RabbitMQ 6種業務場景

應用場景1-“Hello Word”一個P向queue發送一個message,一個C從該queue接收message並打印。producer,連接至RabbitMQ Server,聲明隊列,發送message,關閉連接,退出。應用場景2-w

原创 RabbitMQ控制檯詳解

overview→Totals所有隊列的阻塞情況Ready:待消費的消息總數Unacked:待應答的消息總數Total:總數 Ready+Unacked Publish:producter pub消息的速率。Publisher confir

原创 kubernetes1.14.0 安裝 helm 教程

Helm 可以理解爲 Kubernetes 的包管理工具,可以方便地發現、共享和使用爲Kubernetes構建的應用,它包含幾個基本概念Chart:一個 Helm 包,其中包含了運行一個應用所需要的鏡像、依賴和資源定義等,還可能包含 Kub

原创 docker目錄遷移及docker日誌自動清理

docker 默認安裝路徑爲/var/lib/docker/,當docker用過一段時間後發現/var/lib/docker/overlay2 佔用很大,就需要清理Docker佔用的磁盤空間,將目錄/var/lib/docker 目錄遷移到

原创 Apache Kafka 基本操作

啓動ZooKeeper打開一個新終端並鍵入以下命令#cd /usr/local/zookeeper-3.4.13/#bin/zkServer.sh start關閉ZooKeeper,請鍵入以下命令#cd /usr/local/zookeep