Kafka的配置要點
Consumer
負載低的情況下可以每個線程消費多個partition。但負載高的情況下,Consumer 線程數最好和Partition數量保持一致。
見:http://www.open-open.com/lib/view/open1434551761926.html - 四. consumer和partition
Partition
1天有 1億行可以分8個分區,如果每天幾十萬行就一個分區
見:http://www.cnblogs.com/oftenlin/p/4045924.html
隊列限制
主要設置參數爲 message.max.bytes,queued.max.requests,socket.request.max.bytes
見:Kafka 之 中級 http://my.oschina.net/frankwu/blog/305010
負載低的情況下可以每個線程消費多個partition。但負載高的情況下,Consumer 線程數最好和Partition數量保持一致。
見:http://www.open-open.com/lib/view/open1434551761926.html - 四. consumer和partition
Partition
1天有 1億行可以分8個分區,如果每天幾十萬行就一個分區
見:http://www.cnblogs.com/oftenlin/p/4045924.html
隊列限制
主要設置參數爲 message.max.bytes,queued.max.requests,socket.request.max.bytes
見:Kafka 之 中級 http://my.oschina.net/frankwu/blog/305010
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章
Kafka-producer-perf-test-0.10.2.1-壓測腳本改造
原創
2023-07-07 21:22:35
1關於flink的時間字段-ProcessTime-重新debug-讀kafka->通知觀察方(含正確腳本)
原創
2023-07-07 21:22:31
聊聊 Kafka:Producer 源碼解析
老周聊架构
2021-12-17 17:58:58
聊聊 Kafka:編譯 Kafka 源碼並搭建源碼環境
老周聊架构
2021-12-16 12:43:53
替代 Kafka?Pinterest 推出高效可擴展雲原生系統 MemQ
Pinterest Engineering
2021-12-15 17:03:56
聊聊 Kafka: Kafka 爲啥這麼快?
老周聊架构
2021-12-14 13:33:55
東南亞“美團” Grab 的搜索索引優化之法
Weilun Wu
2021-11-23 11:18:54
Kafka消息生成,消費,存儲機制
原創
2021-09-15 21:10:25
數據遷移同步平臺CloudCanal免費社區版正式發佈
罗燕珊
2021-08-06 15:13:50
深度解讀:Kafka放棄ZooKeeper,消息系統興起二次革命
Tina
2021-04-16 10:33:50
簡單的Kafka:沒有ZooKeeper的Kafka
Confluent Blog
2021-04-07 18:43:54
實時數據倉庫的發展、架構和趨勢
网易数帆
2021-04-02 09:43:51
你可能用錯了kafka的重試機制
Dave Taubler
2021-03-22 18:35:34
24小時熱門文章