原创 brew安裝指定版本的Python / 解決Macbook上Python3.7版本不能安裝Tensorflow的問題 總結

[原創文章,轉載請註明出處] 最近想在Macbook上搭建tensorflow環境,發現pip安裝會報錯,說找不到合適版本的tensorflow。通過pip3 install -v tensorflow發現目前只提供了python3.5和p

原创 升級Kafka的side effect 升級步驟 升級效果 分析

公司日誌系統的Kafka集羣多年來一直使用0.8.2版本,當前Kafka已經發展到1.x, 2.x,有必要升級到較高的版本,以使用更新的功能。 本次計劃升級至比較穩定的1.1.0版本。 升級步驟 參考官方文檔:https://kafka.a

原创 升級Kafka的side effect

公司日誌系統的Kafka集羣多年來一直使用0.8.2版本,當前Kafka已經發展到1.x, 2.x,有必要升級到較高的版本,以使用更新的功能。 本次計劃升級至比較穩定的1.1.0版本。 升級步驟 參考官方文檔:https://kafka.a

原创 zstd,未來可期的數據壓縮算法

tl;dr(太長不讀): zstd是Facebook在2016年開源的新無損壓縮算法,優點是壓縮率和壓縮/解壓縮性能都很突出。 在我們測試的文本日誌壓縮場景中,壓縮率比gzip提高一倍,壓縮性能與lz4、snappy相當甚至更好,是gz

原创 記一次獲得3倍性能的go程序優化實踐,及on-cpu/off-cpu火焰圖的使用

先把結論列在前面: Golang的性能可以做到非常好,但是一些native包的性能很可能會拖後腿,比如regexp和encoding/json。如果在性能要求較高的場合使用,要根據實際情況做相應優化。 on-cpu/off-cpu火

原创 Kafka使用中的兩個問題總結

Kafka用了挺長時間了,最早時官方文檔也看得挺細的,但結果大半年沒用,最近在做一些部署調整的時候有些細節居然遺忘了,擺了個烏龍。在這裏總結一下,以免再忘。 1. 給Kafka加負載均衡的問題 Kafka producer上傳數據的工作原

原创 小記TCP keepalive

前幾天在調查一個Kafka服務器tcp連接數過大的問題。具體情況是單臺Kafka的tcp連接數超過了3萬,都是ESTABLISHED狀態,到部分remote ip的連接數達到了幾百,且連接數每天還在持續增加。這批remote ip都是屬於同