原创 kafka系列——kafka集羣搭建(一)

前言:前面搭好了kafka要依賴的zookeeper(其實kafka自己內置了zookeeper,但我還是用自己搭的),現在開始搭建kafka集羣。 在/opt目錄解壓後,進入config/server.properties修改: br

原创 object field starting or ending with a [.] makes object resolution ambiguous: []

es報這個錯,說你的字段無法正確映射,很有可能是你寫入es的時候key是""。去檢查往es寫入之前的數據源。

原创 emqx服務器的集羣搭建(三)

前言:前面做了emqx的單點搭建,官方的壓測顯示,即使單點的emqx的性能也是很能打的(EMQ X R3.0 在單機 8核/32G內存的 CentOS 雲服務器,能夠測試到 130萬 的客戶端連接數),但單點沒有容錯能力(如果部署emq的

原创 kafka系列——kafka實用命令(二)

前言:最近用kafka比較多,記錄一下命令。 1,查看kafka的topic列表 bin/kafka-topics.sh --list --zookeeper 172.18.215.18:2181 2, 啓動一個生產者,並向 dofu

原创 emqx服務器的權限驗證(四)

前言:emqx是默認開啓匿名認證的,即客戶端不需要任何認證信息即可連上emqx服務器,但生產環境這樣肯定是不行的。emqx也支持很多種認證方式,這裏我選着最簡單的一種,用戶名密碼認證。 生產環境肯定是不能裸奔的,所以需要權限驗證。 emq

原创 ELK系列——7.0.0 logstash踩坑記(五)

前言:玩 logstash 7.0.0 的時候又碰到了bug... 修改一:es7.0版本去掉了type的概念,所以當我在用logstash往es導入數據的時候,用這個模板文件做映射就會報錯。 {     "order" : 0,    

原创 redis系列——centos7部署redis(單機)(一)

前言:記錄一下,方便後續自己查看。 1,下載編譯安裝 wget http://download.redis.io/releases/redis-5.0.5.tar.gz tar -zxvf redis-5.0.5.tar.gz make

原创 出門喫飯,手機沒電,有感——爲什麼共享充電寶能活?

前言:本人很不喜歡沒事去商場,但由於女友的存在,不得不去啊。恰巧這次去商場手機要沒電了,又要買單,於是去借了充電寶,由此引發思考。 這次借了個街電的充電寶,用支付寶掃碼信用無押金借的,1.5元/半小時,大概借了40來分鐘吧,因爲手機充了4

原创 擺脫LB服務器,自己實現emq集羣的負載均衡(八)

前言:前面用nginx+keepalived做了emqx的負載均衡和高可用,但是通過觀察服務器監控發現,nginx轉發了tcp連接到emq後,還會佔着tcp的連接數,這就導致服務器的tcp總連接數翻倍。還有個問題就是,通過nginx轉發的

原创 emq實現向大量指定設備推送消息(九)

前言:最近完成了一個需求,向大量的指定設備推送消息。但是,實現過程中發生一些問題,導致不得不換了一種實現方式,故記錄之,以供參考。 先說明下背景:emq集羣爲2個節點,配置爲4核16G,同時在線設備量大概在10W左右(即每個節點負載約5W

原创 ELK系列——terms分組後的結果數據再分組(七)

前言:最近遇到了一些需求,需要統計分組後的結果數據再分組的數據,查遍資料絞盡腦汁的想解決方案。可也沒有一個很好地解決方案,但最後也還是找到一個不算太好但能解決問題的辦法。分享給大家。 需求背景:有一批設備可以播放廣告,es存了設備的播放記

原创 Swagger2?有何用?

首先給結論:swagger2 hin有用!! 怎麼個有用法?從單體應用進入到前後端分離開發模式後,我們可能經歷了這麼幾個時代: 口頭傳述+釘釘(QQ\微信)私聊時代 後端在開發完獲取用戶列表接口後。。。 /** * 獲

原创 redis系列——redis跨機器複製指定key(二)

前言:拷貝redis數據,首先想到可以把redis的dump.rdb快照文件拷貝到新redis的數據目錄啓動就好,但這樣是把全部數據都拷貝了過去,並且如果被拷貝的redis裏面本身有數據的話,會被覆蓋掉,所以這種方法只適合做數據的整體遷移

原创 Swagger2如何使用更好?

知道了swagger2的好,但要怎樣的好好利用,才能好上加好? 1,用swagger2註解代替掉字段註釋吧 爲什麼這樣說,字段註釋是我們寫來解釋字段含義的 public class PageVO { /** *

原创 springboot MultipartFile 上傳文件後@Async異步處理報錯:FileNotFoundException

前言:最近使用springboot處理文件上傳。但是遇到了一些莫名其妙的問題。 需求是:前端上傳一個excel,後端需要接收並解析裏面每行數據,並最後生成一個結果excel提供下載。 由於考慮到如果用戶上傳的excel數據量大的時候,解析