原创 [MongoDB] 按時間分組統計(任意時間段)

統計任意時間段內和sum,avg等信息 記錄樣本 { "_id" : ObjectId("5a2a290320fc1abc16104c0c"), "netservice" : "Brasil_OiVelox",

原创 [Python] MultiprocessTimedRotatingFileHandler

Python logging模塊在多進程下不保證同步,所以 TimedRotating 的情況下可能會導致某些日誌文件丟失,下面是一種簡單的解決辦法,對於日誌完整行要求不是很嚴格的情況下可以使用。 # coding:utf-8 i

原创 [bpf]bcc-tools和bpftrac運行錯誤 Error creating printf map: Operation not permitted

最近把公司的電腦安裝了 ubuntu系統,用來做日常開發和學習的環境,看到內核比較新,所以想弄點新玩意玩玩。 環境爲 # cat /etc/issue Ubuntu 18.04.3 LTS \n \l # uname -a Li

原创 [Python]threading local 線程局部變量小測試

概念      有個概念叫做線程局部變量,一般我們對多線程中的全局變量都會加鎖處理,這種變量是共享變量,每個線程都可以讀寫變量,爲了保持同步我們會做枷鎖處理。但是有些變量初始化以後,我們只想讓他們在每個線程中一直存在,相當於一個線程內的共

原创 [devops]編譯部署階段

針對於後端服務非docker場景的pipeline

原创 [OpenResty動態] 20180328 沙塵暴

今天沙塵暴很牛 我們團隊的澤軒同學最近給 OpenResty 新增了 ngx.resp 這個 Lua FFI 模塊的 add_header() 函數,可以像標準的 nginx 配置指令 add_header 那樣只追加新的響應頭

原创 orangleliu的2019年小結

19年過的比較惶恐,突然感覺自己沒有了競爭力,內心戰鬥力還是有的,就是感覺有力使不出,發揮不出來。 去年的心願 旅行 讀書 其他的完成度比較低 說說今年的印象深刻的幾個詞 失業 隨着老ken不能說服愛立信,elmeast一

原创 [MongoDB] 聚合嵌入 object 的 key

標題比較拗口,下面給一個具體的例子 MongoDB 3.6 數據樣本 { "_id" : ObjectId("5a79391534cdbd692825e978"), "cdn" : "Conversant"

原创 axios 處理 302 狀態碼

比如說瀏覽器打開了一個單頁面(SPA)應用,過了一段時間token(或者session)過期了,這個時候頁面上發起 Ajax請求之後,後端返回302狀態碼跳轉到login頁面。 我這是使用的是 Vue + axios ,發現 a

原创 Flask 中的登陸校驗

請求的登陸校驗是個常見的需求,如果使用 Flask 框架,一般會使用 flask-login 這個庫,說說使用遇到幾點問題 怎麼全局禁用login檢查呢? flask-login 提供了一個配置項 LOGIN_DISABL

原创 隨筆201906

本年度Blog寫的很少,加上去年的總結一共3篇,是什麼原因呢?工作的事情不是很穩定,有些計劃就被打亂了,之前蠻多的文章都是工作總結,還有就是看東西有些凌亂,不夠專注,導致蠻多的知識只在皮毛,沒有什麼體系,所以就沒啥記錄。 搬家

原创 Flume avro client和hdfs sink 完成自定義目錄文件收集

準備 背景: 把分散在個邊緣Node的訪問日誌收集到中央節點,然後在做後續的處理。邊緣Node(例如hostname爲BJ-NODE1) 上的日誌每分鐘切出來一個文件,通過 Flume avro client 把5分鐘粒度內的日誌上

原创 說說HTTP 202狀態碼的場景

最近線上有對接其他系統的HTTP請求,總是取不到數據,導致數據偶爾丟幾次。這是個交接過來的系統,之前也沒對過API,後來拿到API以及測試之後,才發現是202狀態碼的異步任務導致的。 概念 rfc2616 MDN HTTP 20

原创 Orangleliu的2018年小結

生活 今年總的來說家庭合睦,身體健康,蠻好的。 最大的事情就是買房子,借遍了親戚朋友,加上父母的家底才湊夠首付,雖然房子不大,也算有了自己的家,年後就可以搬進去了。雖然一下子欠下很多錢,有點不適應,但是有家的感覺還是蠻好的。18年房產

原创 Golang 按行解析日誌測試 ldetool

比較早的時候寫過一篇 Python Golang 解析web日誌正則一例 當時發現 Golang的正則模塊性能不是很好。最近在逛 reddit的時候發現了這樣一篇文章 Fast log parsing with Go ,文中提到了一個