原创 【轉載】Cgroup V2 實現cpu/mem/v2級別隔離

詳解Cgroup V2 版權聲明: 本文章內容在非商業使用前提下可無需授權任意轉載、發佈。 轉載、發佈請務必註明作者和其微博、微信公衆號地址,以便讀者詢問問題和甄誤反饋,共同進步。 微博: https://weibo.com/orroz/

原创 20220519

太忙了,後面補充

原创 scala本地調試函數

val conf = new SparkConf().setAppName("ProductPrivilege").setMaster("local[1]") //創建spark執行的入口 val sc = new SparkCon

原创 一些思考隨筆

目前畢業五年了,有一些比較零碎的想法,在這裏整理一下吧 首先是工作的一些感悟 結果導向 對於同事、leader來說,你做一件事的過程遠沒有結果重要,很多時候大家都比較忙,只想知道你做這件事結果是什麼,完成度多少 超出預期 給一個

原创 使用get_json_object處理hive sql中的json字符串

select output from tablewhere date ="20220125" and get_json_object(replace(output, '.', '_'), '$.features.xxx') IS NOT N

原创 20220114

20220114

原创 python利用thriftpy2將json、struct、obj互相轉換

github thriftpy2 import thriftpy2.protocol.json as proto def test_struct_to_json(): obj = TItem(id=13, phones=["523

原创 融合排序的快速調參實驗

問題背景 在平安的時候會經常對比多個模型的效果,也會加很多規則係數做模型排序,做推薦的時候粗排需要對多個維度進行打分, 例如 score = 模型1 * 0.5 + 模型2 * 0.3 + 模型3 * 0.2 similar = 年齡 *

原创 微服務的一些優化思路

超長鏈路 對於超長鏈路,例如 A -> B -> C -> D 在入口處設置超時時間,例如A 10s, A本身消耗3s就減少3s,等到C發現耗時減爲0之後,就不再往下調用,減少無用計算 調用追蹤 入口請求增加logId,後續所有請求都帶上l

原创 210924

210924

原创 記一次mysql慢查詢優化

問題背景 線上監控發現mysql慢查詢,mysql最大執行時間60s,接口p99耗時1.88s 優化記錄 檢查索引 show create table xxx 線上query條件比較複雜,有接近10個查詢字段,主要字段都已經加索引 檢查索

原创 python運行內存分析

先安裝相關包 pip install pyrasite pip install guppy3 pip install mem_top 使用top查看pip 使用pyrasite連接進程 pyrasite-shell pid 兩種方式打印

原创 使用py-spy查看python當前正在執行什麼代碼

安裝py-spy pip install py-spy top查看python pid top 查看代碼堆棧 py-spy top --pid 1780

原创 20210604佔位

工作太忙,後續補充博客

原创 20210512佔位

工作太忙,後續更新 20210512