原创 後端常用的Linux命令大全,建議收藏

引言 作爲一名後端工程師,使用終端是一種常見的做法,也是你應該學習的技能。許多命令和實用程序可以幫助你在使用 Linux 時更有效地完成任務。 基本 Linux 命令 如果你想使用 Linux 操作系統,學習常用的命令將會大有幫助。本篇

原创 圍繞 transformers 構建現代 NLP 開發環境

本文將從“樣本處理”,“模型開發”,“實驗管理”,“工具鏈及可視化“ 幾個角度介紹基於 tranformers 庫做的重新設計,並簡單聊聊個人對“軟件2.0”的看法。 Intro 最近在 review

原创 騰訊QQ桌面版架構升級:內存優化探索與總結

相比用戶停留時間短、用完即走的 Web 頁面,桌面 QQ 用戶在一次登錄後,可能會掛機一週以上,這段期間,如果沒有嚴格控制好 QQ 內存佔用,那麼結果可能是用戶交互響應變慢、甚至 Crash。 在系統監控工具裏,高內存佔用也會被直觀地反映

原创 用強化學習構建個性化的二維碼

  技術概述 AIGC 在圖像生成領域如火如荼,StableDiffusion 加各種 LORA,ControlNet,大家玩得不亦樂乎。但是基於擴散模型的方式,仍然存在很多問題,比如抽卡成功率過低,生成圖像的細節仍需優化。具體到二維碼生

原创 DDD腳手架及編碼規範

一、背景介紹 我們團隊一直在持續推進業務系統的體系化治理工作,在這個過程中我們沉澱了自己的DDD腳手架項目。腳手架項目是體系化治理過程中比較重要的一環,它的作用有兩點: 可以對新建的項目進行統一的規範

原创 2023年值得關注的6個開源日誌管理工具

日誌管理包含日誌數據存儲、處理、分析和可視化,通過利用日誌管理工具,可以監控性能趨勢、解決問題、檢測異常並優化整體系統性能。   近年來,開源日誌管理解決方案在大家尋求靈活且經濟有效的方式來管理現代系統典型的大量日誌數據時,獲得了顯著

原创 既然有HTTP協議,爲什麼還要有RPC?

我想起了我剛工作的時候,第一次接觸RPC協議,當時就很懵,我HTTP協議用得好好的,爲什麼還要用RPC協議?   於是就到網上去搜。   不少解釋顯得非常官方,我相信大家在各種平臺上也都看到過,解釋了又好像沒解釋,都在用一個我們不認識的

原创 Intel、海光、鯤鵬920、飛騰2500 CPU性能對比

Intel 海光 鯤鵬920 飛騰2500 CPU性能對比 爲了讓程序能快點,特意瞭解了CPU的各種原理,比如多核、超線程、NUMA、睿頻、功耗、GPU、大小核再到分支預測、cache_line失效、加鎖代價、IPC等各種指標(都有對應的代

原创 不同CPU性能大PK

前言 比較Hygon7280、Intel、AMD、鯤鵬920、飛騰2500的性能情況 CPU型號 Hygon 7280 AMD 7H12 AMD 7T83 Intel 8163 鯤鵬920 飛騰2500 倚天710 物理核數

原创 飛騰ARM芯片-FT2500的性能測試

ARM ARM公司最早是由赫爾曼·豪澤(Hermann Hauser)和工程師Chris Curry在1978年創立(早期全稱是 Acorn RISC Machine),後來改名爲現在的ARM公司(Advanced RISC Machine

原创 十年後數據庫還是不敢擁抱NUMA?

十年後數據庫還是不敢擁抱NUMA? 在2010年前後MySQL、PG、Oracle數據庫在使用NUMA的時候碰到了性能問題,流傳最廣的這篇 MySQL – The MySQL “swap insanity” problem and the

原创 如何用大語言模型構建一個知識問答系統

傳統搜索系統基於關鍵字匹配,在面向:遊戲攻略、技術圖譜、知識庫等業務場景時,缺少對用戶問題理解和答案二次處理能力。 本文探索使用大語言模型(Large Language Model, LLM),通過其對自然語言理解和生成的能力,揣摩用戶意

原创 生成式推薦系統初探

隨着 ChatGPT 的橫空出世與 GPT-4 的重磅登場,生成式 AI(Generative AI)引起了前所未有的關注,基於 GPT(Generative Pre-Trained Transformer)的模型在各類 NLP 和

原创 大模型算力推演優化實戰

閱讀幫助 第一部分爲看清:大模型的訓練及推理過程是如何的,以及內部邏輯 第二部分爲理解:大模型的訓練及推理和算力的關係 第三部分爲推演:用簡單的公式量化大模型算力的需求 第四部分爲優化:我們如何提高算力利用率   一、看清 1.1 大模型

原创 開源協議的選擇

在進行開源軟件選型時,需要留意一下開源協議,開源選件往往可以免費使用,但不意味着隨意使用,根據你的用途,協議的要求會對你產生一定的影響。截止到寫稿時,經過OSI(Open Source Initiative)組織批准的開源協議就有82種之