原创 RAG知識庫優化之Rerank應用
前面幾篇文章介紹了最基本的RAG實現，也瞭解了RAG的基本原理。最基本的RAG 流程爲用戶Query問題，RAG應用在向量庫查詢出Context，然後將Query與 Context喂到LLM，LLM生成滿足Query的Respo
2024-04-15 14:04:10
原创 RAG知識庫的可靠性評估（二）
上篇文件介紹了RAG優化與評估的基本概念，以及使用TruLens-Eval在沒有Ground-truth的情況下評估RAG應用。本篇文件主要是使用Ragas對RAG應用進行評估； 使用了Gagas生成合成測試數據集，
2024-04-01 14:04:44
5
原创 RAG知識庫的可靠性評估（一）
在開發基於LLM的RAG應用並準備將其上線應用時，都會比較關注RAG的性能、質量、可靠性其回答的結果準確性到底如何，甚至可以說RAG的質量可靠性其重要性要大於性能，RAG“調好了”看上去效果不錯，有沒有什麼方法去量化度量RAG應用的
2024-03-25 14:10:11
原创 自動求導實現與可視化
micrograd爲一個自動梯度引擎，其實現了反向傳播算法，用於學習理解深度學習中的自動求導原理。自動求導無論再傳統的機器學習中還是深度學習或是目前非常熱門的大語言模型GPT中其都是非常重要基礎部分。 反向傳播算法可以高效計
2024-03-11 14:01:04
原创 使用Langchain與ChatGLM實現本地知識庫（二）
大語言模型也只是將用戶提供的大規模數據集訓練而來，也並非萬能的什麼都知道，特別是一些小衆知識、內部數據或私密的個人數據等，此時ChatGLM3肯定會胡亂回答就是ChatGPT4也不一定能給出滿意回答；不少公司、個人都有自己的知識庫或日誌
2023-12-03 14:50:17
原创 使用LangChain與ChatGLM實現本地知識庫（一）
本篇主要內容爲介紹ChatGLM3的安裝使用，後續纔會涉及到使用LangChain實現本地知識庫的內容； ChatGLM爲智譜與清華大學開源的一個大語言模型，支持多輪對話、內容創作等，ChatGLM3-6B爲ChatGLM3系列中門
2023-11-29 14:04:41
3
原创 在樹莓派中跑迷你Llama2中文模型
OpenAI的Karpathy利用週末搞了一個迷你Llama2項目llama2.c用500行C語言實現無任何依賴項的推理程序，此項目在github發佈以來衍生出了基於各種語言的迷你Llama推理實現llama2.go、llama2.ja
2023-08-21 14:09:35
10
原创 使用GFPGAN修復美化老照片
老照片修復利器GFPGAN，該模型爲騰訊2021年開源的一個用於圖片人臉復原修復的GAN模型；我們都有很多老照片，很多很久以前用兩三百萬像素拍的照片或原文件丟失了，只剩下壓縮文件或QQ空間裏面的老照片，現在一些App也支持老照片修復但往
2023-07-31 14:01:03
原创 使用樹莓派連接攝像頭與實時視頻
排線接通 先需要使用樹莓派攝像頭ffc排線，連接樹莓派攝像頭與樹莓派開發板,其中排線連接的接口被稱爲CSI（Camera Serial Interface）接口。 樹莓派板的CSI接口位於USB和以太網接口旁。我們先將CSI接口的黑
2023-07-01 14:07:15
1
原创 樹莓派使用HC-SR04超聲波測距
超聲波模塊介紹 超聲波測距原理很簡單： 1、通過記錄發送超聲波的時間、記錄超聲波返回的時間，返回時間與發送時間相減得到超聲波的持續時間。 2、通過公式：(超聲波持續時間 * 聲波速度) / 2就可以得出距離； HC-SR0
2023-05-28 14:03:46
1
原创 小米AX9000的Docker能做什麼
小米AX9000路由支持Docker可玩性大大提升，目前在Docker中跑了魔法上網應用、ownCloud私有云盤、私有ChatGPT服務、Aria2下載器，目前跑了三四月穩定性還算可以，偶爾portainer卡死可通過重啓路由器解決，
2023-04-22 14:01:44
原创 一篇用AI生成圖片與內容的文章
圖片生成與解釋 讓New Bing畫一張圖片，生成了四張圖片小圖看上去還可以，但放大細節還不夠好公路可能都不是直的，圖片的內容中和海南不太貼合，在海南海邊並沒有那麼高的山，四張勉強一兩張能用； 目前New Bing還不支持中文提示詞
2023-03-26 14:01:35
2
原创 對ChatGPT的幾個提問，當碼農小幫手可行
ChatGPT能說會到，還能寫代碼修Bug，今天就驗證它的IT相關知識能力，容器的使用、代碼理解編寫的能力等，目前看ChatGPT的水平還是很高，雖然之前通過搜索引擎也能夠獲取得到，但是搜索精準程度還是差得很多並不是第一時間就能夠找到自
2023-02-11 14:01:26
原创 AX9000安裝使用Docker
固件更新 需將小米AX9000路由支持安裝Docker，但正式版並沒有該功能需更新爲開發板Rom，直接在小米路由官網下載固件更新即可，當前正式版最新固件爲1.0.165，開發板固件爲：1.0.140； 固件更新爲140開發版本
2023-01-28 14:01:15
原创 從USB存儲設備啓動樹莓派
設置USB啓動 當前環境使用的樹莓派版本爲：Raspberry Pi 3B，並且已經在SD卡中燒錄系統； 1.使用SD卡燒錄Raspberry Pi OS。 可以只使用Raspberry Pi OS Lite，無桌面環境； 2.Ra
2022-12-31 14:00:58