【開源項目推薦】——純中文本地GPT知識庫搭建項目.assets

大家好,我是獨孤風。

又到了本週的開源項目推薦。近一年多的時間,人工智能迎來了大爆發。GPT相關的大模型的發展讓很多領域都發生了巨大的變化。
但是雖然GPT的自然語言識別功能異常的強大,但回答給我們的知識內容並不盡如人意。那麼,有沒有可以在本地部署搭建的AI知識庫項目呢?
今天爲大家推薦的就是一個純中文本地GPT知識庫搭建項目,雖然剛剛開源不到半年的時間,標星已經達到了8.8K,
讓我們一起來看看吧~

FastGPT

今天爲大家推薦的開源項目名爲FastGPT。

FastGPT 是一個基於 LLM 大語言模型的知識庫問答系統,提供開箱即用的數據處理、模型調用等能力。同時可以通過 Flow 可視化進行工作流編排,從而實現複雜的問答場景!雖然開源的大模型已經有很多,但是如果基於這些大模型搭建自己的知識庫並不容易,需要非常複雜的實現過程。而FastGPT正是爲了解決這個問題而誕生的。簡單的說我們可以將自己的資料全都餵給它,創建一個屬於自己的知識庫。它會對資料進行整理,當你詢問它問題的時候,就可以直接調用知識庫裏的資料進行回答,相當於爲自己定製了一個大語言模型。

目前FastGPT支持 pdf、word、txt、md 等常用文件,支持 url 讀取、CSV 批量導入。而整個搭建過程都可以在頁面進行操作,不需要編碼調試,極大地降低了技術門檻。FastGPT基本對齊了全球、國產主流AI,如 OpenAI ,清華GML,可集成到各種平臺中。FastGPT的部署非常簡單,可以使用Docker快速的進行部署。而如果需要做二次開發,也可以很輕鬆的搭建環境,該項目主要是TS語言開發,準備好NodeJS相關環境就可以了。而且FastGPT的整個配置過程都是支持中文的,非常方便。FastGPT自開源以來發展迅速,已經有非常多的用戶基於其搭建了自己的本地知識庫,最新版本爲4.6.6,大家趕快用起來吧~

功能演示

請參考大數據流動視頻號演示介紹。

安裝部署

推薦如下的基本配置。

一、安裝 Docker 和 docker-compose
# 安裝 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安裝 docker-compose
curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 驗證安裝
docker -v
docker-compose -v
二、配置文件

依次執行下面命令,創建 FastGPT 文件並拉取docker-compose.ymlconfig.json,執行完後目錄下會有 2 個文件。

mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
三、啓動

修改docker-compose.yml中的OPENAI_BASE_URLCHAT_API_KEY即可,對應爲 API 的地址(別忘記加/v1)和 key。隨後啓動。

# 在 docker-compose.yml 同級目錄下執行
docker-compose pull
docker-compose up -d
四、訪問 FastGPT

目前可以通過 ip:3000 直接訪問(注意防火牆)。登錄用戶名爲 root,密碼爲docker-compose.yml環境變量裏設置的 DEFAULT_ROOT_PSW

使用步驟

首先我們需要創建一個知識庫。

知識庫創建完之後我們需要上傳一點內容。

上傳內容這裏有四種模式:

  • 手動輸入:手動輸入問答對,是最精準的數據
  • QA 拆分:選擇文本文件,讓AI自動生成問答對
  • 直接分段:選擇文本文件,直接將其按分段進行處理
  • CSV 導入:批量導入問答對

這裏,我們選擇 QA 拆分,讓 AI 自動生成問答,若問答質量不高,可以後期手動修改。

點擊上傳後我們需要等待數據處理完成,等到我們上傳的文件狀態爲可用。

點擊「應用」按鈕來新建一個應用,這裏有四個模板,我們選擇「知識庫 + 對話引導」。

應用創建後來再應用詳情頁找到「知識庫」模塊,把我們剛剛創建的知識庫添加進去。

添加完知識庫後記得點擊「保存並預覽」,這樣我們的應用就和知識庫關聯起來了。

然後我們就可以愉快的開始聊天啦。

趕緊用起來吧!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章