智能客服系統對接通義千問和月之暗面MoonshotAI-基於OneAPI中轉

我們的智能AI客服系統已經對接了多種大模型，包括通義千問和Moonshot

 

gofly.v1kf.com

 

現在GPT大模型或國產大模型有很多，Azure、Anthropic Claude、Google PaLM 2、智譜 ChatGLM、百度文心一言、訊飛星火認知、阿里通義千問、360 智腦以及騰訊混元，我們需要有一箇中間系統來將多種LLM接口轉換爲兼容OpenAI的接口形式，對外提供一致的調用方法

 

1.   下載源碼

  git clone https://github.com/songquanpeng/one-api.git

2.   創建MySQL數據庫

  create database `oneapi`

3.   設置環境變量

  該環境變量是數據庫的連接信息

  在 Windows 中設置環境變量，需要使用管理員運行cmd命令行

  setx SQL_DSN "root:123456@tcp(localhost:3306)/oneapi" /m

4.   在 Linux 中設置環境變量：

  使用 ~/.bashrc 或 ~/.bash_profile：

    打開終端。

    使用文本編輯器打開 ~/.bashrc 或 ~/.bash_profile 文件。

    在文件末尾添加如下行：

    export SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"

    保存並關閉文件。

    運行 source ~/.bashrc 或 source ~/.bash_profile 使更改生效。

5.   編譯前端

  進入web目錄

  npm install npm run build

  也可以本地windows編譯後，直接上傳到web/build/目錄下面

6.   源碼運行

  go run main.go

7.   訪問地址

  默認監聽3000端口

  http://localhost:3000

8.   編譯運行

  如果有修改前端資源，必須從新編譯程序

go build -o oneapi

9. 使用supervisior啓動守護模式

配置文件中需要增加環境變量

environment=SQL_DSN="oneapi:oneapi@tcp(127.0.0.1:3306)/oneapi"

啓動命令需要使用絕對路徑

command=/www/wwwroot/one-api/oneapi --port 3001