Zilliz X Dify.AI ,快速打造知識庫 AI 應用


Zilliz 大模型生態矩陣再迎新夥伴!近日,Zilliz 和 Dify.AI 達成合作,Zilliz 旗下的產品 Zilliz Cloud、Milvus 與開源 LLMOps 平臺 Dify 社區版進行了深度集成


01.

Zilliz Cloud v.s. Dify


Dify 作爲開源的 LLMs App 技術棧,在此前已支持豐富多元的大型語言模型的接入,除了 OpenAI、Anthropic、Azure OpenAI、Hugging face、Replicate 等全球頂尖模型及模型託管平臺,也完成了國內主流的各大模型支持(如文心一言、智譜 AI 等)。


而 Zilliz Cloud  和 Milvus 則是向量數據庫的領先代表。


其中,Milvus 是全球最受歡迎、迭代最快、架構最成熟的開源向量數據庫,擁有龐大的開發者社區,開源 4 年來下載量已超 600 萬次,得到了來自全球數千家企業用戶的信賴。


Zilliz Cloud 是基於 Milvus ,並由原廠打造的全託管 SaaS 及 PaaS 向量數據庫服務產品,提供深度優化、開箱即用的向量數據庫體驗。使用 Zilliz Cloud 可以輕鬆構建十億級向量數據庫,部署和擴展向量搜索服務。由全球頂尖的向量數據庫團隊 Zilliz 提供運維、優化、及綜合支持。目前,Zilliz Cloud 已在全球上線,覆蓋 AWS、GCP、Azure、阿里雲、百度雲等。



在頂級雲原生向量數據庫與 LLMs APP 技術棧的雙重加持下,用戶不僅可以輕鬆提升 AI 應用的開發效率,同時還能解鎖更多向量數據庫的應用場景。


02.

快速打造知識庫 AI 應用


具備知識庫的 AI Chatbot 已然是當下基於大模型技術實現及應用最多的情景,接下來,我們將以製作一個具備 Dify 產品及團隊知識背景的 AI 應用爲例,爲大家介紹如何從零開始,用 3 步搭建一個具備企業知識庫的 AI 應用。


  • 平臺註冊


在本次實操演示中,我們採用 Dify.AI 社區版進行部署,以接入 Zilliz Cloud 爲例。第一步,需要前往 Zilliz(https://cloud.zilliz.com.cn/signup)註冊,並創建 Zilliz Cloud 的集羣。



  • 修改 Dify 的環境配置


GitHub(https://github.com/langgenius/dify) 下載 Dify 鏡像文件(https://github.com/langgenius/dify),將 docker-compose.yaml 文件中的 api 和 worker 服務的 Environment 中  Zilliz Cloud 的相關配置改爲您的正確配置(如下),並保存。


VECTOR_STORE: milvus
MILVUS_HOST: https://in01-dd41b30632904e4.ali-cn-hangzhou.vectordb.zilliz.com.cn
MILVUS_PORT: 19539
MILVUS_USER: db_admin
MILVUS_PASSWORD: (註冊時的密碼)
MILVUS_SECURE: True

(注:Zilliz Cloud 和 Milvus 接口兼容,MILVUS_HOST、MILVUS_PORT 後面既可以填 Milvus 的 host、port,也可以填 Zilliz Cloud 的 host、port。)


更詳細的 Dify 的本地部署文檔可參考:https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted/docker-compose


執行:docker-compose -f docker-compose.yaml up -d用以啓動 Dify 基礎服務組件。


  • 創建帶有知識庫的 AI 應用


瀏覽器輸入 http://127.0.0.1/:80 ,註冊登錄。



創建數據集,這裏示例上傳了【Dify 團隊介紹】作爲知識庫數據。




配置應用,撰寫相關 Prompt,在上下文處選取上傳的數據集,選擇模型(這裏我們選擇智譜模型 ChatGLM)發佈。



至此,一個具備 Dify 產品和團隊知識的 AI 應用就已經創建完成。



03.

攜手發起 AGI 黑客松,解鎖行業更多可能


不止如此,雙方在深度合作的基礎上,還聯合極客公園 Founder Park、智譜 AI 等,共同發起  AGI Playground Hackathon,旨在重新思考 AI Native 時代下的應用和服務,解決共同的行業發展問題。屆時,Dify 將爲參賽者提供接入了智譜 AI 模型與 Zilliz Cloud 的預置環境,大大提升開發效率和應用的價值,讓參賽者可以有更多精力關注產品創意。


截至目前,AGI Playground Hackathon 的 37 支參賽隊伍已集結完畢,將於 10 月 13 日 - 15 日 在北京開啓爲期 3 天的 AGI 黑客松。48 小時創新開發後,他們將帶着創新項目登上路演舞臺。


10 月 15 日(本週日) 9:15 - 18:30,我們將在線上同步直播 Demo day。預約直播,看 AGI 創新應用,爲參賽隊伍加油打氣!


此外,本次大賽的創新激勵包再次升級!屆時,9 支「優勝項目」團隊(由助力嘉賓選出)+ 1 支「全場最具創意項目」團隊(由全場公投選出),將共同分享 10 萬元現金獎勵。獎金分配規則將在現場公佈,根據 3 個賽道的實際參與隊伍數量按比例調整。


除現金獎勵外,9 支「優勝項目」團隊還有機會獲得:


  • 由智譜 AI 提供的 GLM Pro 代金券

  • 由 Zilliz 提供的產品代金券及專屬購買優惠

  • 由 Founder Park 提供的優質品牌曝光資源及創新輔導

  • 入選亞馬遜雲科技雲創計劃,最高可獲價值 17.5 萬元雲資源

  • 由聲網超音速提供的創業諮詢輔導、聲網超音速計劃創業夥伴綠色通道以及價值 10 萬元的 AI x RTE 特別資源包等

  • 由 Hugging Face 提供的 Hugging Face Space credits

  • 由知潛提供的人才招聘服務代金券

  •   ……


AGI 時代已至,Zilliz 與 Dify的結合爲 AI 應用開發帶來了更多可能性,雙方在未來也將繼續深入合作,挖掘 AI 創新應用的更多潛能。


當然,Zilliz 作爲向量數據庫賽道的佼佼者,一方面仍將堅持在領域內深耕,不斷進行技術迭代;另一方面,Zilliz 也期待更多合作伙伴的加入,攜手探索 AGI 的未來,推動 AI 技術向着更廣闊的應用領域發展。


推薦閱讀



本文分享自微信公衆號 - ZILLIZ(Zilliztech)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章