權威答案!靈犀醫療引入 Zilliz Cloud,千萬級向量數據庫賦能醫學 AIGC 平臺

“醫療行業是一個信息差較大的行業,術語體系龐雜且知識門類較多,如何能搜索到最精準的醫學知識並採用最合理方式進行總結,這是我們醫學 AIGC 平臺 EviMed 所遇見的最主要的技術問題。

傳統的數據庫和全文檢索方式難以滿足我們的技術要求,結合了 Zilliz Cloud 向量數據庫服務之後,我們的系統效能顯著提升,客戶響應速度提升了 8%,搜索結果精準度提升約 10%,企業內部運維成本也降低了 30% 。在使用的過程中,Zilliz Cloud的專家團隊也爲我們提供了很好的支持與幫助,爲我們的 EviMed 平臺在行業中帶來了很強的競爭優勢。”

——靈犀醫療 CEO 王則遠博士

01.靈犀醫療:專注醫學知識搜索與內容生成

靈犀醫療是一家專注進行醫學知識搜索和內容生成的企業,自研的EviMed平臺爲醫院、醫藥生產企業和醫務工作者提供基於檢索增強生成(RAG)的 SaaS 服務,快速進行臨牀科研、疾病科普和藥學評價的 AIGC 服務。現今已輔助 300 餘家大型三甲醫院完成 1300 餘萬次醫學知識搜索和臨牀問題解答,並輔助生成 80 餘萬篇醫學內容。

02.爲什麼需要 Zilliz Cloud?

針對目前醫學領域中知識搜索和內容生產全流程耗時較長且證據的轉化利用率低的痛點,靈犀醫療搭建了全面、龐大、完整的醫學知識數據庫,數據量高達 3.5 億。同時醫學的術語體系龐雜,搜索關鍵詞的界限模糊,傳統的數據查詢方式難以滿足精準知識定位和分析的要求,且響應速度和穩定性都無法保證,經常面臨知識查找不到或不精準的情況,在用 Zilliz Cloud 服務之前,經常遇到客戶質疑知識搜索覆蓋面不全等情況。

由於業務的發展和數據量的持續擴大,對向量數據庫的要求也越來越多——需要彈性擴容支撐向量存儲和搜索,運維成本要低,要能支持稠密向量搜索、稀疏向量搜索和關鍵詞搜索等多樣的搜索機制,以及對 JAVA 的良好兼容性等。

通過與 Zilliz 團隊充分溝通,靈犀醫療現今已將第一批次的千萬級向量數據庫搬遷至 Zilliz Cloud 上,實現知識搜索和臨牀科研兩大核心業務版塊的支持。

03.Zilliz Cloud 高效支持靈犀醫療兩大核心場景

向量數據庫是靈犀醫療業務場景技術提升的關鍵組件,基於 Zilliz Cloud 的性能特點,可爲 EviMed 提供以下服務:

數據檢索更高效:向量數據庫可以大幅提升EviMed 平臺數據檢索的速度和精確度,快速解答醫務工作者的臨牀問題;

  • 數據挖掘更徹底: 在臨牀科研和藥學評價中,向量數據庫的高維數據分析能力可用於深度挖掘文獻、指南和藥品說明書中的關鍵信息,提高定性/定量結論的生成速度和質量。

  • 深化智能化數據分析:通過集成向量數據庫,EviMed可以在平臺應用中實現更智能化的AI數據分析,提供後臺AI Agent所必不可少的長文本記憶力。

Zilliz Cloud 的引入在靈犀醫療的EviMed平臺中產生了很好的能力提升,其中包括以下幾點:

  • 避免出現無搜索結果:醫學領域的術語多種多樣,一種疾病往往會有多種亞組,同時會有很多的定語,例如“既往接受過含氟尿嘧啶類或含鉑類化療的晚期胃癌或胃食管交界部腺癌”,如果採用傳統切詞後的全文檢索,將難以實現該知識內容的搜索。採用 Zilliz Cloud 向量數據庫服務,可結合基於向量檢索和關鍵詞的全文檢索進行混合搜索,從而避免搜索不到任何結果。

  • 爲 AI Agent 提供了“記憶力”:EviMed 的數據分析版塊構建了一套 AI Agent,如果將所有的背景信息全部輸入進大模型的話成本較高,而向量數據庫可以將這些背景信息存儲下來,後續根據 Agent 的需求再進行向量匹配的調取,從而一定程度上去除了大模型長上下文的依賴,降低了數據分析的成本。

  • 運維成本降低 30%:Zilliz Cloud 提供了全套的向量存儲和搜索雲服務,並可實現彈性擴縮容,與 EviMed SaaS 平臺無縫融合,即插即用,極大的降低了企業的系統運維成本。

04.關於 Zilliz

Zilliz 作爲向量數據庫技術的開創者,推出的全球最受歡迎的的開源向量數據庫--Milvus,受到了全球 5000 家以上企業用戶的支持與青睞。2023 年,Zilliz推出了基於 Milvus 的全託管雲服務 Zilliz Cloud。

截至目前,Zilliz Cloud 已實現全球 5 大雲 13 個節點的全覆蓋,是全球首個提供海內外多雲服務的向量數據庫企業,其企業註冊用戶已超過 40,000 家,付費用戶遍及全球多個國家和地區,覆蓋 AIGC 領域、電商、在線教育等場景。作爲 AIGC 關鍵基礎設施和 RAG 技術的基本組件提供商,Zilliz 完成了與全球頭部大模型生態的對接,賦能大模型應用落地。

本文由靈犀醫療和 Zilliz 團隊協作出品。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章