引領向量數據庫技術新變革,Milvus 2.4 正式上線!

備受關注的 Milvus 2.4 正式上線!

作爲向量數據庫賽道的領軍者,Zilliz 一直致力於推動向量技術的進步與創新。本次發佈中,Milvus 新增支持基於 NVIDIA 的 GPU 索引—— CUDA 加速圖形索引(CAGRA),突破了現有向量搜索的能力。

GPU 索引是向量數據庫技術中的重要里程碑,其速度和性能遠超傳統的 CPU 索引(如 HNSW)。Zilliz 繼 2023 年新增 GPU IVF-Flat 和 GPU IVF-PQ 索引後,又在 Milvus 2.4 版本中進一步增強了 GPU 索引能力。而衆所周知,向量搜索速度對於 RAG 應用至關重要。Milvus 2.4 發佈後,可以輕鬆助力用戶生成式 AI 應用的開發。

不止如此,Milvus 2.4 還支持多向量檢索、Grouping 搜索功能、稀疏向量等。爲了方便大家瞭解新版本,3 月 26 日(週二)晚 8 點,Zilliz 產品經理張粲宇將爲大家在直播間詳細拆解 Milvus 2.4 的關鍵特性及答疑解惑。

以下是 Milvus 2.4 的幾個重要更新:

🚀支持 CAGRA 索引

Milvus 2.4 新增支持 CAGRA 索引,我們要衷心感謝 NVIDIA 團隊對 CAGRA 的寶貴貢獻,CAGRA 是 NVIDIA RAFT 庫中最先進的基於圖形處理器的圖形索引。與以前只在大批量下獲得性能優勢的圖形處理器索引不同,CAGRA 即使在小批量查詢中也表現出壓倒性的優勢,雖然這是 CPU 索引傳統上擅長的領域。此外,CAGRA 在大批量查詢和索引構建速度方面的性能確實是無與倫比的。除了 CAGRA,該版本 Milvus 還支持了 GPU 暴搜,性能有數十倍提升,進一步滿足需要高召回率的場景。

🔍支持多向量搜索

Milvus 2.4 支持多向量搜索,進一步爲 AI 應用開發賦能。多向量搜索能力能夠有效簡化處理多模態搜索的流程,並提升檢索召回率。Milvus 2.4 支持在 Collection 中存儲和搜索多個向量列,從而滿足用戶在實際應用場景中的需求。

此外,該特性還簡化了整合、優化自定義重排模型的流程,支持開發高級搜索功能,如利用多維度數據輸入來做綜合搜索的系統。

🧮Grouping 搜索

Milvus 2.4 的新增支持 Grouping 搜索功能,使得用戶可以在搜索 vector 的基礎上做分組聚合,返回的 TopK 是基於分組後的聚合結果而非簡單的以向量爲中心的片段信息。用戶現在可以按特定標量字段中的值聚合搜索結果,這有助於RAG 應用程序實現文檔級召回。考慮一個文檔集合,每個文檔拆分成各種段落。每個段落由一個向量嵌入表示,屬於一個文檔。要查找最相關的文檔而不是分散段落,可以在 search() 操作中包含 group_by_field 參數,以按文檔 ID 對結果進行分組。

🔮支持稀疏向量(beta)

Milvus 2.4 還支持稀疏向量。這一特性專爲由 SPLADEv2 等神經模型和 BM25 等統計模型生成的向量設計,通過專注於語義相似性,在傳統關鍵詞搜索基礎之上,進一步增強了語義搜索能力。具體而言,對稀疏向量的支持,進一步增強了 Milvus 的混合搜索能力——即將關鍵詞搜索和向量搜索相結合,最終提高搜索準確性。當前該功能還處於內測階段中。

➡️倒排索引和模糊匹配支持

在 Milvus 以前的版本中,基於內存的二進制搜索索引和 Marisa Trie 索引用於標量字段索引。然而,這些方法是內存密集型的。Milvus 2.4 採用了基於 Tantivy 的倒排索引,它可以應用於所有數字和字符串數據類型。這個新索引顯著提高了標量查詢性能,將字符串中關鍵字的查詢減少了十倍。此版本還支持模糊匹配標量過濾使用前綴,中綴和後綴。

✨內存映射存儲

Milvus 使用內存映射存儲(MMap)來優化其內存使用。這種機制不是將文件內容直接加載到內存中,而是將文件內容映射到內存中。這種方法帶來了性能下降的權衡。通過在具有 2 個 CPU 和 8 GB RAM 的主機上爲 HNSW 索引集合啓用 MMap,您可以加載 4 倍以上的數據,性能下降不到 10%。此外,此版本還允許對 MMap 進行動態和細粒度的控制,而無需重新啓動 Milvus。

⬆️ 其他優化

Milvus 2.4 還包含其他新特性及功能優化,包括在元數據過濾中支持使用正則表達式對子字符串進行匹配、全新的標量倒排索引(由 Tantivy 貢獻)以及用於檢測並同步 Milvus Collection 中數據變化的 Change Data Capture 工具。所有上述新特性及功能優化都致力於提升 Milvus 性能和功能,幫助 Milvus 輕鬆應對更復雜的數據操作。

掃碼預約直播,瞭解更多關於 Milvus 2.4 的細節:

閱讀原文


  • 如果在使用 Milvus 或 Zilliz 產品有任何問題,可添加小助手微信 “zilliz-tech” 加入交流羣。 ​
  • 歡迎關注微信公衆號“Zilliz”,瞭解最新資訊。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章