近日，Milvus 老友匯·Arch Meetup 在深圳圓滿落幕。本次 Meetup 由 Milvus 社區攜手 Shopee 共同舉辦，同時還邀請到來自 AWS、點石科技的技術專家，分享電商行業、RAG 場景、AI 平臺等如何基於向量數據庫構建業務方案。
以下是本次 Meetup 的重點內容：
Zilliz 開發者生態佈道師 李成龍 《Milvus 2.4 新版本解讀—— GPU、多模態、RAG 增強》
Shopee MMU 團隊技術專家 田方聰《Shopee 在 MMU 業務的向量檢索系統實踐及探索》
Zilliz 解決方案架構師 張翔《使用 Zilliz Cloud 快速構建 AI 應用》
點石科技董事副總經理 蘇佺道《使用向量數據庫打造愛晚亭產品》
亞馬遜雲科技解決方案架構師 陳明棟《 亞馬遜雲科技生成式 AI 服務介紹及案例分享》
01.
Milvus 2.4 新版本解讀 -- GPU、多模態、RAG 增強
Zilliz 開發者生態佈道師李成龍分享的主題是《Milvus 2.4 新版本解讀-- GPU、多模態、RAG 增強》。他詳細爲大家介紹了 Milvus 2.4 版本的新特性以及這些功能開發背後的小故事。
李成龍提到，Milvus 2.4 包含以下新功能特性：Multi-Vector 多向量列、Grouping search 聚合搜索、Inverted Index 倒排索引、Milvus CDC 生態工具、GPU index 百倍加速、FP16/BF16 support 新數據格式、Sparse vector(beta) 稀疏向量、Embedding Libs 集成 Embedding。除了新功能特性，Milvus 2.4 還進行了不少重要的優化，包括 SDK 全面升級、Mmap optimization 容量更大、支持更多的 collections、Introduce L0 Segment、Refactor bulkinsert logic、Filtered search improvement。
現場，李成龍還向開發者介紹了 Milvus 北極星計劃，具體詳情可閱讀《Milvus 社區在線尋找「北辰使者」！！！》瞭解。
02.
Shopee 在 MMU 業務的向量檢索系統實踐及探索
Shopee MMU 團隊技術專家田方聰分享的主題是《Shopee 在 MMU 業務的向量檢索系統實踐及探索》。他表示， Shopee 多媒體理解（MMU）團隊自 2021 年開始使用 Milvus，並跟隨 Milvus 社區發展在電商、直播和短視頻等核心業務場景下成功落地向量檢索業務。現場，田方聰着重介紹了 Milvus 在多媒體內容理解業務中的工程架構，以及 MMU 團隊在 AI 模型服務的平臺化實踐。
田方聰提到了 Shopee 與 Milvus 聯繫緊密的實時檢索業務和短視頻去重業務，他認爲 Milvus 團隊提供的穩定向量檢索能力、多樣化功能特性，爲 MMU 團隊在向量檢索場景搭建業務系統時提供極大的便利，其可靠的分佈式擴展能力有效支撐了日益增長的數據規模。詳細介紹可參考《用戶案例｜Shopee 在多媒體理解業務的向量檢索系統實踐》。
03.
使用 Zilliz Cloud 快速構建 AI 應用
Zilliz 解決方案架構師張翔的分享主題爲《使用 Zilliz Cloud 快速構建 AI 應用》。他重點介紹了 Zilliz Cloud 的核心優勢以及如何基於Zilliz Cloud 構建 RAG 應用。
張翔介紹，Zilliz Cloud 由 Milvus 原廠打造，提供全託管的 SaaS 向量數據庫服務，具備深度優化、開箱即用的 Milvus 體驗。使用 Zilliz Cloud 可以輕鬆構建百億級向量數據庫，分鐘級部署和擴展向量搜索服務，並由全球最專業的向量數據庫團隊提供運維、優化、及綜合支持。值得關注的是，Zilliz Cloud 上線了 Pipelines，它可以將文檔、文本片段和圖像等非結構化數據轉換成可搜索的向量並存儲在 Collection 中，幫助開發者簡化工程開發，助力其實現多種場景的 RAG 應用，將複雜生產系統的搭建和維護簡化成 API 調用，爲 AI 應用開發者賦能。
最後，張翔還介紹了 Zilliz AI 初創計劃，該計劃預計提供總計 1000 萬元的 Zilliz Cloud 抵扣金，致力於幫助 AI 開發者構建高效的非結構化數據管理系統，助力打造高質量 AI 服務與運用，加速產業落地《千萬元補貼助力 AI 應用探索！「Zilliz AI 初創計劃」已開啓》。
04.
使用向量數據庫打造愛晚亭產品
點石科技董事副總經理蘇佺道進行了名爲《使用向量數據庫打造愛晚亭產品》的主題演講，他主要介紹了點石科技旗下愛晚亭如何利用向量數據庫在 AI 領域打造創新的愛晚亭數字員工系統。此係統通過訓練及高度準確的機器學習模型，實現了人工智能員工的智能化管理，能夠在不同場景如客戶服務、數據分析和自動化工作流程中提供定製化支持。
蘇佺道提到，除了數字員工系統，愛晚亭 AI 平臺還包含大模型 PK 系統，它集成了 10 多個業界主流的大模型，包括GPT4.0、3.5、谷歌 Gemini、訊飛星火、百度文心一言等。最後，系統的多模態 AI 模塊提供了文件分析、圖片分析、AI 繪畫、AI PPT、AI 生成歌曲等多種功能。
提及選擇使用 Zilliz Cloud 的原因，蘇佺道表示：首先，Zilliz Cloud 的生態最成熟，案例最多；其次，Zilliz Cloud 非常適合 AIGC 應用場景，其具有託管式的服務、起步成本低、功能豐富的優勢；最後，Zilliz Cloud 還提供專業的團隊服務，能夠有效及時地解決使用過程中遇到的問題。
05.
亞馬遜雲科技生成式 AI 服務介紹及案例分享
亞馬遜雲科技解決方案架構師陳明棟分享的主題爲《 亞馬遜雲科技生成式 AI 服務介紹及案例分享》。他提到，Amazon Bedrock是亞馬遜雲科技提供的模型託管服務，提供統一的服務入口讓用戶安全、快捷構建生成式 AI 應用。陳明棟首先分析了 Bedrock 的功能，隨後提到了做爲 LLM 記憶體的 RAG 向量數據庫對基於 Amazon Bedrock 的Anthropic Claude 3 的生成式 AI 應用構建實踐探討。
在檢索增強（RAG）應用場景分享時，陳明棟提到，當上下文窗口（context window）受限時， RAG 的方案可以有效幫助解決其中的成本問題。而以 Zilliz Cloud 和 Milvus 爲代表的向量數據庫則是 RAG 重要的三大基本組件之一。以電商客戶爲例，他們需要對產品評論進行總結。首先需要將所有評論向量化，找出相關性最高的評論；隨後將這些評論傳遞給 LLM 進行總結。
以上就是本次 Meetup 的全部內容了，期待和大家下一次的線下相見~
本文分享自微信公衆號 - ZILLIZ（Zilliztech）。
如有侵權，請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”，歡迎正在閱讀的你也加入，一起分享。