華爲雲受邀出席AICon2024 分享AI Agent在企業生產中的技術實踐

近日, InfoQ在北京舉辦行業技術盛會——AICon全球人工智能開發與應用大會2024,華爲雲aPaaS首席架構師陳星亮受邀出席,和技術愛好者分享AI Agent在企業生產中的技術實踐。

大模型技術發展浪潮下,AI Agent成爲新一代AI原生應用範式。當前,在問答、交互類應用中,大模型+AI Agent已經給用戶帶來新一代體驗。但當AI Agent進入企業生產場景時,會面臨新的挑戰,如:企業生產場景的專業複雜問題、AI生成結果難以達到生產場景的可用標準以及主題偏離、惡意誘導等安全防護問題。華爲雲aPaaS首席架構師陳星亮從上述痛點和挑戰出發,分享華爲雲在實際場景的技術實踐,解決企業引入AI生成技術的瓶頸,使得AI Agent在企業生產場景得以成功運用。

華爲雲aPaaS首席架構師陳星亮在AICon現場分享

AI Agent進入企業生產場景時的挑戰

AI Agent引領了新一波人工智能技術浪潮,進入企業生產場景時主要面臨四類挑戰:

  • 專業性:特定領域的專業複雜問題需要專業知識,Agent理解難度大,生產場景要求輸出準確率大於90%,並且要專業、簡潔、高效;
  • 協作性:大模型、傳統模型、現有API協同調度難,在業務流程中難閉環;
  • 責任性:企業生產和客戶服務場景對輸出嚴肅性要求高,要保證內容的正確、及時、完整、可解釋;
  • 安全性:專業知識是企業核心資產,既要共享,又要防泄露,大模型框架內集成的模塊或本身可能含漏洞,成爲安全威脅。

華爲雲在AI Agent的探索與實踐

針對專業性、協作性、責任性、安全性四大挑戰,華爲雲進行了五大技術探索:

一、企業詞表

1)多輪理解和主動澄清,將指令理解準確率提升到90%以上;

2)優化知識地圖,分門別類建設企業詞表;

3)建設大模型數據准入標準,完善數據治理標準並持續清洗

二、模型編排

大模型善於理解生成,小模型精於感知執行,將模型編排能力和原有IT系統、原有傳統模型結合起來,解決複雜問題

三、外掛知識庫

讓動態知識快速更新和循環,緊跟企業知識更新節奏,確保實時交互體驗

四、防退化

納入數據飛輪能力,基於知識的敏感度提高循環頻率,加快知識庫更新迭代,不斷賦予AI Agent持續自學習能力,保持數據最新

五、防安全風險

企業對模型自身的安全很難去做提升,可以從數據、大模型交互、Agent應用自身這三個角度提升安全能力:

  • 數據安全:在訓練過程中,對敏感數據自動化識別和歸類,評估清洗程度和可暴露程度,平衡可用性和隱私保護;在推理過程中,識別輸入的敏感數據,過濾和替換後,無感知還原輸出內容
  • 模型交互安全:在企業內部建好模型網關,把內外部模型統一接入起來,並在此基礎上搭建三層安全隔離帶,第一層針對模型返回的內容建立安全評分濾網,通過通檢或抽檢方式及時發現模型自身的安全問題;第二層建立企業信息安全濾網,檢查所有的調用,看是否包含敏感信息;第三層建立企業領域濾網,各領域的敏感詞和控制力度不一,各領域基於這套機制自行控制,更好地將關鍵信息隔離在內部
  • Agent框架應用安全:在跟模型交互過程中,要把Agent規劃的動作和原有的安全技術檢查結合起來;在任務執行過程中,針對代碼執行的環境,要加上對應的安全技術;應用框架自身和三方組件中可能存在漏洞、服務越權問題,要多加關注,及時防護。
AI原生應用引擎產品體驗入口

華爲雲將上述技術實踐融入了自身平臺型產品——AI原生應用引擎,面向企業提供低門檻、高效率Agent開發/運行平臺,將大模型能力接入到應用中,使能企業場景應用智能化,充分釋放AI大模型價值。

AI Agent在企業生產場景的運用效果

場景案例1:客服助手

隨着業務量逐年增加,業務團隊面臨人力持續增長的壓力,使用Agent降本增效已經迫在眉睫。研發團隊通過Prompt+垂域知識增強檢索,搭建原始框架,基於人工標註、外掛知識庫微調大模型,再通過制定標註規範、融入客服作業流,驅動作業和AI訓練雙循環等手段逐步提升標註質量,最終準確率達到90%。

場景案例2:會議紀要生成

基於大模型、ASR語音識別、智能文檔解析等模型編排,完善會議紀要總結能力,經過語音轉寫、ASR糾錯、口水稿分段、核心觀點提取等步驟,大幅提升會議紀要生成效果。

場景案例3:生產指揮

Agent進入專業領域後,帶來了很大的工程能力挑戰。研發團隊在原有機制的技術基礎之上做了對應的優化,通過多輪澄清、任務分解、API檢索、序列長度控制等手段,最終在智能巡檢等專業場景上取得了良好效果。

未來展望

未來大致會有三類AI Agent,圍繞企業生產場景,幫助人、事、物更高效的完成工作任務。

第一是人+AI:規劃、協同完成複雜任務,現在大部分都是面向人的任務,幫助人甚至替代人處理一些事情;

第二是事+AI:分解、執行業務功能,Agent在應用中佔的比重會越來越大,逐漸取代一些原有的應用;

第三是物+AI:感知、改變物理世界,在企業中,尤其是工業場景,讓設備變得智能化也將勢在必行。

隨着大模型、Agent技術的提升,Agent將進入更多的企業生產場景,使用程度逐漸加深,使用難度慢慢變弱,希望未來大家一起把這些技術做得更加工具化、產品化和平臺化,讓各行各業都能更容易地實現智能化。

 

點擊關注,第一時間瞭解華爲雲新鮮技術~

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章