百度大腦UNIT升級,五步完成對話模型私有化部署

對話系統的搭建從大的階段上分爲三個步驟,第一階段要進行業務梳理,設計對話邏輯,並整理業務數據;第二個階段就是配置對話或問答技能,訓練出一個可用的對話模型;第三階段就是模型的部署和調用。而在每一個階段,百度大腦智能對話定製與服務平臺UNIT都有相應豐富的能力來滿足不同的業務訴求。在啓動階段,無論是無數據還是少數據的情況,開發者都能通過平臺提供的對話模版功能和小樣本學習能力輕鬆啓動業務;在技能配置階段,開發者能夠通過平臺的自定義技能靈活定製,而在問答領域更有創新的文檔和表格問答,讓開發者能夠分鐘級訓練出一個可用的對話模型。

最後在部署階段,有很多場景對於訓練數據的使用或者模型的調用數據存在比較敏感的情況,比如政府、金融等業務場景中的對話系統,常常需要在本地訓練或者部署模型。爲了滿足多種業務場景的需要,百度大腦UNIT推出不同的私有化模式,實現不同場景下的多種部署。

在這裏插入圖片描述

UNIT平臺私有化模式的優勢

1.靈活選擇部署模式,降低業務成本

UNIT平臺私有化部署分爲兩種模式,開發者可以根據自己的業務和數據情況,靈活選擇部署方式,減少不必要的成本。

  • 僅模型私有化部署:當業務場景中用於訓練模型的數據不敏感,而實際使用的數據比較敏感時,可選擇公有云訓練模型,私有化部署模型的方式 ;
  • 平臺整體私有化部署:當業務場景中用於訓練和實際使用的數據都比較敏感時,可選擇平臺私有化的方式,模型訓練和部署都在本地進行。

2.線上自助流程,縮短落地週期

通常情況下,對話類產品的私有化部署週期長,流程複雜,而UNIT平臺將「僅模型私有化部署」的流程正式上線,讓開發者能夠通過線上線下結合的方式,五步實現私有化部署單個/多個技能,線上自助下載部署包,大大縮短了私有化部署的週期。

3.模型更新方便快捷,降低維護成本

模型私有化部署的方式,不僅支持開發者線上自助下載部署包部署至本地,當模型需要更新時,只需公有云再次訓練模型,重新下載部署包,即可快速完成本地模型的更新迭代,降低維護成本。

「僅模型私有化部署」的整體流程
在這裏插入圖片描述

第1步:提交私有化部署申請

申請的功能入口在UNIT平臺【個人中心-我的服務】,選擇私有化應用進行申請,添加需要部署的技能ID以及對應的機器指紋。
在這裏插入圖片描述
第2-3步:業務溝通,簽訂合同

申請提交以後,會有對應的工作人員與開發者溝通,並簽訂商務合同,合同中需明確出具體需要部署的技能ID與機器指紋。

第4步:審覈部署需求

合同簽訂後,後臺會進行快速審覈,審覈通過後即可下載部署包。

第5步:下載部署包並進行部署

在UNIT平臺下載部署包,進行本地部署,支持單點部署和集羣部署方式。如果需要更新模型,重新訓練後下載新的部署包即可。
在這裏插入圖片描述

未來,百度大腦UNIT平臺會逐漸完善私有化部署功能細節,滿足各種業務場景的部署需求。部署詳情可以參考文檔 https://ai.baidu.com/ai-doc/UNIT/Fkbg7i2uh

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章