百度大脑UNIT升级,五步完成对话模型私有化部署

对话系统的搭建从大的阶段上分为三个步骤,第一阶段要进行业务梳理,设计对话逻辑,并整理业务数据;第二个阶段就是配置对话或问答技能,训练出一个可用的对话模型;第三阶段就是模型的部署和调用。而在每一个阶段,百度大脑智能对话定制与服务平台UNIT都有相应丰富的能力来满足不同的业务诉求。在启动阶段,无论是无数据还是少数据的情况,开发者都能通过平台提供的对话模版功能和小样本学习能力轻松启动业务;在技能配置阶段,开发者能够通过平台的自定义技能灵活定制,而在问答领域更有创新的文档和表格问答,让开发者能够分钟级训练出一个可用的对话模型。

最后在部署阶段,有很多场景对于训练数据的使用或者模型的调用数据存在比较敏感的情况,比如政府、金融等业务场景中的对话系统,常常需要在本地训练或者部署模型。为了满足多种业务场景的需要,百度大脑UNIT推出不同的私有化模式,实现不同场景下的多种部署。

在这里插入图片描述

UNIT平台私有化模式的优势

1.灵活选择部署模式,降低业务成本

UNIT平台私有化部署分为两种模式,开发者可以根据自己的业务和数据情况,灵活选择部署方式,减少不必要的成本。

  • 仅模型私有化部署:当业务场景中用于训练模型的数据不敏感,而实际使用的数据比较敏感时,可选择公有云训练模型,私有化部署模型的方式 ;
  • 平台整体私有化部署:当业务场景中用于训练和实际使用的数据都比较敏感时,可选择平台私有化的方式,模型训练和部署都在本地进行。

2.线上自助流程,缩短落地周期

通常情况下,对话类产品的私有化部署周期长,流程复杂,而UNIT平台将「仅模型私有化部署」的流程正式上线,让开发者能够通过线上线下结合的方式,五步实现私有化部署单个/多个技能,线上自助下载部署包,大大缩短了私有化部署的周期。

3.模型更新方便快捷,降低维护成本

模型私有化部署的方式,不仅支持开发者线上自助下载部署包部署至本地,当模型需要更新时,只需公有云再次训练模型,重新下载部署包,即可快速完成本地模型的更新迭代,降低维护成本。

「仅模型私有化部署」的整体流程
在这里插入图片描述

第1步:提交私有化部署申请

申请的功能入口在UNIT平台【个人中心-我的服务】,选择私有化应用进行申请,添加需要部署的技能ID以及对应的机器指纹。
在这里插入图片描述
第2-3步:业务沟通,签订合同

申请提交以后,会有对应的工作人员与开发者沟通,并签订商务合同,合同中需明确出具体需要部署的技能ID与机器指纹。

第4步:审核部署需求

合同签订后,后台会进行快速审核,审核通过后即可下载部署包。

第5步:下载部署包并进行部署

在UNIT平台下载部署包,进行本地部署,支持单点部署和集群部署方式。如果需要更新模型,重新训练后下载新的部署包即可。
在这里插入图片描述

未来,百度大脑UNIT平台会逐渐完善私有化部署功能细节,满足各种业务场景的部署需求。部署详情可以参考文档 https://ai.baidu.com/ai-doc/UNIT/Fkbg7i2uh

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章