云信小课堂 | 聊天室内容审核很头疼?3步解决!

 

简介

随着 5G 、 AI 等颠覆性的技术创新,各类产品的互动性和沉浸感都在快速提升。 强互动作为产品快速发展的生命力,也带来了一定程度的安全和监管风险,对 通信、安全等技术和服务提出了更高要求。
以娱乐社交行业为例,在直播,游戏等场景中,可能会出现涉政涉黄涉暴的负面内容,平台应该承担共建良好的网络氛围这一职责,但是对接不同的技术服务商去实现内容传输和安全检测的功能,可能会导致 技术接入和数据运营上产生工作重叠、效果难以控制和额外成本溢出 问题。
基于这些痛点,网易智企融合网易云信、网易易盾的核心技术能力打造了 一站式安全通信解决方案 「安全通」,客户端只需集成网易云信 SDK 即可与云信通信服务建立连接,而网易云信的通信服务直接对接易盾内容安全服务,无需客户进行复杂的后台数据对接。一个后台配置两套服务、一次结算节约时间成本、一键开启全新融合服务体验。
「安全通」可以应用在IM、RTC、直播点播三大交互场景中,本期云信小课堂为大家分享如何 3 步解决聊天室内容审核难题,另外 2 个场景敬请期待。
 

Step1 开通「安全通」功能

 
  1. 登录云信控制台 > 选择你的应用 > 功能管理 > IM专业版 > 选择安全通
 
  1. 如果尚未开通安全通功能,会弹出申请开通页面,点击确认申请即可
 
  1. 如果已经开通了安全通,点击安全通会进入安全通的设置页面,该页面内容主要分为三个部分:
 
  • 内容安全抄送地址:云信服务器会将审核的结果放在消息抄送的 yidunRes 字段里,然后通过聊天室消息抄送同步到配置的应用服务器。所以这里需要配置一个消息抄送的地址,并打开聊天室消息抄送的功能。详见 消息体中的JSON字段说明
  • 内容安全与疑似处理配置:可以针对不同内容(文本消息、图片消息等),配置不同的审核策略。
  • 送检失败的消息处理策略:当检测到内容违规时,选择是否拦截该消息。

 

Step2 基础设置以及策略选择

 

  1. 点击前往设置,进入内容安全抄送地址的设置页面,需要配置消息抄送地址以及选中聊天室消息的抄送选项,设置完成后点击保存,并回到安全通设置页面
 
  1. 针对具体的消息类型进行配置,点击需要送检的消息类型后面的配置选项进行单独配置,以普通文本消息为例,内容安全配置选中聊天室,打开疑似处理配置的开关,并选择需要处理的违规类型,如图所示:
 
  1. 消息命中反垃圾时候的策略选择,建议选择拦截
 

Step3 针对特殊需求进行特殊开发

 

IM 中如果开启了安全通相关的配置,发送的消息会默认通过安全通审核。如果有特殊需求请根据下列字段查询开发文档进行开发。
  • Server: 通过 useYidun来选择该条消息是否经过安全通;通过配置 antispam, antispamCustom来设置自定义消息的反垃圾类型。
  • Windows(C): kNIMMsgKeyAntiSpamEnable kNIMMsgKeyAntiSpamContent, kNIMMsgKeyAntiSpamUsingYiDun
  • Web: yidunEnable, antiSpamContent, antiSpamUsingYidun
  • Android: 通过 NIMAntiSpamOption单独设置安全通反垃圾配置。
  • iOS: 通过 NIMAntiSpamOption单独设置安全通反垃圾配置
注意:自定义消息比较特殊,开发者如需自定义消息经由安全通反垃圾,在发送消息时需要通过上述相关字段进行配置,说明自定义消息的内容是文本还是图片、视频等,以便安全通按照相应类型进行反垃圾处理。开发配置中,如果配置了不经过安全通反垃圾,则消息会经过通用反垃圾。
 
 
以上就是 网易智企一站式安全通信方案「安全通」实现流程的详细解说,按照如上步骤就可以轻松完成「安全通」的接入,解决聊天室内容审核的难题。
互联网升级趋势下,各行各业迎来了高速发展,涌现了新的机会,也带来了不少挑战,想要成为行业的领跑者,需要玩家以最小的成本实现效益最大化。而 「安全通」只需要一个系统、一个后台即可实现内容传输与安全检测两种能力的结合,在应用层上直接帮助用户降低成本,不仅展示了融合的力量,也代表了企业服务能力的融合趋势。
如果感兴趣或者有需求的开发者可以阅读 《融合价值+长期主义,网易智企深耕娱乐社交领域》,或点击阅读原文,立即试用。
 
点击 阅读原文
 
关注微信公众号,了解一手资讯~~
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章