雲信小課堂 | 聊天室內容審覈很頭疼?3步解決!

 

簡介

隨着 5G 、 AI 等顛覆性的技術創新,各類產品的互動性和沉浸感都在快速提升。 強互動作爲產品快速發展的生命力,也帶來了一定程度的安全和監管風險,對 通信、安全等技術和服務提出了更高要求。
以娛樂社交行業爲例,在直播,遊戲等場景中,可能會出現涉政涉黃涉暴的負面內容,平臺應該承擔共建良好的網絡氛圍這一職責,但是對接不同的技術服務商去實現內容傳輸和安全檢測的功能,可能會導致 技術接入和數據運營上產生工作重疊、效果難以控制和額外成本溢出 問題。
基於這些痛點,網易智企融合網易雲信、網易易盾的核心技術能力打造了 一站式安全通信解決方案 「安全通」,客戶端只需集成網易雲信 SDK 即可與雲信通信服務建立連接,而網易雲信的通信服務直接對接易盾內容安全服務,無需客戶進行復雜的後臺數據對接。一個後臺配置兩套服務、一次結算節約時間成本、一鍵開啓全新融合服務體驗。
「安全通」可以應用在IM、RTC、直播點播三大交互場景中,本期雲信小課堂爲大家分享如何 3 步解決聊天室內容審覈難題,另外 2 個場景敬請期待。
 

Step1 開通「安全通」功能

 
  1. 登錄雲信控制檯 > 選擇你的應用 > 功能管理 > IM專業版 > 選擇安全通
 
  1. 如果尚未開通安全通功能,會彈出申請開通頁面,點擊確認申請即可
 
  1. 如果已經開通了安全通,點擊安全通會進入安全通的設置頁面,該頁面內容主要分爲三個部分:
 
  • 內容安全抄送地址:雲信服務器會將審覈的結果放在消息抄送的 yidunRes 字段裏,然後通過聊天室消息抄送同步到配置的應用服務器。所以這裏需要配置一個消息抄送的地址,並打開聊天室消息抄送的功能。詳見 消息體中的JSON字段說明
  • 內容安全與疑似處理配置:可以針對不同內容(文本消息、圖片消息等),配置不同的審覈策略。
  • 送檢失敗的消息處理策略:當檢測到內容違規時,選擇是否攔截該消息。

 

Step2 基礎設置以及策略選擇

 

  1. 點擊前往設置,進入內容安全抄送地址的設置頁面,需要配置消息抄送地址以及選中聊天室消息的抄送選項,設置完成後點擊保存,並回到安全通設置頁面
 
  1. 針對具體的消息類型進行配置,點擊需要送檢的消息類型後面的配置選項進行單獨配置,以普通文本消息爲例,內容安全配置選中聊天室,打開疑似處理配置的開關,並選擇需要處理的違規類型,如圖所示:
 
  1. 消息命中反垃圾時候的策略選擇,建議選擇攔截
 

Step3 針對特殊需求進行特殊開發

 

IM 中如果開啓了安全通相關的配置,發送的消息會默認通過安全通審覈。如果有特殊需求請根據下列字段查詢開發文檔進行開發。
  • Server: 通過 useYidun來選擇該條消息是否經過安全通;通過配置 antispam, antispamCustom來設置自定義消息的反垃圾類型。
  • Windows(C): kNIMMsgKeyAntiSpamEnable kNIMMsgKeyAntiSpamContent, kNIMMsgKeyAntiSpamUsingYiDun
  • Web: yidunEnable, antiSpamContent, antiSpamUsingYidun
  • Android: 通過 NIMAntiSpamOption單獨設置安全通反垃圾配置。
  • iOS: 通過 NIMAntiSpamOption單獨設置安全通反垃圾配置
注意:自定義消息比較特殊,開發者如需自定義消息經由安全通反垃圾,在發送消息時需要通過上述相關字段進行配置,說明自定義消息的內容是文本還是圖片、視頻等,以便安全通按照相應類型進行反垃圾處理。開發配置中,如果配置了不經過安全通反垃圾,則消息會經過通用反垃圾。
 
 
以上就是 網易智企一站式安全通信方案「安全通」實現流程的詳細解說,按照如上步驟就可以輕鬆完成「安全通」的接入,解決聊天室內容審覈的難題。
互聯網升級趨勢下,各行各業迎來了高速發展,湧現了新的機會,也帶來了不少挑戰,想要成爲行業的領跑者,需要玩家以最小的成本實現效益最大化。而 「安全通」只需要一個系統、一個後臺即可實現內容傳輸與安全檢測兩種能力的結合,在應用層上直接幫助用戶降低成本,不僅展示了融合的力量,也代表了企業服務能力的融合趨勢。
如果感興趣或者有需求的開發者可以閱讀 《融合價值+長期主義,網易智企深耕娛樂社交領域》,或點擊閱讀原文,立即試用。
 
點擊 閱讀原文
 
關注微信公衆號,瞭解一手資訊~~
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章