本文介紹雲開發內容審覈的使用場景，並演示如何使用內容審覈功能。
*本文主要介紹騰訊云云開發側的功能應用，微信雲開發側使用指南參見：
https://developers.weixin.qq.com/miniprogram/dev/wxcloud/basis/Consecurity.html
內容審覈介紹
什麼是內容審覈？
內容審覈是基於圖像、文本、音視頻的檢測技術，可自動檢測低俗、違法違規、色情、廣告、圖文違規等內容，對用戶上傳的圖片、文字、音視頻進行內容審覈，以滿足上傳要求，幫助客戶降低業務違規風險。
常見的內容審覈方式有：
- 圖像內容審覈
圖像內容審覈，利用深度神經網絡模型對圖片內容進行檢測，準確識別圖像中的敏感違法元素、違規內容等，幫助業務規避違規風險。
- 文本內容審覈
文本內容審覈，採用人工智能文本檢測技術有效識別違法違規、廣告、辱罵、違禁品和灌水文本內容，提供定製化的文本敏感內容審覈方案。
雲開發內容審覈介紹
雲開發內容審覈爲託管在雲開發內的內容（雲數據庫裏存儲的數據、雲存儲上存儲的文件）提供快速的內容審覈服務。可快速設置內容審覈規則（審覈範圍、審覈場景、違規後自動封禁處理），數據庫文檔變更後異步審覈，文本內容秒級完成審覈與處理。
注意：當前僅支持雲數據庫內的文檔進行內容審覈。
內容審覈的常見場景
在當下的互聯網環境下，內容審覈可以說是無處不在，以一個論壇網站爲例：小到一個用戶的用戶名註冊內容審覈、用戶在評論區或留言區的評論內容審覈，大到用戶發帖的整個帖子的內容審覈。
凡是能讓用戶自由輸入內容的地方都需要對其內容進行審覈，從而防止論壇被大量不良信息所圍繞，造成網站服務器資源被浪費，嚴重地影響了網站形象，更有甚者網站站長可能會承擔相關法律責任。
使用雲開發內容審覈
前提條件
已有一個可用的 按量計費環境。
https://cloud.tencent.com/document/product/876/41391
操作步驟
單擊一個按量計費環境，進入環境 > 內容審覈 > 安全配置頁面，在安全配置頁可以看到有兩大部分：審覈規則和審覈詳情。
步驟1：創建審覈規則
在進行內容審覈之前，需要先創建審覈規則，即制定對哪些內容進行什麼樣的規則進行審覈。
- 單擊新建，開始創建審覈規則。
- 選擇對雲數據庫中哪個集合進行內容審覈，例如需要對用戶評論內容進行審覈，則選擇存儲用戶評論的集合，如下：
說明：該下拉框中所列出的集合即是數據庫中所有的集合，如果當前下拉框中沒有集合，則您需要在左側導航欄數據庫中先創建一個集合。
- 選擇完集合後，還需填寫對該集合下的哪個字段進行審覈，例如需要對用戶評論內容進行審覈，則填寫評論集合裏的評論內容字段，如下：
- 擬定一個屏蔽文案，當出現違規內容時，用於提示用戶的信息，默認爲：該內容已違規暫不顯示。如下：
- 開啓對違規內容進行自動屏蔽開關。開啓後，系統如果檢測到某條內容違規，則會對內容進行自動屏蔽，並以4中擬定的自定義屏蔽文案進行重寫。如果不開啓，則只對內容進行審覈打分，不自動重寫屏蔽。一般建議開啓，如下：
- 開啓後，需要選擇審覈場景，即對什麼類型的違規內容進行審覈，如謾罵、廣告、違法、色情等。一般建議全選，如下：
說明：違規類型後的審覈分數是指：當系統對內容進行審覈時，會對被審覈的內容進行打分，分數越高表示內容違規程度越高，當打出的分數大於所填寫的審覈分數時，系統將會對內容進行自動屏蔽。
審覈分數可理解爲對當前違規類型的“容忍度”，分數越低表示容忍度越低，例如對違法信息零容忍，本着“寧可錯殺一千，也不放過一個”的原則，即可將違法類型的分數填寫的低一點（最低60分），這樣系統一旦發現內容疑似屬於違法信息，立即將其屏蔽。
- 填寫完審覈場景後，最後點擊勾選條款。
單擊確定。即可創建一條新的審覈規則。
步驟2：測試審覈規則
審覈規則創建完畢後，即可測試下創建的審覈規則是否生效。
- 單擊左側導航欄中的數據庫頁，進入到上述所選的集合中，單擊添加文檔，先添加一條正常的內容：
如下圖，對於沒有違規的內容是會正常插入到集合中的。
- 再次添加文檔，並嘗試故意輸入一些違規內容：
如下圖，插入的文檔字段包含違規內容，已經被自動屏蔽重寫了。
以上說明創建的審覈規則已生效。
步驟3：查看審覈詳情
- 單擊左側導航欄中的內容審覈頁後，再單擊頂部的審覈詳情，能看到審覈平臺的審覈內容以及審覈結果，如下：
- 在測試審覈規則時，第二次故意輸入的違規內容已成功被審覈系統監測到，並準確地識別出違規類型以及對內容的審覈評分，如下：
- 在某些特定的需求場景下，如果發現某條在特定場景下屬於是正常內容，但被審覈系統誤判爲違規內容時：
可對該條違規記錄進行回滾。
回滾後該條內容在審覈記錄裏的處理狀態也變成了已回滾， 並且在數據庫中該條記錄也可正常顯示。
*本文主要介紹騰訊云云開發側的功能應用，微信雲開發側的使用指南參見：
https://developers.weixin.qq.com/miniprogram/dev/wxcloud/basis/Consecurity.html