Google 用機器學習對付「槓精」,讓你一鍵屏蔽惡毒評論

摘要

Google 推出一個叫 Tune 的 Chrome 插件,用戶可以打開按鈕,對一些惡毒評論進行屏蔽。

美國脫口秀節目《吉米雞毛秀》上有一個經典環節,邀請明星朗讀網友的「惡毒推文」。面對鋪天蓋地的網絡暴力,即使是習慣被評頭論足的明星也不免氣急敗壞,直接爆粗口。網絡在帶來網絡自由的同時,這些鍵盤俠、槓精也是其產物之一。

面對鋪天蓋地的評論,很多平臺都制定了發言規定。對於不友善言論,知乎採取的方法是「摺疊」,微博上更常用「拉黑」,或者屏蔽關鍵詞。爲了淨化網絡討論環境,Google 也做出了自己的嘗試,他們推出一個叫 Tune 的 Chrome 插件,用戶可以打開按鈕,對一些惡毒評論進行屏蔽。

這個小工具來自 Jigsaw 公司,它的前身爲 Google Ideas,是 Google 創建的一個技術孵化器,致力於用技術解決網絡暴力、言論自由、信息透明等難題。

Tune 的作用就是屏蔽惡毒評論。它目前支持 YouTube、Twitter、Facebook、Reddit、Disqus五個平臺,開啓之後,用戶會看到一個調整惡毒程度的按鈕,有 quit、low、medium、loud、blaring 五檔,級別越高,可以看到的惡毒評論越多,反之則是一個安靜友善的網絡環境。

你還可以選擇兩個極端:「來者不拒」展示全部評論、「歲月靜好」隱藏所有評論。

有哪些評論會被屏蔽呢?帶攻擊、侮辱性質的話語是一定會被屏蔽的,比如常見的 F 開頭字眼。這些評估基於人工智能技術,用一套機器學習模型來評估評論可能對會話產生的影響。Perspective 網站展示了這套模型的「忍耐度」,你可以嘗試輸入一些評論,測試它們是否惡毒。

這項技術的應用不光是檢測「惡毒評論」,還能引導社區氛圍。維基百科正在研究如何避免編輯詞條時的惡意攻擊,媒體則用來引導高質量討論。水貼、抖機靈、誇大事實...... 這套系統可以做的還有很多,任務艱鉅。

目前 Tune 僅僅是一個實驗性的項目,它對惡毒評論的評估不一定準確,會有漏網之魚、也會「誤殺好人」。不過對於只想要安安靜靜上網的網友來說,這倒是個不錯的工具,眼不見心不煩。

當然,這個工具僅僅是在使用者的一端屏蔽了惡毒評論,無法根除這個問題。想建立一個真正友善的社區,還是要靠平臺合理的規則引導,以及每個人的自覺。

(目前這個工具只支持英文)

Tune 插件下載地址:https://chrome.google.com/webstore/detail/tune-experimental/gdfknffdmmjakmlikbpdngpcpbbfhbnp

編輯:Rubberso

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章