By 超神經
場景描述:臉盲症又稱「人臉部識別障礙」,一般表現爲看不清別人的臉,或者對別人的臉型失去辨認能力。近日微軟的 AI 編輯也患上了臉盲症,在區分阿拉伯裔和非洲人問題上,栽了跟頭。
關鍵詞:微軟 AI 編輯 AI 偏見
5 月 28 日微軟宣佈將於 6 月底裁撤近 80 名外包編輯,由 AI 負責接下來的 MSN 新聞抓取、排版和配圖等工作。
然而僅在公佈裁撤人類編輯的消息 1 周後,AI 編輯就犯了臉盲症,在一篇關於歌手 Jade Thirlwall 的文章中,配圖卻用成了女團另一個成員 Leigh-Anne Pinnock 的照片。
MSN 在當天關於 Jade 的報道中
錯誤地使用了 Leigh 的照片
Jade 和 Leigh 同爲英國知名女團 Little Mix 成員,在這篇文章中,流行歌手 Jade 分享了自己曾受種族歧視的經歷。
而 AI 在尋找配圖的時候,卻把黑皮膚的 Leigh 跟阿拉伯裔的 Jade 弄混了。
領跑英國女團,大獎拿到手軟
Little Mix 是知名英國女團,成立於 2011 年,由 Jade Thirlwall、Perrie Edwards、Leigh-Anne Pinnock 和 Jesy Nelson 組成。
Little Mix 樂隊成員出席活動合影
Jade(左三,阿拉伯裔)及 Leigh(右一,非裔)
該樂隊在年青一代中具有極高知名度,曾獲 Global Awards 最佳團體、最佳歌曲,MTV 歐洲音樂獎最佳英國、愛爾蘭藝人獎等多項國際大獎,在多家媒體報道中頻繁出現,據維基百科統計,其專輯和單曲全球銷量已經超過 5000 萬張。
其中 Jade 有四分之一的埃及血統和四分之一的也門血統,是一個阿拉伯裔混血兒,而 Leigh 則是團隊中的唯一黑人女性。
當事人喊話 MSN,能不能長點心
針對此次微軟 AI 配圖錯誤的烏龍事件,Jade 公開在自己的 Instagram Story 上 @MSN,表達自己的不滿。
Jade Thirlwall 發聲截圖
“
@MSN 如果你要複製粘貼其他精準媒體的文章,先確保你選對了配圖啊
”Jade 還表示,Leigh 和自己被認錯的情況時有發生,這讓她感覺很不爽,她甚至發問,在只有 4 個人的樂隊裏,正確區分兩個不同膚色的女人,有那麼難麼?
微軟 AI 編輯剛上崗就捅婁子
據《衛報》報道,早在上月 28、29 日,50 名微軟新聞製作人(News Producer)被告知,其僱傭合同在 6 月 30 日到期後,將不再續簽。
這些人都是通過外部機構聘用的「合同工」,此外還有 27 位英國 PA Media 的新聞編輯也收到了同樣的通知。
這些合同制編輯主要負責在 MSN 網站及 Edge 瀏覽器上維護其新聞主頁,進行新聞審覈、位置排版、替換標題圖片等。
AI 進入新聞行業,取代從事簡單編輯工作的人工
一位前員工透露,在接下來的工作中,AI 將取代這些編輯職能,而直接受僱於微軟的全職新聞製作人(News Producer),將不會受此次裁員的影響。
微軟緊急下令:看緊 AI,別什麼文章都爬
事後,微軟官方發言人表示,團隊在發現 AI 配圖錯誤後,第一時間更換了圖片並關閉了該功能。
而時下種族主義抗議聲在歐美各國此起彼伏,歌手 Jade 正是聲援 BlackLivesMatter 活動的衆多明星之一。
Jade 在 Ins 聲援 BlackLivesMatter
當下時局也讓微軟非常緊張,並表示 Now is not the time to be making mistakes。但是 AI 偏見由來已久,目前並沒有行之有效的方法能阻止偏見的產生。
鑑於 MSN 所有新聞均爲 AI 抓取,沒有原創,據《衛報》報道稱,微軟已經對 MSN 剩下的人類員工發出警告,一旦發現 AI 自動爬取關於此次配圖錯誤的負面報道,需要第一時間人爲刪除相應的文章。
當然,即使人爲刪除文章,AI 也有可能駁回人類編輯的決定,並試圖再次發佈……
—— 完 ——
掃描二維碼,加入討論羣
獲得更多優質數據集
瞭解人工智能落地應用
關注頂會&論文
回覆「讀者」瞭解更多
更多精彩內容(點擊圖片閱讀)