美國藥店零售巨頭祕密部署人臉識別系統達8年,重點針對有色人種

雲棲號資訊:【點擊查看更多行業資訊
在這裏您可以找到不同行業的第一手的上雲資訊,還在等什麼,快來!

近日,路透社公佈的一項調查顯示,美國第三大連鎖藥店Rite Aid在全美200家商店中祕密部署人臉識別系統,其中大部分部署於有色人種居住的低收入社區中。

據悉,他們使用該技術已超過8年,直到最近才停止。

Rite Aid是美國東海岸最大的連鎖藥店之一,總部位於賓夕法尼亞州,在美國開設有大約2500家商店。該連鎖藥店出售處方藥以及保健藥品、化妝用品、家庭日用品等多種商品。

1

擁有該項技術的Rite Aid會拍攝並在後臺直播每個進入商店的人,創建一個獨特的面部輪廓。當顧客走到Rite Aid商店的另一臺面部識別相機前,新的圖像就會被添加到顧客現有的個人資料中。

當商店管理員看到有人犯罪或者有可疑動作時,會在後臺進行搜索匹配,經過經理批准後,纔會將此人添加到“可能從事潛在犯罪活動的人”的監視名單中。

當顧客再次走進使用了這項技術的Rite Aid時,安全監管員將新採集的圖像與“可能從事潛在犯罪活動的人”名單進行匹配。若匹配成功則會將警報發送到安全員的手機上。相關人員在確認匹配準確後,將要求該顧客離開商店。

商店安全管理人員補充說,他們在10天后就無法獲取這些圖像,除非此人根據在商店的行爲被列入監視名單。

Rite Aid隨後證實了其面部識別程序的存在和範圍。並稱該公司使用人臉識別技術的目的是防止盜竊和暴力犯罪,保護員工和顧客免受暴力侵害,不涉及種族歧視。

雖然Rite Aid表示,他們會告知顧客,在進入商店時有相機對他們的面部進行掃描並識別。但是調查發現,至少三分之一的商店並未設置相關標識。並且Rite Aid拒絕透露在哪些商店部署這些設有人臉識別功能的相機。

路透社調查中發現,紐約和洛杉磯的75家Rite Aid商店中,有33家商店部署有這種相機。

設有人臉識別功能的相機很容易辨認,它們通常懸掛在商店入口附近和化妝品過道的天花板上。大多數長半英尺,呈矩形,標有其型號“iHD23”或帶有供應商首字母“DC”的序列號。

這75家商店中,較貧困地區的商店比高收入地區的商店使用面部識別的可能性要高得多。

在黑人和拉丁裔居民等有色人種佔比最大的地區,商店裏部署人臉識別系統的可能性是其他社區的三倍以上。

目前,Rite Aid發表聲明表示已關閉所有設有人臉識別功能的相機。 相關人員稱,“鑑於該技術的實用性越來越不確定,其他大型科技公司似乎正在縮減或重新考慮在人臉識別方面的投入。”

近年來深受財務虧損困擾的Rite Aid並不是唯一採用或嘗試人臉識別技術的零售商。

2018年,部分美國零售商成了一個旨在測試反犯罪技術的聯盟——零售防損研究委員會(Loss Prevention Research Council),將人臉識別技術視作“有發展前途的新工具”。其中美國有幾家零售商決定採用人臉識別技術,此技術可以幫助增加銷量,減少損失。

美國第二大零售商Home Depot向路透社表示,他們在至少一家商店測試了人臉識別能否減少入店行竊,但已在2020年停止實驗。此外,CNBC報道顯示,截至2019年初,美國知名家裝產品零售公司Menards在至少10個地點試用了人臉識別系統。沃爾瑪也在少數商店試用了該系統。

弗吉尼亞州獨立的7- 11連鎖店老闆告訴路透社,他們從2018年開始試用該軟件,但後來放棄。他們發現這個系統很大程度上是準確的,但對用戶不友好,而且維護成本太高。該系統在網上的廣告中稱月費爲99美元。

2

美國政府機構的一項研究表明,當受試者的膚色較深時,支持該技術的算法更容易出錯。

一位顧客回憶起2016年9月在Rite Aid商店被誤認爲是潛在的扒手的經歷。顧客認爲因其是有色人種才被識別錯誤。

Rite Aid目前使用的這項技術由 DeepCam提供,早前,使用的則是FaceFirst的技術。同時使用過兩個系統的安全管理人員表示,儘管有時會出現失誤,但DeepCam的匹配更準確。

而從2013年開始,隨着Rite Aid在費城、巴爾的摩等地部署FaceFirst的技術,發生過嚴重誤識別。

其在事件發生一週後向加州消費者事務部提交的訴狀,他在2016年9月在某Rite Aid商店時,一名經理命令他離開商店。據起訴書稱,這名經理曾收到該2013年在另一家Rite Aid公司拍攝的圖像,該圖像顯示他偷了東西。
但該顧客看到經理提供的照片時表示,除了他們都是黑人種族之外,他們長得一點都不像。

3

人臉識別技術在美國已經引起了高度爭議,因爲它在公共和私營部門的使用都在擴大,包括執法部門和零售商。公民自由倡導者警告說,這可能會導致對無辜個人的騷擾、任意和歧視性的逮捕、侵犯隱私權。

2019年5月,舊金山通過人臉識別禁用法令,禁止城市工作人員購買和使用人臉識別技術,成爲全球首個禁止人臉識別的城市。隨後,奧克蘭和薩默維爾市也通過人臉識別禁令。

舊金山在一項關於監視技術的行政法規——《停止祕密監視條例》中,針對人臉識別技術特別指出,“人臉識別技術危害公民權利和公民自由的傾向大大超過了其聲稱的好處,這項技術將加劇種族不平等,並威脅到我們不受政府長期監控的生活能力”。

弗洛伊德事件後,人臉識別使用爭議再次引發討論,美國多家科技公司公開宣佈放棄這項技術。

此前,在亞馬遜宣佈禁止向美國警方出售面部識別軟件Rekognition一年以後 ,隨後,IBM、微軟相繼宣佈停止向美國警方提供面部識別技術,並反對將其用於大規模監視和種族定性。

儘管承諾的細節和條款有所不同,比如亞馬遜、微軟表示暫時停止,而IBM則完全退出面部識別技術的出售,但這三家公司都要求美國華盛頓特區監管該技術。

“技術可以提高透明度,幫助警察保護社區,但絕不能放大歧視與種族不平等。”IBM首席執行官克里希納在給美國國會議員的公開信中這樣講到。

美國公民自由聯盟(ACLU)高級政策分析師傑伊·斯坦利(Jay Stanley)表示,對於監控技術引發的公民自由擔憂,正確的迴應是“不要祕密使用它”。

【雲棲號在線課堂】每天都有產品技術專家分享!
課程地址:https://yqh.aliyun.com/live

立即加入社羣,與專家面對面,及時瞭解課程最新動態!
【雲棲號在線課堂 社羣】https://c.tb.cn/F3.Z8gvnK

原文發佈時間:2020-08-03
本文作者:餘快
本文來自:“雷鋒網”,瞭解相關信息可以關注“雷鋒網

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章