「亞馬遜人臉識(shí)別噩夢(mèng)」貝索斯將AI武器化遭大規(guī)模抗議
《黑鏡》中政府使用交通攝像頭就能識(shí)別你的面部特征并且跟蹤你這個(gè)人的情形可能不太遠(yuǎn)了。
亞馬遜有一款名為Amazon Rekognition的產(chǎn)品,這將你最糟糕的噩夢(mèng)。
這款產(chǎn)品可以實(shí)時(shí)識(shí)別,跟蹤和分析人員,并在單幅圖像中識(shí)別多達(dá)100個(gè)人。它還可以快速掃描收集的信息,與數(shù)據(jù)庫(kù)數(shù)千萬(wàn)張面孔進(jìn)行比對(duì)。
亞馬遜正在為政府和警察部門推銷Rekognition——根據(jù)亞馬遜的市場(chǎng)推廣資料,Rekognition可以監(jiān)控“團(tuán)體照片、擁擠人群以及機(jī)場(chǎng)等公共場(chǎng)所中的所有面孔”。除了其他功能之外,材料中還將“人員跟蹤”描述為一種調(diào)查和監(jiān)控人“簡(jiǎn)單而準(zhǔn)確”的方式。
消息公布后引發(fā)了美國(guó)民眾極其強(qiáng)烈的反響。美國(guó)公民自由聯(lián)盟(ACLU)最近領(lǐng)導(dǎo)30多個(gè)民權(quán)組織聯(lián)合舉行抗議活動(dòng),反對(duì)美國(guó)政府使用人臉識(shí)別技術(shù),要求亞馬遜CEO貝索斯停止向政府出售Rekognition。
他們的主張是:“公民應(yīng)該可以自由地走在街上而不被政府監(jiān)視?!倍四樧R(shí)別技術(shù)威脅到了這一點(diǎn)。
雖然亞馬遜并不是唯一與警方合作的技術(shù)公司,但亞馬遜的規(guī)模、影響力和能力讓人覺(jué)得Amazon Rekognition將有很大可能被廣泛采用。
ACLU在聲明中表示,“通過(guò)Rekognition,政府現(xiàn)在可以構(gòu)建一個(gè)自動(dòng)識(shí)別和跟蹤任何人的系統(tǒng)。如果警察配備的隨身攝像頭配備了人臉識(shí)別裝置,那么原本用于執(zhí)法透明和問(wèn)責(zé)制的裝置將轉(zhuǎn)變?yōu)獒槍?duì)公眾的監(jiān)視器。
通過(guò)這項(xiàng)技術(shù),警察將能夠確定誰(shuí)參加了抗議活動(dòng)。 ICE(美國(guó)移民海關(guān)執(zhí)法Immigration and Customs Enforcement)可以在移民開(kāi)始新生活后持續(xù)監(jiān)控這些移民。無(wú)論是否有理由懷疑犯罪活動(dòng),政府都可以定期追蹤自己的居民?!?/p>
即使在擁擠的場(chǎng)所,亞馬遜Rekognition也能檢索和識(shí)別出多達(dá)100張臉孔
內(nèi)部員工的公開(kāi)信:請(qǐng)停止武器化我們的技術(shù)!
在美國(guó),目前無(wú)證移民的數(shù)量和由于種族貌相而遭到非法監(jiān)禁的受害人越來(lái)越多,包括《紐約時(shí)報(bào)》、《大西洋月刊》在內(nèi)的眾多媒體都發(fā)文質(zhì)問(wèn):是否該采用這項(xiàng)技術(shù)?更進(jìn)一步來(lái)說(shuō),這項(xiàng)技術(shù)真的必要嗎?
今年6月,在一片抗議聲中,奧蘭多警察局放棄了對(duì)亞馬遜Rekognition人臉識(shí)別試點(diǎn)項(xiàng)目的計(jì)劃。
人臉識(shí)別公司Kairos的首席執(zhí)行官Brian Brakeen更是公開(kāi)表示,他的公司不會(huì)將這項(xiàng)技術(shù)出售給政府。
Brakeen寫(xiě)道:“在政府監(jiān)督計(jì)劃和執(zhí)法機(jī)構(gòu)的手中,根本無(wú)法確保人臉識(shí)別軟件不會(huì)用于傷害公民?!?/p>
抗議并非全都來(lái)自外部。亞馬遜內(nèi)部員工也站起來(lái)表示抗議,他們加入股東,民權(quán)團(tuán)體和有關(guān)消費(fèi)者的行列,將亞馬遜的面部監(jiān)控技術(shù)稱為:對(duì)公民權(quán)利,特別是對(duì)移民和人民的獨(dú)特威脅。
這種強(qiáng)烈的反對(duì)在內(nèi)部逐漸蔓延開(kāi)來(lái)。
今年6月,亞馬遜內(nèi)部的100多名員工,包括高級(jí)工程師,給自己的老板、亞馬遜CEO杰夫·貝索斯(Jeff Bezos)寫(xiě)了一封公開(kāi)信,要求公司停止向ICE和其他執(zhí)法機(jī)構(gòu)出售侵入性和違憲的Rekognition面部識(shí)別技術(shù)。
他們?cè)谛胖姓f(shuō)道:“我們公司不應(yīng)該從事監(jiān)控業(yè)務(wù); 我們不應(yīng)該從事警務(wù)業(yè)務(wù); 我們不應(yīng)該支持那些監(jiān)督和壓迫邊緣人群的人?!?/p>
亞馬遜CEO杰夫·貝索斯
加利福尼亞州ACLU技術(shù)和公民自由主任尼科爾·奧澤爾說(shuō):“我們支持這些員工呼吁貝索斯先生做正確的事,亞馬遜必須停止向政府提供危險(xiǎn)的面部監(jiān)視?!?/p>
除了要求停止出售Rekognition之外,亞馬遜員工在信中還呼吁公司停止對(duì)數(shù)據(jù)分析公司Palantir提供支持。
Palantir是Peter Thiel于2003年創(chuàng)立的大數(shù)據(jù)公司,為執(zhí)法部門提供預(yù)測(cè)性警務(wù)工具,并通過(guò)亞馬遜網(wǎng)絡(luò)服務(wù)公司與ICE簽訂了大量合同(Thiel曾秘密資助了一起導(dǎo)致Gizmodo的前母公司Gizker Media破產(chǎn)的訴訟)。
亞馬遜態(tài)度并未妥協(xié)
盡管面對(duì)內(nèi)部與外部的雙重抗議,但是亞馬遜回應(yīng)態(tài)度依然是捍衛(wèi)Rekognition的。他們聲明:不能因?yàn)榧夹g(shù)可能會(huì)被濫用就限制其進(jìn)步。
聲明中說(shuō):“如果我們?nèi)【喰录夹g(shù),我們的生活質(zhì)量會(huì)更糟,因?yàn)橛行┤藭?huì)選擇濫用這項(xiàng)技術(shù)?!?nbsp;
“想象一下,如果客戶無(wú)法購(gòu)買計(jì)算機(jī),因?yàn)橛锌赡軐⒃撚?jì)算機(jī)用于非法目的嗎?亞馬遜要求客戶遵守法律并在使用AWS服務(wù)時(shí)負(fù)責(zé)。當(dāng)我們發(fā)現(xiàn)AWS服務(wù)正在使用時(shí)被客戶濫用,我們暫停該客戶使用我們服務(wù)的權(quán)利?!?/p>
此前,谷歌員工已經(jīng)成功的阻止了自己的公司參與到一項(xiàng)軍事競(jìng)標(biāo)中。該競(jìng)標(biāo)是美國(guó)五角大樓利用人工智能技術(shù)通過(guò)無(wú)人機(jī)進(jìn)行攻擊,并且另外一個(gè)項(xiàng)目也被迫暫停。
對(duì)比而言,亞馬遜的態(tài)度,不妥協(xié),挺強(qiáng)硬。
此外,根據(jù)今天的最新消息,奧蘭多警察局計(jì)劃重新啟動(dòng)人臉識(shí)別軟件測(cè)試。
奧蘭多警察局局長(zhǎng)John Mina在一份聲明中表示:“我們?cè)跍y(cè)試這項(xiàng)技術(shù)方面取得了很大進(jìn)展,并認(rèn)為繼續(xù)對(duì)其進(jìn)行評(píng)估是非常重要的,這個(gè)評(píng)估將確定人臉識(shí)別是否能夠在公民隱私和增強(qiáng)城市公共安全使命間權(quán)衡,從而增加不可估量的價(jià)值。”
從商業(yè)方面考慮,亞馬遜的技術(shù)與市場(chǎng)策略也無(wú)可厚非,但是,我們?nèi)匀幌M髽I(yè)將安全與隱私作為自己商業(yè)布局的前提,并為此做出一些改變。
推薦產(chǎn)品
同類文章排行
- 節(jié)能幕墻推動(dòng)了建材行業(yè)的發(fā)展
- A級(jí)保溫防火一體化板的趨勢(shì)對(duì)比
- 保溫裝飾一體化在使用中有什么樣的表現(xiàn)
- 「亞馬遜人臉識(shí)別噩夢(mèng)」貝索斯將AI武器化遭大規(guī)??棺h
- 星巴克的中年劫
- 外墻保溫裝飾板的優(yōu)勢(shì)特點(diǎn)是什么
- 保溫裝飾一體化板的使用優(yōu)勢(shì)
- 保溫裝飾一體化在使用中有什么樣的表現(xiàn)
- 保溫防火一體化板如何進(jìn)行施工
- 保溫裝飾一體化板的優(yōu)點(diǎn)