10月18日消息，據(jù)國(guó)外媒體報(bào)道，一位自稱亞馬遜員工的作者在medium.com發(fā)表了一封公開(kāi)信，表示反對(duì)亞馬遜將其面部識(shí)別系統(tǒng)Rekognition出售給美國(guó)的執(zhí)法機(jī)構(gòu)。

　　該信部分內(nèi)容如下：

　　當(dāng)一家公司將新技術(shù)推向世界時(shí)，它有責(zé)任考慮其后果。我所在的亞馬遜目前允許全國(guó)各地的警察部門購(gòu)買其面部識(shí)別產(chǎn)品Rekognition，我和其他員工要求公司立即停止這項(xiàng)業(yè)務(wù)。

　　幾周前，我的同事就這事的影響給杰夫·貝索斯(Jeff Bezos，亞馬遜CEO，譯者注)和其他高管寫了一封信，這封信獲得了亞馬遜450多名員工的簽名。信中還要求亞馬遜將軟件公司Palantir踢出其云服務(wù)AWS，因?yàn)樵摴�司為美�?guó)移民與海關(guān)執(zhí)法局(ICE)的驅(qū)逐與跟蹤系統(tǒng)提供了大部分的技術(shù)支持，并建立員工對(duì)公司決策進(jìn)行道德監(jiān)督的機(jī)制。

　　我們知道貝佐斯意識(shí)到了員工的這些擔(dān)憂，同時(shí)圍繞這一話題正與整個(gè)行業(yè)對(duì)話。在公開(kāi)演講中，他承認(rèn)大型科技產(chǎn)品可能被執(zhí)法部門利用，甚至是濫用。但是，貝佐斯并沒(méi)有解釋亞馬遜將如何采取行動(dòng)來(lái)防止其自身技術(shù)被不當(dāng)使用，而是建議我們等待社會(huì)產(chǎn)生“免疫反應(yīng)”。

　　如果亞馬遜繼續(xù)等待，我們認(rèn)為這種損害將難以消除。

　　畢竟，我們關(guān)注的不是其它公司將來(lái)可能造成的危害，而是亞馬遜目前正在設(shè)計(jì)、營(yíng)銷和銷售的一套用于危險(xiǎn)、大規(guī)模監(jiān)控的系統(tǒng)：Rekognition。亞馬遜網(wǎng)站吹噓說(shuō)，該系統(tǒng)可以一次性存儲(chǔ)和搜索數(shù)千萬(wàn)張人臉。執(zhí)法部門已經(jīng)開(kāi)始使用亞馬遜的這項(xiàng)面部識(shí)別技術(shù)，但幾乎沒(méi)有任何公眾監(jiān)督，也沒(méi)有對(duì)此進(jìn)行公開(kāi)辯論，或有所限制。佛羅里達(dá)州奧蘭多市正在通過(guò)遍布全市的監(jiān)控?cái)z像頭的實(shí)時(shí)視頻信號(hào)來(lái)測(cè)試Rekognition。俄勒岡州的一個(gè)警察部門目前正在利用Rekognition，讓現(xiàn)場(chǎng)的警官將照片與數(shù)據(jù)庫(kù)的面部照片進(jìn)行比對(duì)。這已不再是一個(gè)假設(shè)的情況。

　　我們從歷史中了解到，新型的、強(qiáng)大的監(jiān)控工具不受控制地掌握在執(zhí)法機(jī)構(gòu)手中，將被用于針對(duì)那些沒(méi)有做過(guò)錯(cuò)事的人;在美國(guó)，由于缺乏公共問(wèn)責(zé)制，已經(jīng)導(dǎo)致了對(duì)有色人種、移民和行使第一修正案權(quán)利的人進(jìn)行過(guò)度干擾和過(guò)度監(jiān)管。在向政府和執(zhí)法機(jī)構(gòu)提供強(qiáng)大技術(shù)的同時(shí)，忽視這些緊迫問(wèn)題是危險(xiǎn)的和不負(fù)責(zé)任的。

　　這就是為什么當(dāng)AWS全球公共部門副總裁特雷薩·卡爾森(Teresa Carlson)最近表示亞馬遜“毫不動(dòng)搖地支持”執(zhí)法、國(guó)防和情報(bào)部門的客戶時(shí)，我們感到失望。他甚至還說(shuō)，即使我們“不知道他們實(shí)際上在利用這個(gè)工具做什么”。亞馬遜甚至建議，為警官隨身相機(jī)提供Rekognition功能，這將把本來(lái)作為警察問(wèn)責(zé)的工具變成針對(duì)公眾的移動(dòng)監(jiān)控設(shè)備。我們?yōu)槭裁匆�這樣做?

　　像我們這樣的公司不應(yīng)該開(kāi)展促進(jìn)政府監(jiān)控的業(yè)務(wù)。現(xiàn)在不行，永遠(yuǎn)也不行。但Rekognition支持通過(guò)從一幀視頻中提取幾十個(gè)面部標(biāo)識(shí)，并將它們存儲(chǔ)起來(lái)供以后使用，或者立即將它們與有數(shù)百萬(wàn)張圖片的數(shù)據(jù)庫(kù)進(jìn)行比對(duì)。

　　銷售這個(gè)系統(tǒng)違背了亞馬遜的價(jià)值觀。我們標(biāo)榜自己是一家以客戶為中心的公司，貝佐斯自己直接反對(duì)美國(guó)政府針對(duì)移民的不道德政策，比如穆斯林禁令。

　　我們不能以犧牲公眾利益為代價(jià)，從那些擁有強(qiáng)大權(quán)力的客戶群體中獲利;我們不能忽視我們業(yè)務(wù)對(duì)公眾利益的損害。我們銷售的Rekognition系統(tǒng)是一種有缺陷的技術(shù)，它強(qiáng)化了美國(guó)現(xiàn)有的偏見(jiàn)。研究表明，面部識(shí)別技術(shù)更容易誤認(rèn)擁有深色皮膚的人。這一點(diǎn)在最近對(duì)Rekognition的測(cè)試中得到了明確的證明。這項(xiàng)調(diào)查將美國(guó)國(guó)會(huì)議員的照片與數(shù)據(jù)庫(kù)的一些臉部照片逐一比對(duì)，結(jié)果出現(xiàn)了28項(xiàng)錯(cuò)誤匹配，而在有色人種中不正確結(jié)果比例特別高。但即使這些錯(cuò)誤被修正了，允許執(zhí)法部門使用這種軟件仍然是不負(fù)責(zé)任、危險(xiǎn)和不道德的�，F(xiàn)在，產(chǎn)生這種偏見(jiàn)的根源存在于美國(guó)更廣泛的社會(huì)和司法系統(tǒng)中。面部識(shí)別技術(shù)的使用只會(huì)復(fù)制和放大美國(guó)現(xiàn)有的這種偏見(jiàn)。

　　美國(guó)目前的政治環(huán)境使得向政府出售面部識(shí)別產(chǎn)品的想法更加令人反感。美國(guó)警方加大了對(duì)黑人活動(dòng)人士的監(jiān)視力度，特朗普政府也在繼續(xù)全力打擊移民。我們不希望以任何方式為美國(guó)政府的超級(jí)監(jiān)視系統(tǒng)做出貢獻(xiàn)。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項(xiàng)技術(shù)的負(fù)面使用逃避責(zé)任的方式。

　　谷歌員工公開(kāi)反對(duì)公司與美國(guó)國(guó)防部的Maven合同(編者注：該合同涉及使用人工智能來(lái)分析無(wú)人機(jī)鏡頭)，微軟員工公開(kāi)反對(duì)公司與美國(guó)國(guó)防部的云計(jì)算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對(duì)美國(guó)軍方的觀點(diǎn)如何，任何人都不應(yīng)該從“增加軍隊(duì)的殺傷力”中獲利。

　　亞馬遜談?wù)摿撕芏嚓P(guān)于領(lǐng)導(dǎo)力的價(jià)值觀問(wèn)題。如果我們想要擁有領(lǐng)導(dǎo)力，我們需要在人類利益與利潤(rùn)之間做出選擇。我們可以把危險(xiǎn)的監(jiān)視系統(tǒng)賣給執(zhí)法部門，或者我們可以維護(hù)正義。但我們不能兩者兼得。