原標(biāo)題：亞馬遜面部識別系統(tǒng)鬧烏龍，28名美國會議員被誤認(rèn)成罪犯
【文/觀察者網(wǎng) 王愷雯】商業(yè)巨頭亞馬遜2016年推出圖像識別AI系統(tǒng)“Rekognition”，還積極向美國警方推銷以幫助其辦案。不過近日，“Rekognition”卻鬧了一個(gè)大烏龍：28名美國國會議員被它識別成了罪犯。
這一錯(cuò)誤也讓發(fā)起這項(xiàng)測試、反對警方使用“Rekognition”的美國公民自由聯(lián)盟（ACLU）抓到把柄，他們表示，測試結(jié)果引起了民眾對警方使用該系統(tǒng)的嚴(yán)重?fù)?dān)憂。
被“Rekognition”誤識別成罪犯的28名議員 圖自ACLU網(wǎng)站
7月26日，ACLU在其網(wǎng)站披露：該組織對“Rekognition”進(jìn)行了測試，結(jié)果系統(tǒng)錯(cuò)誤地將28名國會議員識別為曾因犯罪而被捕的人員。
這些被誤認(rèn)為是罪犯的議員來自美國各州，無論黨派。不過，女性只占一人，有色人種占40%，其中6人為黑人。
ACLU稱，他們使用的系統(tǒng)與亞馬遜向公眾提供的系統(tǒng)無異，整個(gè)測試花費(fèi)了12.33美元（約合84元人民幣）
他們建立了一個(gè)擁有2.5萬張公開罪犯照片的數(shù)據(jù)庫，然后把國會參眾兩院所有現(xiàn)任議員的照片交給“Rekognition”處理，看2.5萬張照片中是否有照片與國會議員匹配，結(jié)果有28張匹配。
“Rekognition”操作步驟 圖自ACLU網(wǎng)站
“Rekognition”是亞馬遜在2016年推出的圖像識別AI系統(tǒng)，據(jù)亞馬遜官網(wǎng)介紹，“Rekognition” 能夠?yàn)橛脩籼峁┑膱D像和視頻提供高度準(zhǔn)確的面部分析和面部識別功能。用戶可以檢測、分析和比較各種使用案例中的面孔，包括用戶確認(rèn)、人員計(jì)數(shù)和公共安全。
值得注意的是，亞馬遜頗為積極地向美國司法部門和警方推銷“Rekognition”，此舉引發(fā)美國民眾強(qiáng)烈不滿，認(rèn)為這侵犯了人的隱私權(quán)，或會帶來歧視。
ACLU稱，被識別為罪犯的28名議員中，40%是有色人種，然而國會議員中有色人種的比例僅為20%。
這也證實(shí)了今年5月國會“黑人核心小組（Congressional Black Caucus）”給亞馬遜CEO杰夫·貝佐斯（Jeff Bezos）信中的擔(dān)憂：黑人、非法移民和抗議者可能會面臨監(jiān)視。
亞馬遜CEO杰夫·貝佐斯 圖自CNBC
ACLU表示，如果執(zhí)法部門使用“Rekognition”，不難想象警察會得到一個(gè)與罪犯“匹配”的人像，從而導(dǎo)致警察在執(zhí)法前就對其產(chǎn)生“偏見”。
“無論準(zhǔn)確與否，這樣的識別都可能讓人們失去自由甚至生命。有色人種已經(jīng)不成比例地受到警察的傷害，‘Rekognition’顯而易見會加劇這種情況……最近舊金山警察攔住一輛車，拷住一名黑人婦女強(qiáng)迫她跪在槍口下，就是因?yàn)樽詣?dòng)車牌識別系統(tǒng)誤認(rèn)為她的車是偷來的。”
該組織還稱，面部識別可能會威脅到美國憲法第一修正案所保護(hù)的行為，例如參與抗議活動(dòng)或宗教活動(dòng)；也可能讓移民受到美國政府進(jìn)一步的虐待。
“這也正是為什么亞馬遜員工、股東、近70個(gè)人權(quán)組織，超過400名學(xué)術(shù)界人士和超過15萬民眾已經(jīng)站出來，要求亞馬遜停止向政府提供人臉識別監(jiān)控的原因。”
ALCU最后呼吁國會認(rèn)真對待這個(gè)問題，頒布法案暫停使用面部識別執(zhí)法，直到充分考慮其危害并采取有效措施來制止對民眾的威脅。
另據(jù)美國科技媒體網(wǎng)站“The Verge”報(bào)道，這次烏龍事件發(fā)生后，已有3名被誤認(rèn)為罪犯的議員對此做出回應(yīng)。
馬薩諸塞州參議員愛德華·馬基（Edward Markey）、伊利諾伊州眾議員路易斯·古蒂爾茲（Luis Gutiérrez）和加利福尼亞州眾議員馬克·索尼爾（Mark DeSaulnier）致信亞馬遜CEO貝佐斯，要求其提供使用“Rekognition”技術(shù)執(zhí)法機(jī)構(gòu)的完整名單，并詢問對13歲以下兒童的保護(hù)措施。
“人們對面部識別可能對隱私權(quán)和公民權(quán)利造成的危害表示嚴(yán)重關(guān)切，” 信中寫道，“尤其是當(dāng)它被用作政府監(jiān)視的工具時(shí)。”
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。