·被逮捕時(shí)，懷有8個(gè)月身孕的伍德羅夫正準(zhǔn)備送孩子上學(xué)，6名底特律警察把她堵在了家門(mén)口。因人臉識(shí)別軟件認(rèn)定她和另一名嫌犯重合，當(dāng)?shù)鼐街缚厮赣袚尳俸徒佘?chē)罪。“你在開(kāi)玩笑吧？”伍德羅夫記得她對(duì)警察說(shuō)，并指著自己的肚子。
·目前美國(guó)被報(bào)道的因人臉識(shí)別錯(cuò)誤導(dǎo)致誤捕的案例至少有六起，被誤捕的對(duì)象均為非裔，伍德羅夫是其中唯一的女性。
32歲的底特律人波查·伍德羅夫說(shuō)，當(dāng)警察到達(dá)她家時(shí)，她指著自己的肚子，表明她沒(méi)有能力實(shí)施搶劫和劫車(chē)。
今年2月，懷孕8個(gè)月的美國(guó)非裔女子波查·伍德羅夫（Porcha Woodruff）被警方以涉嫌搶劫罪和劫車(chē)罪逮捕。目前，她正向密歇根東區(qū)聯(lián)邦地區(qū)法院就誤抓一事起訴底特律市政府和一名警探。
美國(guó)因人臉識(shí)別技術(shù)出錯(cuò)導(dǎo)致被誤抓的事件并非少數(shù)，且被錯(cuò)誤逮捕的多為非裔。專家指出，非裔人種識(shí)別錯(cuò)誤率高，部分原因是非裔人種膚色較黑，面部特征識(shí)別難度大，算法訓(xùn)練的樣本數(shù)據(jù)也相對(duì)較少。在全球范圍內(nèi)，因面部識(shí)別技術(shù)侵犯?jìng)€(gè)人權(quán)利的問(wèn)題已越來(lái)越引發(fā)重視。
關(guān)押期間宮縮、背部劇痛和痙攣
被逮捕時(shí)，懷有8個(gè)月身孕的伍德羅夫正準(zhǔn)備送孩子上學(xué)，6名底特律警察把她堵在了家門(mén)口。因人臉識(shí)別軟件認(rèn)定她和另一名嫌犯重合，當(dāng)?shù)鼐街缚厮赣袚尳俸徒佘?chē)罪。
根據(jù)伍德羅夫的起訴，面部識(shí)別軟件使用左側(cè)2015年的照片來(lái)識(shí)別她，而不是右側(cè)2021年的駕照照片，后者也可用。
“你在開(kāi)玩笑吧？”伍德羅夫記得她對(duì)警察說(shuō)，并指著自己的肚子，表明她沒(méi)有能力犯下這樣的罪行。
據(jù)《紐約時(shí)報(bào)》報(bào)道，伍德羅夫被帶到底特律拘留中心關(guān)押了近11個(gè)小時(shí)。她在拘留室里經(jīng)歷了宮縮、背部劇痛和痙攣，“我想我應(yīng)該是恐慌發(fā)作了。”
伍德羅夫是一名持照美容師，也是護(hù)理學(xué)院的學(xué)生，她說(shuō)她很清楚自己當(dāng)時(shí)的危險(xiǎn)狀況。在水泥長(zhǎng)凳上坐立不安的11小時(shí)令她備受羞辱，也令她痛苦不堪。
期間，警方不僅對(duì)她進(jìn)行了盤(pán)問(wèn)，還收走了她的手機(jī)，試圖尋找證據(jù)。當(dāng)晚，她被法院判處搶劫罪和劫車(chē)罪，最終交了10萬(wàn)美元的個(gè)人保釋金得以保釋。
伍德羅夫稱，她立即前往當(dāng)?shù)匾患裔t(yī)院進(jìn)行檢查，診斷出脫水和心率過(guò)低，腹中的孩子同樣被診斷出心率過(guò)低，并接受了相應(yīng)的治療。
今年3月，伍德羅夫的孩子有驚無(wú)險(xiǎn)地順利出生。8月3日，她在美國(guó)密歇根州東區(qū)地方法院對(duì)底特律市和一名警探提起訴訟，指控其非法逮捕、非法拘禁，侵犯了憲法第四修正案賦予她的免受不合理扣押的權(quán)利。
“我審閱了訴訟中的指控?！钡滋芈删炀珠L(zhǎng)詹姆斯·E·懷特（James E. White）發(fā)表聲明說(shuō)：“這些指控非常令人擔(dān)憂。我們非常認(rèn)真地對(duì)待此事，但由于此事需要進(jìn)行更多的調(diào)查，我們目前還不能發(fā)表進(jìn)一步的評(píng)論?！?/p>
韋恩縣（Wayne County）檢察官凱姆·沃西（Kym Worthy）在其辦公室發(fā)表的聲明中認(rèn)為，對(duì)伍德羅夫發(fā)出的逮捕令是“根據(jù)事實(shí)”做出的，因而是“適當(dāng)?shù)摹薄?/p>
據(jù)報(bào)道，人臉識(shí)別算法把伍德羅夫8年前的舊照片與犯罪嫌疑人的視頻錄像進(jìn)行了匹配，受害人也在查看伍德羅夫舊照片時(shí)也錯(cuò)誤地指認(rèn)了她。
伍德羅夫表示，“我認(rèn)為任何人都不應(yīng)該經(jīng)歷類似被誣告的事情，所有人都可能會(huì)長(zhǎng)得像某個(gè)嫌犯。”
多名非裔因人臉識(shí)別技術(shù)出錯(cuò)被警方誤抓
導(dǎo)致伍德羅夫被錯(cuò)誤識(shí)別的人臉識(shí)別算法是一種怎樣的算法？
根據(jù)市政府的文件，犯罪分析師使用了一種名為DataWorks Plus的人臉識(shí)別算法，將未知的面孔與罪犯照片數(shù)據(jù)庫(kù)進(jìn)行比對(duì)。系統(tǒng)會(huì)返回匹配結(jié)果，并根據(jù)其是否為同一人進(jìn)行排序，然后由人工分析師來(lái)決定其中是否有匹配的潛在嫌疑人。警方稱，犯罪分析師根據(jù)一張2015年的嫌犯照片的匹配結(jié)果，向警探提供了伍德羅夫的名字。
隨后，負(fù)責(zé)此案的警探要求受害人查看6名非裔女性的面部照片，伍德羅夫的照片就在其中。受害人將伍德羅夫誤認(rèn)為嫌犯，警方稱這就是她被捕的依據(jù)。
受害人查看6名非裔女性的面部照片，錯(cuò)誤指認(rèn)伍德羅夫?yàn)橄臃浮?/p>
伍德羅夫既不是第一個(gè)因人臉識(shí)別而被誤捕的底特律人，也不是第一個(gè)因誤捕而起訴底特律市的人。
澎湃科技（www.thepaper.cn）梳理相關(guān)媒體報(bào)道發(fā)現(xiàn)，目前美國(guó)被報(bào)道的因人臉識(shí)別錯(cuò)誤導(dǎo)致誤捕的案例至少有六起，被誤捕的對(duì)象均為非裔，伍德羅夫是其中唯一的女性。底特律市目前正面臨三起識(shí)別錯(cuò)誤帶來(lái)的誤捕訴訟。
據(jù)美國(guó)多家媒體報(bào)道，密歇根州美國(guó)公民自由聯(lián)盟資深律師菲爾·馬約爾（Phil Mayor）曾代理非裔男子羅伯特·威廉姆斯（Robert Williams）因人臉識(shí)別導(dǎo)致被錯(cuò)誤拘留的案件。
2020年，底特律警局的人臉識(shí)別算法在分析了監(jiān)控錄像中的模糊圖像后，錯(cuò)誤地識(shí)別出了威廉姆斯，隨后以盜竊罪將其逮捕，盡管威廉姆斯當(dāng)時(shí)并不在場(chǎng)。而被竊店家的保安也在照片排查流程中挑選出了他。威廉姆斯被拘留了整整30個(gè)小時(shí)，期間甚至沒(méi)有得到任何食物或水。
底特律之外，類似的誤捕也曾發(fā)生。
2019年2月，黑人男子奈吉爾·帕克斯（Nijeer Parks）被指控在新澤西州伍德布里奇（Ridgewood）的漢普頓酒店入店行竊并試圖襲擊警察。
警方使用人臉識(shí)別鎖定他為犯罪嫌疑人，實(shí)際上他當(dāng)時(shí)在距離事發(fā)地30英里之外。帕克斯在監(jiān)獄里呆了10天，并支付了大約5000美元為自己辯護(hù)。2019年11月，該案因證據(jù)不足被駁回?，F(xiàn)年33歲的帕克斯2021年3月起訴警方、檢察官和伍德布里奇市，指控其非法逮捕、非法監(jiān)禁和侵犯公民權(quán)利。
非裔人群較高概率的誤捕背后，是算法識(shí)別導(dǎo)致不同人群的準(zhǔn)確率差距。《紐約時(shí)報(bào)》2020年6月發(fā)表的一篇文章指出，在密歇根州，警方使用的DataWorks軟件來(lái)自日本科技巨頭NEC和總部位于科羅拉多州的Rank One Computing公司開(kāi)發(fā)的組件。州警方發(fā)言人說(shuō)，2019年，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院對(duì)100多個(gè)人臉識(shí)別系統(tǒng)進(jìn)行了研究，發(fā)現(xiàn)這兩家公司的算法都存在種族偏見(jiàn)，非裔和亞裔人臉的錯(cuò)誤識(shí)別率是高加索人種人臉的10倍到100倍。
面對(duì)此類冤假錯(cuò)案的頻繁發(fā)生，美國(guó)民主黨眾議員劉云平（Ted Lieu）提出了《2022年面部識(shí)別法案》（Facial Recognition Act of 2022），規(guī)定在公共和私營(yíng)部門(mén)必要的范圍內(nèi)規(guī)范面部識(shí)別技術(shù)的使用。法案還規(guī)定執(zhí)法部門(mén)使用面部識(shí)別技術(shù)要達(dá)到一定的透明度要求，進(jìn)行年度評(píng)估和報(bào)告。
“我們需要建立強(qiáng)有力的保障措施，為美國(guó)人民提供透明度，防止歧視性算法，確保被告受到正當(dāng)程序權(quán)利的保護(hù)，并只在不得不使用人臉識(shí)別技術(shù)時(shí)使用它?！眲⒃破秸f(shuō)，“透明度和合理限制的缺乏，會(huì)讓人臉識(shí)別威脅到美國(guó)人的公民自由?！?/p>
皮尤研究中心（Pew Research Center）稱，目前還沒(méi)有人臉識(shí)別技術(shù)普及率的全面數(shù)據(jù)。不過(guò)有一家供應(yīng)商表示，其客戶包括至少3100家美國(guó)執(zhí)法機(jī)構(gòu)。盡管一些民權(quán)組織和隱私權(quán)活動(dòng)人士對(duì)此表示擔(dān)憂，但美國(guó)之外的許多國(guó)家，包括奧地利、法國(guó)、德國(guó)、意大利和芬蘭等國(guó)在內(nèi)，也都已經(jīng)出于各種目的采用了人臉識(shí)別技術(shù)。
專家稱人臉識(shí)別技術(shù)在實(shí)際適用時(shí)需人工介入
人臉識(shí)別錯(cuò)誤導(dǎo)致美國(guó)誤捕事件中非裔比例偏高，暴露出怎樣的問(wèn)題？
廣東財(cái)經(jīng)大學(xué)法學(xué)院教授姚志偉在接受澎湃科技采訪時(shí)表示，在算法歧視中對(duì)非裔的歧視偏高，很有可能是因?yàn)閷?duì)人臉識(shí)別系統(tǒng)進(jìn)行訓(xùn)練的材料本身有問(wèn)題，算法訓(xùn)練過(guò)程中適用黑人樣本數(shù)和白人樣本數(shù)可能不成比例。“在實(shí)際適用的過(guò)程中一定要有充分的人工介入、干預(yù)、救濟(jì)等?！币χ緜ケ硎?。
上海正策律師事務(wù)所律師虞元堅(jiān)分析稱，非裔人種識(shí)別錯(cuò)誤率高，部分原因是非裔人種膚色較黑，面部特征識(shí)別難度大，算法訓(xùn)練的樣本數(shù)據(jù)也相對(duì)較少。想要預(yù)防這一類事件的再次發(fā)生，只有要求廠商在有色人種，尤其是黑色人種的面部識(shí)別算法研究上投入更多。
“法律層面上，我認(rèn)為應(yīng)該給予技術(shù)一定的容錯(cuò)率，否則技術(shù)很難長(zhǎng)足發(fā)展。如果是由于技術(shù)的開(kāi)發(fā)人員、操作人員非主觀過(guò)錯(cuò)，而判定賠償，有可能阻礙技術(shù)的發(fā)展。”虞元堅(jiān)說(shuō)。
從技術(shù)層面優(yōu)化人臉識(shí)別準(zhǔn)確度，是科技公司需要努力的方向。另一方面，隨著人臉識(shí)別技術(shù)不斷成熟，給公眾生活帶來(lái)便利的同時(shí)，也存在不規(guī)范使用等現(xiàn)象，對(duì)個(gè)人信息保護(hù)提出了挑戰(zhàn)。
姚志偉認(rèn)為：“在個(gè)人信息保護(hù)方面，美國(guó)弱于歐盟，現(xiàn)在從整體立法層面來(lái)說(shuō)也弱于中國(guó)?！?/p>
6月14日，歐洲議會(huì)通過(guò)《人工智能法案》。最新草案中，實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)從“高風(fēng)險(xiǎn)”級(jí)別調(diào)整為“被禁止”級(jí)別，這意味著未來(lái)公司不能利用AI技術(shù)在歐盟國(guó)家的公共場(chǎng)合進(jìn)行人臉識(shí)別。但仍存在是否應(yīng)出于國(guó)家安全和其他執(zhí)法目的而允許豁免的問(wèn)題。
8月8日，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室公布《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見(jiàn)稿）》，并向社會(huì)公開(kāi)征求意見(jiàn)?！墩髑笠庖?jiàn)稿》詳細(xì)規(guī)定了平臺(tái)、個(gè)人等安裝圖像采集、個(gè)人身份識(shí)別設(shè)備的前提、條件和程序，要求只有在具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下，方可使用人臉識(shí)別技術(shù)處理人臉信息。新華社總結(jié)了《征求意見(jiàn)稿》體現(xiàn)的三個(gè)原則：最少使用、遵循自愿、最小存儲(chǔ)。