·被逮捕時，懷有8個月身孕的伍德羅夫正準備送孩子上學(xué)，6名底特律警察把她堵在了家門口。因人臉識別軟件認定她和另一名嫌犯重合，當?shù)鼐街缚厮赣袚尳俸徒佘囎??！澳阍陂_玩笑吧？”伍德羅夫記得她對警察說，并指著自己的肚子。
·目前美國被報道的因人臉識別錯誤導(dǎo)致誤捕的案例至少有六起，被誤捕的對象均為非裔，伍德羅夫是其中唯一的女性。
32歲的底特律人波查·伍德羅夫說，當警察到達她家時，她指著自己的肚子，表明她沒有能力實施搶劫和劫車。
今年2月，懷孕8個月的美國非裔女子波查·伍德羅夫（Porcha Woodruff）被警方以涉嫌搶劫罪和劫車罪逮捕。目前，她正向密歇根東區(qū)聯(lián)邦地區(qū)法院就誤抓一事起訴底特律市政府和一名警探。
美國因人臉識別技術(shù)出錯導(dǎo)致被誤抓的事件并非少數(shù)，且被錯誤逮捕的多為非裔。專家指出，非裔人種識別錯誤率高，部分原因是非裔人種膚色較黑，面部特征識別難度大，算法訓(xùn)練的樣本數(shù)據(jù)也相對較少。在全球范圍內(nèi)，因面部識別技術(shù)侵犯個人權(quán)利的問題已越來越引發(fā)重視。
關(guān)押期間宮縮、背部劇痛和痙攣
被逮捕時，懷有8個月身孕的伍德羅夫正準備送孩子上學(xué)，6名底特律警察把她堵在了家門口。因人臉識別軟件認定她和另一名嫌犯重合，當?shù)鼐街缚厮赣袚尳俸徒佘囎铩?/p>
根據(jù)伍德羅夫的起訴，面部識別軟件使用左側(cè)2015年的照片來識別她，而不是右側(cè)2021年的駕照照片，后者也可用。
“你在開玩笑吧？”伍德羅夫記得她對警察說，并指著自己的肚子，表明她沒有能力犯下這樣的罪行。
據(jù)《紐約時報》報道，伍德羅夫被帶到底特律拘留中心關(guān)押了近11個小時。她在拘留室里經(jīng)歷了宮縮、背部劇痛和痙攣，“我想我應(yīng)該是恐慌發(fā)作了?！?/p>
伍德羅夫是一名持照美容師，也是護理學(xué)院的學(xué)生，她說她很清楚自己當時的危險狀況。在水泥長凳上坐立不安的11小時令她備受羞辱，也令她痛苦不堪。
期間，警方不僅對她進行了盤問，還收走了她的手機，試圖尋找證據(jù)。當晚，她被法院判處搶劫罪和劫車罪，最終交了10萬美元的個人保釋金得以保釋。
伍德羅夫稱，她立即前往當?shù)匾患裔t(yī)院進行檢查，診斷出脫水和心率過低，腹中的孩子同樣被診斷出心率過低，并接受了相應(yīng)的治療。
今年3月，伍德羅夫的孩子有驚無險地順利出生。8月3日，她在美國密歇根州東區(qū)地方法院對底特律市和一名警探提起訴訟，指控其非法逮捕、非法拘禁，侵犯了憲法第四修正案賦予她的免受不合理扣押的權(quán)利。
“我審閱了訴訟中的指控。”底特律警察局長詹姆斯·E·懷特（James E. White）發(fā)表聲明說：“這些指控非常令人擔憂。我們非常認真地對待此事，但由于此事需要進行更多的調(diào)查，我們目前還不能發(fā)表進一步的評論?！?/p>
韋恩縣（Wayne County）檢察官凱姆·沃西（Kym Worthy）在其辦公室發(fā)表的聲明中認為，對伍德羅夫發(fā)出的逮捕令是“根據(jù)事實”做出的，因而是“適當?shù)摹薄?/p>
據(jù)報道，人臉識別算法把伍德羅夫8年前的舊照片與犯罪嫌疑人的視頻錄像進行了匹配，受害人也在查看伍德羅夫舊照片時也錯誤地指認了她。
伍德羅夫表示，“我認為任何人都不應(yīng)該經(jīng)歷類似被誣告的事情，所有人都可能會長得像某個嫌犯。”
多名非裔因人臉識別技術(shù)出錯被警方誤抓
導(dǎo)致伍德羅夫被錯誤識別的人臉識別算法是一種怎樣的算法？
根據(jù)市政府的文件，犯罪分析師使用了一種名為DataWorks Plus的人臉識別算法，將未知的面孔與罪犯照片數(shù)據(jù)庫進行比對。系統(tǒng)會返回匹配結(jié)果，并根據(jù)其是否為同一人進行排序，然后由人工分析師來決定其中是否有匹配的潛在嫌疑人。警方稱，犯罪分析師根據(jù)一張2015年的嫌犯照片的匹配結(jié)果，向警探提供了伍德羅夫的名字。
隨后，負責此案的警探要求受害人查看6名非裔女性的面部照片，伍德羅夫的照片就在其中。受害人將伍德羅夫誤認為嫌犯，警方稱這就是她被捕的依據(jù)。
受害人查看6名非裔女性的面部照片，錯誤指認伍德羅夫為嫌犯。
伍德羅夫既不是第一個因人臉識別而被誤捕的底特律人，也不是第一個因誤捕而起訴底特律市的人。
澎湃科技（www.thepaper.cn）梳理相關(guān)媒體報道發(fā)現(xiàn)，目前美國被報道的因人臉識別錯誤導(dǎo)致誤捕的案例至少有六起，被誤捕的對象均為非裔，伍德羅夫是其中唯一的女性。底特律市目前正面臨三起識別錯誤帶來的誤捕訴訟。
據(jù)美國多家媒體報道，密歇根州美國公民自由聯(lián)盟資深律師菲爾·馬約爾（Phil Mayor）曾代理非裔男子羅伯特·威廉姆斯（Robert Williams）因人臉識別導(dǎo)致被錯誤拘留的案件。
2020年，底特律警局的人臉識別算法在分析了監(jiān)控錄像中的模糊圖像后，錯誤地識別出了威廉姆斯，隨后以盜竊罪將其逮捕，盡管威廉姆斯當時并不在場。而被竊店家的保安也在照片排查流程中挑選出了他。威廉姆斯被拘留了整整30個小時，期間甚至沒有得到任何食物或水。
底特律之外，類似的誤捕也曾發(fā)生。
2019年2月，黑人男子奈吉爾·帕克斯（Nijeer Parks）被指控在新澤西州伍德布里奇（Ridgewood）的漢普頓酒店入店行竊并試圖襲擊警察。
警方使用人臉識別鎖定他為犯罪嫌疑人，實際上他當時在距離事發(fā)地30英里之外。帕克斯在監(jiān)獄里呆了10天，并支付了大約5000美元為自己辯護。2019年11月，該案因證據(jù)不足被駁回?，F(xiàn)年33歲的帕克斯2021年3月起訴警方、檢察官和伍德布里奇市，指控其非法逮捕、非法監(jiān)禁和侵犯公民權(quán)利。
非裔人群較高概率的誤捕背后，是算法識別導(dǎo)致不同人群的準確率差距。《紐約時報》2020年6月發(fā)表的一篇文章指出，在密歇根州，警方使用的DataWorks軟件來自日本科技巨頭NEC和總部位于科羅拉多州的Rank One Computing公司開發(fā)的組件。州警方發(fā)言人說，2019年，美國國家標準與技術(shù)研究院對100多個人臉識別系統(tǒng)進行了研究，發(fā)現(xiàn)這兩家公司的算法都存在種族偏見，非裔和亞裔人臉的錯誤識別率是高加索人種人臉的10倍到100倍。
面對此類冤假錯案的頻繁發(fā)生，美國民主黨眾議員劉云平（Ted Lieu）提出了《2022年面部識別法案》（Facial Recognition Act of 2022），規(guī)定在公共和私營部門必要的范圍內(nèi)規(guī)范面部識別技術(shù)的使用。法案還規(guī)定執(zhí)法部門使用面部識別技術(shù)要達到一定的透明度要求，進行年度評估和報告。
“我們需要建立強有力的保障措施，為美國人民提供透明度，防止歧視性算法，確保被告受到正當程序權(quán)利的保護，并只在不得不使用人臉識別技術(shù)時使用它?！眲⒃破秸f，“透明度和合理限制的缺乏，會讓人臉識別威脅到美國人的公民自由?！?/p>
皮尤研究中心（Pew Research Center）稱，目前還沒有人臉識別技術(shù)普及率的全面數(shù)據(jù)。不過有一家供應(yīng)商表示，其客戶包括至少3100家美國執(zhí)法機構(gòu)。盡管一些民權(quán)組織和隱私權(quán)活動人士對此表示擔憂，但美國之外的許多國家，包括奧地利、法國、德國、意大利和芬蘭等國在內(nèi)，也都已經(jīng)出于各種目的采用了人臉識別技術(shù)。
專家稱人臉識別技術(shù)在實際適用時需人工介入
人臉識別錯誤導(dǎo)致美國誤捕事件中非裔比例偏高，暴露出怎樣的問題？
廣東財經(jīng)大學(xué)法學(xué)院教授姚志偉在接受澎湃科技采訪時表示，在算法歧視中對非裔的歧視偏高，很有可能是因為對人臉識別系統(tǒng)進行訓(xùn)練的材料本身有問題，算法訓(xùn)練過程中適用黑人樣本數(shù)和白人樣本數(shù)可能不成比例?！霸趯嶋H適用的過程中一定要有充分的人工介入、干預(yù)、救濟等?！币χ緜ケ硎尽?/p>
上海正策律師事務(wù)所律師虞元堅分析稱，非裔人種識別錯誤率高，部分原因是非裔人種膚色較黑，面部特征識別難度大，算法訓(xùn)練的樣本數(shù)據(jù)也相對較少。想要預(yù)防這一類事件的再次發(fā)生，只有要求廠商在有色人種，尤其是黑色人種的面部識別算法研究上投入更多。
“法律層面上，我認為應(yīng)該給予技術(shù)一定的容錯率，否則技術(shù)很難長足發(fā)展。如果是由于技術(shù)的開發(fā)人員、操作人員非主觀過錯，而判定賠償，有可能阻礙技術(shù)的發(fā)展?！庇菰獔哉f。
從技術(shù)層面優(yōu)化人臉識別準確度，是科技公司需要努力的方向。另一方面，隨著人臉識別技術(shù)不斷成熟，給公眾生活帶來便利的同時，也存在不規(guī)范使用等現(xiàn)象，對個人信息保護提出了挑戰(zhàn)。
姚志偉認為：“在個人信息保護方面，美國弱于歐盟，現(xiàn)在從整體立法層面來說也弱于中國?！?/p>
6月14日，歐洲議會通過《人工智能法案》。最新草案中，實時遠程生物識別技術(shù)從“高風險”級別調(diào)整為“被禁止”級別，這意味著未來公司不能利用AI技術(shù)在歐盟國家的公共場合進行人臉識別。但仍存在是否應(yīng)出于國家安全和其他執(zhí)法目的而允許豁免的問題。
8月8日，中國國家互聯(lián)網(wǎng)信息辦公室公布《人臉識別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見稿）》，并向社會公開征求意見?！墩髑笠庖姼濉吩敿氁?guī)定了平臺、個人等安裝圖像采集、個人身份識別設(shè)備的前提、條件和程序，要求只有在具有特定的目的和充分的必要性，并采取嚴格保護措施的情形下，方可使用人臉識別技術(shù)處理人臉信息。新華社總結(jié)了《征求意見稿》體現(xiàn)的三個原則：最少使用、遵循自愿、最小存儲。