手机端
当前位置:主页 > 科技 >

如何在執法中避免面部識別的反烏托邦式未來



每個人都害怕面部識別技術。公民自由活動家警告說,這項強大的技術可以通過將人的臉部圖像或視頻與照片數據庫進行匹配來識別人,而無需任何合理的懷疑或徵求他們的同意就可以被動地監視他們。這些領導者中的許多人不僅想規範面部識別技術,還想完全禁止或暫停使用它。共和黨和民主黨議員很少對此達成共識,最近他們聯合起來試圖限制執法機構使用這項技術對美國人進行監視的能力,理由是人們擔心,如果不加限制地使用面部識別技術,就可能導致奧威爾式監視的產生。州。

在過去的一年中,舊金山,奧克蘭和馬薩諸塞州薩默維爾等幾個城市禁止警察使用該技術。本月初出台了一項新的聯邦法案,該法案將嚴格限制聯邦執法部門使用該法案,要求法院下達命令追踪人的時間超過三天。一些參議員討論了一項意義深遠的法案,該法案將完全阻止政府對該技術的使用。

但是現實是該技術已經存在-它用於解鎖人們的iPhone,掃描飛行人員的面孔而不是機票,掃描參加泰勒·斯威夫特音樂會的人們,以及像在巴西里約熱內盧著名的狂歡節上監視人群。它的流行創造了一個微妙的局面:諸如執法和技術製造商之類的技術支持者輕視了面部識別的力量。他們發揮了打開嚴寒刑事案件或使失踪兒童與家人團聚的潛力。

2017年,一名男子在倫敦蘋果商店的iPhone X上使用面部識別功能。同時,反對者警告說,強大的技術的使用會很快失去控制。例如,他們指向中國,在那裡該技術經常用於監視和壓迫少數族裔。解決方案可能介於兩者之間–在某些情況下,使用這項技術可能會起到很好的作用,尤其是如果對其進行了嚴格的監管並且受其影響的社區可以控制該技術的使用方式。但是現在,這似乎是一個理想的場景,我們距離實現還很遙遠。

紐約大學法學院院長巴里·弗里德曼(Barry Friedman)表示:“作為一個社會,我們真正需要做的是,對這項技術的有益用途以及隨之而來的危害進行梳理,並查看它現在是否有任何作用。”研究警務實踐的研究機構Policing Project告訴Recode。科技政策負責人和公民自由倡導者說,以正確的方式推廣政府對面部識別的使用將涉及一系列廣泛的法規,這些法規可使有關這些技術使用方式的輸入民主化。今天,美國政府採用了一些主要方式來使用面部識別,並且專家們說有必要提高透明度,並對其進行更嚴格的監管。

日常警察使用執法部門在美國使用面部識別的最著名例子是極端的例子,例如馬里蘭州警察在Capital Gazette報紙辦公室使用它來識別可疑射手的時候。但是現實情況是,根據喬治敦法律隱私與技術中心的數據,全美多達四分之一的警察部門可以使用面部識別。至少就目前而言,通常是在更常規的刑事調查中。

俄勒岡州華盛頓縣警察局的新聞官員丹尼爾·迪皮特羅(Daniel DiPietro)說:“因此,我們還沒有解決謀殺案,但事情很多。” 華盛頓縣是美國首批使用亞馬遜面部識別產品Rekognition的警察部門之一,該產品於2017年開始正常運營。 DiPietro引用了一個案例,在該案例中,警察局使用了安全錄像中的截圖來搜索被指控從本地硬件商店偷竊的人。

去年,該縣表示,使用該工具進行了約1000次搜索-僅在合理懷疑有人犯罪的情況下才使用該工具。根據DiPietro的說法,該部門不會衡量其中有多少次搜索導致正確或不正確的匹配。 2019年1月在拉斯維加斯會議中心舉行的Horizo​​​​n機器人展覽中,使用人工智能和麵部識別技術進行了現場演示。

這是在華盛頓縣的工作方式:如果警官經常從安全攝像機鏡頭中拍攝到某人犯罪的照片,他們可以將其用於監獄預訂數據庫,並在幾秒鐘內完成潛在的匹配。之前,該部門表示,此過程過去通常需要花費數天,數週甚至更長的時間,因為警察會手動搜索包含30萬張預訂照片的數據庫,動rack數百名同事的頭腦,或者發送媒體通知以試圖識別嫌疑人。

DiPietro告訴Recode,警官僅在可能有人犯罪的情況下才使用該工具,並且僅將其與監禁預訂照片而不是與DMV數據庫匹配。 (這使華盛頓縣與眾不同-美國其他幾個警察局也使用DMV數據庫進行面部識別搜索。)他還說,該部門不使用Rekognition來監視大批人群,佛羅里達州奧蘭多市的警察試圖這樣做-在遇到技術困難和持續的公眾批評後,未能有效地做事。

華盛頓縣警察局隨意制定這些規定,部分原因是因為它與社區成員進行了交談。他們的規則是向部門透明化邁出的一步,但存在於更廣泛的零散和自律的規則和環境中。與大多數其他使用面部識別的警察部門一樣,批評家說,通常很少進行監督以確保警察正確使用該工具Gizmodo去年1月的一份報告表明,華盛頓縣警察使用該工具的方式與亞馬遜建議的方式不同,並且已將比賽的置信度閾值降低至99%以下。

在沒有面部識別規則的情況下,很容易看到超範圍的可能性。在2017年接受科技媒體公司SiliconANGLE採訪時,該部門的高級信息系統分析師Chris Adzima談到了錄像如何增強該工具的功能-儘管該部門目前表示沒有計劃在監視中使用視頻, 目前。

華盛頓縣只是使用面部識別技術的數百個地方,州和聯邦級執法機構之一。而且由於它使用Rekognition(亞馬遜生產的產品,也許是最大和最受關注的科技巨頭),因此,與使用類似但鮮為人知的工具的其他執法機構相比,警察對其使用的公開程度更高Vox的為期一年的報告項目對“開源”進行了重新編碼,以揭開數據,個人隱私,算法和人工智能世界的神秘面紗。我們需要您的幫助。填寫此表格以有助於我們的報告。

總部位於華盛頓特區的技術政策智囊團信息技術與創新基金會(ITIF)副總裁丹尼爾·卡斯特羅(Daniel Castro)對Recode表示,一些執法機構僅擔心共享有關使用面部識別的更多信息會引發強烈反對。 “我聽說至少有一個執法機構說,'我們正在做其中的一些工作,但它是如此有爭議,以至於我們很難做到透明,因為我們越透明,提出的問題就越多。'”卡斯特羅說。

人們對面部識別技術的擔心主要是因為公眾對其使用方式或對減少犯罪的效果知之甚少。在沒有任何系統的聯邦法規或許可程序的情況下,我們所知的很少是有關其流行程度的故事,訪談,公共報告和調查報告。甚至對於像華盛頓縣這樣的對如何使用該技術一心一意的警察部門來說,他們通常也不會收集或分享任何有關其有效性的具體指標。弗里德曼告訴Recode:“我們經常依賴軼事,卻不知道多少次失敗。這場辯論中缺少的是任何一種經驗上的嚴謹。”

弗里德曼說,有了更好的數據,公眾可能會對面部識別技術的真正價值有更好的了解,如果值得冒險的話。偏見問題對於少數族裔和婦女,事實證明面部識別系統的準確性不成比例。在一項廣為引用的2018年研究中,麻省理工學院媒體實驗室研究員Joy Buolamwini發現,來自微軟,IBM和中國公司Megvii的三種領先的面部識別工具在識別深色皮膚女性的性別上的錯誤率高達三分之一,相比之下,白人男性的錯誤率僅為1%。

特別是,亞馬遜的Rekognition工具在ACLU對軟件進行了測試後顯示出偏見,該軟件將28位國會議員誤認為是罪犯,從而為黑人和拉美裔立法者提供了不正確的匹配。亞馬遜表示,ACLU的測試未使用正確的設置,因為該組織將可接受的置信度閾值設置為80%,儘管後來有報導稱這是軟件中的默認設置,有些警務部門似乎在設置此設置。在培訓材料中使用。
分享至:

®关于本站文章™ | 若非注明其他来源,默认 均为本站编辑部原创文章,如有侵权,请联系我们™