联系我们

面部识别

美国认为由于算法错误而导致误捕的第一起案件

已发表

 on

上个星期, 纽约时报报道 在美国,第一起因错误的算法导致误捕的案件。该事件发生在底特律,当时一名非裔美国人罗伯特·朱利安·伯查克·威廉姆斯(Robert Julian-Borchak Williams)被伪装成显示某人正在行窃的安全录像,之后被捕。 

美国公民自由联盟(ACLU)迅速采取了行动,并对底特律警察提出了申诉。美国公民自由联盟(ACLU)要求驳回威廉姆斯的案子并将他的信息从底特律的犯罪数据库中删除后,检察官继续采取这些行动。

这种发展在美国尚属首次,它突显出一些严重的问题,随着国家使用面部识别技术在全球范围内开始出现。

面部识别系统的问题

面部识别系统已经引起争议一段时间,越来越成为关注隐私和虚假指控的人们的争论点。

随着全国各地以及世界许多地方最近发生的抗议警察野蛮行径和歧视​​的抗议活动,这种审查只会增加。  

这些算法为执法带来了一个全新的方面,并且充满了缺陷。 

虚假指控

威廉姆斯被人错误地认定为抢劫案发生在2018年10月。监视视频随后于2019年3月上传到密歇根州的面部识别数据库。 

威廉姆斯的照片设法使它成为照片阵容,其中一名保安人员将威廉姆斯确定为犯罪者。 

根据美国公民自由联盟的说法,该警卫实际上从未亲眼目睹过抢劫案。

一月份,威廉姆斯接到底特律警察局的电话,使他知道自己被捕。当他无视恶作剧时,一个小时后,警察到达了他的家。

威廉姆斯随后被带到拘留所,在那里他拍摄了面部照片,指纹和DNA,随后将他整夜关押在车站。 

随后发生的是对他从未犯过的犯罪的审讯,这都是由于识别系统有问题。

威廉姆斯的案子在他被捕后两周就被驳回,但从更大的范围来看,这一事件的意义更大,并且对隐私产生了重大影响。随着政府和执法部门越来越多地使用面部识别软件,此案可能是严重违法行为的开端,这种违法行为在中国等国家已经在蔓延,但至少在公众所知的情况下尚未进入美国。

这种违法行为之一就是,威廉姆斯的DNA样本,面部照片和指纹现在都已归档,这是该技术的直接结果。不仅如此,他的被捕也在案。

私人公司与执法

威廉姆斯案之际,IBM,微软和亚马逊等大型公司已停止向执法部门提供面部识别技术。

这样做的第一家主要公司是IBM,其首席执行官Arvind Krishna向国会致函 不再提供通用的面部识别或分析软件。最重要的是,该公司停止了对该技术的研发。

“ IBM坚决反对并不会容忍将任何[面部识别]技术(包括其他供应商提供的面部识别技术)用于大规模监视,种族歧视,侵犯基本人权和自由或与我们的目的不符的任何目的。信中写道:“价值观和信任与透明度原则”。 “我们相信现在是时候开始关于国内执法机构是否以及如何使用面部识别技术的全国对话。”

当他们宣布 一年暂停 关于允许执法人员使用公司的Rekognition面部识别平台的信息。 

宣布是在IBM做出决定的几天后。

关于歧视和面部识别技术的最重要的工作之一是 2018论文 由Joy Buolamwini和Timnit Gebru合着。 Buolamwini是MIT媒体实验室的研究员,Gebru是Microsoft Research的成员。 

2018年的论文发现,“机器学习 算法可以根据种族和性别等类别进行区分”。 

罗伯特·朱利安·伯查克·威廉姆斯(Robert Julian-Borchak Williams)的案子对于许多居住在美国的人来说是极为令人担忧的,但这也表明了全球正在发生的事情。政府和执法机构对面部识别技术的使用才刚刚起步,并且很少有防止不道德使用的技术。无论是在中国广泛使用面部识别技术进行监视,还是在美国错误地识别出威廉姆斯的情况,该技术都使世界人口面临一系列前所未有的新的侵犯隐私权和侵犯人权行为。