视频 | IBM和Amazon为呼吁美警察改革 暂退人脸识别市场

近期，持续不断的针对美国明尼苏达州非裔男子乔治·佛洛依德在被当地警方执法逮捕期间死亡事件的抗议活动引发了人们对种族歧视现象更广泛的关注，并引发了公众对于警察是否应该使用技术手段去追踪定位示威者和监视居民区的争议。

IBM在6月10日表示，他们因担心人脸识别技术会被用于大规模监视和种族特征分析等侵犯隐私的行为，将会退出人脸识别市场。

IBM首席执行官阿文德·克里希纳（Arvind Krishna）在周一致美国国会的信中表示，该公司希望与立法者合作，并通过警察制度改革、普及教育和对科技手段使用的责任心来促进正义和种族平等， “我们认为现在是时候就国内执法机构是否应该使用以及如何使用面部识别技术而在全国范围内进行商讨。IBM坚决反对也绝不容忍将任何技术（包括其他供应商提供的面部识别技术）用于大规模监视、种族歧视、侵犯基本人权和自由，或用于任何与我们的价值观不符的目的。” 同时，克里希纳还在信里指出，IBM将不再提供通用的面部识别或分析软件。

哈佛大学和斯坦福大学的研究员以及非营利组织AI For the People的指导者穆塔莱·恩孔德（Mutale Nkonde）表示“这一事件非常具有象征意义。”

恩孔德说，IBM“以推进反种族主义活动为理由”而关闭一家企业的行为，表明这种做法是可行的，并且让“在推特上发布支持“Black Lives Matter”的言论的同时和警察进行签约合作的公司行为变得不被社会所接受。”

同样的，Amazon也在周三宣布禁止警察使用其提供的面部识别技术一年。具体停止的原因amazon暂时没有给出明确答复，但其在周三的博客中表示希望国会制定更严格的面部识别法规。

亚马逊于2016年推出Rekognition人脸识别系统，并将其推向执法部门后，便开始引起美国公民自由联盟和隐私权倡导者的关注。去年，在美国政府的一项研究中，联邦研究人员在近200种面部识别算法中发现了关于种族偏见的大量证据，表明了该技术被滥用的可能性。去年，以旧金山为首的美国许多城市已禁止警察和其他政府机构使用它。

“人工智能是可以帮助执法机构保护公民安全的强大工具。但是，Al系统的供应商和用户应该负有共同的责任，以确保对Al进行偏见测试，尤其是在执法中使用时，此类偏见测试更应该进行公开审核与报告，”克里希纳说。

科技行业一直在反对完全禁止面部识别的禁令，但是一些科技公司呼吁制定联邦法律，以制定负责任地使用该技术的准则。

IBM此前表示不要全面禁止面部识别技术，而是提倡“精确法规”以确保其保护人权。Amazon也表示并没有完全停止销售面部识别系统，使用Rekognition来帮助寻找失踪或遭受性剥削的儿童的组织仍将可以使用该技术。

在亚马逊和IBM在本周宣布这一消息之前，民主党议员就敦促在国会通过一项全面的警察改革方案，其中可能包括限制使用面部识别功能，尤其是在警用摄像机中。

纽约大学布伦南司法中心律师安格·迪亚斯（Ángel Díaz）说，他对亚马逊的暂停令表示赞赏，但他说：“鉴于众多研究表明这项技术在种族上存在偏见，这一决定应该早一点实施。国会需要采取行动，但地方社区也应有权表达自己的担忧，并决定是否以及完全希望使用这种技术手段。”

研究发现面部识别软件中存在种族和性别差异的麻省理工学院研究员乔伊·布拉姆维尼（Joy Buolamwini）在一封电子邮件声明中写道：“微软（Microsoft）也需要表明自己的立场。更重要的是，我们的立法者需要加紧努力以阻止技术手段的滥用。”

（东方卫视、Knews 记者：任美星  编辑：王鹏）