订阅
纠错
加入自媒体

欧洲AI监管再收紧,基于AI的生物识别都犯了哪些“罪”?

2021-10-11 09:38
物联网智库
关注

物联网智库 原创

转载请注明来源和出处

导  读

人脸识别技术经历了技术引进、市场教育、技术完善,到各行各业各领域采用数个阶段,如今已经发展相对成熟,服务于智慧安防、智慧办公、电子商务等各个领域。但近几年随着人脸识别技术广泛普及,随之而来的问题也不断出现……

如果说这是一个属于人脸识别技术全面应用的时代,相信大多数人是不会站出来反驳这一观点的。

人脸识别技术经历了技术引进、市场教育、技术完善,到各行各业各领域采用数个阶段,如今已经发展相对成熟,在街道、楼宇、煤矿、商厦、银行等各个角落,服务于智慧安防、智慧办公、电子商务等各个领域。

但是,“否定之否定规律”早已揭示,所有事物的发展都是一个螺旋式上升或波浪式前进的运动过程,而并非一帆风顺、一蹴而就的。就在近日,欧洲议会投票表决,通过了一项“呼吁全面禁止基于AI生物识别技术大规模监控”的提议,从监管层面进一步收紧了人脸识别技术的应用。

欧洲议会成员Petar Vitanov在决议通过后发表声明称,“人类的基本权利是无条件的。我们有史以来第一次呼吁暂停部署用于执法的面部识别系统,因为该技术已被证明是无效的,并且经常导致歧视性结果。这份报告对所有欧洲公民来说都是一个巨大的胜利。”

从被外界炒作的“黑科技”到人民避而远之的“瘟疫”,基于AI的人脸识别究竟犯了什么样的错误,才引起了监管部门的注意,对于其未来的发展,又给国内监管部门和企业带来了哪些启示?

数张“罪状”揭示,人脸识别并非人畜无害

在过去持续一年多的疫情当中,人脸识别技术撑起的无接触式防疫应用深入人心,让外界饱尝技术带来的科技红利,因而也让人们容易给人脸识别技术打上“善良”的标签,从而忽视它本身的两面性。

2020年1月,美国发生了首起已知的涉及人脸识别技术的错误逮捕事件。根据6月美国公民自由联盟(ACLU)向底特律警察局提出的行政投诉显示,年初,来自底特律的罗伯特·威廉姆斯被当地警方指控犯有盗窃罪,并在威廉姆斯妻儿的注视下将其逮捕,拘留时间长达30个小时。

根据ACLU的投诉,底特律警方将一名黑人男子从Shinola商店偷窃手表的视频提供给了密歇根州警方,随后警方通过人脸识别系统运行该视频,并建议将威廉姆斯的照片作为潜在的匹配对象。之后,在警方并无过多证据表明威廉姆斯就是嫌疑人的情况下,最终发生了这荒诞的一幕。

无独有偶,罗伯特·威廉姆斯的遭遇并非个例。同样来自底特律的迈克尔·奥利弗也因为人脸识别判定涉嫌盗窃罪,被关押了十天半;尼尔·帕克斯也因被认定盗窃,在伍德布里奇市被拘留了十天。而值得注意的是,以上在美国发生的这些案件,被误认为犯罪嫌疑人的当事人均为黑人,因此也引起了媒体对算法歧视的关注。

早在2018年,MIT媒体实验室(MIT Media Lab)研究员Joy Buolamwini就与来自微软的科学家Timnit Gebru合作发布了一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》(Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification),其中作者将微软、IBM和旷视科技三家人脸识别技术进行对比,结果显示,AI应用人脸识别针对黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%,不同种族的准确率差异巨大。

时间一晃来到现在,这一问题不但没有被解决,反而愈发突出。

在国内,目前尚未发现人脸识别应用于警务活动中出现差错的情况,但该技术在其他应用中出现问题的案例也是屡见不鲜。比如2018年宁波交警行人闯红灯曝光台就曾闹出一出乌龙,人脸识别将喷涂在公交车上的董明珠广告人像错当成了横穿马路的路人,结果有了“格力电器董事长董明珠违法闯红灯”的笑谈。

在今年的315晚会上,基于人脸识别非法采集个人人脸数据的案例也被第一个拿出来开刀。人脸识别技术作为生物特征识别的重要技术之一,具有非接触和非侵犯的特性,因而人们在不知不觉中就会被采集数据,并对之抱有最小的排斥心理。

但人脸信息属于个人独有的生物识别信息,具有不可篡改的特征,目前有很多用户将其作为支付密码、账号密码等。国家市场监管总局发布的《个人信息安全规范》明确规定,人脸信息属于生物识别信息,也属于个人敏感信息,收集个人信息时,应获得个人信息主体的授权同意。

个人隐私成为国内外共同的难题

本次欧洲议会决议主要针对的是警察和司法机关在犯罪问题上对AI的使用,欧洲委员会在报告中对远程人脸识别呼吁,“通过立法和非立法手段,必要时通过侵权诉讼,禁止出于执法目的生物识别数据处理,包括通过面部图像识别、在公共场所进行大规模监视。”

比如,该决议中反对执法机构利用人工智能根据历史数据和过去的行为、群体成员、位置或任何其他此类特征,对个人或群体进行行为预测,从而试图识别可能犯罪的人。此外,决议还强调了人的作用,避免过度相信人工智能工具表面上的“客观”和“科学”,强调算法应该具有的透明、可追溯、充分记录等特征。

实际上,对于基于AI技术的人脸识别技术的应用,国内外较早以前就已经表现出一定的重视。

早在今年4月21日,欧盟委员会就公布了名为 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案,对人工智能技术应用进行了风险评定。其中,人脸识别技术作为基于AI实时远程生物识别技术的一种,是欧盟委员会着重强调进行限制的人工智能技术。

草案对人工智能应用场景进行了“低、有限、高、不可接受”四个风险等级的定性,等级越高的应用场景意味着受到的限制越严格。

人脸识别在很大程度上侵犯了人们的隐私,并且所有远距离生物识别系统在这份草案中都被认定为高风险,禁止执法部门在公共场合使用这一技术。该草案还提出,除寻找失踪儿童,解除恐怖袭击威胁以及在法律允许范围内追查特定的刑事犯罪嫌疑人等三种特定情况外,无差别的大规模监控会被欧盟全面禁止。

而在大洋彼岸的美国,对于人脸识别技术的使用也十分审慎。2019年,美国有9个州都颁布了关于禁用人脸识别技术的法案,严禁警察、政府部门以及在公共场合使用人脸识别技术。旧金山为美国大城市禁用人脸识别开出了第一枪,随后包括波特兰、奥克兰、波士顿在内的城市都已禁止政府使用人脸识别技术,今年7月,美国第一大经济中心纽约也加入了这一行列。

除此之外,美国的巨头们也在这一方面退缩了,去年6月,蓝色巨人IBM旗帜鲜明的宣布放弃人脸识别业务,不再提供任何人脸识别和人脸分析软件,同时也不再对这项技术进行研究和开发。另外几家巨头如亚马逊、谷歌等,也表示暂停或放弃人脸识别相关业务的开发。

在我国,针对个人数据安全的法案也被提上日程,人脸识别等人工智能技术的监管也日加严格。今年1月1日正式实施的《民法典》中规定,处理个人信息,应征的该自然人或其监护人的同意;4月23日,国家标准化管理委员会发布《信息安全技术人脸识别数据安全要求》征求意见稿,也对人脸识别技术应用场景、安全要求、数据采集和处理等环节制定了标准化规范。

8月20日,立法通过的《个人信息保护法》再次明确:在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,并设置显著的提示标识。所收集的个人图像、身份识别信息只能用于维护公共安全的目的,不得用于其他目的;取得个人单独同意的除外。

人脸识别不能“一刀切”,用好双刃剑的有利面

至于如何评价此次欧洲议会的决议,相信大家也是各执一词,有着不同的见解。人脸识别技术本身存在的问题确实在近几年暴露无遗,但“一刀切”的做法显然对于一项进步的技术来说并不合适。

问题的关键在于当技术解决不了当下存在的问题时,它就会像一把双刃剑,一方面方便着人们生活,提高社会效率;另一方面却又利刃出鞘,锋芒相向。

就像欧洲议会上表示,“人工智能在执法领域的应用提供了巨大机遇,特别是能够有效打击金融犯罪如洗钱、恐怖主义融资,以及网络犯罪如虐待儿童等,有助于欧盟公民的安全保障。但同时,数据显示AI识别对少数民族、LGBT人群、老年人和女性的误识率更高,这可能对人们的基本权利构成重大风险。”

在考虑基于AI技术的人脸识别是否应该被全面禁止还是继续沿用,都需要考虑其风险和效果之间是否成正比,避免人脸识别造成任何有害的影响。

参考资料:

1.《公共场所人脸识别或全面被禁!刚刚,欧洲议会决议,AI监管再收紧》,新智元

2.《欧洲议会决议禁止警方公共场所人脸识别,因算法歧视弊大于利》,AI前哨站

3.《欧盟最新AI监管草案:全面禁止大规模监控、严限人脸识别》,学术头条

声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号