科技公司的作用

亚马逊对麻省理工学院的研究结果提出了质疑，一名女发言人指出，该研究称这项研究“具有误导性”。研究人员使用“面部分析”来识别面部特征，如性别或微笑，而不是面部识别，将人脸与照片或视频中的相似面部相匹配。

“面部分析和面部识别在底层技术和用于训练它们的数据方面完全不同，”伍德在一篇关于麻省理工学院研究的博客文章中说。“尝试使用面部分析来衡量面部识别的准确性是不明智的，因为它不是用于此目的的预期算法。”

这并不是说科技巨头没有考虑种族偏见。

微软去年表示，它将识别女性和肤色较深的男性的错误率降低了20倍。

Facebook发言人使用面部识别技术在照片中标记用户，该公司表示，该公司确保其使用的数据“平衡并反映出Facebook的用户的多样性”。谷歌指出了它发布的关于人工智能的原则，其中包括禁止“制造或加强不公平的偏见”。

为了推进面部识别的公平性和准确性研究，IBM于1月份为研究人员发布了一个名为Diversity in Faces的数据集，该数据集不仅仅关注肤色，年龄和性别。该数据包括100万张人脸图像，注释有面部对称，鼻子长度和前额高度等标签。

“我们拥有所有这些关于多样性意味着什么的主观和松散概念，”IBM的首席科学家约翰史密斯说。“因此，IBM创建此数据集的目的是深入研究如何真正衡量面孔多样性的科学。”

该公司收集了照片网站Flickr的图片，本月受到一些摄影师，专家和活动家的批评，因为他们没有通知人们他们的图像被用来改善面部识别技术。作为回应，IBM表示严肃对待隐私，用户可以选择退出数据集。

亚马逊表示，它使用反映多样性的培训数据，并向客户介绍最佳实践。今年2月，它发布了一些指导方针，称立法者在考虑监管时应考虑到这一点。

亚马逊全球公共政策副总裁迈克尔·庞克在一篇博客文章中说：“所有相关各方之间应该进行公开，诚实和认真的对话，以确保技术得到适当应用并不断加强。”

需要明确的规则

即使科技公司努力提高其面部识别技术的准确性，人们对这些工具可用于歧视移民或少数民族的担忧也不会消失。在某种程度上，这是因为人们仍然在个人生活中与偏见搏斗。

民权组织和专家认为，执法部门和政府仍然可以利用这项技术来识别政治抗议者或追踪移民，使他们的自由处于危险之中。

“完美准确的系统也成为一种非常强大的监控工具，”加维说。

民权组织和科技公司呼吁政府介入。

“管理政府使用技术的唯一有效方法是政府主动管理这种用途，”微软总裁布拉德史密斯在7月的一篇博客文章中写道。“如果人们担心如何在整个社会中更广泛地部署技术，那么规范这种广泛使用的唯一方法就是让政府这样做。”

美国公民自由联盟呼吁立法者暂时禁止执法部门使用面部识别技术。民权组织还致信亚马逊，要求它停止向政府提供Rekognition。

一些立法者和科技公司，如亚马逊，已经要求评估面部识别技术的国家标准与技术研究所认可面部识别的种族偏见测试的行业标准和道德最佳实践。

对于像戈麦斯这样的立法者来说，这项工作才刚刚开始。

“我不反对亚马逊，”他说。“但是当一种新技术会对公民的隐私、他们的公民自由产生深远影响了，那么它一定是有问题的。”