政府AI合同遭抗议，微软终低头：号召全面限制人脸识别软件

机器之心报道

机器之心编辑部

基于对墨西哥边境地区非法入境者及其子女的关切，近来越来越多的人开始抗议科技公司与美国政府部门签订 AI 人脸识别服务合同的行为。微软是其中最引人注目的巨头之一。本周五，微软公司终于表示，考虑到技术滥用和偏见，它将更谨慎地出售其技术。

在一篇关于人脸识别的潜在用途和滥用的博客文章中，微软总裁 Bradford L. Smith 将该技术与受到全面监管的药品和汽车等产品进行了比较，并敦促美国国会展开研究并监督人脸识别技术的使用。

此前，众多学者与开发者们签署了一份公开信，其中要求科技公司停止向政府和执法机构提供人脸识别技术，停止当前的数据分析和 AI 服务合同，并考虑制定道德准则，禁止威胁隐私、公民和人权的技术的武器化与军事化，建立透明和有问责机制的制度，以确保上述准则的实行。

• 公开信链接：https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/
• 微软总裁 Brad Smith 的博客：https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/

近期微软因一份涉及人脸识别软件的政府合同而受到广泛抨击，微软公司表示，它将更加谨慎地考虑这方面的合同，并敦促立法者规范此类人工智能技术的使用，以防止滥用。

作为人脸识别软件主要制造商之一，微软表示它将采取措施降低这些系统产生偏差的可能性；制定新的公共原则来管理技术；并会更谨慎地出售其在该领域的软件和专业知识。微软指出，虽然技术行业需要对其产品负责，但是政府也要采取行动。

微软总裁兼首席法务官 Brad Smith 周五在其博客中写道：「政府管理技术使用的唯一有效方法是它主动采取行动。而且如果人们担心一项技术在全社会被广泛使用，那么规范该项技术广泛应用的唯一措施应由政府出面。实际上，我们认为这就是现在所需要的——一项首先由民主、共和两党代表和专家委员会通报的政府倡议，旨在规范人脸识别技术的正确使用。」

微软、谷歌、亚马逊等公司因向美国政府和当地警方出售 AI 软件，尤其是人脸识别软件而受到民间自由团体及这些公司内部雇员的抨击。对于科技公司来说，这种要求对自己产品进行更严厉监管的行为并不常见，但是 Smith 与微软人工智能及微软研究事业部负责人沈向洋今年早些时候就写了一篇文章，称 AI 的发展需要新的法律来规范。

Smith 写道，「虽然我们明白现在很多人要求科技公司来做这些，我们也明确意识到自己需要履责，但我们认为，这不足以代替公众及其代表的决策。」

人脸识别系统通常具备严重的缺陷，尤其是难以识别和区分肤色较深的人。微软研究者 Timnit Gebru 和 MIT 媒体实验室 Joy Buolamwini 二月发表的一篇论文表明人脸识别系统对肤色较深的女性的分类误差高达 35%。微软的研究机构致力于修正研究者在其人脸识别软件中发现的问题。

随着技术的迅速发展，微软提倡适应云计算和人工智能等新兴领域的新法律。微软就隐私问题与美国政府展开抗争，称美国政府在云计算方面使用了老旧的通信法，微软支持折中的法案，用于直接解决云时代的数据隐私问题和搜索问题。

微软应对民众抗议的方式与亚马逊略有不同。在六月回应抗议声的一篇博客中，亚马逊的 AI 负责人 Matt Wood 写道，「新技术能力一直都存在风险，以后也会如此。每个选择使用技术的组织必须采取负责任的行动，否则就得面临法律惩罚和公众谴责的风险。AWS 会认真对待自己的责任。但我们认为，不能因为某些技术未来可能被人滥用就禁止这些技术的发展，这样是不对的。」

Brad Smith，微软总裁兼首席法务官。

Smith 写道，政府规范应该考虑的问题是警察使用人脸识别软件是否需要人类监督和控制，零售商是否必须张贴显眼的标识（如果他们在公共区域使用了此类软件）。其它需要考虑的范围包括是否要求企业在收集个人图像之前先征求用户同意，以及认为自己被人脸识别系统错误识别的人享有哪些法律权利。

纽约大学法学教授 Barry Friedman 称，执法机关使用人脸识别技术却欠缺规范，这引起了人们对种族差异和隐私问题的担忧。他同时也负责 The Policing Project，该计划致力于为执法设定规范和准则。

最高法院规定警察在没有许可证或正当理由的情况下不得长期获取手机数据，类似的限制也应该应用到警察对人脸识别技术的使用上，Barry Friedman 称。

「该技术正在飞快地追赶我们，」Friedman 说道，「如果我们不走到前头，一切将覆水难收。」

微软在上个月曾因民众抗议 AI 技术被用于在墨西哥边境分离非法入境者及其子女后，短暂地在网站上删除了其与美国移民和海关执法局签订合同的文章。但随后，相关博客又被恢复。

虽然微软随后宣称公司与移民局签订的合同主要涉及在云端处理旧电子邮件和员工协作系统，但其博文明确提到了使用人脸识别工具的可能性。随后，数百名微软员工签署了一份请愿书，要求公司停止向政府出售相关服务。针对非法移民的 AI 项目甚至影响到了微软刚刚收购的 GitHub，6 月中旬起，数百名开源社区贡献者在网上签署了一份公开信，同样要求微软解除与政府部门的 AI 合同，并号召抵制 GitHub（参阅：弃坑 GitHub：微软「反非法移民」政府 AI 项目引发开源社区抵制）。

人脸识别是目前 AI 领域里应用最广泛的技术之一，但在推广的过程中也引起了越来越多的争议。今年 4 月，个人隐私保护组织向美国联邦贸易委员会提起诉讼，称 Facebook 在未获得用户适当许可的情况下开启了新的人脸识别服务。Facebook 否认了这些团体的指控。

而今年 5 月，亚马逊因为将 Rekognition AI 服务出售给当地警方而引起争议，美国公民自由联盟正要求该公司停止允许政府使用这项技术。

值得一提的是，在欧盟，有关人工智能侵犯隐私的一些问题已经得到了解决。一项严格的新数据保护法已禁止公司在未获得用户特定同意的情况下收集人脸识别所需的生物特征数据。