谷歌正与五角大楼合作，为军用无人机图像识别提供TensorFlow API

大数据文摘作品

编译：蒋宝尚、龙牧雪

谷歌内部邮件暴露，其正在为美国国防部AI项目“Maven”提供TensorFlow API，用于分析无人机拍摄的画面。该合作计划公布后在谷歌内部引起了广泛的讨论，有不少人表达了对TensorFlow用于军事的担忧和不赞成。

此前，大数据文摘曾报道过联合国特定常规武器公约会议上曝光的一段可怕的视频（戳这里看）：一群神似《黑镜III》中机器杀人蜂的小型机器人，通过人脸定位瞬间杀死了正在上课的一众学生，场面血腥。视频虽然是虚构的，但伯克利大学教授、资深AI研究者Stuart Russell借此提醒所有人：视频里所用到的人脸识别技术和无人机技术都已存在，我们只能尽可能避免它们被用于AI自动化武器。

“不作恶”的谷歌，会怎样推动AI的军事应用呢？

谷歌董事长埃里克·施密特（Eric Schmidt）在去年秋天的一次演讲中表达了对科技企业与五角大楼合作的担忧。他说：“科技界普遍担心的是，军工企业不正确地使用他们研发的产品杀人。”虽然谷歌表示其参与Maven项目与作战用途无关，但这仍引起了许多员工的担忧。

五角大楼快速推进的Maven项目，也被称为“算法战跨职能小组”(Algorithmic Warfare Cross-Functional Team，简称AWCFT)，成立于2017年4月。此项目的任务是加速国防部对大数据和机器学习技术的整合。据华尔街日报报道，国防部2017年在人工智能相关领域投入了74亿美元。

新美国安全中心（Center for a New American Security）的助理研究员Greg Allen称，该项目的第一项任务是帮助五角大楼有效地处理由空中无人机每天收集的大量录像片段，因为这些录像数据之多以至于人类无法分析。尽管国防部已经投入资源开发先进的传感器技术以在无人机飞行期间收集信息，但并没有创建出高效的数据梳理工具。

“在Maven项目之前，国防部门尚未有人知道如何恰当地购买、使用人工智能服务。”Allen表示。

Maven的任务是使用机器学习来识别无人机镜头中的车辆和其他物体，从而减轻分析人员的负担。根据五角大楼的说法，Maven最初的目标是为军方提供先进的计算机视觉技术，使其能够自动检测和识别无人机全动态摄像机捕获的多达38种物体。

人工智能已经应用在了执法和军事中，但研究人员警告说，这些系统可能会以不易察觉的方式产生重大偏见。例如，ProPublica在2016年报告说，用于预测获释人员二次犯罪可能性的算法经常表现出种族偏见。

尽管谷歌的参与引起了员工的担忧，但目前谷歌尚未开发能够获得敏感的政府数据的产品。与之相反，其云计算服务竞争对手亚马逊和微软Azure正在提供以政府为导向的云产品，旨在储存机密信息。

一名谷歌发言人声明说，谷歌向国防部提供了其用于机器学习应用的工具TensorFlow APIs，这能帮助军方分析人员识别图像中的物体。对于人们对将机器学习技术用于军方用途存在的顾虑，该发言人表示，谷歌正在制定相关“使用规则和安全区”。

“我们长期与政府机构合作并提供技术解决方案。这个提供开源TensorFlow API的项目是国防部的试点项目，可以帮助识别未分类数据上的对象，”谷歌发言人说，“用该技术标记的图像有人类审查，并且仅用于非冒犯性用途。机器学习的军事使用自然引起了担忧。我们正在内部讨论此议题，并打算制定相应的技术使用准则。”

国防部正在加速Maven项目的执行，并预计其成立六个月后即可投入运行。据报道，自12月以来，该项目已被部署在与伊斯兰国（IS）的对抗中。

为了满足该项目的迫切时间要求，国防部积极寻求与学界和业界的人工智能专家合作，以弥补军方和硅谷之间的技术差距。

上个月辞去谷歌母公司Alphabet执行主席职务的施密特（Schmidt），现担任国防创新委员会主席。在7月份的一次会议上，施密特和国防创新委员会的其他成员讨论认为国防部需要建立一个信息交换中心来为军方的人工智能训练数据。

2017年底，Maven团队着手寻找商业合作伙伴，他们的专业知识是实现人工智能梦想所必需的。在华盛顿举行的国防科技峰会上，Maven海军陆战队上校Drew Cukor说，人类和计算机之间的共生关系对于帮助武器系统探测物体至关重要。

在与许多来自硅谷的军事和工业技术专家对话中，Cukor宣称美国正处于人工智能军备竞赛。“你们许多人会注意到，施密特（Schmidt）现在称谷歌是一家人工智能公司，而不是数据公司。”但Cukor并没有提及谷歌是Maven的合作伙伴。

“没有任何‘黑匣子’能够提供政府需要的AI系统，至少现在还不行，”他继续说道，“关键力量必须整合在一起，唯一方法就是与商业伙伴合作。”

国防部发言人拒绝透露谷歌是否是Maven项目的唯一合作伙伴，也不愿表明谷歌在该项目中的角色。该发言人说：“与其他国防部计划类似，Maven项目并未对合同细节的具体内容做出说明，包括项目承包商和分包商的名称和身份。”

原文链接：

https://www.gizmodo.com.au/2018/03/google-is-helping-the-pentagon-build-ai-for-drones/