AI 崛起？科技公司却偷偷用人类做机器人的工作！

人类PK机器人，谁会胜？

现在都在声称“人工智能化”，然而为了获取融资，很多公司却往往会向投资者隐瞒其对于人类员工的强依赖性。

建立一个人工智能主导的服务很难。太难了，事实上，一些创业公司发现让人类做机器人的工作，比让机器人做人类的工作更加简单。

所以为了获取融资，一些公司干脆使用专家所谓的“绿野仙踪”技术，向投资者隐瞒了他们对人类的依赖。有的公司会利用人类来训练AI系统，有的公司声称他们拥有可扩展的AI技术，私下却还是得偷偷依赖人类。

“伪AI”科技公司实际已经泛滥成灾

ReadMe首席执行官Gregory Koberger表示，他遇到过很多“伪AI”：

“让人来做工作，可以让项目跳过大量的技术和业务开发挑战。显然，这是没有扩展性的，但这么做可以在早期构建一些东西并跳过困难的部分。”

“这基本上是用人类来构建AI的原型。”

近日华尔街日报就报道了这种类似行径，并重点提到了Google允许数百个第三方应用开发人员访问用户收件箱的消息。其中的一个第三方——Edison Software公司，总部位于圣何塞，他们的人工智能工程师能够通过数百名用户的个人电子邮件（用户的身份被编辑过）来改进“智能回复”功能。该公司没有提及人类会在其隐私政策中查看用户的电子邮件。

显然，报道中提到的这种“偷偷让人类来做机器的活”的第三方公司远不止这一个。2008年，一家将语音邮件转换为短信的公司Spinvox就遭到了指控，它们根本没有使用机器，仍然使用人工来完成其工作。

2016年，彭博社就曾公开报道过，很多公司的员工每天会花费12小时假装成聊天机器人，比如为日历安排服务的X.ai和Clara等等。这项工作令人头脑麻木，以至于工作人员表示他们期待被机器人取代。

2017年，业务费用管理应用程序Expensify也承认，它其实一直在使用人类员工来转录数据，虽然它们对外声称的是使用“智能扫描技术”处理的。这些被转录的数据还会被发布到亚马逊Mechanical Turk等众包劳动工具上，方便低薪工人阅读和转录。

为获取融资，企业往往选择“善意的谎言”

事实上，即使是在人工智能上投入巨资的Facebook，在一些工作上还是会依赖人类作为Messenger的虚拟助手。

在某些情况下，人类习惯于训练AI系统并提高其准确性。一家名为Scale的公司就提供了一系列的人力工作者，为自动驾驶汽车和其他人工智能系统提供培训数据。例如，“定标器”将查看相机和传感器反馈，并在框架中标记汽车、行人和骑车人。通过足够的人体校准，AI才能学会识别这些物体本身。

所以很多情况下，一些公司会伪造“业务智能化”直到它们真正成功——它们会告诉投资者和用户已经开发了可扩展的AI技术，同时却秘密地依赖人类。

此前Twitter上就有一个十分讽刺的推文：

如何创立AI创业公司：1、雇一群最低工资的工人伪装成一个AI机器 ；2、等待AI被发明。——Gregory Koberger @gkoberger

Woebot（一个精神健康辅助聊天机器人）创始人、心理学家Alison Darcy将这种行为描述为“绿野仙踪设计技术”。

“本质上这就是在模拟终极体验。而且许多时候，人们谈到AI时，窗帘后的其实是个人，而不是算法。”她说。她还提到，构建一个好的AI系统需要“海量的数据”，有时候设计师希望在投资这些数据之前了解是否有足够的需求。

支持还是反对？

但是，这种方法并不适用于心理学范畴。

研究表明，人们由于对寻求精神健康帮助的羞耻感，在认为自己与机器交谈而不是与人交谈时会愿意暴露更多信息。“作为心理学家，我们有一套伦理规范。不欺骗，就是这些规范之一。”

来自南加州大学的一个团队用名为Ellie的虚拟治疗师对此进行了测试。 他们发现，如果患有创伤后应激障碍的退伍军人以为Ellie是个AI系统（而不是由人在操作机器）的时候，更加愿意将他们的症状坦诚相告。

但是作为投资者，当然是持相反意见的。

“我不喜欢这样，”LaPlante对于那些伪装成提供AI访问却实际上雇佣人类的公司发表看法，“对于我来说，这种行为就等于不诚实和欺骗，我不希望我使用的业务涉及任何一点。”他认为公司的运营方式永远应该保持透明。

而对于人类员工来说，“我不喜欢我们付出的劳动被公司用来欺骗客户。”

这种道德困境也出现在那些假装成人类的AI系统上。最近的事件就是Google Duplex机器人助手，能用“嗯……”“啊……”等语气词模拟真实生活中的电话，帮助人类预约服务，比如餐馆预订、理发预约等。尽管在餐馆预订位置似乎是个无关大局的交互，但同样的技术很可能会被坏人用在更有影响的地方。

比如，如果模拟名人或政治家的声音打电话，那会发生什么后果？

原文：https://www.theguardian.com/technology/2018/jul/06/artificial-intelligence-ai-humans-bots-tech-companies

作者：Olivia Solon， 旧金山Guardian US的高级科技记者。

译者：弯月，责编：郭芮

“征稿啦！”

CSDN 公众号秉持着「与千万技术人共成长」理念，不仅以「极客头条」、「畅言」栏目在第一时间以技术人的独特视角描述技术人关心的行业焦点事件，更有「技术头条」专栏，深度解读行业内的热门技术与场景应用，让所有的开发者紧跟技术潮流，保持警醒的技术嗅觉，对行业趋势、技术有更为全面的认知。

如果你有优质的文章，或是行业热点事件、技术趋势的真知灼见，或是深度的应用实践、场景方案等的新见解，欢迎联系 CSDN 投稿，联系方式：微信（guorui_1118，请备注投稿+姓名+公司职位），邮箱（[email protected]）。