AR眼镜，机器学习领域的杀手级应用？

Facebook AI研究院的首席AI科学家Yann LeCun认为，AR(增强现实)眼镜有望成为机器学习从业者的理想挑战目标——一个杀手级应用，因为它涉及了多个未解决的问题。

完美的AR眼镜需要把对话式AI、计算机视觉和其他复杂系统结合起来，这些系统必须能够像眼镜那样小巧，便于操作。低功耗AI不可或缺，这将确保合理的电池寿命，从而使得用户拥有较长的可以佩戴和使用眼镜的时间。

与苹果，Niantic和高通这些公司一样，今年秋天，Facebook确认了到2025年制造增强现实眼镜的计划。

“对于硬件而言，这是一个巨大的挑战，因为你的眼镜可能带有可在可变延迟下实时跟踪视觉的摄像头，因此在移动时……这需要大量的计算。你希望能够通过语音与助手互动，以便助手一直在听你的声音，并且也会与你说话。您想要手势[识别]，以便助手[可以执行]实时的手部追踪，”他说。

LeCun说，实时手部跟踪已经可以工作，不过“我们只是不知道如何以小巧的外形来做到这一点，同时功耗与AR眼镜适配。”

“就更大的型号来说，功耗、性能和外观，这些确实都超出了我们现在的能力范围，因此必须使用人们从未想到过的技巧，神经网络就是其中之一。”他说。

变得更有效率

LeCun这个月在全球最大的机器学习研究会议NeurIPS上的“EMC2节能机器学习”研讨会上发表了讲话。他谈到了硬件局限性如何限制研究人员的想象，并表示好的想法有时候会在硬件太慢、软件不易获得或实验难以重现时被抛弃。

他还谈到了特定的深度学习方法，例如差分联想记忆和卷积神经网络，它们构成了挑战，可能需要新的硬件。差分关联存储器(软RAM)是一种计算方法，目前已在自然语言处理(NLP)中广泛使用，在计算机视觉应用程序中也越来越常见。

“未来几年，深度学习和机器学习架构将发生很大变化。你已经可以看到很多这样的情况了。现在有了NLP，城里唯一的游戏基本上就是变换网络(Transformer networks)。”他说。

他补充说，更有效的批处理和自我监督学习技术，可以帮助AI像人类和动物一样学习更多，也可能有助于提高AI的能效。

在LeCun演讲之后，麻省理工学院的电气工程与计算机科学副教授Vivienne Sze谈到了需要一种系统的方法来评估深度神经网络的需求。SlidesLive报道称，在本周早些时候，Sze关于高效深度神经网络的演讲是这次NeurIPS视频中备受关注的一个，获得了相当多的点击率。

Sze说：“更大更远的存储器往往会消耗更多的电量”， 并指出“所有权重都不相等。” Sze还演示了Accelergy，这是MIT开发的一种能够估算硬件能耗的框架。

除讲座外，研讨会的海报发布会还展示了值得注意的低功耗AI解决方案。其中包括DistilBERT，这是谷歌BERT(Bidirectional Encoder Representations from Transformers)的轻便版本，后者是Hugging Face团队特别为在边缘设备上快速部署而制造的;以及SRI International和Latent AI对深度神经网络的量化比较。

许多知名人士呼吁机器学习社区应对气候变化，并表示这种关注可以推动创新。上周在NeurIPS上的一次小组讨论中，另一位深度学习先驱Yoshua Bengio呼吁研究人员更重视影响气候变化的机器学习上，并减少他们所获得的出版物数量。

在接受VentureBeat采访时，谷歌AI负责人Jeff Dean说，他支持创建“每瓦计算标准”的想法，以鼓励使用更高效的硬件。

节约能源，保护地球

除了在NeurIPS上进行解释深度学习算法的理论工作外，会议上的许多工作都强调了将AI对气候变化的贡献考虑在内的重要性，其中就有一篇名为“能源使用报告：算法责任中的环境意识”的论文。

该论文写道：“必须对算法的碳足迹进行测量并透明地报告，以便计算机科学家可以在环境可持续性方面发挥诚实和积极的作用。”

根据这一说法，会议的组织者早先建议，2020年向NeurIPS提交工作的AI研究人员可能需要分享他们提交供审议的工作的碳足迹。

美国研究机构AI Now Institute最近发布的2019年报告，就将测量算法的碳足迹纳入了十几项建议当中去，称这些建议可以带来一个更公正的社会。

在其他与节能有关的AI新闻中，Element AI和Mila Quebec AI研究所的机器学习从业人员上周推出了一种新工具，该工具可使用GPU训练AI模型来计算碳排放量，从而根据使用时间长短和云区域等因素预测能源使用情况。