自动化顶会DATE演讲：自动驾驶不做价值判断，基准线是不引发事故

新智元专栏

作者：常万里

【新智元导读】计算机设计自动化的顶级会议之一DATE日前在德累斯顿落下帷幕。本文介绍会上的两个关于自动驾驶的主题演讲，分别代表了当前开发自动驾驶汽车的两大阵营：新技术公司和传统汽车制造商，带来关于人工智能在自动驾驶中的应用、自动驾驶领域的重点研究方向等问题的观点碰撞。

计算机设计自动化的顶级会议之一DATE上周五（3月24日）在德累斯顿落下帷幕。会上的两个关于自动驾驶的主题演讲非常精彩，吸引了广泛关注。其中一位演讲者是Amnon Shashua，Mobileye（2017年被Intel以153亿美元收购）的CEO兼任CTO。另一位是大众集团电子和汽车研发部主管Thomas Form教授。两人分别代表了当前开发自动驾驶汽车的两大阵营：新技术公司和传统汽车制造商。他们谈到了许多备受业界以及公众关注的关于自动驾驶的话题。在某些问题上他们阐述了类似的观点，而在另一些问题上则看法大相径庭。

其中一个主要话题就是人工智能在自动驾驶中的应用。两家公司都投入了大量资源进行相关研究，在取得了很多成果的同时也发现了不少问题。Form教授指出深度神经网络对自动驾驶是很有帮助的，不过需要提供冗余。例如可以安装三个独立系统。一个基于明确的逻辑，第二个基于模块化人工智能，即每个相关的功能训练一个深度神经网络。第三个基于整体的人工智能，即为所有相关功能训练单一的巨大的深度神经网络。

Form教授展示了一些在大众内部测试中出现的人工智能无法正确识别和应对的情况。另一个问题则是针对深度神经网络故意的物理攻击。Form教授展示了一个案例，做了少量（刻意的）修改的STOP标识牌会被深度神经网络误认为限速标志。

在另一个演讲中，Amnon重点介绍了一个能够在数学上保证自动驾驶决策安全的形式化方法。他也特别强调这个方法不是由数据驱动，完全不同于依靠大量数据训练的，系统成熟度随着里程提高的经验性方法。结合两个演讲来看，尽管人工智能在很多领域已经显示出极大的力量，在安全相关的系统中的运用仍有很多研究要做。这对于人工智能领域的学者来说并不是一个坏消息。

新技术公司和传统车企在开发自动驾驶汽车上采取了完全不同的路线。新技术公司做的是革命性改变，即跳过中间阶段，直接开发5级自动驾驶（指全自动驾驶，参见SAE标准）。而传统车企则是渐进式的。全自动驾驶固然令人激动，同时也意味着高成本。大众集团更希望能够开发出所有汽车都能承担的系统。究竟是在某些车上实现全部功能更好，还是在所有车上实现某些功能更好，值得进一步探讨。

另一个被深入讨论的话题就是自动驾驶汽车需要做到多好才足够。显然完美的系统是不存在的。Amnon讲解了他的形式化方法结合一系列规则可以确保自动驾驶汽车不会由于决策问题而产生事故并且可以在危险情况下做出正确反应。大众集团也在考虑同样的问题。一个能够优于大多数司机的自动驾驶系统足够好吗，还是需要超过迈克尔舒马赫？

在自动驾驶的伦理问题方面，Amnon提出了一个基准线，即他的系统不会为了躲避现在的事故而引发新的事故。自动驾驶汽车不做价值判断。他同时也指出，这一准则可以根据不同国家的规定而改变。Form教授提出了一个问题，在自动驾驶的世界里，如果行人不遵守交通规则怎么办。显然自动驾驶汽车总是需要避让行人。他后来又补充道，你需要特别小心，如果这台车是Uber的。

最后一点就是自动驾驶领域的重点研究方向。除了人工智能在识别和决策方面的应用，传感器显然还有极大的进步空间。另外一点就是目前的自动驾驶系统开发仍主要关注于功能的实现。成本控制，例如如何更高效地利用车载计算和通讯资源等等，在未来毫无疑问会受到持续关注。

作者介绍：

常万里，慕尼黑工大博士（TUM），博士论文在2017年被评为最杰出（Summa Cum Laude）。现任教于新加坡理工大学（SIT）。新工大是一所新近成立的综合性公立大学。主要研究方向为信息物理系统（CPS），重点关注开发更可信可认证的系统以及计算等各种嵌入式资源的高效利用。在顶级期刊和计算机顶级会议发表多篇文章，包括IEEE旗舰杂志Proceedings of the IEEE。目前主持一项新加坡国家级科研项目。论文共同作者和合著者包括多名IEEE Fellow, ACM Fellow，美国国家工程院院士，欧洲科学院院士以及德国科学工程院院士。