重磅｜最全PPT实录！英伟达发布可编程AI推理加速器TensorRT

作者 | 鸽子

2017年9月26日，英伟达GPU技术峰会GTC CHINA在北京开幕。英伟达创始人兼CEO黄仁勋发表主旨演讲《AI 的趋势、挑战与机遇》。

在他的演讲中，黄仁勋提到BAT已在各自的云服务中采用NVIDIA Volta GPU，研究人员和初创公司现在也开始租用云端最先进的AI基础设施，免去了建造超级计算机的复杂性和高昂费用。

此外，他还提到华为、浪潮、联想已采用NVIDIA基于HGX的GPU服务器，而对于需要专用AI超级计算机的企业，英伟达正在与中国主要的系统集成商展开合作，提供全面优化的服务器。

他指出，NVIDIA将积极投入，全力推进“统一架构”CUDA GPU计算。通过Inception计划，将支持1900家初创公司创建AI未来。

而在网络设计方面，黄仁勋强调，AI推理平台必须具备可编程性才能运行种类繁多且不断演进的网络架构。新的架构、更深的网络、新的分层设计会继续提升CNN性能。

除此，他还展示了自动驾驶平台NVIDIA Drive，全球首款自主机器处理器Xavier；能够实时训练机器人的模拟环境 Isaac Lab。

最被大家所期盼的，则是黄仁勋对NVIDIA TENSORRT 3的宣布。

TensorRT是全球首款可编程AI推理加速器，可编程，支持所有框架，并能加速现有和未来的网络架构。它可编译到广泛的目标CUDA GPU中，从120 TOPS到1 TOPS，从250瓦到低于1瓦。

TensorRT适用于CUDA GPU的优化神经网络编译器，它可利用CUDA深度学习指令集创建运行时。它可确定每个目标GPU的最佳策略，对数值精度、网络层和张量的去除及融合、快速内核以及内存管理进行优化。从云、数据中心、PC、汽车到机器人，皆能在NVIVIA全系列平台编译出最优运行时。

有意思的是，在对比了CPU和GPU+TensorRT的性能后，黄教主张开双臂深情地大声呼吁：“the more GPU you buy, the more money you save。” （你买GPU买得越多，越省钱）

然后多次在演讲中重复了GPU给你省钱这句话，惹得台下笑声一片。

也就是在黄教主在台上“指点江山，挥斥方遒”时，网络上不少人将目光集中到他的皮衣上了。

“去年也是皮衣，真是对皮衣情有独钟啊，求淘宝地址”

“皮衣真乃黄教主的战斗马甲”

“黄教主你夏天也穿皮衣出战吗？”

关于今天的GTC大会，也有不少业内人士点评到，远没有此前美国GTC那场爆点多，当时宣布Volta架构才真是屌！

好了，以下为现场老黄演讲的PPT实录，供您参考：