英特尔第一届AI开发者大会：从芯片到软件看英特尔AI雄心

5 月 23 日，英特尔第一届 AI 开发者大会 AIDevCon 开幕，该大会为期两天，在旧金山艺术宫举行。第一天，英特尔详细介绍了它们在 AI 方面的雄心壮志。英特尔严肃看待人工智能。去年，这家 50 岁的芯片巨头和 CPU 市场领导者成立了 AI 产品事业部（AIPG），由副总裁 Naveen Rao 领导，他曾创立 Nervana，该公司于 2016 年被英特尔收购。

在今早的 keynote 演讲中，Rao 称英特尔的目标是为 AI 开发者搭建完美的计算平台：「定义工具，帮助工程师解决问题。」Rao 介绍了开发者将从英特尔 AI 平台的计算能力、优化软件工具和社区中得到哪些收获。

英特尔 Nervana 芯片新一代：Spring Crest英特尔提供多种处理器来满足大量 AI 应用的计算需求：Xeon 处理器适合一般计算任务；Nervana 神经网络处理器适合训练 AI 模型；Movidius 视觉处理芯片适合在嵌入式 IoT 设备上进行图像／视频处理；FPGA 适合在云端和边缘设备上进行 AI 推断。

英特尔今天最大的举措是宣布 Nervana Neural Net L-1000（代号 Spring Crest）将在 2019 年上市，该芯片将是英特尔第一款商业神经网络处理器（NNP）。预计 Spring Crest 的训练速度是上一代 Lake Crest 的 3-4 倍。

Spring Crest 为高利用率和模型并行化而设计，将达到高于 96.4% 的 GEMM 计算利用率、96.2% 的多芯片扩展效率、2.4 TB/s 的多芯片通信速度，这一切是在总功率低于 210 瓦的单芯片中实现的。

Spring Crest 将支持 bfloat16，一种新兴的业界通用神经网络数字格式。英特尔期望能够很快将 bfloat16 支持扩展至其整个 AI 产品线，包括 Xeon 处理器和 Intel FPGA。

英特尔是 AI 专用处理器方面的后来者，急于追上 GPU 市场领导者，如英伟达和 AMD。英特尔还可能关注谷歌，后者在前不久的 I/O 大会上宣布最新迭代的 AI Tensor 处理单元 TPU 3.0。

软件优化战争升温除了高性能芯片和框架，AI 开发者真正想要的还有高效的软件工具，可以帮助简化工作流、节约时间和金钱。这就是英特尔和其他科技巨头公司（如英伟达、谷歌和微软）都在推动软件工具开发的原因。

英特尔 AI 软件产品负责人 Jason Knight 展示了 nGraph，一种可在多个框架和硬件上运行模型的深度学习编译器和运行时系统。当开发者想要把一个训练好的模型迁移到另一个框架或升级设备时，nGraph 可使开发者免于繁重的编译和优化工作。

nGraph 核创建了一种强类型、device-neutral stateless 计算图表征、一个连接 nGraph 核和框架的纽带，以及连接 nGraph 核和设备的 transformer。

nGraph 编译器海报

今年三月 nGraph 开源，现在支持 Apache MXNet、Neon、PaddlePaddle、TensorFlow 和 ONNX 等框架。Facebook 拥有类似的机器学习编译器 Glow，可在不同的硬件平台上加速框架性能。但是 Glow 仅支持 PyTorch。在硬件方面，nGraph 支持 Xeon、Nervana NNP、GPU 和不同的推断引擎。

英特尔还宣布了其开放性视觉推断 & 神经网络优化（OpenVINO）软件工具包，OpenVINO 适用于边缘设备（如摄像机和 IoT 设备）上的视觉推断和神经网络优化。OpenVINO 的推断引擎支持在 CPU、GPU、Intel Movidius 或 FPGA 上的推断，且无需更改算法或深度学习网络。

OpenVINO

Movidius 的应用场景

Knight 还介绍了谷歌 TensorFlow 和英特尔 MKL-DNN（Math Kernel Library for Deep Neural Networks）之间的整合，MKL-DNN 是一个开源性能库，用于在英特尔架构上加速深度学习应用和框架。该整合将使 Broadwall 和 Skylake 的 AI 推断速度加速为原来的三倍，在使用 64 节点簇（64 node cluster）训练时达到 94% 的效率，并且扩展 AI 训练。

C3 IoT、2020 东京奥运会英特尔在多个行业中积极寻求联盟，今天英特尔宣布它将独角兽软件和 AI 公司 C3 IoT 展开合作，面向 AI 和 IoT 企业软件应用市场。

C3 IoT CEO Thomas Siebel（左）和英特尔副总裁 Naveen Rao 在英特尔 AI DevCon 大会上。

合作包括 C3 IoT AI Appliance，由英特尔 AI 提供支持，这是一项面向市场的项目，包括联合营销、销售、训练和快速原型，以加速用户在 AI 和 IoT 应用开发方面的成功。C3 IoT 还将加入 Intel AI Builders Program，该项目向合作伙伴提供资源和支持，以促使它们采用基于英特尔的 AI 平台。

英特尔还宣布它将成为 2020 东京奥运会的官方 AI 平台合作伙伴，今年早些时候英特尔承诺参与构建这次奥运会的大型 5G 网络。英特尔在今年 2 月份举办的平昌冬奥会上成功展示了大量新兴技术：无人机灯光秀、虚拟现实和 5G 通信。