为什么我用Go写机器学习部署平台，而偏偏不用Python？

虽然在机器学习中，Python已经无孔不入。但Python并不是全能之神手中的魔杖可以为所欲为。很多情况下其实用Python的效果并不如其他语言，比如Go更好，甚至可能更糟。本文介绍了为什么在作者的工作环境下选择Go而非Python的理由，引发社区关注和热议。

编程语言就是一个江湖，永远有人觊觎霸主的位子。

Python如今却稳坐编程语言界的霸主，尤其是在机器学习领域，所有主流机器学习框架都在用Python。

然而即使是被绝大多数人认可的Python，也并非真的无所不能，也有让其无能为力、无中生有的情况。

Python引以为豪的机器学习算法，只是机器学习系统的一个组成部分。要实际大规模运行生产机器学习API，还需要实现以下功能的基础架构：

自动缩放，以便流量波动不会破坏您的APIAPI管理，以处理的API部署滚动更新，以便您可以在更新模型的同时仍为用户提供服务

对于像Cortex这样的开源机器学习部署平台，旨在使所有这些基础架构自动化，以及日志记录和成本优化等其他方面的关注，作者Caleb Kaiser认为相比Python而言，Go更合。

相比于出身寒门、一个应届生的圣诞节无聊之作的Python，Go语言出自Google，作者是三位宗师级人物：Rob Pike、Ken Thompson 和 Robert Griesemer。在以下方面超越了Python：

并发对于机器学习基础架构至关重要

用户可以将许多不同的模型部署为不同的API，所有模型都在同一个Cortex集群中进行管理。

为了让Cortex Operator能够管理这些不同的部署，需要纠缠一些不同的API。

Cortex调用Kubernetes API在集群上部署模型；同时也需要考虑各种AWS API（EC2 Auto Scaling，S3，CloudWatch等）

用户不会直接与任何这些API进行交互，取而代之的是，Cortex以编程方式调用这些API来供应集群，启动部署和监视API。

以一种有效，可靠的方式进行所有这些重叠的API调用是一个挑战。

同时处理它们是最有效的处理方式，但同时也引入了复杂性，因为现在我们不得不担心诸如竞赛条件之类的事情.Go有一个优雅的，开箱即用的解决方案来解决这个问题：Goroutines。

Goroutines是正常的Go并发执行的功能。许多Goroutine可以放在一个OS线程上，如果Goroutine阻塞了OS线程，则Go运行时会自动将其余Goroutines移至新的OS线程。

Goroutines还提供了一个称为“通道”的功能，允许Goroutines执行在彼此之间传递消息，使我们能够调度请求并避免出现竞争情况。

使用asyncio等最新工具在Python中实现所有这些功能可能是可行的，但是Go的设计充分考虑了这种用例，这一事实使我们的生活变得更加轻松。

在Go中构建跨平台CLI更容易

Cortex CLI是一种跨平台工具，允许用户直接从命令行部署模型和管理API。

下面的GIF显示了正在使用的CLI：

事实证明，Python编写的CLI尝试在各种平台之间分发太困难了。

因为Go可以编译成一个二进制文件（不需要依赖管理），所以它为我们提供了一个在平台之间分发CLI的简单解决方案，而无需进行过多的工程工作。经过编译的Go二进制文件和解释型语言的性能优势也很明显。

根据计算机基准测试游戏，Go的运行速度比Python快得多。许多其他基础结构CLI工具都是用Go编写的，这并非巧合，这使我们进入了下一步。

Go生态系统非常适合基础设施项目

开源的好处之一是，您可以从自己欣赏的项目中学习。 例如，Cortex存在于Kubernetes（本身用Go编写）生态系统中。 我们很幸运能够在该生态系统中学习到许多出色的开源项目，其中包括：

• kubectl：Kubernetes的CLI
• minikube：一种在本地运行Kubernetes的工具
• helm：Kubernetes程序包经理
• kops：用于管理生产Kubernetes的工具
• eksctl：Amazon EKS的官方CLI

以上所有内容都是用Go语言编写的，而不仅仅是Kubernetes项目。

无论你是在看CockroachDB还是Hashicorp的基础设施项目，包括Vault，Nomad，Terraform，Consul和Packer，它们都是用Go编写的。

Go在基础设施领域的流行还有另一个影响，这就是大多数工程师都感兴趣！在基础架构方面工作的人对Go很熟悉，这使得吸引工程师更加容易。

用Go是一种乐趣

相对于Python，Go入门起来有点痛苦，但这是指暂时的。一旦你跨越了门槛，进入Go的世界里，你会发现简直是“一马平川”。

Go宽容的性格使它对于大型项目而言如此令人愉悦。

除此以外，相比Python，Go的优势还体现在：

• 拥有非常棒的编译器，编译器可以检测出你犯的所有低级错误
• 更好的并行性。Go 语言就是为并行而生的
• 部署简单。代码所需要的所有依赖都在一个二进制文件里
• 风格一致。格式化工具会让所有代码风格都保持一致
• 更便捷的工具。一个编辑器+插件满足几乎所有需求，都不需要IDE

适用于机器学习的Python，适用于基础架构的Go

Cortex服务于TensorFlow，PyTorch，scikit-learn和其他Python模型，这意味着与这些模型的接口以及推理前后的处理，用Python完成。