为什么用Go编写机器学习的基础架构，而不是Python？

全文共2626字，预计学习时长8分钟

来源：blog.sina

Python是机器学习项目中最流行的语言，这点是毋庸置疑的。

虽然像R语言、C++和Julia这样的程序语言有其特有的使用群体与用例，使它们经久不衰，但Python仍是使用最广泛的语言，并用于每个主要的机器学习框架中。

然而，你能想象？在Cortex（将机器学习模型部署为API的开放源代码平台之一）代码库中，87.5%的代码都是使用GO编写。

图源： Cortex GitHub

Python引以为豪的机器学习算法只是生产环境机器学习系统的一个组成部分。如要实际大规模运行生产环境中的机器学习API，您的基础结构需要实现以下功能：

· 自动缩放，确保流量波动不会破坏API

· 实行API管理，以处理API同步部署

· 滚动更新，确保更新模型不会中断用户服务

Cortex旨在自动实现所有上述基础架构，以及其他一些问题，例如日志记录和成本优化。

出于以下考虑，Go是构建满足上述需求软件的理想之选：

1. Go生态系统非常适合基础设施项目

来源：zcool

开源的好处之一就是您可以从自己欣赏的项目中不断学习。例如，Cortex存在于Kubernetes（本身用Go编写）生态系统中。很幸运，我们能够在该生态系统中参考许多出色的开源项目，其中包括：

· kubectl: Kubernetes CLI

· minikube: 一种在本地运行Kubernetes的工具

· helm: Kubernetes软件包管理工具

· kops: 管理生产Kubernetes的工具

· eksctl: 亚马逊EKS的官方CLI

以上所有工具不仅仅是Kubernetes项目，并且都是用Go语言编写。无论是查看CockroachDB还是Hashicorp的基础设施项目（包括Vault, Nomad, Terraform, Consul和 Packer），您将发现它们均是使用Go语言编写。

Go在基础架构领域的流行还有另一个影响，那就是大多数对基础架构感兴趣的工程师都熟悉Go语言。所以，很容易通过GO吸引这些工程师。实际上，Cortex Labs最优秀的工程师之一就是通过在AngelList上搜索Go职位找到我们的。他找到了我们，我们感到非常幸运。

2.并发对于机器学习的基础架构至关重要

用户可以将许多不同的模型部署为不同的API，并把所有模型都在同一个Cortex集群中以便管理。而Cortex Operator也需要通过一些API来管理这些不同的部署。举例：

· Cortex调用Kubernetes API在集群上部署模型。

· Cortex调用各种AWS API（包括EC2 Auto Scaling，S3，CloudWatch等）来管理AWS上的部署。

用户不会直接与这些API进行交互。相反，Cortex以编程方式调用这些API来提供群集，启动部署和监视API。

以一种高效、可靠的方式交叉调用API是一项重大挑战。采用并发的方式使用API是最高效的方法，但也引发了问题，因为现在我们不得不担心竞态条件之类的事情。

Go提供了一个解决该问题的简便方案：Goroutines。

Goroutines是Go以并发方式执行代码的普通函数。我们可以另写一篇长文深入探讨Goroutines背后的工作方式，但是概括而言，Goroutines是Go运行时自动管理的轻量级线程。多个Goroutine可以放置在一个OS线程上，如果Goroutine阻塞了OS线程，则Go运行时会自动将其余Goroutine移到新的OS线程上。

Goroutines还提供了一个称为“channel”的功能，此功能允许用户在Goroutines之间传递消息，帮助用户调度请求并预防竞态条件。

当然，用户也可使用asyncio等最新工具在Python中实现这些功能，但Go在设计时就考虑到了这些情况，使用GO可以减轻我们的工作和生活负担。

3.使用Go语言编程是一种享受