|
|
51CTO旗下网站
|
|
移动端

为什么我用Go写机器学习部署平台,而偏偏不用Python?

虽然在机器学习中,Python已经无孔不入。但Python并不是全能之神手中的魔杖可以为所欲为。

作者:佚名来源:新智元|2020-01-21 21:38

为什么我用Go写机器学习部署平台,而偏偏不用Python?

虽然在机器学习中,Python已经无孔不入。但Python并不是全能之神手中的魔杖可以为所欲为。很多情况下其实用Python的效果并不如其他语言,比如Go更好,甚至可能更糟。本文介绍了为什么在作者的工作环境下选择Go而非Python的理由,引发社区关注和热议。

编程语言就是一个江湖,永远有人觊觎霸主的位子。

Python如今却稳坐编程语言界的霸主,尤其是在机器学习领域,所有主流机器学习框架都在用Python。

然而即使是被绝大多数人认可的Python,也并非真的无所不能,也有让其无能为力、无中生有的情况。

Python引以为豪的机器学习算法,只是机器学习系统的一个组成部分。要实际大规模运行生产机器学习API,还需要实现以下功能的基础架构:

自动缩放,以便流量波动不会破坏您的APIAPI管理,以处理的API部署滚动更新,以便您可以在更新模型的同时仍为用户提供服务

对于像Cortex这样的开源机器学习部署平台,旨在使所有这些基础架构自动化,以及日志记录和成本优化等其他方面的关注,作者Caleb Kaiser认为相比Python而言,Go更合。

相比于出身寒门、一个应届生的圣诞节无聊之作的Python,Go语言出自Google,作者是三位宗师级人物:Rob Pike、Ken Thompson 和 Robert Griesemer。在以下方面超越了Python:

并发对于机器学习基础架构至关重要

用户可以将许多不同的模型部署为不同的API,所有模型都在同一个Cortex集群中进行管理。

为了让Cortex Operator能够管理这些不同的部署,需要纠缠一些不同的API。

Cortex调用Kubernetes API在集群上部署模型;同时也需要考虑各种AWS API(EC2 Auto Scaling,S3,CloudWatch等)

用户不会直接与任何这些API进行交互,取而代之的是,Cortex以编程方式调用这些API来供应集群,启动部署和监视API。

以一种有效,可靠的方式进行所有这些重叠的API调用是一个挑战。

同时处理它们是最有效的处理方式,但同时也引入了复杂性,因为现在我们不得不担心诸如竞赛条件之类的事情.Go有一个优雅的,开箱即用的解决方案来解决这个问题:Goroutines。

Goroutines是正常的Go并发执行的功能。许多Goroutine可以放在一个OS线程上,如果Goroutine阻塞了OS线程,则Go运行时会自动将其余Goroutines移至新的OS线程。

Goroutines还提供了一个称为“通道”的功能,允许Goroutines执行在彼此之间传递消息,使我们能够调度请求并避免出现竞争情况。

使用asyncio等最新工具在Python中实现所有这些功能可能是可行的,但是Go的设计充分考虑了这种用例,这一事实使我们的生活变得更加轻松。

在Go中构建跨平台CLI更容易

Cortex CLI是一种跨平台工具,允许用户直接从命令行部署模型和管理API。

下面的GIF显示了正在使用的CLI:

事实证明,Python编写的CLI尝试在各种平台之间分发太困难了。

因为Go可以编译成一个二进制文件(不需要依赖管理),所以它为我们提供了一个在平台之间分发CLI的简单解决方案,而无需进行过多的工程工作。经过编译的Go二进制文件和解释型语言的性能优势也很明显。

根据计算机基准测试游戏,Go的运行速度比Python快得多。许多其他基础结构CLI工具都是用Go编写的,这并非巧合,这使我们进入了下一步。

Go生态系统非常适合基础设施项目

开源的好处之一是,您可以从自己欣赏的项目中学习。 例如,Cortex存在于Kubernetes(本身用Go编写)生态系统中。 我们很幸运能够在该生态系统中学习到许多出色的开源项目,其中包括:

  • kubectl:Kubernetes的CLI
  • minikube:一种在本地运行Kubernetes的工具
  • helm:Kubernetes程序包经理
  • kops:用于管理生产Kubernetes的工具
  • eksctl:Amazon EKS的官方CLI

以上所有内容都是用Go语言编写的,而不仅仅是Kubernetes项目。

无论你是在看CockroachDB还是Hashicorp的基础设施项目,包括Vault,Nomad,Terraform,Consul和Packer,它们都是用Go编写的。

Go在基础设施领域的流行还有另一个影响,这就是大多数工程师都感兴趣!在基础架构方面工作的人对Go很熟悉,这使得吸引工程师更加容易。

用Go是一种乐趣

相对于Python,Go入门起来有点痛苦,但这是指暂时的。一旦你跨越了门槛,进入Go的世界里,你会发现简直是“一马平川”。

Go宽容的性格使它对于大型项目而言如此令人愉悦。

除此以外,相比Python,Go的优势还体现在:

  • 拥有非常棒的编译器,编译器可以检测出你犯的所有低级错误
  • 更好的并行性。Go 语言就是为并行而生的
  • 部署简单。代码所需要的所有依赖都在一个二进制文件里
  • 风格一致。格式化工具会让所有代码风格都保持一致
  • 更便捷的工具。一个编辑器+插件满足几乎所有需求,都不需要IDE

适用于机器学习的Python,适用于基础架构的Go

Cortex服务于TensorFlow,PyTorch,scikit-learn和其他Python模型,这意味着与这些模型的接口以及推理前后的处理,用Python完成。

但是,即使将Python代码打包到了Docker容器中,这些容器都是用Go语言编写的代码精心编排的。如果你有兴趣成为一名机器学习工程师,那么了解Python是必须的。

但是,如果你对使用机器学习基础结构感兴趣,则应认真考虑使用Go。

【编辑推荐】

  1. 计算机视觉项目:10个高质量开源数据集发布
  2. Google的量子计算机2020年会盗走比特币吗?
  3. 首个活体机器人诞生:青蛙细胞生成,超级计算机设计
  4. 人工智能还是人工智障?那些想不到的大型算法翻车现场
  5. 多家AI公司HR/面试官爆料:我们是怎样招机器学习工程师的
【责任编辑:张燕妮 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢
24H热文
一周话题
本月获赞

订阅专栏+更多

Python应用场景实战手册

Python应用场景实战手册

Python应用场景实战手册
共3章 | KaliArch

118人订阅学习

一步到位玩儿透Ansible

一步到位玩儿透Ansible

Ansible
共17章 | 骏马金龙1

195人订阅学习

云架构师修炼手册

云架构师修炼手册

云架构师的必备技能
共3章 | Allen在路上

35人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微