虚拟化

给你的边缘一个肾上腺素刺激:使用Kubernetes编排fpga和GPU

给你的边缘一个肾上腺素刺激:使用Kubernets编排fpga和GPU

兰迪Levensalor
主建筑师,未来基础设施集团办公室的首席技术官

2020年1月28日,

在过去的一年里,我们一直在尝试现场可编程门阵列(fpga)和图形处理单元(gpu)改善边缘计算性能和降低整体成本的边缘部署。

岩石下,除非你已经在过去的2年,你听说过所有的兴奋边缘计算。在外行人眼中,边缘计算允许应用程序之前需要特殊的硬件在客户前提上运行系统附近的客户。这些工作负载需要非常低的延迟或非常高的带宽,这意味着他们不做在云中。与许多这样的低延迟应用,微秒。Cab亚博yabo888vip网页版leLabs,我们定义一个参考体系结构和适应Kubernetes为了更好地满足边缘的低延迟需求计算工作负载。

亚博yabo888vip网页版CableLabs工程师Omkar Dharmadhikari写了一篇博文。2019年5月超越计算云计算优势为边计算,列出的许多机会。如果你不熟悉边缘计算的好处,我建议阅读那篇文章之前深入阅读。

新功能

作为我们的努力在项目肾上腺素的一部分,我们共享的管理工具来缓解Kubernetes硬件加速器。这些工具都是可用的SNAPS-Kubernetes GitHub库

  • 现场可编程门阵列(FPGA)加速器集成
  • 图形处理单元(GPU)加速器集成

硬件加速

fpga和gpu可以用作硬件加速器。有三个优势时,我们考虑一个工作负载转移到一个加速器:

  • 时间要求
  • 功率要求
  • 空间需求

时间、空间和权力都是边缘部署的关键。你有有限的空间和权力为每个位置。完成操作所需的时间必须在所需的范围内下降,和某些操作可以更快的CPU上运行一个加速器。

编写应用程序加速器还可以更加困难,因为有更少的语言选项比通用cpu。框架如OpenCL试图填补这一差距,并允许一个程序的cpu, gpu和fpga。不幸的是,这种互操作性有性能成本,使得这些框架选择某些边缘工作负载。好消息是,几个主要的加速器硬件制造商目标边缘,释放框架和预构建库,将填补这一性能差距随着时间的推移。

虽然我们今天没有固定的规则应该加速,什么工作负载平台,我们有一些一般的指导方针。整数(整数)操作通常是更快的一个通用的CPU上。浮点gpu(小数)通常更快。按位操作,操作1和0,在fpga通常更快。

另一件要记住当决定在哪里部署一个工作负载的过渡成本工作负载从一个到另一个计算平台。有一个点球为每个内存复制,甚至在同一个服务器。这意味着连续运行管道中的任务可以比在一个平台上运行每个任务的平台,是最好的任务。

加速器安装挑战

当你使用加速器如fpga和gpu,管理底层软件(驱动程序)来运行它们可能是一个挑战。操作系统部署期间额外的钩子安装这些驱动程序已经添加到SNAPS-Boot,包括某些加速器安装驱动程序的示例。我们鼓励你分享你的经验,帮助我们添加支持更广泛的加速器。

Co-Innovation

这些特性在co-innovation发展伙伴关系Altran。我们联合开发软件和合作概念的证明。你会发现更多关于我们co-innovation程序在我们的网站上,包括信息如何联系CableLabs co-innovation机会。亚博yabo888vip网页版

扩展项目肾上腺素

项目肾上腺素只触及表面的边缘有什么可能加速计算。用途边缘计算是巨大的,发展迅速。当你计划你的边缘策略,一定要包括的能力管理可编程的加速器和减少你的专用asic的依赖。部署冗余和灵活的平台是一个伟大的方式来减少时间和费用管理组件数以千计甚至数以百万计的边缘位置。

作为项目的一部分,肾上腺素,SNAPS-Kubernetes联系在一起,这些组件可以很容易尝试在你的实验室。继续SNAPS-Kubernetes认证,我们保持当前版本的Kubernetes稳定。SNAPS-Boot有附加功能轻松地准备Kubernetes服务器。像往常一样,你可以找到最新的信息关于快照亚博yabo888vip网页版CableLabs快照页面

接触兰迪让你的肾上腺素修复在巴塞罗那世界移动通信大会上,2020年2月24日。

订阅我们的博客

隐私偏好中心

    严格的必要

    必需的饼干,网站正常运行。

    PHPSESSID, __cfduid hubspotutk

    性能

    这些都是用于追踪用户交互和发现潜在的问题。这些帮助我们改善我们的服务通过提供分析数据,用户如何使用这个网站。

    BizoID wooTracker, GPS, _ga、_gat _gid, _hjIncludedInSample mailmunch_second_pageview

    针对

    这些饼干是用来(1)提供更相关的广告对你和你的利益;(2)限制你看到一个广告的次数;(3)帮助衡量广告的有效性;(4)理解人们的行为后,查看广告。

    __hssc、__hssrc __hstc,