人工智能

NVIDIA推出各项举措:探索DPU应用场景,赋能开发者加速创新

时间:2010-12-5 17:23:32  作者:系统运维   来源:数据库  查看:  评论:0
内容摘要:当前,数据已经成为企业的核心资产。随着企业数字化转型步入“深水区”,人工智能、大数据、云计算、物联网等技术的不断落地,企业获取数据的方式越来越简单,数据量呈现出爆炸式增长的态势。面对庞大的数据总量,一

当前,推出探索数据已经成为企业的各项核心资产 。随着企业数字化转型步入“深水区” ,举措景赋加速人工智能、应用场大数据、创新云计算、推出探索物联网等技术的各项不断落地 ,企业获取数据的举措景赋加速方式越来越简单,数据量呈现出爆炸式增长的应用场态势 。面对庞大的创新数据总量,一方面对数据中心的推出探索算力提出了更高的云计算要求;另一方面,也对网络带宽提出了更大的各项挑战 。为了提高响应,举措景赋加速降低延迟,应用场DPU应运而生 。创新

根据赛迪顾问的数据,自2023年起,全球 DPU 市场规模将突破百亿美元 ,并进入年增长率超过50% 的增长快车道 。在中国,DPU 市场规模在2023年也将有 300亿元人民币以上,会出现跳跃式增长 。DPU 的香港云服务器广泛采用,将会催生大量新的应用和服务 ,带动相关硬件和软件系统平台的增长 。

为了帮助现代化数据中心构建高性能的网络,在今年的NVIDIA GTC上,NVIDIA正式对外发布了Spectrum-4以太网平台 ,包括NVIDIA Spectrum-4交换机系列、ConnectX-7智能网卡 、NVIDIA BlueField-3 DPU,以及DOCA数据中心基础设施软件组成。在近期组织的一次媒体沟通上,模板下载NVIDIA网络专家崔岩和NVIDIA网络市场总监孟庆详细分享了关于DPU和DOCA的最新进展 ,以及DPU黑客马拉松的相关事项 。 

简化开发流程  ,赋能开发者加速创新

为了帮助开发者加速基于NVIDIA BlueField DPU的开发 ,NVIDIA于2020年秋季正式推出了NVIDIADOCA 1.0 。

众所周知 ,NVIDIA DOCA 是一个为 BlueField DPU 量身定做的软件开发框架 ,主要目的就是为开发者打造一个全面 、开放的源码下载开发套件,支持广大的开发者在 BlueField DPU 上进行简单、灵活的软件开发,让开发者可以快速创建BlueField DPU 加速的  、高性能应用程序和服务。

自发布之后 ,NVIDIA DOCA经历了多次的升级,并也今年5月份正式推出了DOCA 1. 3 。NVIDIA网络专家崔岩告诉记者  ,DOCA 1.3提供了121个新的API开发接口及一些全新的和增强的源码库功能 ,包括优化数据流插入的DOCA Flow库、通信通道库、正则表达式库以及App Shield SDK和基于OVN的IPSec完全加密卸载,以及DOCA新增和增强的服务等。 

据介绍,DOCA依托于面向未来、API驱动的思维模式而构建  ,可让 BlueField DPU 硬件加速器变得易于使用,从而实现非凡的数据中心性能、效率和安全性 。高防服务器

对于开发者而言,DOCA 能够让他们利用行业标准 API 在 BlueField DPU 上快速创建应用程序和服务(类似于 GPU 的 CUDA)。它能解锁数据中心创新功能,并且能更好的向下平滑兼容持续演进的新一代 BlueField DPU,包括今年下半年上市的 BlueField-3 DPU和未来的 BlueField-4 DPU  。

NVIDIA网络市场总监孟庆表示,DOCA 可以加快应用程序和服务的上市时间 ,使客户和合作伙伴在各自的行业竞争中取得成功,并基于BlueField DPU 的应用场景方面发挥着关键的灵魂作用。

孟庆强调 ,DOCA是DPU的灵魂,二者不能分开。因此 ,DPU+DOCA软硬皆施才是DPU最好的市场形态。对于硬件来说 ,DPU可以作为单独的芯片或者作为DPU卡 ,也可以作为额外的芯片集成在GPU或者CPU里,这就需要根据用户需求 ,为相应的使用场景来定制 。

探索更多场景,推进DPU在应用中的落地

为了探索更多DPU场景,NVIDIA正在通过一系列的举措 ,加速DPU的应用落地。

在生态建设方面 ,NVIDIA BlueField DPU已经作为核心部件应用到NVIDIA认证系统中  ,包括HGX 、EGX和OVX,并为认证系统平台提供加速的以太网或InfiniBand解决方案。同时 ,连接 NVIDIA Spectrum 端到端以太网平台或 QuantumInfiniBand网络平台 ,为现代数据中心工作负载提供所需的精确定时 、极致的性能 、高级的安全性和强大的功能 ,成为构建 AI 工厂的核心骨干网络 ,有力支撑上层系统软件 、高性能计算、人工智能和虚拟仿真平台应用。

为了帮助开发者更好的学习和应用DPU ,NVIDIA还组织举办了DPU中国黑客松竞赛 。首届竞赛也于近期正式落幕,60多支队伍报名参赛 ,并发布自己的作品 。

本次采访中,来自高校的DPU开发者胡效赫也分享了他所在团队的参赛经验与成果 。据介绍,胡效赫的开发团队提出了“DeepTrace”项目 ,面向DPU驱动的基础设施网包级函数粒度业务可观测性。该项目以DOCA提供的网流及粗粒度可观测性为基础,利用DOCA中的Netflow API库,结合DPU的高性能网络处理功能(ASAP2网包分类引擎),以及DOCA中的Flow API库、数据平面和控制平面的可编程能力,将可观测性的力度提升至网包级 ,并精确到每个函数功能。同时,实现了可以忽略不计的性能损耗 。

崔岩指出 ,DPU 中国虚拟黑客松竞赛可以更好的激发 DOCA 开发者的创新  ,在 NVIDIA BlueField DPU 和 NVIDIA DOCA 应用场景方面给我们带来一些启发,比如在分布式存储 、数据流跟踪分析、裸金属云管理 、RDMA数据包加解密等 。他表示 ,通过本次竞赛 ,以及未来的黑客松竞赛,给开发者带来一个更好地学习氛围 ,帮助大家学习、熟悉DPU和DOCA应用场景 ,掌握编程方式 。同时 ,通过和别的队伍同场竞技,互相学习和参考,获得更大启发 。

据了解,NVIDIA正在计划今年下半年的第二届 DPU 中国虚拟黑客松活动 ,并在第二届活动中为广大的 DOCA 中国开发者提供为 DPU 中国虚拟黑客松训练营,为他们提供最新的 DPU 和 DOCA 发布信息,随后会组织 DPU 中国虚拟黑客松竞赛。

除此之外 ,NVIDIA 授权合作伙伴DPU和DOCA 卓越中心也在为DOCA中国开发者提供在线实践的免费DOCA开发环境,并与NVIDIA一起构建和拓展 DPU 和 DOCA生态体系;与NVIDIA 共同推动 DOCA 中国开发者社区的发展 ,提供培训课程和专业讲师,组织DOCA 中国开发者社区活动 ,支持DOCA 开发者训练营和 DPU 黑客松竞赛。

copyright © 2025 powered by 创站工坊  滇ICP备2023000592号-21sitemap