(CWW)2023年,整个科技界最令人兴奋的莫过于ChatGPT引发的生成式AI风潮以及NVIDIA市值破万亿美元,前者打开了人们对未来的想象,而后者成为第一个破万亿美元的芯片公司。二者几乎同时双双登上人类科技发展的浪潮之巅绝非偶然。从某种程度上,NVIDIA创始人黄仁勋所言“AI的iPhone时刻”,正是GPU和生成式AI相遇的十字路口,这个路口人们能看到什么,取决于这些技术从哪些角度切入,如何重新定义未来。
(资料图片)
而最近,NVIDIA与软银公司的一项合作,或是揭开了AI驱动无线通信时代的序幕。这一合作的要义是,双方正在打造一个基于NVIDIA GH200 Grace Hopper™超级芯片、面向生成式AI和5G/6G应用的开创性平台。软银计划在日本各地的全新分布式AI数据中心采用该平台。
AI赋能数据中心
在AI时代,算力相当于发动机,其越强劲,所能吞吐的“燃料”(即数据)也就越多,而算法就相当于发动机和变速箱的匹配,越精密协调,发动机的热效率(即输出的AI能力)就越高。NVIDIA与软银的合作,为全球范围内快速部署生成式AI应用和服务铺平了道路,软银将打造能够在多租户通用服务器平台上托管生成式AI和无线应用的数据中心,以降低成本和更节能,相当于软银的AI数据中心得到了AI的加持,其对外输出算力也就会更智能,更有保障。
据了解,该平台将使用全新NVIDIA MGX™参考架构和基于Arm Neoverse的GH200超级芯片,有望提高应用程序工作负载的性能、可扩展性和资源利用率。相比以往的数据中心,这些新数据中心的分布将更加均衡,并能够同时处理AI和5G工作负载。这将让它们更好地保持峰值运行,同时保持低时延并大幅降低总体能源成本。软银正在为自动驾驶、AI工厂、增强现实和虚拟现实、计算机视觉和数字孪生开发5G应用。
一言以蔽之,软银瞄准了一系列能够重塑和定义未来的新技术,而这些需要有超强算力的NVIDIA芯片的加持才能发生“化学反应”,而软银公司总裁兼首席执行官Junichi Miyakawa的表态也呼应了这一点。他表示:“随着我们进入一个社会与AI共存的时代,对数据处理和电力的需求将不断增长。软银将提供下一代社会基础设施,以支持日本的超级数字化社会。与NVIDIA的合作将帮助我们的基础设施利用AI实现更高的性能,包括对RAN的优化。我们期待这也可以帮助我们降低能耗,创建一个互连的数据中心网络,用于共享资源并托管一系列生成式AI应用。”
对生成式AI的需求正在推动数据中心架构发生变革
一直以来,降低数据中心的能耗是科技界和产业界的共同诉求。以中国为例,数据显示,预计到2025年,数据中心用电量将占全社会用电量4.1%,是十足的用电大户。而AI、5G等新兴技术的爆发式应用,在获得更高性能和更丰富体验的同时,也将为数据中心的能耗带来巨大挑战,NVIDIA和软银的合作,也是对这一挑战的未雨绸缪。
NVIDIA从早期一家图形处理芯片公司一跃成为AI行业“一哥”,与其精准把握时代的需求息息相关。显然,这一次NVIDIA判断,世界的电信网络需要承载生成式AI服务,通过NVIDIA Grace Hopper这一革命性的计算平台,软银将在全球电信行业竖起一面旗帜。
NVIDIA创始人兼首席执行官黄仁勋表示:“对加速计算和生成式AI的需求正在推动数据中心架构的根本性变革。NVIDIA Grace Hopper是一个革命性的计算平台,专为处理和扩展生成式AI服务而设计。与以往富有远见的其它举措一样,软银正在引领世界创建一个电信网络来承载生成式AI服务。”
今年3月,NVIDIA在一项针对全球400多名电信行业专业人士的“电信行业AI现状”调研中发现,73%的电信人认为AI是能够帮助增加收入、改善运营和可持续性或提高客户维系率的工具。同时,电信公司将AI带来的效率提升视为获得投资回报的有效途径。很明显,以5G为代表的网络连接,从网络调用到网络维护,人力面对越来越多、越来越大的挑战,而AI将是网络性能最大化、网络运营成本最低化的“关键先生”。
虚拟RAN的吞吐量破纪录,大幅提升5G基站能效
在和软银的合作中,NVIDIA提供的解决方案NVIDIA Grace Hopper和NVIDIA BlueField®-3 DPU将加速软件定义的5G vRAN以及生成式AI应用,而无需定制硬件加速器或专用5G CPU。此外,配备BlueField-3的NVIDIA Spectrum以太网交换机将为5G提供高精度时间同步协议。
该解决方案在NVIDIA加速的1U MGX服务器设计上实现了突破性的5G速度,根据公开的5G加速器数据,它实现了业内吞吐量最高的36Gbps下行链路容量。
NVIDIA MGX是一个模块化参考架构,让系统制造商和超大规模企业客户能够快速、经济地构建100多种服务器机型,适用于各种AI、HPC和NVIDIA Omniverse™应用。
通过将NVIDIA Aerial™软件引入到高性能的软件定义的云原生5G网络中,这些5G基站将允许运营商动态分配计算资源,并实现2.5倍的能效提高。
NVIDIA的芯片基于Arm架构,Arm对基于Arm架构的NVIDIA超级芯片和BlueField-3 DPU带来革命性的架构自然也有发言权。Arm首席执行官Rene Haas表示:“生成式AI的未来发展需要高性能、节能的计算,就像NVIDIA 基于Arm Neoverse的Grace Hopper超级芯片那样。结合NVIDIA BlueField DPU,Grace Hopper使软银新的5G数据中心能够运行最苛刻的计算和内存密集型应用,并为Arm上的软件定义5G和AI带来指数级的能效提升。”
可以预见,NVIDIA联手软银,意味着AI驱动通信的时代或将到来。这既是软银数据中心的一次革新,也是NVIDIA为电信行业注入AI动能的最新创举,更是全球电信行业面向生成式AI的一场技术预演,其价值将历经一个长期释放的过程。