跳到正文
原文
NVIDIA Blog· Uttara Kumar·· 18 天前精选AI 评分72

谷歌云与英伟达推出NVIDIA Vera Rubin基础设施

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

AI 摘要

谷歌云与英伟达宣布NVIDIA Vera Rubin基础设施的通用可用性将于下周到来,并计划扩展到欧洲,为云客户提供集成平台用于训练、推理和大规模强化学习,A5X实例结合了NVIDIA Vera Rubin NVL72、NVIDIA Co。

正文 · AI 翻译

实例的通用可用性将于下月到来,计划扩展到欧洲的可用性——为云客户带来一个集成的平台,用于训练、推理和大规模强化学习。

A5X 实例集成了 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNICs、Google Cloud Virgo Network 和 Google Cloud 的第四代先进液冷技术,用于大规模的、要求苛刻的 agentic 推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展到多达 960,000 个 Rubin GPU,分布在不同地点。

Ineffable Intelligence,一家由 AlphaGo 创始人 David Silver 创立、总部位于伦敦的技术公司,是首批使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并塑造能够从经验中持续学习的“超级学习者”系统。

阅读所有欧洲 NVIDIA 宣布

通过交互学习需要一个不断生成经验、评估结果和更新模型的循环,这需要能够大规模支持整个过程的设施。A5X将Vera Rubin集成到Google Cloud的AI超级计算机中,作为一个集成系统,结合计算、网络和存储,以支持大规模的、以经验驱动的学习。

“我们正在构建能够通过自身经验不断改进的超级学习者,”Ineffable Intelligence 的创始人兼 CEO David Silver 表示。“这既需要大量的计算能力,也需要生成经验与训练之间的紧密连接,以便每个代理的改进能够快速塑造其下一个经验。Vera Rubin 在计算性能和 Vera CPU 与 Rubin GPU 之间以及 rack 内的 Rubin GPU 之间的高带宽连接方面的结合,使我们能够进一步推动强化学习研究的规模和雄心。”

WPP,一家总部位于伦敦的营销和通讯公司,也已在基于 NVIDIA Vera Rubin 的 A5X 实例上,使用 NVIDIA Nemotron 模型和 NVIDIA OpenShell(NVIDIA OpenShell 参考架构的一部分,用于安全的人工智能代理)展示了其创意代理参考架构。

这些代理将对话请求转换为多步骤的创意工作流程,例如视频生成、上采样和重新设计,并在执行前获得人类批准。OpenShell 提供受管理的沙盒,用于代理执行,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群才能运行的工作负载可以在单个 A5X 实例上运行。

随着组织部署 agentic 系统,他们需要保护这些系统赖以运行的专有模型和敏感数据——即使是在他们不拥有的基础设施上运行时。

Google Cloud 将是首批在裸金属实例(如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上提供 NVIDIA 机密计算 的云服务提供商。此外,Google Cloud 还在由 NVIDIA RTX PRO 6000 Blackwell Server Edition 显卡驱动的 G4 虚拟机上提供机密计算 通用支持,为机密推理和微调提供灵活的平台。包括 Vertebrae、 Polaris Cloud 和 Confidential Core AI 在内的客户正在使用 Confidential G4 进行对话隐私保护、可验证代理执行和受策略管理的企业智能。

为支持大规模节能部署,Google Cloud 和 NVIDIA 正在探索 NVIDIA DSX MaxLPS 能力,用于基于 Vera Rubin 的基础设施,以帮助优化每瓦性能并扩展数据中心可用电源预算内的容量。

了解更多 关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。

阅读所有欧洲 NVIDIA 宣布

来源:NVIDIA Blog · blogs.nvidia.com

00