谷歌云与英伟达推出NVIDIA Vera Rubin基础设施

下周将提供通用可用性，计划扩展到欧洲——为云客户带来用于训练、推理和大规模强化学习的集成平台。 A5X实例结合了NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNICs、Google Cloud Virgo网络和Google Cloud的第四代先进液冷技术，用于大规模的强代理推理和强化学习工作负载。 Google Cloud计划将其基于Vera Rubin的基础设施扩展到多达960,000个Rubin GPU，分布在多个地点。

Ineffable Intelligence是首个使用A5X的客户，该公司由AlphaGo创始人David Silver创立，正在使用该平台推进大规模强化学习和塑造“超级学习者”系统，这些系统可以从经验中持续学习。 通过互动学习需要一个不断生成经验、评估结果和更新模型的循环，需要能够大规模支持整个流程的基础设施。 A5X将Vera Rubin集成到Google Cloud的AI超计算机中，结合计算、网络和存储，以支持大规模的体验驱动学习。

“我们正在构建通过自身经验不断改进的超级学习者，”Ineffable Intelligence创始人兼CEO David Silver表示。 “这需要大量的计算能力和紧密连接生成经验和在它上面进行训练，以便代理的每次改进都能快速塑造其下一个经验。 Vera Rubin在计算性能和高带宽连接方面的结合，在Vera CPU和Rubin GPU之间，以及在同一机架内的Rubin GPU之间，使我们能够进一步推动强化学习研究的规模和雄心。

”WPP是一家伦敦的营销和传播公司，也在使用基于NVIDIA Vera Rubin的A5X实例展示了其创意代理参考架构，使用NVIDIA Nemotron模型和NVIDIA OpenShell，这是NVIDIA OpenShell参考架构的一部分，用于安全的人工智能代理。 这些代理将对话请求转换为多步骤的创意工作流程，如视频生成、升级和重新设计，并在执行前获得人类批准。 OpenShell为代理执行提供受管理的沙盒，帮助控制对敏感品牌资产和创意工具的访问。

在WPP的初步测试中，通常需要多节点集群的工作负载可以在单个A5X实例上运行。 随着组织部署代理系统，他们需要保护这些系统赖以运行的专有模型和敏感数据——即使是在他们不拥有的基础设施上。 Google Cloud将成为首批在裸金属实例（如由NVIDIA GB300 NVL72驱动的A4X Max实例）上提供NVIDIA机架级保密计算云服务提供商之一。

此外，Google Cloud还在由NVIDIA RTX PRO 6000 Blackwell Server Edition GPU驱动的G4 VM上提供保密计算通用可用性，为保密推理和微调提供灵活的平台。 包括Vertebrae、Polaris Cloud和Confidential Core AI在内的客户正在使用Confidential G4进行对话隐私、可验证代理执行和受政策管理的企业智能。

为了支持大规模的节能部署，Google Cloud和NVIDIA正在探索NVIDIA DSX MaxLPS功能，用于基于Vera Rubin的基础设施，以帮助优化每瓦性能并在可用数据中心电源预算内扩展容量。