跳到正文
原文
NVIDIA Blog· Stuart Pitts·· 2026-09-30精选AI 评分60

NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产,Cognition 为首家客户

From Training to Production, NVIDIA and CoreWeave Close the Loop on Agentic AI

AI 摘要

CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用,成为首批交付该平台的云厂商之一,Cognition 是首个在生产环境运行 Vera Rubin 的客户。

正文 · AI 翻译

基于近十年的协同工程经验,CoreWeave 将 NVIDIA 的计算、网络和软件构建到一个专为 AI 打造的云平台中,该平台在跨越数代部署后仍能持续带来投资回报。如今,CoreWeave 正将下一代 NVIDIA 基础设施投入生产。

本周在旧金山举行的 CoreWeave Fully Connected 大会上,CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网网络正式可用。Devin AI 软件工程师背后的应用 AI 实验室 Cognition 是首个在 Vera Rubin 上运行生产工作负载的客户。 

CoreWeave 还将提供 NVIDIA Vera,这是首款专为 AI 智能体打造的 CPU。此外,CoreWeave 推出了 CoreWeave Forge,这是一个互联环境,用于在 NVIDIA 加速计算上训练、评估和改进模型与智能体。

“NVIDIA 加速计算在每一代产品中都持续创造价值,”NVIDIA 超大规模与高性能计算副总裁 Ian Buck 表示。“Volta 发布近十年后,CoreWeave 的 NVIDIA V100 GPU 仍在运行客户工作负载,与此同时 CoreWeave 正将 Vera Rubin NVL72 投入生产。这正是 NVIDIA 平台的优势:基础设施能够持续多年创造价值,并具备将合适的 GPU 用于合适工作负载的灵活性。”

Cognition 在 Vera Rubin NVL72 上运行,Token 吞吐量提升 4.8 倍

Cognition 在 CoreWeave 上为 Devin 运行训练、强化学习和生产推理。该公司在九个月内于 CoreWeave 上扩展到数千块 GPU,为 Cognition 的推理工作负载提供支持。

本月早些时候,CoreWeave 收到了首批 Vera Rubin NVL72 生产机架。不久之后,Cognition 使用真实软件工程工作负载,将 Vera Rubin 的推理性能与 GB200 NVL72 基线进行了基准测试。为生成该工作负载,它从 FrontierCode 中抽取了一部分任务,并部署 AI 智能体来解决这些任务。  

在早期测试中,Cognition 发现 Vera Rubin NVL72 在 SWE-2 推理工作负载上的总 Token 吞吐量相比 GB200 NVL72 最高提升 4.8 倍。对于 Devin 而言,这些提升意味着更快的实时代码生成和更灵敏的多步推理。

“智能体编程是一种复杂的工作负载:长上下文、高并发以及 Token 量巨大,每 Token 成本决定了我们能交付什么,”Cognition 创始团队成员 Silas Alberti 表示。“将这一切放在一个平台上,并有 NVIDIA 和 CoreWeave 的工程师与我们一起攻克难题,对我们来说比任何单一规格都更重要。”

CoreWeave 宣布 NVIDIA Vera Rubin 在 CoreWeave Cloud 上可用

CoreWeave 宣布 NVIDIA Vera Rubin NVL72 在 CoreWeave Cloud 上可用,使其成为首批将该平台交付到客户手中的云服务提供商之一。

早期访问客户可以在 CoreWeave Cloud 上快速利用 NVIDIA 全栈 AI 工厂平台的性能。CoreWeave 在数天内为 Cognition 搭建了一个生产级 Vera Rubin 集群,这得益于 NVIDIA 与 CoreWeave 从基础设施到所服务 Token 的全栈协同设计与合作。 

容量可通过 CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes 和 CoreWeave Inference 进行操作。 

NVIDIA Vera CPU 即将登陆 CoreWeave 云,测试显示智能体沙箱启动速度提升超过 3 倍

智能体 AI 从两个方向对基础设施施加压力:服务智能体需要大规模的低延迟计算,而通过后训练改进它们则需要同时运行数千个隔离环境。

NVIDIA Vera CPU 专为智能体工作负载而打造。对于智能体 AI 而言,一项关键性能指标是能够同时运行多少个隔离的智能体环境,以及随着这一数量的增长,每个环境能保持多高的一致性和性能。 

CoreWeave 对 Vera 的部署在单个机架中放入 128 个 CPU 和 11,264 个核心,足以支持超过 11,000 个各占一个核心的并发环境。借助 CoreWeave Sandboxes,这些环境实现硬件隔离,并与它们所支持的训练任务并行运行,Spectrum-X 以太网交换机和 BlueField-4 DPU 确保安全、高性能、安全的智能体通信,且延迟低。 

在测试中,CoreWeave 在 NVIDIA Vera CPU 上实现了超过 3 倍的智能体沙箱启动速度提升,加速并扩展了其沙箱——这是一种用于强化学习(RL)、智能体工具使用和模型评估的执行层,让 AI 团队能够在 CoreWeave 上的隔离环境中运行代码。在 Terminal-Bench 上,CoreWeave 在所有通过任务中看到 Vera CPU 带来 1.7 倍的性能提升。

CoreWeave Forge:闭合从生产回到训练的 AI 循环

模型和智能体通过运行一个循环来改进:生产行为为下一次训练运行提供信息,而每一次评估都会打磨下一个版本。这一循环历来分散在不同供应商的工具中,每次交接都会丢失信号。

CoreWeave Forge 将 Weights & Biases、来自 OpenPipe 的后训练专业知识以及开源 marimo notebook 项目统一在一个互联环境中,专为持续的模型和智能体改进而构建。它跨模型、框架和云保持开放。

现已推出和扩展的新功能包括:

  • CoreWeave ARIA ——现已正式可用——帮助用户在 AI 循环中学习、研究、编码和迭代,分析运行、提出实验建议、推荐代码更改并将其存储在 GitHub 中,并带回可操作的证据,用于分析实验数据、揭示驱动变化的因素并提出下一步要运行的实验。
  • CoreWeave Agent Lens ——一项新服务——将生产智能体可观测性转化为持续改进和可理解的洞察。它将故障检测提升了 20%,并以一半的成本修复问题,从而将数千万条生产智能体追踪转化为推动修复的洞察。
  • CoreWeave Sandboxes——现已正式可用——让用户在隔离的 CPU 或 GPU 执行环境中运行智能体、工具调用、RL 和评估,可运行在无服务器基础设施上,也可运行在他们已经用于训练的基础设施上,为每一次智能体工具调用、RL 运行或评估提供全新、隔离的环境。
  • 后训练提升模型质量并降低延迟与成本,利用用户自己的生产信号,无需训练集群。 无服务器监督微调和 无服务器强化学习让用户可以用自己的训练配方进行实验。无服务器强化学习的训练速度比自管理方案快 1.4 倍,成本低 40%。

NVIDIA Dynamo是面向 AI 工厂的开源推理框架,为 CoreWeave 的托管推理服务以及 RL Rollouts 提供支持,后者现已进入私密预览阶段。RL Rollouts 可在实时部署运行期间加载新检查点,因此强化学习无需重新部署即可持续进行,后训练也能获得与生产环境相同的推理效率。

Canva、Capital One 和 MasterClass 是首批基于 Forge 构建的公司。

NVIDIA Nemotron开放模型为 Forge 上的团队提供了一条直接路径,可为智能体工作流定制和部署推理与多模态模型。

从初创公司到全球企业,成效有目共睹

AI 实验室、AI 原生公司和全球企业正在使用 NVIDIA 与 CoreWeave 联合设计的平台,更快地从原型走向生产。 

在医疗领域,Ennoble Care 是一家居家护理服务提供商,为遍布 15 个州的约 50,000 名高需求 Medicare 患者提供服务,其选择 CoreWeave 来运行临床 AI 推理。它将利用 CoreWeave Kubernetes Service 上预留的 NVIDIA RTX PRO 6000 GPU 容量,扩展用于临床文档、决策支持和后台自动化的 AI 智能体。

CoreWeave 在每一轮训练和推理中都交付了创纪录的 MLPerf 成绩。它是唯一在 SemiAnalysis ClusterMAX 1.0、2.0 和 3.0 中均获得白金评级的云服务提供商,并为 10 家领先 AI 实验室中的 9 家提供服务。

NVIDIA 与 CoreWeave 携手为客户提供一个平台,将实验性智能体转化为生产系统,用于编写软件、支持临床医生并在现实世界中完成有用的工作。

欢迎参加 CoreWeave Fully Connected 上的 NVIDIA 会议、演示和研讨会,了解更多。

来源:NVIDIA Blog · blogs.nvidia.com

00