跳到正文
原文
NVIDIA Blog· Hannah Coutand·· 19 天前精选AI 评分85

欧洲领导者采用NVIDIA Vera CPU建设本地基础设施

European Leaders Turn to NVIDIA Vera CPUs to Build Local Infrastructure

AI 摘要

NVIDIA Vera CPU凭借其高性能和节能特性,帮助AI云提供商、服务器制造商、数据处理公司、软件和开发者平台公司以及云沙盒提供商提升计算能力和效率,支持自主计算和AI代理的快速发展,满足企业和开发人员的不断增长的计算需求。

正文 · 清洗整理版

Nebius和Nscale是全球技术合作伙伴中,希望通过NVIDIA Vera CPU构建下一波基础设施的例子。 他们的动力反映了自主计算的快速发展。 代理不仅生成答案,还检索信息、运行软件工具、执行代码和评估结果。 每一步都依赖于快速的CPU处理。 Vera加速了这项工作,帮助代理更快地响应,并使数据中心能够更好地利用计算能力。 Vera的设计旨在即使在同时运行数千个任务时也能保持这种速度,帮助组织在不牺牲响应能力的情况下扩展服务。

AI云提供商Nebius、Nscale和Verda正在使用Vera来支持企业和开发人员不断增长的计算需求。 高性能、节能的CPU帮助这些提供商扩展服务背后的数据处理和软件执行,同时运行模型所需的GPU。 更广泛的主权AI生态系统还包括Aleria,一个主权AI基础设施和平台提供商,支持对保持数据和运营在客户控制下的基础设施的需求。 服务器制造商Bull、Dell Technologies、HPE、Lenovo和Supermicro正在构建基于Vera的系统,为客户提供更多高性能计算和AI数据中心的部署选项。

Vera可以独立为CPU服务器供电,或在加速系统中与NVIDIA GPU协同工作,支持不同的工作负载和部署需求。 数据处理公司ClickHouse、Cloudera、Duck Labs、Elastic、Polars、Redpanda、SAP和Starburst在早期测试中观察到Vera在分析、提取转换和加载以及语义搜索工作负载上表现强劲。 Vera的每核性能、LPDDR5X内存带宽和NVIDIA可扩展一致性Fabric有助于实现全面的性能提升。

软件和开发者平台公司Atlassian、Inherent和Nous Research正在采用Vera,用于AI代理与开发人员和研究人员协同工作的环境。 Atlassian希望利用Vera加速构建其AI产品语义搜索索引的数据处理; Inherent已测试Vera,并希望将其用于AI代理与工程师进行新型科学研究的环境; Nous Research使用Vera来验证代理身份并在执行前验证每个操作,随着代理舰队的增长,保持部署安全。

Baseten-Blaxel、Daytona、E2B、Modal、Prime Intellect和Vercel提供基于云的沙盒,作为AI代理的计算机,并正在构建基于Vera的基础设施,为代理执行代码、运行工具和测试结果提供支持。 每个代理都需要一个安全的、隔离的沙盒,可以立即配置,并且由于沙盒每天启动数百万次,每个单独的启动周期的速度在规模上会累积。 Vera的快速每核性能和高带宽内存非常适合这种模式,为沙盒提供商提供了不仅能够启动沙盒,而且在最大规模下无间断运行代理工作负载的吞吐量。

来源:NVIDIA Blog · blogs.nvidia.com

00