欧洲领导者采用NVIDIA Vera CPU建设本地基础设施
European Leaders Turn to NVIDIA Vera CPUs to Build Local Infrastructure
NVIDIA Vera CPU凭借其高性能和节能特性,帮助AI云提供商、服务器制造商、数据处理公司、软件和开发者平台公司以及云沙盒提供商提升计算能力和效率,支持自主计算和AI代理的快速发展,满足企业和开发人员的不断增长的计算需求。
Nebius 和 Nscale 是寻求使用 NVIDIA Vera CPU 构建下一波基础设施的全球技术合作伙伴之一。
他们的势头反映了自主计算的快速发展。
代理不仅生成答案:它们检索信息、运行软件工具、执行代码和评估结果。每一步都需要快速 CPU 处理。
Vera 加速了这项工作,帮助代理更快地响应,并使数据中心能够更好地利用计算能力。Vera 是 设计用来保持这种速度 即使同时运行数千个任务,帮助组织在不牺牲响应速度的情况下扩展服务。
建设欧洲的计算能力
AI 云服务提供商 Nebius、 Nscale 和 Verda 正在使用 Vera 来满足企业和开发者的不断增长的计算需求。高性能、节能的 CPU 帮助这些提供商扩展服务背后的数据处理和软件执行,以及运行模型的 GPU。
更广泛的自主 AI 生态系统还包括 Aleria,一家自主 AI 基础设施和平台提供商,支持对保持数据和运营在客户控制之下的基础设施的需求。
更多使用 Vera 的方式
服务器制造商 Bull、 Dell Technologies、 HPE、 Lenovo 和 Supermicro 正在构建基于 Vera 的系统,为客户提供更多高性能计算和 AI 数据中心的部署选项。Vera 可以为独立 CPU 服务器供电或在加速系统中与 NVIDIA GPU 协同工作,支持不同的工作负载和部署需求。
数据处理公司 ClickHouse、 Cloudera、 Duck Labs、 Elastic、 Polars、 Redpanda、 SAP 和 Starburst 在早期测试中观察到 Vera 在分析、提取转换和加载以及语义搜索工作负载上表现优异。Vera 的每核性能、LPDDR5X 内存带宽和 NVIDIA 可扩展一致性互连有助于实现全面的性能提升。
软件和开发者平台公司Atlassian, Inherent 和 Nous Research 正在采用Vera,用于AI代理与开发人员和研究人员的协作环境。Atlassian 正寻求使用Vera来加速构建其AI产品语义搜索索引的数据处理;Inherent 已测试Vera,并计划在AI代理与工程师进行新型科学研究的环境中采用它;而Nous Research 使用Vera来验证代理身份并在执行前验证每个操作,随着代理舰队的增长,保持部署安全。
Baseten-Blaxel, Daytona, E2B, Modal, Prime Intellect 和 Vercel 提供基于云的沙箱,这些沙箱作为AI代理的计算机,并正在基于Vera构建基础设施,代理依赖这些基础设施来执行代码、运行工具和测试结果。
每个代理需要一个安全的、隔离的沙箱,可以立即配置,并且由于沙箱每天启动数百万次,每个单独的启动周期的速度在规模上会累积。Vera的快速每核性能和高带宽内存使其非常适合这种模式,为沙箱提供商提供了不仅能够启动沙箱,而且能够在最大规模下无间断运行代理工作负载的吞吐量。
了解更多关于NVIDIA Vera CPU的信息。
来源:NVIDIA Blog · blogs.nvidia.com