NVIDIA扩展Agent Toolkit，企业级代理落地公司数据

代理人的价值取决于他们所知，可信度则取决于他们运行的边界。

领先企业正在使用开放源代码的 NVIDIA Agent Toolkit——现已扩展了新工具——来定制和控制代理人，使用公司数据来指导他们的答案和行动，监控他们的行为并管理他们的运营。

NVIDIA Agent Toolkit 包括：

新的 NVIDIA Agent Knowledge Foundation 与 NVIDIA CUDA-X 库
NVIDIA 开源模型，包括 Nemotron Retriever 和新的 Kumo 系列
NVIDIA OpenShell 安全代理人运行时
NVIDIA NemoClaw 安全代理人蓝图
工具和技能，如 NeMo Relay 和 NeMo Compass

为了开发能够完成实际工作并在开发到部署的整个过程中保持可信度的代理人，构建者需要一个开放的代理人堆栈，将模型、 harness、运行时、数据和工具整合在一起。

NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为代理人可以利用的公司智能。代理人可以找到相关信息，了解其对业务的意义，并使用它来做出预测，帮助人们决定下一步该做什么。公司可以使用 Agent Knowledge Foundation 而无需移动数据、重建现有工作流程或更改治理控制。

该基础功能包括 NVIDIA CUDA-X 库，包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS，以及新的 Auto-Ontology 库，它将原始公司数据转换为熟悉的企业概念——如客户、产品和订单——并映射它们之间的关系。

它还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开源模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——这些模型帮助代理人找到相关的公司信息来回答问题和做出预测。

OpenShell 提供安全的运行时边界，使企业能够控制代理人可以访问和执行的内容。NVIDIA NemoClaw 蓝图提供构建安全、专业代理人的参考设计。最新的 NemoClaw 蓝图用于代理人优化，为提高代理人智能提供了一个逐步的起点——随着时间的推移，使他们在工作中表现更好。

企业采用 NVIDIA Agent Knowledge Foundation

新的 NVIDIA Agent Knowledge Foundation 已经在各个企业中投入使用。

通过 Palantir， NVIDIA 的供应链组织正在使用 Agent Knowledge Foundation 通过 Palantir Foundry、Ontology 和 AIP 部署专业代理人，从专有数据中创建可操作的智能，预测结果并优化决策。

Databricks 与 NVIDIA Kumo Anomaly 配合使用 Databricks Genie Ontology，为上下文感知代理人提供动力。

Snowflake 正在帮助客户在其 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型，以解锁更多预测功能。

NVIDIA Nemotron Retriever 模型使搜索更快、更准确。使用嵌入模型， Amazon OpenSearch Service 通过更少的搜索步骤提高了相关性，且几乎没有任何额外的延迟。 SAP’s 微调的 reranker 运行速度提高了近 3 倍。 ServiceNow 在降低延迟近四分之一的同时提高了 reranking 质量。 Zoom 正在使用 Nemotron Retriever 模型来提高 Zoom AI 服务中文档理解、搜索相关性和上下文检索能力。

Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也都在构建 Agent Knowledge Foundation。

通过参加这个 GTC Berlin 关于在生产环境中构建、部署和优化专业代理的研讨会 了解更多。

阅读所有欧洲地区的 NVIDIA 宣布