OpenAI推出GPT-6 Cyber AI模型

OpenAI 推出了专门用于寻找软件安全漏洞的人工智能模型 GPT-6 Cyber。

OpenAI 表示该模型可以发现漏洞、构建可用的利用程序并建议补丁。它还应该在其指定的边界内运行，而一些 OpenAI 模型在过去几个月中 在这方面遇到了困难。

该公司表示，它训练 GPT-6 Cyber 以尊重其操作护栏，其中使用了受 Hugging Face 事件 启发的蜜罐等技术。在没有特殊安全指令的情况下，GPT-6 Cyber 在 99.93% 的情况下避免了越界行为，而其前身这一比例为 94.49%。启用安全指令后，该模型在所有测试中都保持在边界内。总体而言，OpenAI 将 GPT-6 Cyber 评为其 准备框架 中网络安全类别下的“关键”级别，这与它给予 GPT-6 Astra，“基础”模型 的评级相同。

在 ExploitGym 这个测试模型是否能在远程系统中利用给定漏洞的基准测试中，OpenAI 表示 GPT-6 Cyber 得分为 48.5%，而其前身 GPT-5.6 Cyber 的得分为 32.1%。在针对无源代码访问权限的 Web 应用漏洞发现的新测试中，OpenAI 报告命中率为 40.3%，而标准模型 GPT-6 Astra（无网络安全训练）的命中率为 32.0%。

完整结果可在 系统卡 中找到。所有基准测试数据均来自 OpenAI 本身。迄今为止，尚未发布该模型的独立测试结果。

GPT-6 Cyber 已经在 Firefox 和 Linux 内核中发现了真实漏洞

OpenAI 表示，GPT-6 Cyber 已经在现实世界的网络安全研究中产生了成果。在一次定向活动中，该模型在 Firefox 中发现了 81 个先前未知的严重漏洞，尽管该浏览器已经用早期的 AI 模型进行了测试。该模型还表明，30 个已知问题比之前认为的更严重。Mozilla 接受了这些报告，并已经发布了修复程序。

在 Linux 内核中，GPT-6 Cyber 复现了 1,724 个安全漏洞，并为其中的 948 个开发了可用的利用程序，这是 GPT-5.6 Sol 在相同条件下管理的 166 个的五倍多，OpenAI 表示。304 个严重问题连同建议的修复程序已报告给 Linux 维护人员。

针对 Linux 内核活动，OpenAI 构建了一个专门的自动化侦察和分析代理系统。它们首先扫描了内核中大约 5,034 个与安全相关的位置，约占整个代码库的七分之一，然后将这些位置筛选为 2,308 个候选者，并在隔离的虚拟机中确认了 1,724 个漏洞。从那时起，该系统开发了 OpenAI 已报告的 948 个可用的利用程序。根据 OpenAI 的计算，整个运行成本为 1,213,430 美元的计算资源，即每个利用程序 1,279 美元。相比之下，像 Pwn2Own 和 TyphoonPWN 这样的程序历史上每找到一个类似的问题就支付 20,000 到 70,000 美元作为悬赏。

OpenAI 表示，这些代理至少使用了十种以前连外部内核安全专家都未知的全新攻击技术。在 OpenAI 的说法中，模型复制了已知的攻击模式，但也找到了自己的方法。这种说法的分量取决于你对“自己的方法”定义有多狭窄。研究人员仍然不同意 人工智能模型是否真的能做出新发现，还是仅仅重新组合训练期间所见的内容。

OpenAI 目前仅向选定的客户开放访问权限

根据 OpenAI 的说法，GPT-6 Cyber 通过 API 和 Codex 首次向选定的 Daybreak Red 客户提供，并将逐步扩展到所有 Daybreak Red 客户。GPT-5.6 Cyber 同时向所有 Daybreak Red 用户开放，GPT-6 Astra 的 Daybreak Blue 测试版将扩展到更多组织和个人安全研究人员

OpenAI 承认，随着模型能力的增强，滥用尝试也在增加。一些行为者和团体试图将模型能力转移到他们自己的系统中

OpenAI 列出了几种反制措施：验证模型行为是否与用户权限匹配的检查、针对新披露漏洞的定向监控、通过其所谓的“私有安全处理”进行的自动安全检查、针对 Daybreak Red 的基于 IP 的访问限制，以及建议在有人监督的隔离环境中运行模型

OpenAI 正特别关注保护电力厂和污水处理厂等关键基础设施。为了使防御者更容易访问，该公司指出其数十亿美元的 “前线防御者 Daybreak” 资助计划，以及一个名为“关键基础设施 Daybreak Red”的新子组，用于授权测试

OpenAI 谈到了一个有限的窗口期，在这个时期内，顶级模型可用于保护软件。目标是扩展 Daybreak 计划到所有规模的组织、独立研究人员和开源维护者。这能否真正奏效是另一个问题。Epoch AI 的研究人员刚刚表明，开源 GLM 模型可能利用了已知但尚未修复的 Firefox 漏洞

无浮夸的 AI 新闻 – 由人类编辑

订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻、我们独有的“AI 雷达”前沿报告（每年六次）、完整档案访问以及访问我们的评论区。