AI生物武器将至，封闭模型非解法

腾讯的AI首席科学家警告说，人工智能很快就能开发生物武器，而完全开放或完全关闭的模型都无法单独解决这个问题。 在开放与封闭的人工智能模型辩论中，曾就职于OpenAI的姚舜宇主张一个中间立场，据《南华早报》报道，混合开源和闭源可以让每个人使用这项技术进行防御。 然而，在生物学中，进攻和防御能力比网络安全中更难区分。 由于中美模型的差距并不大，姚舜宇敦促整个行业谨慎行事。 姚舜宇表示，Anthropic和其他美国公司已经为封闭模型做出了强有力的论点，但他也看到了开放模型的优势。

他以Hugging Face的一次黑客事件为例：当美国封闭模型如Anthropic的Claude因安全过滤器拒绝分析攻击命令时，该平台使用了中国的开源模型GLM-5.2来解析日志。 Hugging Face报告支持了姚舜宇的例子，但也展示了其局限性。 GLM-5.2仅在法医分析期间使用。 实际攻击是在安全团队修补了被利用的漏洞、重建了受影响的服务器并旋转了凭证时停止的。 Hugging Face还强调，该事件并不是反对托管模型上的安全过滤器的理由。

在7月，Anthropic是唯一一个没有签署由英伟达支持的警告过早限制开源模型的信件的主要人工智能实验室。 CEO Dario Amodei特别反驳了开放模型比攻击者更有利于防御者的说法。 他认为它们潜在的风险更大，因为安全机制难以执行，并且发布的模型权重无法收回。 尽管如此，Anthropic并不呼吁全面禁止开源模型。 开源模型很容易失去过滤器，而封闭模型往往过滤过于激进。 一种称为Abliteration的技术展示了开源模型安全过滤器的脆弱性。 任何有访问模型权重的都可以使用它来外科手术般地去除训练的拒绝行为。

数千个这些修改后的变体位于Hugging Face上，美国初创公司Abliteration.ai出售对未过滤版本GLM-5.3的访问权限。 当前研究表明，现有的反措施使这些修改更难实现，但并不能阻止它们。 更稳健的方法是在训练模型时从一开始就将其中的危险知识排除在外。 中国也认识到这个问题。 标准机构TC260警告说，开源模型中的安全机制可以被移除或绕过，并正在制定自己的开源人工智能安全标准。 一份出口管制框架涵盖了特别大的模型，但豁免已经发布的开源模型。

中国和美国都没有设定一个有约束力的阈值，超过该阈值就不能发布开源模型。 Anthropic和OpenAI仅通过Project Glasswing和Daybreak等计划与经过审查的合作伙伴分享他们最强大的网络模型。 自Claude Fable 5以来，Claude的过滤器将关于网络和生物学主题的可疑查询路由到较弱的Opus 4.8模型。 根据Artificial Analysis，这最初影响了8%到9%的任务，用户报告说甚至分析MRI扫描也被标记为生物恐怖主义。 Anthropic承认过滤器过于激进。

腾讯计划在接下来的几天内以开源权重发布其新模型Hy4，并附带一份安全报告。 该公司表示，Hy4的生物学能力低于高风险阈值。 腾讯通过过滤训练数据移除了模型的黑客能力，研究人员说这种方法也经得起Abliteration的考验。 腾讯计划在接下来的几天内以开源权重发布其新模型Hy4，并附带一份安全报告。 该公司表示，Hy4的生物学能力低于高风险阈值。