AnthropicCEO自曝雪藏Mythos4个月
Anthropic CEO长文硬刚!自曝雪藏Mythos 4个月,为AI安全自断财路
AnthropicCEO达里奥在X上发文回应外界对其AI安全质疑,首次透露被训完的Mythos级高级模型被雪藏约四个月才向公众开放,并列举了公司过去一年因安全主动亏掉的钱款,同时承认在生物风险测试中为减少漏判接受了大量误判


凌晨的硅谷,空气里满是火药味。Anthropic掌门人达里奥罕见地在X上破防,亲自扔出一篇近千字的硬核长文,正面回击外界对Anthropic最诛心的一句质疑——你们所谓的AI安全,是不是只是一块用来疯狂敛财的遮羞布?达里奥首次透露,一个已被训完的Mythos级高级模型,被雪藏了大约四个月,才允许公众触碰。他把自己公司过去一年里因为安全而主动亏掉的钱,一笔一笔摊在了台面上。选择等待,很可能让Anthropic牺牲了原本数月领先优势中的相当一部分。

这一次,把达里奥逼出原形的,是AI安全领域知名调查员Nathan Calvin。几小时前,Calvin的一篇千字檄文,瞬间引爆了整个AI圈。他拉出了一张长长的清单,刀刀见血地细数了Anthropic过去一年的九宗罪。Calvin的潜台词极其辛辣,别装了,你们只想赶在所有人面前造出超级智能!

这场论战的导火索,原本是一份周末流出的联邦AI安全法案草案。Calvin和几位政策研究者在读完草案后感到愤怒,认为Anthropic在幕后推动的这份法案看起来像是在呼吁监管,实则暗藏玄机——它不仅试图架空各州更严厉的法律,还给联邦政府叫停危险AI设定了极高的门槛。
面对几乎要把公司道德根基掀翻的指控,达里奥没有躲。在回应的开头,达里奥先展现了一把高情商,感谢了Calvin的监督,但客套完他直接拔刀了。紧接着,他一口气晒出了九笔让无数硅谷投资人看了都会心梗的“自残式操作”。
神级模型到手,硬生生雪藏4个月这是整篇长文中,信息量最大的一个猛料。达里奥首次公开承认:早在今年2月,Anthropic就已经训练出了“Mythos级别”的高阶模型。但Anthropic硬是忍住了。当时,针对该级别模型的网络安全防御机制还没完全打磨好,他们选择只向极少数合作伙伴开放,专门用于强化网络防御测试。直到今年6月安全护栏到位,这款模型才正式向公众开放。整整4个月的领先窗口期,在分秒必争的AI竞赛中,被他们自己亲手掐断了。
达里奥直言,正是因为这4个月的缓冲,许多企业才赶在具备强悍网络攻击能力的AI模型泛滥之前,加固了自己的安全基础设施。今年6月9日,Anthropic向普通用户推出的Fable 5,就属于这一层级,并配有严格防护。同次发布的Mythos 5,则先向少量网络防御和基础设施合作伙伴提供部分解除限制的能力。因此,“雪藏”期间仍有受限使用;6月开放时,也有不同的访问边界。
对生物风险“零容忍”生物领域的代价,尤其让达里奥难受。他本人就有生物学背景。他称,公司在生物能力测试中看到了令人担忧的结果,也拦截过潜在的生物武器滥用尝试,因此对高风险用途采取严格防护。问题是,过滤器很难精准读懂每个人的意图。把危险请求漏过去,叫漏判;把正常研究拦下来,叫误判。为了尽量减少前者,Anthropic接受了大量后者。正常研究者因此受挫,竞争对手还会把“限制更少”当成卖点。这笔成本,用户也在承担。Anthropic此前的官方说明证实,Fable 5触发生物安全过滤后,会把请求交给能力较弱的模型处理。8月的更新在公司测试中将生物相关回退减少了约85%,但仍保留对双重用途研究的限制。
另一笔账是监管。达里奥称,Anthropic推动了加州SB 53等立法,还支持过比最终通过版本更严格的方案。今年6月,他又公开主张,政府应拥有阻止模型发布的权力。这等于支持外部力量握住自己产品的开关。
最后,是5%股权。就在几天前,Anthropic宣布,拟将公司5%的股份投入公共利益基金,尚待股东批准。公司估值超过指定基准后,每增长50%,董事会还可酌情追加2%。
AI越来越快,谁来踩刹车?为什么一家公司坚持安全,却还要拼命买算力、加快研发?达里奥给出的核心逻辑,叫“race to the top”,向更高标准竞争。他的判断是,一家处在技术最前沿的公司,通过证明先进AI可以被负责任地开发,才更有能力推动同行提高标准。Calvin担心的也很直接:如果每一轮竞争都必须赢,安全还能让公司退让多少?尤其是当AI开始参与下一代AI的研发,能力提升越来越快,人类检查问题、补上漏洞的时间,可能越来越紧。今天,Anthropic愿意等四个月。下一次,面对更强的模型、更大的订单,还能不能等?









来源:北京智源研究院 · hub.baai.ac.cn