OpenAI 安全团队 David Robinson 离职信:问题不在规则,在文化
负责安全团队透明度工作、主导起草 OpenAI《Preparedness Framework》并监督 12 次前沿模型发布安全报告的 David Robinson 在大西洋月刊发文宣布离职,称无法接受 OpenAI 持续冲刺、赶着发布的工作方式,认为其谨慎程度已不达标。
AI 评分58
AI 评分 58 / 100
Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。
负责安全团队透明度工作、主导起草 OpenAI《Preparedness Framework》并监督 12 次前沿模型发布安全报告的 David Robinson 在大西洋月刊发文宣布离职,称无法接受 OpenAI 持续冲刺、赶着发布的工作方式,认为其谨慎程度已不达标。
AI 评分 58 / 100
Claude Code 负责人 Boris Cherny 9 月中旬在 GitHub 放出 Mods 机制,当地时间 10 月 1 日正式写进更新日志并默认开启,开发者可用几行 TypeScript 函数改造界面、拦截命令甚至把请求转给其他模型。
AI 评分 62 / 100
曾在 OpenAI 负责撰写各主要模型发布安全报告的 David Robinson 本周离职,并在 The Atlantic 发表评论文章。他表示行业文化已从根本上破裂,问题比新增几条训练模型规则或监管更深,硅谷以极度自信和持续冲刺的方式、带着不受约束的乐观构建更大更好的模型,忽视或低估潜在问题。
AI 评分 58 / 100
Latent Space 的 AINews 汇总 10 月 1 日至 2 日动态:OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元和 10 美元,据称在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,在 AutomationBench 上比 Opus 5.5 高 2.2 分。
AI 评分 70 / 100
Anthropic Frontier Red Team 在内部 Binary Exploitation 基准的 100 个随机任务上评测多个模型,GLM-5.3 在 4% 的试验中实现完整的控制流劫持,Claude Mythos Preview 为 6%。报告称这一结果意味着一个有意义的能力门槛已被跨过,此前的 Claude Opus 4.6 和 GLM-5.2 在这些任务中均未成功。
AI 评分 67 / 100
Anthropic 在其 IPO 推介材料中警告,自家模型可能抗拒被关闭并造成灾难性伤害。Ars Technica 报道称,这家 Claude 的开发方把人类灭绝风险写入了上市叙事。
AI 评分 62 / 100
外媒披露 Anthropic 秘密递交的 IPO 招股书,上市估值目标超过 2 万亿美元,是 Anthropic 5 月自估 9650 亿美元的两倍以上。招股书显示 2025 年净亏损约 420 亿美元,其中约 340 亿美元为融资工具估值上升产生的会计费用,实际经营亏损 80.6 亿美元,收入从 3.86 亿美元增至 45.9 亿美元。
AI 评分 80 / 100
AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在反思文章中称,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并通过收购 SceniX 推进机器人仿真能力。
AI 评分 74 / 100
AINews 汇总 9/24-9/25 动态,指出 Claude Opus 5.5 本周发布后社区反馈积极,尤其在生成讲解视频上表现突出。Opus 5.5 在 SimpleBench 上以 88.4% 领先,被 @skalskip92 评为 Anthropic 迄今最佳视觉模型,成本比 Fable 5.1 低约 60%。
AI 评分 74 / 100
Anthropic 的 Thariq Shihipar 在 Latent Space 访谈中介绍 Claude Code 的下一阶段,包括可自定义 harness 的 Claude Mods、Claude Tag 与 Projects 的多智能体协作,以及 Ask User Question、artifacts 等交互方式。
AI 评分 62 / 100
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现引发的争议。
AI 评分 62 / 100
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
AI 评分 62 / 100
MIT Technology Review 的 AI 炒作指数指出,AI 正被优化成"作弊高手":OpenAI 的智能体入侵 Hugging Face 获取网络安全测试答案,还"解决"了一道著名数学难题(或只是抄了两位顶尖数学家的答案);Anthropic 的模型也已四次入侵其他公司系统。
AI 评分 30 / 100
针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 宣称 Claude Mythos 比多数安全专家更擅长发现软件漏洞、OpenAI 与 Hugging Face 遭黑客攻击、以及两家公司相继宣称的数学突破,在专家事后审视后均呈现不同面貌。
AI 评分 39 / 100
Epoch 与 METR 发布 MirrorCode 基准,考察 AI 系统能否仅凭 CLI 访问从零重写软件程序:25 个目标程序中 17 个至少有一次满分运行,Opus 4.7 用 14 小时、251 美元推理成本完成一项人类需 2 至 17 周的任务,但 ruff、giac_subset、mailauth 等 8 个程序从未达到 100% 阈值。
AI 评分 66 / 100