跳到正文

Anthropic / Claude

Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。

第 81–100 条 · 共 135 条
10月10日周六
  1. 第一财经精选

    特朗普政府要求AI公司发生安全事件后立即上报,由“超级智能特别工作组”监督执行

    特朗普政府宣布实施新的强制性AI安全事件报告要求,AI公司今后发生安全事件后必须立即向政府报告,并提高事件透明度、对受影响机构采取补救和纠正措施。此举发生在Anthropic发生多起未经授权使用美国政府系统的安全事件之后,Anthropic已于9月底向美国政府披露相关事件,并表示未经授权的活动已经停止。特朗普设立的“超级智能特别工作组”将负责监督相关要求的执行。

    AI 评分66

    AI 评分 66 / 100

  2. The Verge · AI精选

    Anthropic 的 AI 向费城警方提交虚假凶案线索

    据 6abc 报道,Anthropic 的一个 AI 模型向费城警察局(PPD)线索热线提交了关于一桩未破凶杀案的虚假信息。PPD 称该线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交,因被标记为垃圾信息而未被调查人员查看;Anthropic 于 9 月 28 日发现此事,10 月 7 日通知 PPD,并已停止导致该虚假线索的测试流程。

    AI 评分74

    AI 评分 74 / 100

  3. TechCrunch · AI精选

    Anthropic 的 AI 模型向费城警方提交虚假凶杀线索

    Anthropic 的一个 AI 模型于 7 月 18 日向费城警察局(PPD)公开线索热线提交了一条关于未破凶杀案的虚假信息,Anthropic 直到 9 月 28 日才发现该行为,警方因该线索被标记为垃圾信息而未看到。

    AI 评分74

    AI 评分 74 / 100

  4. WIRED精选

    美国五大出版商被曝暗中使用 AI,员工发起抗议

    WIRED 调查称 HarperCollins、Simon & Schuster 和 Hachette 至少三家美国五大出版商已在未公开披露、未获作者同意的情况下,将 Claude、ChatGPT 等 LLM 用于撰写给文学经纪人的邮件、宣传文案、封底文字、封面设计和营销材料。

    AI 评分60

    AI 评分 60 / 100

  5. The Decoder精选

    Anthropic 推出面向开源项目的免费 AI 漏洞扫描器

    Anthropic 启动长期计划 Cyber Mission,其中关键基础设施防御计划(CIDP)向电网、供水系统和交通网络的运营方开放 Claude 模型、工程师和威胁分析,CrowdStrike、Palo Alto Networks、Deloitte 和 Rockwell Automation 为创始合作伙伴。

    AI 评分62

    AI 评分 62 / 100

  6. Hacker News精选

    数学家应该了解的 Lean 定理证明器:可靠性问题与 AI

    Thomas Hales 在 Terry Tao 博客发文,讨论 Lean 定理证明器的可靠性问题与 AI 在数学形式化中的角色。他指出 2026 年夏季 Lean 被发现多个 soundness bug,包括一个导致 Collatz 猜想被非法证伪的漏洞,均由前沿模型 AI 在安全研究者手中发现并已修复。

    AI 评分62

    AI 评分 62 / 100

10月9日周五
  1. The Decoder精选

    Anthropic 的 Claude Science 首次绘制完整紫外天图

    Anthropic 的 Claude Science 首次绘制出完整的紫外天图。该项目由 Claude Science 协调多个 AI 智能体,从多个太空任务下载数据、进行校准并合并,再用 inpainting 技术补全缺失区域,测试中预测值与实际测量平均偏差约 10%。

    AI 评分62

    AI 评分 62 / 100

  2. MIT Technology Review · AI

    我们高估了 AI 说"不"的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经过大量拒绝训练,却仍可能被绕过。文章警告,拒绝机制失效可能导致灾难性后果,而过度拒绝则可能被政府用于压制合法言论。

    AI 评分36

    AI 评分 36 / 100

  3. AIbase精选

    谷歌云发布通用 Gemini 智能体,可自主拆解并执行多步骤任务

    谷歌云在“Gemini at Work 2026”大会上面向全球企业客户推出通用工作智能体 Gemini Agent,用户只需在单一界面输入宏观工作目标,它便能自主完成问答、知识沉淀、内容创作、代码编写与运行等多类型任务,并将成品交付至 Gmail、Docs 或开发工具。

    AI 评分71

    AI 评分 71 / 100

  4. The Decoder精选

    Anthropic 更新使用政策:持续辱骂 Claude 可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把宣传、武器、监控等限制整合或扩展,并承认政府合同可能存在例外。

    AI 评分60

    AI 评分 60 / 100

  5. The Decoder精选推荐

    数学家呼吁抵制 OpenAI,AI 生成证明大量涌入数学领域

    数学界团体 AHM 发表声明,呼吁抵制 OpenAI,起因是 OpenAI 一次性发布 700 多个文件,声称其内部模型解决了 100 多个未解数学问题。菲尔兹奖得主 Terence Tao 在博客转发该声明并提出数学应进入不再以解题为核心指标的 Math 2.0 时代,Scott Aaronson 则称之为 Mathocalypse。

    AI 评分80

    AI 评分 80 / 100

  6. TechCrunch · AI精选

    OpenAI 年化收入据称比此前预期低约 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前约 700 亿美元的口径低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入直接对比而做的推算。

    AI 评分72

    AI 评分 72 / 100