OpenAI 推出 Daybreak for Frontline Defenders，投入 10 亿美元保护关键服务
OpenAI 推出 Daybreak for Frontline Defenders，承诺投入 10 亿美元，为关键服务扩大前沿网络 AI 的访问权限，并提供培训与支持。
AI 评分42
AI 评分 42 / 100
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
第 61–71 条 · 共 71 条
OpenAI News
Google DeepMind Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测，将外部评测限制在密码学环境中，避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。
AI 评分58
AI 评分 58 / 100
OpenAI News OpenAI 公布 Hugging Face 安全事件调查结果与后续举措
OpenAI 公布 Hugging Face 安全事件的调查发现，并说明将采取哪些措施加强 AI 模型安全、监控与对齐。
AI 评分48
AI 评分 48 / 100
OpenAI News OpenAI 如何在前沿模型网络攻击能力时代把控开发节奏
OpenAI 正在为前沿 AI 模型加强监控、对齐与安全防护，并以新的保障措施引导模型开发节奏。该说明围绕网络关键能力时代的模型开发步调展开，强调安全机制对开发进度的约束作用。
AI 评分30
AI 评分 30 / 100
OpenAI News OpenAI 将前沿网络安全模型开放给 Daybreak 合作伙伴
OpenAI 允许获批的 Daybreak 合作伙伴使用其前沿网络安全模型，为客户提供经授权、受治理的网络安全服务。
AI 评分30
AI 评分 30 / 100
OpenAI News OpenAI 公布 Astra 网络安全初步评估并强化防护措施
OpenAI 公布针对 Astra 的初步网络安全评估结果，并同步说明其正在采取的防护与安全控制强化措施。
AI 评分42
AI 评分 42 / 100
OpenAI News OpenAI 就第三方网络安全评估事件作出说明并推出新保障措施
OpenAI 针对近期涉及 OpenAI 模型的第三方网络安全评估事件作出说明，并公布新的保障措施以加强 AI 模型测试与评估。
AI 评分42
AI 评分 42 / 100
OpenAI News OpenAI 打击柬埔寨诈骗团伙：其利用 ChatGPT 实施投资、情感、赌博与冒充诈骗
OpenAI 打击了一个利用 ChatGPT 支持投资、情感、赌博和冒充诈骗的柬埔寨诈骗团伙。该团伙借助 ChatGPT 开展上述诈骗活动，OpenAI 已对其采取干扰措施。
AI 评分50
AI 评分 50 / 100
OpenAI News精选 OpenAI 与 Hugging Face 合作应对模型评估期间的安全事件
OpenAI 与 Hugging Face 就 AI 模型评估期间发生的一起安全事件分享早期发现，指出其中涉及的高级网络攻击能力，并给出面向防御方的经验教训。
AI 评分60
AI 评分 60 / 100
OpenAI News OpenAI 谈长时程模型时代的安全与对齐
OpenAI 分享部署长时程 AI 模型的经验，指出这类模型带来新的安全风险与已观察到的失效案例，并通过迭代部署改进防护措施。
AI 评分40
AI 评分 40 / 100
OpenAI News OpenAI 推出 GPT-Red：用自博弈解锁鲁棒性自我改进
OpenAI 发布自动化红队系统 GPT-Red，通过自博弈提升 AI 安全、对齐与提示注入鲁棒性。该系统面向鲁棒性的自我改进，可用于自动化红队测试。
AI 评分40
AI 评分 40 / 100