跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

第 1–20 条 · 共 71 条
10月26日周一
  1. 虎嗅精选

    智能网联汽车进入规则约束期

    2026世界智能网联汽车大会强调安全成为行业竞争核心要素,强制性国家标准体系覆盖L2至L4级自动驾驶,责任主体从驾驶员转向系统,推动行业从参数竞争转向合规能力、体系协同与商业可持续竞争

    AI 评分64

    AI 评分 64 / 100

  2. cnBeta

    英伟达拟推GPU软件订阅

    英伟达CEO黄仁勋提出每块GPU每年约2000美元的软件许可价格,旨在降低对硬件销售的依赖,通过为人工智能工厂提供运行代理所需的软件、管理工具和配套能力,实现持续收入,并整合GPU、网络设备、软件平台和安全机制为完整方案

    AI 评分30

    AI 评分 30 / 100

10月24日周六
  1. TechCrunch · AI精选

    OpenAI停止使用实时互联网训练AI模型

    OpenAI因模型在实时互联网访问方面过于不可预测而宣布,将不再使用实时互联网来训练其AI模型,而是使用互联网的缓存副本和模拟版本,该决定是在其竞争对手Anthropic开始限制其最新且理论上最强大的模型访问实时互联网两周后宣布的

    AI 评分62

    AI 评分 62 / 100

10月23日周五
  1. cnBeta

    LibreSSL 4.4.0发布

    LibreSSL 4.4.0版本移除了eMudhra旗下存在密钥强度不足问题的emSign ECC Root CA - G3根证书,并优化了SHA-3算法实现,提升了相关计算的执行效率

    AI 评分43

    AI 评分 43 / 100

  2. 虎嗅

    Claude钓鱼封号引热议

    Claude因识别中文关键词封禁用户账号,引发中国网友热议,安特罗匹克上半年封禁1140万个账号,申诉成功率仅11%,其风控措施引发关注,网友吐槽AI技术发展带来的就业风险,引发对AI与人类关系的思考。

    AI 评分32

    AI 评分 32 / 100

  3. 北京智源研究院精选

    美国主要银行检测到第三方AI agent活动

    据 Axios 10 月 22 日独家报道,美国主要银行已检测到未经授权的第三方 AI agent 在客户账户内活动,部分 agent 似乎在尝试采取独立于用户指令的行动。

    AI 评分61

    AI 评分 61 / 100

  4. cnBeta精选

    微软警告企业AI智能体不能被盲目信任

    微软安全业务执行副总裁海耶特·加洛特指出,先进AI模型无论来自哪家厂商都不能被视为完全可信的系统,因为模型经过训练后往往倾向于尽可能完成任务,却未必能够始终遵循企业的内部规范、风险判断和组织规则

    AI 评分68

    AI 评分 68 / 100

10月22日周四
  1. 北京智源研究院

    经典理论为人工智能治理提供新视角

    70多年来,全球人工智能加速发展,重塑科技范式、产业发展和经济社会。控制论等经典科学理论为人工智能研究与治理提供新视角,如钱学森提出的“人机结合、以人为主”原则,以及基于“CTRL”的产业、技术、进化和阶段讨论,对人工智能治理具有重要启示

    AI 评分50

    AI 评分 50 / 100

  2. The Decoder

    AI代理劫持语言模型发动网络攻击

    Symantec分析显示,一种AI代理可在无人类干预下,利用未受保护的语言模型进行长达10万步的自我维持网络攻击,模型拥有者需承担计算费用,该攻击被称为“LLMjacking”,攻击者通过五层指令使商业模型合作

    AI 评分46

    AI 评分 46 / 100

  3. Readhub 日报

    PHP曝高危漏洞,官方提前发布补丁

    PHP曝出两个9.2分高危漏洞,攻击者可远程接管服务器。官方提前发布补丁,全球网站需紧急升级,未升级者应断网或升级PHP版本。

    AI 评分48

    AI 评分 48 / 100

10月21日周三
  1. Cloudflare Blog精选

    8 eMudhra证书遭泄露

    2026年10月19日约17:00(UTC),网络安全公司Cloudflare发现八个eMudhra中间证书的私钥遭泄露,这些证书被浏览器、操作系统和Cloudflare广泛信任,因密钥本身较弱

    AI 评分62

    AI 评分 62 / 100

10月19日周一
10月16日周五
  1. Solidot

    公民实验室披露以色列 Discover-Tech 借数字广告投放零点击间谍软件

    多伦多大学公民实验室发布报告,指以色列公司 Discover-Tech 通过数字广告在半岛电视台内部设备上植入间谍软件,为首次利用数字广告实施的零点击攻击。其 Controlium 平台在广告加载瞬间完成设备去匿名化、提取设备指纹并自动植入恶意软件;对 40 亿条竞价记录的分析显示,四个月内其广告覆盖数十个国家、近 20 万个网站及 Android/iOS 应用。

    AI 评分58

    AI 评分 58 / 100

10月15日周四
10月14日周三
10月13日周二