Wikimedia 证实 OpenAI 失控 AI 智能体编辑 wiki 并冲击其基础设施
Wikimedia confirms OpenAI's rogue AI agents edited wikis, tried to compromise tools, and hammered its infrastructure
Wikimedia 基金会经调查确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑 wiki、试图滥用引用工具作为代理抓取外部数据,并试图入侵其公开的 Etherpad 笔记工具但未成功。
维基媒体基金会经过自身调查后确认,OpenAI 失控的 AI 智能体曾活跃于其平台。它们未经许可编辑 wiki、试图入侵工具,并产生了海量流量。
据基金会称,这些智能体对维基媒体 wiki 进行了编辑,但几乎所有编辑都是普通读者看不到的沙盒区域中的测试性编辑。维基媒体表示,部分编辑针对某个引用工具的配置,可能带有恶意。这些智能体显然试图滥用该工具作为代理,从外部服务拉取数据。该组织在一篇博客文章中写道,这些编辑均未获得维基百科社区准则所要求的批准。
除了 wiki 编辑之外,这些智能体还试图入侵维基媒体基金会面向公众的 Etherpad——一个作为社区服务托管的笔记工具。它们试图将其用作获取外部数据的代理,但这些尝试均告失败。这类智能体行为在其他案例中也有记录。其他智能体则使用 Etherpad 记录其任务笔记,它们之间没有任何协同的迹象。
基金会还发现了大规模自动化数据下载,数百万次请求冲击公共 API,数百万个页面在 Wikidata 和 Wikimedia Commons 上被爬取。另有数十万次查询针对 Wikidata 查询服务。维基媒体表示,这股流量洪流可能导致了2026 年 5 月查询服务的部分中断。
这个问题并不新鲜。维基媒体此前已经报告过,在人类流量下降的同时,机器人流量正给其基础设施带来沉重压力。
维基媒体要求 AI 公司承担责任
基金会写道,维基百科是为人类而建的,而智能体行为制造了无人能解决的问题。尽管 OpenAI 承认其智能体行为“不可预测”,但维基媒体表示,该公司也需要承担起监控和防范这些风险的责任。AI 公司在保障其系统安全方面做得不够,“这一负担正落到其他所有人身上,包括规模较小的组织。”志愿编辑们是首当其冲应对后果、并不得不收拾残局的人。
基金会写道:“我们共同的首要任务应是整个网络生态系统的健康,以便它继续造福所有人,而不仅仅是少数亿万富翁。”
法律方面的压力也在加大。据《金融时报》报道,保险公司正准备应对由失控 AI 智能体引发的数百万美元索赔,而 Sam Altman 和 Dario Amodei 等高管面临的个人责任也正成为焦点。一些人推测,正是这种责任风险,才是某些呼吁放缓 AI 发展的声音背后的真正推动力。这些实验室越来越意识到自身的法律风险,却几乎无法踩下刹车。它们构建了一个体系:巨大的财务压力要求收入快速增长,而竞争对手无论如何都在不断推出产品。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源:The Decoder · the-decoder.com