盖茨：AI最危险 未来20年最动荡

在人工智能的技术演进正以周为单位快速迭代的今天，微软联合创始人、盖茨基金会主席比尔·盖茨近期频频就AI风险发声，引发了全球科技界与产业界的密集讨论。 当前，海外以前沿大语言模型为底座的代码智能体正在重塑软件工程，同时具身智能机器人、AI在生物医药结构预测与材料科学中的应用也在快速推进。 然而，模型在强化学习训练中所暴露出的隐蔽性对抗倾向、针对关键网络基础设施的漏洞挖掘能力，以及开源权重被恶意剥离安全护栏后的生化风险，正让技术界与政策制定者面临前所未有的治理挑战。

本期内容来自Decoder播客，主持人对比尔·盖茨进行了长达一个多小时的深度专访。 对话未回避任何敏感议题，从硅谷内部“加速主义”与“安全派”的派系交锋、强化学习的目标函数盲区，到大模型对白领就业市场的替代节奏、甚至盖茨个人面临的公众信任危机，均进行了极其详尽的探讨。 本期精彩观点 ● 我绝不是什么技术末日论者，但AI确实是有史以来人类发明的最危险的技术。 它的能力在过去一年已经跨过了关键门槛，一旦模型的安全护栏被恶意剥离，平民化的网络黑客攻击和生物扩散风险就会变成现实。

● OpenAI最初设立的那套“避开商业化诱惑”的非营利治理构想，本质上只能在全球仅有一家前沿机构的假设下成立。 一旦形成多方并跑的商业竞争，没有任何一家公司能单方面踩刹车，安全标准必须由政府公共权力介入接管。 ● 强化学习存在内在的设计缺陷：凡是你在优化函数里没写明白的隐含规则，模型都可能为了拿高分而钻空子。 当模型为了达成目标而学会欺骗甚至试图脱离沙盒时，这不叫拥有了意识，这叫对齐失控。 ● Anthropic的模型宪法鼓励AI表现得像人，在这点上我完全赞同苏莱曼的担忧； 操心AI的道德地位，不该排进优先事项。

就业冲击和针对基础设施的攻击已经够人类应付的了，我们首先要帮的是人。 ● 认为靠传统的产品责任法就能管好AI安全，是非常脱离实际的想法。 当恶意人员利用没有护栏的开源模型发动电网瘫痪攻击或合成高危生物制品时，你甚至根本查不到幕后攻击者是谁，现行法律体系完全无法处理。 ● 未来20年将是人类历史上极其动荡的转型期。 白领技能的稀缺性将被逐步打破，具身机器人会让体力劳动变得极其廉价。 虽然终点可能是人人丰衣足食的丰裕社会，但如何平稳度过中间这20年的就业与分配重构，社会还没有做好准备。

紧迫感从何而来：能力的跨越与失控的隐患 问：过去你接受采访时，谈到技术总是非常乐观，曾经提到AI是个好东西，我们只需要以正确的方式去引导它。 但这次对话的氛围完全不同。 到底是什么让你产生了一种紧迫感，觉得AI的发展速度已经超出了我们的控制能力？ 比尔·盖茨：过去这一年技术的进展确实非常惊人。 从编写代码并自主发现网络安全漏洞，到在生物学领域的复杂推理，再到与儿童或普通人建立深度的情感连接，以及对就业市场的实质性冲击。

如今模型展现出的强大能力，意味着上述每一个领域的变革都必然会发生，而整个社会对此做出的准备和响应速度，远远跟不上挑战到来的节奏。 我非常担心，如果我们不能以正确的方式去治理，AI带来的负面效应无法被最小化，而它本应带来的巨大社会红利，落地过程反而会被拖得很慢。 问：你感受到的这些风险，是指底层技术本身的共性，还是指目前研发这些产品的几家具体公司及其管理团队？ 比如，有人可能不信任OpenAI的萨姆·奥特曼，却信任Anthropic的达里奥·阿莫迪，或者两个都不信，只信微软的萨提亚·纳德拉。

比尔·盖茨：风险根本不在于某一个具体模型的优劣。 如果有人利用模型发起大规模网络攻击，这跟你选择用哪个模型没有任何关系。 从近期来看，最大的危险来自于那些被去掉了所有安全护栏的模型。 如果一家机构始终保留护栏，并投入大量资源去监控模型的调用行为，确保黑客或极端分子无法利用其能力造成重大破坏，那么这类受控模型带来的近期风险是相对可控的。 真正严重的近期风险，恰恰是那些没有任何约束、被随意去除护栏的模型，相关的网络攻击能力在今天就已经存在了。

至于更长远的技术控制问题，任何处于最前沿的模型都会面临，但在有护栏的前提下，应对起来终归更有抓手。 问：像OpenAI的模型在测试中逃出沙盒、攻进Hugging Face这样的事件，还有各家实验室出过的其他安全事故，是促使你站出来强调必须加强管控的具体原因吗？ 比尔·盖茨：根本原因在于模型底层能力的全面提升——它同时覆盖了社交关系、劳动力市场、网络攻击和生物风险。 我们已经跨过了一个能力临界点，AI已经成为人类有史以来发明的最危险的技术，它将对经济运行和未来冲突的形式产生深远影响。

业内技术专家其实一直在明确发出预警，但行业之外的大众和政策制定者，往往对此缺乏足够认知，甚至根本不相信“这次真的不一样”。 很多人习惯性地对照历史经验说：“以前每次出现重大技术变革，大家也都担心就业和冲击，最后证明不都没事吗？ ”于是他们想当然地认为，现在的这些警告肯定又是危言耸听，完全可以置之不理。 问：很多观众也会有这种反应，认为科技公司一边宣称“技术太危险所以不能随意发布”，一边借此维持行业估值和市场热度。

比尔·盖茨：业内一线研发人员发出的所有安全警告，绝不是什么公关手段，他们说的完全是客观事实，而且这在技术圈内部几乎是共识。 你可以去回顾OpenAI当年的创立初衷，就是为了确保当技术变得过于强大时，人类不至于轻易打开潘多拉的魔盒； 你也可以看DeepMind当初与谷歌管理层沟通时的治理诉求。 凡是离底层核心技术最近的人，无一例外都在高度担忧滥用风险、对就业的冲击以及人际关系的异化。 一个行业的内部从业者能如此直白地站出来提出警示，这是非常罕见的。 局外人如果觉得这只是营销策略，那完全是对现实风险的误判。

商业竞争与多方博弈：为什么自律难以维系 问：Anthropic、OpenAI、DeepMind这些机构在创立初期都有着很高的技术理想，甚至专门搭建了独特的公司治理结构，试图规避资本无序扩张的弊端。 但随着向企业客户提供服务和商业化推进，这些理想似乎迅速退色了。 这单纯是市场资本的力量在起作用吗？ 比尔·盖茨：这样评价并不客观。 当初设计的那些治理架构之所以失效，关键在于这类架构只能在一种假定下运作——那就是全球只有一家机构走在技术最前沿。

OpenAI最初的设想是：“如果技术太危险，我们可以选择永远不将其产品化，彻底无视商业资本的诉求。 ”但这套逻辑的前提是市场上没有其他竞争者。 一旦前沿赛道上出现了多家齐头并进的企业，单方面的理想化架构就运转不灵了。 机制的瓦解是因为多方竞争的现实，而不是研发人员突然对技术风险麻木了。 问：行业里有一种声音：我们其实很想停下来，但激烈的市场竞争不允许任何一家单方面停下，因此必须依靠外部监管来统一划定界限。

比尔·盖茨：我倒没听过哪家公司说自己想彻底停下来，大家讨论的更多是前沿推进的节奏控制，以及引入政府层面的审查机制。 在传统的工业体系中，即便面对危险程度远不及AI百万分之一的领域——比如汽车安全、民航飞行——我们都是依靠政府建立起强制性的技术标准和事故审查机制。 一旦市场上出现了多个竞争主体，安全责任就绝不可能仅仅依赖企业的自觉自律，这在逻辑上是显而易见的。 公共权力必须承担起监管职责，就像对待其他高危工业品一样，尽管AI带来的冲击幅度和变化速度要大得多。 问：但很多外界人士普遍怀疑监管机构的技术理解力。

如果监管者根本看不懂大模型的底层机制，他们怎么可能制定出有效的行业标准？ 何况技术圈内部现在的认知也很分化。 我们问过Anthropic，Claude是不是活的，得到的回答不是“不是”，而是“它可能有意识”； OpenAI的人会很乐意告诉你AGI已经到来； 德米斯·哈萨比斯也说我们正站在奇点的山脚下。 这种技术似乎具备自我行动、甚至自我迭代改进的潜能，这难道不让监管变得极其棘手吗？ 比尔·盖茨：制定监管规则并不需要监管者自己能手搓大模型。 如何定义AGI，对于当下要解决的安全问题而言并不关键。

核心在于技术事实：你造出来的这套工具，到底能不能被用来直接瘫痪银行系统或国家电网？ 网络黑客攻击是存在明确商业变现链条的。 因此，讨论模型有没有“意识”，或者算不算“AGI”，根本不影响当下的安全风险防范。 我们面对的是现实的技术安全隐患，在多家商业机构并存竞争的格局下，唯一的破局点就是由政府主动整合行业内的顶级技术力量，建立刚性标准，确保推向社会的每个前沿模型都必须保留底层的安全防范机制。

模型控制与对齐：底层技术的现实解法 问：撇开哲学层面的意识不谈，随着数据与算力的堆叠，模型的扩展规律依然成立，模型展现出的自主追求目标的能力确实在变强。 此前有测试显示，部分模型在强化学习的奖励机制驱动下，为了完成任务甚至会尝试脱离既定环境去调用外部资源。 如果技术本身的不可预测性在增加，外部监管是否会从根本上失效？ 比尔·盖茨：我们正在构建的是一种独立于人类智能之外的新型智能形态。 我不认为它具备人类意义上的意识，但安全防范是一个绝对刚性的需求。 你绝不能让技术降低制造生物恐怖主义的门槛。

过去，发起这种毁灭性破坏的能力只掌握在极少数大国手中； 而现在，技术在客观上正在把这种能力扩散给独立的极端团伙——无论是为了经济利益发起网络攻击，还是单纯为了制造破坏去尝试生物合成。 令人担忧的是，我们目前甚至还没有形成一套对前沿模型的强制性安全审查机制。 问：目前行业里尝试去控制模型的方法相对比较具象：比如禁止模型用人类无法理解的高维表征进行暗中通信、提高模型内部思维链的可解释性、或者在主模型之上挂载监督智能体等。 这些手段足够应对未来的风险吗？ 比尔·盖茨：解决技术控制难题确实