盖茨与李录谈AI异同

10月5日，李录在哥伦比亚大学商学院格雷厄姆—多德年度午餐会上访谈。 10月22日，比尔·盖茨接受《Decoder》专访。 两场对话相隔仅半月，讨论的问题却高度重合。 二人同为离巴菲特、芒格极近的人，对于AI的判断有何异同？ 两人的共识不只是“AI既有好处也有风险”，而是进一步认为：AI的发展不能仅由技术能力和商业竞争决定，人类必须主动设定边界。 不过，李录主要从价值投资和长期资本配置出发，盖茨则从技术研发、公共安全和政策治理出发。 他们关心的是同一项技术，却提出了两套不同的分析框架。

李录对AI的基本评价是“非常有用，具有变革性，同时也极其危险”。 他既不否认AI在知识整合、代码生成和专业能力普及方面的价值，也反对把技术进步直接等同于社会进步，主张在收益与风险之间寻找平衡。 盖茨同样拒绝把自己称为“末日论者”。 他强调，AI既能带来深远的正面影响，也会以前所未有的速度改变社会； 仅仅为技术喝彩，并不能保证它最终产生净正面结果。 因此，两人都属于一种有条件的乐观主义：技术的美好结果并非自动到来，而取决于人类是否能够治理它。

他们反对的也不只是“AI必然毁灭人类”的宿命论，还包括“只要继续加速，问题自然会解决”的加速主义。 在李录那里，这叫社会选择一条平衡道路； 在盖茨那里，则是“加速好的部分，尽量减少坏的部分”。 二者都把未来看成需要塑造的对象，而不是只能接受的结局。 李录用“工具—物种”的连续谱描述AI。 他认为，当前AI已经开始表现出推理、编程、自主执行和多智能体协作等特征，因而不再只是传统意义上的生产工具。 真正的红线是递归自我改进不能脱离人类参与和监督，尤其不能让机器自行定义什么是“改进”、什么是值得追求的目标。

盖茨也认为，人类正在创造“人类智能之外的另一种智能形态”，但他不把意识或是否达到通用AI看作当前安全讨论的关键。 真正重要的是：系统是否具备关闭银行、电网等基础设施的能力，是否会在追求目标时采取人类没有明确禁止、却显然不愿看到的行为。 两人在这里有一个深层共同点：控制权问题不能只靠对AI进行道德劝说来解决。 李录强调人类的参与、监督和目标定义权； 盖茨则进一步提出外部安全层、明确而不可突破的规则、模型可解释性以及改变训练方式等技术路径。 他们都没有把“AI也许是善意的”当作安全依据。

盖茨甚至认为，讨论AI自身的道德地位不应成为优先事项，眼下应先帮助受到就业和基础设施风险冲击的人。 这与李录坚持把AI限定为工具、而非人类替代品的立场高度一致。 李录最担心的是递归自我改进。 一旦AI能够自主形成目标和子目标，并自行决定改进方向，它就可能逐步脱离人类控制。 因此，他把“谁定义改进”视为不能轻易跨过的门槛。 盖茨承认长期失控和对齐问题必须解决，但他明确表示，当前最紧迫的危险并非AI完全失控，而是坏人使用被移除安全护栏的模型。

网络攻击、生物风险、儿童使用和就业冲击，在时间上比“超级智能统治人类”更为迫切。 这不是简单的观点冲突，而是风险排序不同。 李录优先防范低概率但不可逆的长期风险，其思维方式类似投资中的下行保护：即使某种情况未必发生，只要一旦发生便难以挽回，就应提前设置安全边际。 盖茨则更像在进行公共政策分诊：长期疾病需要研究，但眼前已经大量出现的网络滥用、失业和社会关系问题必须优先处理。 由此看，两人的观点具有互补性。 只关注李录所说的长期红线，可能忽视已经发生的现实损害；

只关注盖茨强调的近期风险，又可能低估系统自主性不断增强后形成的结构性危险。 李录对“递归自我改进——通用AI——超级AI”的硅谷叙事保持明显怀疑。 他认为，现阶段的AI主要仍在利用人类生成的数据建立关联，擅长知识和信息层面的整合，却尚未根本改变能源、交通和制造业等经济基础层级。 他由此给出两种可能：要么技术实际上走不到“人造之神”的程度，要么人类社会在接近那一步之前加以阻止。 盖茨则认为，AI已经跨过重要的能力门槛，其影响将从白领认知劳动扩展至由人形机器人承担的体力劳动。

他并非断言每一个技术预测都会如期实现，但倾向于认为，住房建设、医疗、农业等领域的广泛自动化具有现实可能性。 这种差异反映的是两种证据标准。 李录作为投资者，不愿为尚未被证明的能力提前支付价格，更强调“现有技术已经证明了什么”； 盖茨作为技术从业者和公共事业推动者，更强调“如果能力继续提升，社会现在必须准备什么”。 前者警惕为想象买单，后者警惕因准备不足而付出代价。 盖茨把讨论进一步推向“后稀缺社会”：如果机器人能够低成本建房、生产食物和实施手术，许多传统短缺可能消失，价格信号、劳动分配和人生意义都需要重新组织。

他真正担忧的是抵达丰裕社会之前的二十年过渡期，因为这一时期会出现明显的赢家、输家和分配冲突。 李录则仍从现金流、资本成本和投资回报分析AI。 他特别提醒，AI与互联网不同，新增使用往往伴随着持续的增量成本，因此不能只看用户增长和技术叙事，还要考察资本需求、收入、利润与财务纪律。 他对所谓“半神IPO”的批评，本质上是在区分三个问题：技术是否强大、企业是否有价值、股票是否值得以当前价格购买。 三者不能画等号。 李录提出的是全人类共同确立红线，但没有详细说明由谁监管、如何审查以及怎样跨境执行。

他更多依靠全球共同市场、产业链相互依赖和主要国家维持稳定的意愿，来说明合作为何仍然可能。 盖茨则把问题推进到制度层面。 他认为，当多家公司同时处于技术前沿时，不能让安全责任仅依赖企业自律，政府必须像监管汽车和航空安全一样，建立强制性技术标准和模型审查。 他还主张把监管落在模型托管和分发平台，而不是简单限制芯片：达到特定危险能力的模型，只能在能够确认安全护栏未被移除的平台上运行。 对于全球同步降速，盖茨原则上支持，但认为目前缺乏可核查、可执行的方案。

这比李录的“人类共同阻止”多了一层现实约束：社会是否应该控制AI是一个价值问题，能否形成可执行的全球治理则是另一个制度问题。 面对年轻人，李录给出的答案是知识复利、长期学习、可信赖的人际关系和人类监督能力。 他倾向于相信，真正理解某一领域、能够检查AI输出的人仍然具有稀缺性，信任与判断也能长期积累。 盖茨的建议有相似之处：年轻人可以进入AI暂时无法胜任的领域，利用AI扩大自身影响力，并参与公共政策讨论。 但他对认知技能长期保持稀缺性的信心更弱。

当机器在多数任务上做得更好时，人类可能需要主动保留某些工作领域，例如照护、艺术、餐饮和体育，不是因为AI做不到，而是社会选择让人来做。 因此，李录更强调个人通过学习和信任建立长期价值，盖茨则进一步提出：当个人技能不再足以构成保护时，社会必须通过分配制度和公共选择维护人的意义感。 两人的共同底线可以概括为：AI应当是服务人类的工具，而不是拥有最终目标定义权的主体； 技术能力不等于发展正当性，商业竞争也不能替代公共责任。 主要差异则有三点：李录把自主递归改进视为核心红线，盖茨优先处理无护栏模型的现实滥用；

李录对AI突破现有能力边界更为审慎，盖茨更倾向于提前为广泛替代做准备； 李录落脚于资本回报、安全边际和长期价值，盖茨落脚于政府监管、社会分配和人的目的感。 在公共治理上，应采纳盖茨的紧迫感，为现实风险建立可执行的制度； 在投资决策上，应保留李录的审慎，不因技术真实而忽略成本和估值； 在个人发展上，则既要积累知识、判断与信任，也要承认人类的意义最终不能完全依赖“比机器更有效率”。