达里奥·阿莫迪的AI人生

达里奥·阿莫迪可以说是现在硅谷最「讨人厌」的人。 在曾经共事的人眼中，达里奥是个精力旺盛、极其固执的家伙，吵完架后，他有时会一个人躲进办公室的图书室，看YouTube视频平复情绪。 他喜欢追问，还是大学生的达里奥就曾和朋友认真讨论，究竟多少只鸡的生命才能抵得上一个人的生命。 正值Anthropic筹备上市之际，《纽约时报》发表了一篇创始人达里奥的人物调查报道，文中采访了达里奥多位同学、老师、朋友和同事，但达里奥本人却拒绝了采访。 其中有些故事相当荒诞，有些令人唏嘘，还有些读起来，简直像硅谷版《纸牌屋》。

最后，《纽约时报》用两个词来概括达里奥「被嫌弃」的前半生，一个是「理性主义」，一个是「有效利他主义」。 1997年，14岁左右的达里奥还在旧金山读八年级。 那年，学校评选最有可能在未来取得成功的学生，达里奥与另一名同学一起获选。 进入旧金山著名的公立高中Lowell High School后，达里奥的数学和科学天赋愈发明显，他甚至提前跑到加州大学伯克利分校选修课程。 但老师们记住的，并不只是一个成绩优秀的少年。

物理老师Richard Shapiro回忆，达里奥经常因为考试表现焦虑，即使最后考得不错，也总觉得自己没有发挥到最好。 2001年，达里奥进入加州理工学院。 据老同学回忆，有一次，达里奥提出，人可以吃螃蟹，因为螃蟹没有脊椎。 朋友Colin Heckman不太买账，反问他：为什么有人不吃猪肉，却觉得吃螃蟹没问题？ 没有脊椎，就意味着生命不值得保护吗？ 另一位朋友Nathan Avery还记得，达里奥曾经认真讨论过一个更加抽象的问题，究竟多少只鸡的生命，才能抵得上一个人的生命？

达里奥认真思考了这个问题，这种近乎数学计算的道德观，后来与他接触的「有效利他主义」不谋而合。 有效利他主义试图用理性和数据回答一个问题，有限的资源究竟该如何分配，才能创造最大的社会福祉。 后来，这套思维又被他带进AI领域。 2025年，Anthropic开始研究「模型福利」，探讨AI是否可能拥有主观体验，以及是否值得道德关怀。 不过，达里奥曾公开澄清，自己并不是有效利他主义者，只是认同其中一些思想。 二十多年前的争论到今天有了奇妙的回声，这次被放上道德天平的，是AI和人类。

2006年，达里奥经历了一场改变人生轨迹的家庭变故。 23岁的达里奥·阿莫迪正在普林斯顿大学攻读博士，他原本打算成为一名理论物理学家，研究宇宙如何运行。 但就在这一年，他的父亲Riccardo去世了。 父亲已经与丙型肝炎抗争多年。 当时，医生主要依靠干扰素和利巴韦林治疗这种疾病，不仅副作用明显，治愈率也只有约40%至50%。 2025年接受采访时，达里奥再次谈及这段往事，情绪依然激动。 他的前女友Jade Wang也回忆，几年的科学进步，可能意味着两种截然不同的命运，父亲或者有机会活下来。

这件事彻底改变了达里奥的科研方向，他逐渐转向生物物理学和神经科学，后来又前往斯坦福从事生物医学研究。 2014年，达里奥自己也被诊断出睾丸癌，在《纽约时报》公开的内容中，这段经历被一句话带过，「He beat it with chemo」（他靠化疗战胜了病魔）。 自此，他开始认真思考，与其穷尽一生攻克某种疾病，为什么不创造一种能够加速所有科学研究的工具？ 人工智能最终成为他的答案。 2007年的一个晚上，达里奥向高中好友Colin Heckman兴奋地介绍了一本书：雷·库兹韦尔的《奇点临近》。

这本书提出了一套相当大胆的未来想象，随着计算能力不断增长，机器最终可能超越人类智能。 这种假想中的转折点，被称为「技术奇点」。 据Heckman回忆，达里奥几乎迷上了这套理论，他预测，技术奇点可能在2040年之前到来。 甚至还畅想过，人类未来也许能够与机器融合，形成某种新的混合智能。 他开始阅读《Overcoming Bias》等博客，接触理性主义、有效利他主义和AI生存风险理论，其中一个重要人物，是Eliezer Yudkowsky。 Yudkowsky如今仍是对超级智能持极端谨慎态度的代表人物之一。

而达里奥已经亲自下场，经营一家处在技术最前沿的AI公司。 面对《纽约时报》的询问，Yudkowsky表示，达里奥如今并不向自己征求或采纳建议，他也不记得达里奥曾经这样做过。 同年9月，达里奥在《We Must Pace the Frontier》中公开呼吁放慢前沿AI研发速度，却同时解释了为什么自己仍要继续开发AI，如果停止研发，人类可能失去技术带来的巨大收益，也可能让更不重视安全的竞争者率先掌握它。 达里奥和马斯克之间，有一段颇为魔幻的硅谷孽缘。 年轻时，达里奥其实是马斯克的崇拜者。

根据《纽约时报》采访的两位知情人士回忆，2007年前后，达里奥就与马斯克有过邮件往来，还曾认真考虑过加入SpaceX。 当年的马斯克还在努力证明，私人公司也能把火箭送入太空。 这件事很符合达里奥的胃口，他相信科学和技术能够从根本上改善人类文明的长期命运。 2016年，达里奥加入OpenAI，马斯克当时正是这家公司的联合主席和重要出资人，他们后来都和OpenAI闹翻了。 2021年，Anthropic成立，2023年，马斯克成立xAI，推出Grok，二人变成了同一个赛道上的竞争对手。

据Axios报道，Anthropic如今还是马斯克旗下SpaceXAI数据中心算力的重要客户。 这意味着，双方一面争夺AI市场，一面又存在算力供应关系。 到了2026年9月12日，更魔幻的场面出现了。 达里奥发表《We Must Pace the Frontier》，呼吁整个行业放慢前沿AI研发速度。 马斯克随即转发：「Dario is right」。 2008年，他通过经济学家Tyler Cowen的博客，接触到一家名叫GiveWell的慈善评估机构。 达里奥很快成了GiveWell论坛的积极参与者。

2010年，他甚至考虑过进入金融行业。 同年，他在GiveWell发表了一篇文章，认真解释自己如何花掉1万美元。 候选项目有两个，一个是治疗结核病的Stop TB，另一个是改善非洲疫苗配送的VillageReach。 为了比较两者，达里奥算了一笔账。 根据GiveWell当时的估算，VillageReach平均花费约545美元，可以避免一名婴儿死亡； Stop TB每避免一人死亡的成本，则约为150至750美元。 但最终，他选择了VillageReach。

原因是他发现，Stop TB虽然在理论上更具成本效益，但项目涉及政府、医疗机构、药物发放和持续治疗等多个环节，很难看清每一笔钱最终产生了什么效果。 后来，他尝试用AI继续自己的慈善之路。 他认为，如果AI能够加速医学研究，就可能挽救无数生命； 但如果失控，后果也可能波及全人类。 2014年，Dario Amodei加入了百度位于美国桑尼维尔的人工智能实验室。 当时的百度还在认真做AI，吴恩达刚刚从Google跳槽过来担任首席科学家，带着一群研究员挑战语音识别，希望用深度学习取代传统上需要大量人工设计的算法。

后来名声在外的Deep Speech系列，就是这个时期的重要成果。 2016年的Deep Speech 2甚至展示了同一套深度学习思路处理英语和普通话的能力，部分测试中的识别水平已经能够与人工转录竞争。 那时候连Transformer都还没诞生，更别说ChatGPT了，硅谷对AI的主流想象，还是让机器听懂人话、识别图片，而不是创造什么拥有自主意识的超级智能。 但Dario已经开始担心世界末日了。

据前同事Gregory Diamos回忆，这人在百度出了名的工作狂，经常通宵待在实验室，而且特别喜欢和同事争论，只要逮到机会，就会把一个技术问题辩论到底。 更有趣的是，2015年前后，他就开始向同事警告，AI能力可能迅速追上甚至超过人脑，开发者必须认真对待失去控制的可能性。 同年，他转到Google Brain，开始把这种担忧变成真正的技术研究。

2016年，Dario与Christopher Olah、John Schulman等人共同发表了《Concrete Problems in AI Safety》，讨论五类具体问题，包括奖励作弊、负面副作用、安全探索和分布偏移等。 这篇论文也解释了达里奥此后十年的基本思路，AI风险未必等机器有了邪恶意图才会出现，当它足够强大时，一个看似无害的目标