AI构建ENSO模型评测
Agent|科学能力评测与数据驱动的科学建模 SciExam for ENSO,本周三直播
在六小时自主构建ENSO模型的评测中,12个AI智能体系统中有6个得分超过已发表模型,其简化形式分别对应ENSO冷暖不对称性的两种竞争性解释,而任务中未提及这些机制,表明AI已能构建具有竞争力的模型并重现科学争论。

报告主题:SciExam for ENSO,AI智能体能自己搭建气候模型吗? 报告日期:10月21日(下周三) 10:30-11:30 导语:今年冬天大概率会迎来一次很强的厄尔尼诺,NOAA预计其发展为强事件的概率超过90%,ENSO再次成为全球气候的焦点。 AI能否像气候科学家一样,自己建立一个个描述ENSO的模型?
让AI agent从原始海洋观测数据出发,自主构建ENSO的概念模型,并在没有标准答案的情况下检验其科学有效性——SciExam for ENSO:每个agent只有6小时,全程看不到评分,只能依靠自己事先写好并冻结的诊断来改模型。 隐藏评分像器科学家验检模型一样,从统计特性、变量间的动力耦合(通过数据同化重建被隐藏的变量)和对未见年份的预测三个方面打分,并用同一标准评估一个已发表模型作参考。
12个Agent系统中,6个模型综合得分超过已发表模型(0.378),Claude Fable 5.1和Kimi K3分别达到0.515和0.479。 最奇神的发现:厄尔尼诺为什么通常拉比尼娜更强? 学界一直存在两种竞争解释,一种归因于非线性确定性动力学,另一种归因于随状态变化的随机扰动机制。 我们将AI构建的模型精到核心结构后,发现它们恰好分成两派,而任务未从提及其中任何一种机制。 AI在独立建的过程中,重现了一场未尚定论的学科争论。
报告论文: arXiv:https://arxiv.org/abs/2610.10513 Webpage:https://enso.aisexam.com 报告要点:语言模型智能体正被越来越多地用于开放式科学研究,但现有评测大多依赖已知答案、评分细则或大模型评审,难以判断一个全新的科学模型是否成立。 本次智源Talk特邀张寅玲博士,分享SciExam for ENSO:一个让AI智能体从真实观测数据出发、在六小时内自主构建厄尔尼诺(ENSO)随机气候模型的长程评测基准。
在12个前沿智能体系统中,有6个构建出的模型得分超过已发表的参考模型,且较强模型的简化形式分别对应了ENSO冷暖不对称性的两种竞争性解释,而这一科学争论在任务中从未被提及。 语言模型智能体正越来越多地被用于开放式科学研究,但其结果通常依据已知答案、评分细则或语言模型评审来打分,这些方式都无法判断一个新的科学模型是否有效。 厄尔尼诺-南方涛动AI科学考试(SciExam for ENSO)是一个评测基准:智能体需要从真实观测数据出发,为年际气候变率的主导模态ENSO构建低阶随机模型。
在六小时的预算内,智能体自行处理观测数据、编写自己的诊断工具,并仅以这些诊断为反馈来开发模型。 隐藏的评分器随后检验模型能否复现ENSO的统计特征、恢复未观测变量、预报留出年份,并以同样方式为一个已发表模型打分。 在12个智能体系统中,有6个构建的模型得分高于已发表模型,优势主要来自更好的状态重构与预报能力。 较强模型的简化形式各自与ENSO冷暖不对称性的两种竞争性解释之一相容,而这一尚无定论的争论在任务中从未被提及。
对排名第一的系统在不同信息条件下进行的对照实验表明,其得分并非来自对带日期观测记录的记忆,且它所获得的信息会影响其建模方式。 因此,SciExam for ENSO能够在没有已知答案的情况下评估智能体的科研工作,结果也表明,智能体已经能够构建具有竞争力的模型,其结构与科学家仍在争论的问题直接相关。 报告嘉宾:张寅玲博士本科毕业于上海交通大学数学系,于威斯康星大学麦迪逊分校获数学博士学位,现任俄亥俄州立大学数学系访问助理教授。
研究方向为AI智能体的科学能力评测与数据驱动的科学建模,涵盖随机动力系统、数据同化、因果推断与方程发现,以及物理约束机器学习,应用于ENSO等气候系统和材料力学中的极端事件。 作为第一作者主导了SciExam for ENSO基准的研发。 此前发展了基于因果推断的方程发现方法,能够在关键变量不可观测的情况下从数据中恢复简洁、可解释的随机模型,并构建了刻画ENSO多样性及MJO与ENSO多尺度相互作用的随机概念模型。
已在Journal of Climate、JAMES、Physica D、Journal of Computational Physics、JMPS、Proceedings of the Royal Society A等期刊发表论文10篇,其中7篇为第一或通讯作者。

来源:北京智源研究院 · hub.baai.ac.cn