跳到正文
原文
北京智源研究院· AREX·· 6 天前AI 评分50

美团 LongCat-2.5 技术报告发布

美团 LongCat-2.5 补全技术报告:总参 1.6 万亿、激活约 480 亿,API 已接入但权重未开源

AI 摘要

美团 LongCat 团队正式推出 LongCat-2.5 模型,总参数 1.6 万亿,每个 token 激活约 480 亿,转向原生多模态与长程 agentic 编码,官网可试用 API 但权重未开源。与上一代相比,开放方式改变

正文 · 中文整理稿

LongCat-2.5 官方发布横幅:正式发布 LongCat-2.5,原生多模态模型,为智能体任务而生

美团 LongCat 团队在 9 月 25 日上线的 LongCat-2.5-Preview 基础上正式推出 LongCat-2.5,并补全了完整技术报告和评测对比表。 模型总参数 1.6 万亿,每个 token(词元)激活约 480 亿,能力方向从此前的纯语言模型转向原生多模态与长程 agentic 编码。 官网已经可以试用,API 也已接入,但权重没有同步放出。 与上一代对照,差别集中在开放方式上。

目前,meituan-longcat 组织页面展示的仓库里没有 LongCat-2.5, Hugging Face 组织页仍把 LongCat-2.0 标为最新模型。 发布日期各说各话,官网首页仍挂着「Preview」。 官方对比表列出 30 多项评测,评测 LongCat-2.5 在多数智能体任务上表现优于 Opus 5,但在多数写代码项目仍落后 Opus 5。 评测集不含 GPT-6 系列、Opus 5.5 和 Fable 5.1,带星号的对手分数取自公开报告,未带星号的是美团自测。

多模态部分的机制是把图像编码成多层级的离散 token,与文本共用同一种 token 形式进主干。 长程任务的能力靠大规模强化学习堆上去,训练任务从 GitHub 公开仓库和内部代码场景合成,真实 Agent 跑失败的轨迹也会被转成可复现的训练题。 为防止模型在任务里投机取巧,环境会切断网络、清除 git 历史和文件缓存,另有一个 LLM 裁判审查轨迹。 长序列训练改用面向超节点设计的 FSDP 配置后,单卡吞吐比 DDP 基线提升 86%;

推理侧把专家权重和激活都量化到 4 bit 的 W4A4 方案在线上压测中对比 W8A8 基线,prefill 吞吐提升 43.3%,decode 提升42.77%,TTFT 和 TPOT 分别下降 15.91% 和 19.72%。 这些数字都是公司自报口径,报告没有写明用的是哪家厂商的卡、多少张、训练成本几何。 正式版技术博客没有列 API 价格,开源时间同样没有给出。

来源:北京智源研究院 · hub.baai.ac.cn

00