The Decoder· Matthias Bastian·· 3 天前精选AI 评分70
百度发布280亿参数ERNIE 5.5 Flash
Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model
AI 摘要
百度发布了ERNIE-5.5-Flash-Base,一个开放的基础模型,故意不包含微调或后训练,采用混合专家架构,拥有2800亿参数,每个输入中140亿参数是活跃的
正文 · AI 翻译
百度的 AI 发展仍在继续,但大部分工作都在你这边。这家中国公司发布了 ERNIE-5.5-Flash-Base,这是一个故意不附带微调或后训练的开源基础模型。开发者需要自行决定如何使用该模型。一个后训练版本预计将随后推出
ERNIE 5.5 使用混合专家架构,拥有 2800 亿参数,每个输入中 140 亿参数是活跃的。该模型在 3350 万亿个 token 上进行了预训练,训练上下文长达 128,000 个 token,尽管它设计用于在微调和推理过程中支持高达一百万个 token 的上下文

根据百度的说法,在推理、代码和长上下文任务的基准测试中,该模型与 DeepSeek V4 Flash 或 MiMo V2.5 等规模相似的开放基础模型竞争。权重可以在 Hugging Face 上以 FP8 和 BF16 格式获得
无浮夸的 AI 新闻 – 由人类编辑
订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻、我们独有的“AI 雷达”前沿报告(每年六次)、完整档案访问以及访问我们的评论区。
来源:The Decoder · the-decoder.com
00