跳到正文
原文
The Decoder· Matthias Bastian·· 3 天前精选AI 评分70

百度发布280亿参数ERNIE 5.5 Flash

Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model

AI 摘要

百度发布了ERNIE-5.5-Flash-Base,一个开放的基础模型,故意不包含微调或后训练,采用混合专家架构,拥有2800亿参数,每个输入中140亿参数是活跃的

正文 · AI 翻译

百度的 AI 发展仍在继续,但大部分工作都在你这边。这家中国公司发布了 ERNIE-5.5-Flash-Base,这是一个故意不附带微调或后训练的开源基础模型。开发者需要自行决定如何使用该模型。一个后训练版本预计将随后推出

ERNIE 5.5 使用混合专家架构,拥有 2800 亿参数,每个输入中 140 亿参数是活跃的。该模型在 3350 万亿个 token 上进行了预训练,训练上下文长达 128,000 个 token,尽管它设计用于在微调和推理过程中支持高达一百万个 token 的上下文

ERNIE 5.5 Flash Base 的基准测试结果与 DeepSeek-V4-Flash-Base、Hy3-preview-Base 和 MiMo-V2.5-Base 进行了比较,这些测试在考试、STEM、推理、知识、代码、多语言和长上下文等类别中使用了相同的评估流程。 | 图片:百度

根据百度的说法,在推理、代码和长上下文任务的基准测试中,该模型与 DeepSeek V4 Flash 或 MiMo V2.5 等规模相似的开放基础模型竞争。权重可以在 Hugging Face 上以 FP8 和 BF16 格式获得

无浮夸的 AI 新闻 – 由人类编辑

订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻、我们独有的“AI 雷达”前沿报告(每年六次)、完整档案访问以及访问我们的评论区。

来源:The Decoder · the-decoder.com

00