跳到正文
原文
AIbase· AI Base·· 23 天前AI 评分38

摩尔线程 MTT S5000 完成阶跃星辰 Step 5 Preview 大模型 Day-0 适配

​摩尔线程率先完成阶跃星辰 Step 5 Preview 大模型 Day-0 适配

AI 摘要

摩尔线程在阶跃星辰开源 Step 5 Preview 同日宣布,MTT S5000 智算卡及 MUSA 软件栈已完成对该模型的 Day-0 适配。Step 5 Preview 采用稀疏 MoE 架构,总参数 600B、每 token 激活 27B,原生支持 100 万 token 上下文窗口。适配覆盖混合注意力、混合精度推理与投机解码等环节。 brief: yes

正文 · 中文整理稿

大模型与国产硬件的生态融合正在按下加速键。10月15日,阶跃星辰正式开源了其新一代大模型 Step5Preview。同日,摩尔线程官方宣布,旗下 MTT S5000 智算卡及配套的 MUSA 软件栈已第一时间完成对该模型的 Day-0 适配,展现出极高的响应与迭代效率。

在技术参数方面,Step5Preview 采用了先进的稀疏 MoE 架构,总参数量达到 600B,每个 token 激活参数为 27B,并原生支持高达 100 万 token 的超长上下文窗口。依托底层强大的硬件与软件支撑,摩尔线程此次适配工作深度覆盖了混合注意力、混合精度推理以及投机解码等核心环节。

此次双方的高效协同,不仅标志着国产智算硬件对前沿超大模型生态的支撑能力迈上新台阶,也为广大开发者在国产算力平台上部署和运行复杂长文本大模型提供了成熟、可靠的底层落地路径。

来源:AIbase · aibase.com

00