跳到正文
原文
北京智源研究院· hyper.ai·· 2 天前AI 评分50

开源编程模型Flint开源

在线教程丨田渊栋团队开源编程模型Flint:39.8B参数,每个Token仅激活2.5B

AI 摘要

Recursive推出的开源语言模型Flint采用Decoder-only Mixture-of-Experts(MoE)架构,总参数量达39.8B,每个Token仅激活2.5B参数

正文 · 中文整理稿

从补全一段函数,到根据自然语言生成完整项目,代码模型正在不断降低软件开发的门槛。 但真正的软件开发并不只是写出一段能运行的代码,理解已有项目结构、定位 Bug、修改多个文件、运行测试,再根据报错继续调整——这些环节往往需要模型具备更完整的代码理解和任务执行能力。 Recursive 推出的 Flint,正是面向 Coding Agent 场景设计的开源语言模型,能够理解代码库、修复 Bug、实现新功能、编写测试,并支持多轮推理与工具调用。

Flint 采用 Decoder-only Mixture-of-Experts(MoE)架构,总参数量达到 39.8B,但每个 Token 实际激活的参数约为 2.5B。 在其 MoE 层中,每个 Token 会从 256 个路由专家中选择 6 个,同时使用 1 个始终激活的共享专家。 这种设计让模型保有较大的总参数规模,同时减少单个 Token 推理时需要调用的参数。

这也是 MoE 架构在计算效率上的核心思路:通过路由机制,根据当前输入选择合适的专家参与计算,在保留模型容量的同时,减少每个 Token 所需激活的参数量。 对于需要持续进行代码分析、推理和工具调用的 Agent 任务,这种设计有助于控制推理阶段的计算开销。 在实际能力方面,Flint 支持多轮对话、推理和工具调用。

根据 Recursive 公布的评测结果,模型在 SWE-bench Pro v2 上取得 89.7%,在 SWE-bench Verified 上取得 74.2%,在 Terminal-Bench 2.1 上取得 54.9%,展现了其在软件工程任务与终端操作场景中的表现。 这意味着,Flint 的定位并不是简单地帮你补全下一行代码,而是尝试成为能够理解开发任务、调用工具并持续推进问题解决的 Coding Agent 底层模型。

HyperAI 教程板块现已上线「Flint:面向 Coding Agent 的混合专家大语言模型」。 用户可以通过教程了解模型加载与推理流程,并体验其代码生成、推理及工具调用能力。 从生成一段代码,到参与解决一个完整的开发任务,Coding Agent 正在把 AI 的角色从代码助手进一步推向开发协作者。

来源:北京智源研究院 · hub.baai.ac.cn

00