跳到正文
原文
Google DeepMind·· 2026-06-09精选AI 评分82

Google DeepMind 发布 Gemma 4 12B:统一无编码器多模态模型

Introducing Gemma 4 12B: a unified, encoder-free multimodal model

AI 摘要

Google DeepMind 发布 Gemma 4 12B,一款面向笔记本的智能体多模态模型,介于 E4B 与 26B MoE 之间,可在 16GB 显存或统一内存上本地运行。

正文 · AI 翻译

2026年6月3日

|

Gemma 4 12B 旨在将高性能多模态智能直接带到你的笔记本电脑上,将移动优先的效率与高级推理相结合。


Olivier Lacombe

Google Deepmind 产品管理总监

Gus Martins

Google DeepMind 产品经理


Gemma 4 12B Unified Transformer

收听文章

[[duration]] 分钟

此内容由 Google AI 生成。生成式 AI 仍处于实验阶段

今天,我们推出 Gemma 4 12B,这是我们最新的模型,旨在将智能体多模态智能直接带到笔记本电脑上。它弥合了我们边缘友好的 E4B 与更先进的 26B 混合专家(MoE)模型之间的差距,在更小的内存占用中集成了强大的能力。这也是我们首个支持原生音频输入的中型模型。

得益于开发者社区,Gemma 4 模型的下载量现已突破 1.5 亿次。你们构建了从用于身体辅助的可穿戴机械臂到企业级 AI 安全的各种应用。我们很期待看到你们用这一最新成员构建出什么。

以下是 Gemma 4 12B 的独特之处概览:

  • 新颖的统一架构:没有多模态编码器。视觉和音频输入直接流入 LLM 主干。
  • 高级推理:基准性能接近我们的 26B 模型,解锁强大的多步推理和智能体工作流。
  • 笔记本就绪:体积足够小,仅需 16GB 显存或统一内存即可在本地运行。
  • 开放且易获取:以 Apache 2.0 许可证发布,并在整个开发者生态系统中提供支持。
  • 草稿模型就绪:Gemma 4 12B 配备了多令牌预测(MTP)草稿模型以降低延迟。

这些特性共同将高级多模态能力带到日常硬件上,同时不牺牲速度或推理能力。现在让我们仔细看看 Gemma 4 12B 是如何实现这一点的。

在本地运行最先进的智能体

Gemma 4 12B 在标准基准测试中性能接近我们更大的 26B MoE 模型,但总内存占用不到其一半。它足够小,可以在配备 16GB 内存的消费级笔记本电脑上本地运行,让你在自己的机器上解锁强大的多模态和智能体体验。

Gemma 4 12B Benchmark

体验独特高效、统一的架构

Gemma 4 12B 的突出之处在于其处理视觉和音频输入的简化方法。传统的多模态模型通常依赖单独的编码器来转换图像和音频,然后再将这些表示传递给语言模型。由于这些分离的编码器会增加延迟并提高内存使用量,我们以无编码器架构训练了 Gemma 4 12B,以直接集成音频和视觉输入。

以下是 Gemma 4 12B 如何原生处理多模态输入:

  • 视觉:我们用轻量级嵌入模块替换了 Gemma 4 的视觉编码器,该模块由单次矩阵乘法、位置嵌入和归一化组成。这允许 LLM 主干接管视觉处理。
  • 音频:我们进一步简化了音频处理。我们完全移除了音频编码器,并将原始音频信号投影到与文本令牌相同的维度空间。

想要详细了解的开发者,请前往我们的配套 Gemma 4 12B 开发者指南。

立即开始

来源:Google DeepMind · deepmind.google

00