当前位置： 首页 > news >正文

ollama v0.20.0 更新：Gemma 4 全家桶发布，音频、视觉、MoE、BPE 支持全面升级

news 2026/5/28 3:53:51

2026年4月3日，ollama 发布了v0.20.0版本。
这次更新的核心非常明确：Gemma 4 正式加入支持，并且围绕模型推理、音频能力、Tokenizer、视觉测试、转换器、OpenAI 音频接口等多个方向进行了集中增强。

如果你关注本次更新，可以直接从两个关键词理解：

  • Gemma 4
  • 音频与推理能力升级

下面按照本次版本更新内容，逐项整理成一篇完整的技术更新说明。

一、Gemma 4 正式加入支持

本次 v0.20.0 最重要的变化，就是Gemma 4相关支持的加入。
更新中给出了多个可直接运行的模型规格：

1）Effective 2B（E2B）

运行命令：

ollama run gemma4:e2b

这是 Gemma 4 的有效 2B 版本，适合轻量场景使用。

2）Effective 4B（E4B）

运行命令：

ollama run gemma4:e4b

这是 Gemma 4 的有效 4B 版本，在能力和资源消耗之间做了更平衡的选择。

3）26B（Mixture of Experts model with 4B active parameters）

运行命令：

ollama run gemma4:26b

这是一个MoE（Mixture of Experts）模型，描述中说明其4B active parameters。

4）31B（Dense）

运行命令：

ollama run gemma4:31b

这是 Gemma 4 的31B Dense版本，属于更大规模的稠密模型。

从这次发布的信息来看，Gemma 4 已经形成了较完整的规格覆盖，从轻量到大模型都提供了支持方式，用户可以按资源和场景选择对应版本。

二、What’s Changed：本次更新涉及的关键内容

本次版本的更新记录非常集中，主要围绕 Gemma 4、音频、Tokenizer、文档、推理与测试展开。下面逐条梳理。

三、文档更新

首先是文档相关更新：

  • docs: update pi docs

这说明本次版本中对 pi 相关文档进行了更新。
虽然内容本身不多，但说明文档层面同步跟进了新版本变化，方便用户查阅和使用。

四、Tokenizer 增强：支持 SentencePiece-style BPE

本次更新中有一个非常关键的底层能力变化：

  • tokenizer: add SentencePiece-style BPE support

这表示 Tokenizer 新增了SentencePiece 风格的 BPE 支持。
这一变化对于模型适配和分词处理非常重要，尤其是在处理不同模型格式与分词规则时，可以提升兼容性。

与此同时，后续也有与 tokenizer 相关的配套修复：

  • mlx: respect tokenizer add_bos_token setting in pipeline

这个改动说明在 pipeline 中会尊重 tokenizer 的add_bos_token设置。
换句话说，Tokenizer 的行为会更贴合配置，避免在处理输入时出现不一致情况。

五、Gemma 4 的模型支持与转换器更新

1）Gemma 4 GGML 模型支持

更新中明确写到：

  • gemma4: add Gemma 4 GGML model support

这表示 Gemma 4 的 GGML 模型支持已经加入。

2）转换器更新：适配新的 weight drop 命名

  • gemma4: update converter for new weight drop naming

这说明 Gemma 4 相关转换器已经根据新的 weight drop 命名进行了更新。
这是模型转换流程中非常关键的一环，确保新版本模型文件命名和导入过程能够顺利对接。

六、音频能力大幅增强

这次 v0.20.0 在音频方向的变化非常密集，可以说是重点之一。

1）添加音频支持，使用 USM conformer encoder

更新内容：

  • gemma4: add audio support with USM conformer encoder

这表明 Gemma 4 新增了音频支持，并且使用的是USM conformer encoder。

2）OpenAI 音频 API 支持与能力检测

更新内容：

  • gemma4: add OpenAI audio API support and capability detection

这说明本次版本已经加入了OpenAI 音频 API 支持，并且还包含capability detection，也就是能力检测机制。

3）音频输入支持

更新内容：

  • gemma4: add audio input support for run command

这意味着在 run 命令中已经支持音频输入。

4）新增转写命令

更新内容：

  • gemma4: add transcribe command (ollama transcribe MODEL)

这次新增了一个转写命令：

ollama transcribe MODEL

这对于音频转文字场景非常直接，命令形式也很清晰。

5）增加 OpenAI 音频转写 API 和 input_audio 支持

更新内容：

  • gemma4: add OpenAI audio transcription API and input_audio support

这进一步完善了音频能力，不仅是输入和转写，还补充了与 OpenAI 音频转写 API 相关的支持，以及 input_audio 能力。

6）音频输入改为 dropped file attachments

更新内容：

  • cmd: simplify audio input to dropped file attachments

这说明音频输入在命令层面被简化为dropped file attachments，使用方式更直接。

从这一组更新可以看出，v0.20.0 在音频方向完成了从输入、转写、API 到命令行体验的一整套补强。

七、Gemma 4 解析、渲染与集成测试支持

本次更新还有一组围绕 Gemma 4 的基础设施改进：

  • gemma4: add parser, renderer, and integration test plumbing

这说明已经加入了parser、renderer、integration test plumbing。
也就是说，Gemma 4 在解析、渲染以及集成测试方面的配套设施已经补上。

1）渲染器修复：输出 BOS token

  • gemma4: fix renderer to emit BOS token

这是一个非常具体的修复，说明 renderer 现在会正确输出BOS token。

2）渲染器重写：与 HF Jinja2 模板完全一致

  • gemma4: rewrite renderer to match HF Jinja2 template exactly

这说明渲染器被重写，以确保与 HF Jinja2 模板保持完全一致。

这个变化通常意味着模型输入模板的行为会更加标准化，减少模板差异带来的结果偏差。

八、MoE 相关增强与修复

Gemma 4 的 26B 版本是 MoE 模型，因此 MoE 相关改动非常关键。

1）为 MoE router 增加 per_expert_scale，并修复 moe_intermediate 问题

更新内容：

  • gemma4: add per_expert_scale to MoE router and fix moe_intermediate_s…

虽然后半部分在记录中被截断，但已经明确看到两个重点：

  • 为 MoE router 增加per_expert_scale
  • 修复moe_intermediate_s…相关问题

2）修复 MoE fused gate_up split 和 multiline tool-call arg parsing

更新内容：

  • gemma4: fix MoE fused gate_up split and multiline tool-call arg parsing

这说明本次对 MoE 的 fused gate_up split 做了修复，同时还修复了multiline tool-call arg parsing。

3）MoE block 字段对齐格式调整

更新内容：

  • Format Gemma4 MoE block field alignment

这是一个格式层面的整理，说明 Gemma4 MoE block 的字段对齐做了统一和规范化。

从这些信息可以看出，Gemma 4 的 MoE 版本在结构、解析、格式与计算路径方面都做了较完整的修复和优化。

九、视觉测试与 thinking 测试增强

更新中还有测试相关增强：

  • integration: improve vision test robustness and add thinking tests

这表示集成测试进一步增强了视觉测试的稳定性，同时新增了 thinking tests。
从结果上看，这类更新主要是为了提升整体验证能力，让新版本在视觉相关场景和推理相关场景下更加可靠。

十、Gemma 4 音频测试与 OpenAI API 覆盖

音频相关不仅有能力支持，也同步加入了测试覆盖：

  • integration: add gemma4 audio tests including OpenAI API coverage

这说明本次版本已经加入了 Gemma 4 音频测试，并且包括 OpenAI API 的覆盖。
这和前面音频能力的增强是相互呼应的，说明该版本并不是只做了功能接入，也同步补齐了对应验证。

十一、Gemma 4 视觉模型注释与字段格式调整

更新记录中还有一些针对模型结构和代码可读性的整理：

  • Remove redundant comments in gemma4 vision model
  • Format Gemma4 MoE block field alignment

前者表示移除了 Gemma 4 视觉模型中的冗余注释。
后者则对 Gemma4 MoE block 的字段对齐格式进行了调整。

这类更新虽然看起来偏细节，但对于代码维护、结构统一和后续协作非常重要。

十二、内存缓存与推理缓存优化

本次更新里还有一项和缓存相关的改动：

  • use 4096 kvcache.NewSWAMemCache
  • gemma4: use full SWA memory for better cache reuse

这说明缓存机制做了调整：

  • 使用了4096 kvcache.NewSWAMemCache
  • 同时使用full SWA memory来获得更好的 cache reuse

这类优化通常和推理效率、上下文缓存复用体验有关，是底层能力增强的一部分。

十三、Gemma 4 clamps 初始化与后端加载修复

更新记录中还有：

  • gemma4: initialize clamps after backend load

这表示 clamps 的初始化时机调整到了 backend load 之后。
从描述来看，这是一个初始化顺序上的修复，用于保证加载流程更稳定。

十四、Gemma 4 GGML 改进合并

更新记录最后还有一个重要的合并信息：

  • Merge pull request from gemma4-ggml-improvements

这说明本次版本把 Gemma 4 的 GGML 改进进行了合并，和前面提到的 GGML model support、converter 更新等内容形成闭环。

十五、本次 v0.20.0 更新总结

整体来看，ollama v0.20.0 这次更新可以概括为几个核心方向：

  1. Gemma 4 正式上线

    • 提供了 E2B、E4B、26B、31B 多种规格
    • 支持 GGML 模型

  2. 音频能力全面增强

    • 支持音频输入
    • 新增转写命令
    • 增加 OpenAI 音频 API 与 transcription API 支持
    • 支持 input_audio
    • 简化音频输入方式

  3. Tokenizer 和模板能力增强

    • 增加 SentencePiece-style BPE 支持
    • pipeline 尊重 add_bos_token
    • renderer 重写并修复 BOS token 输出

  4. MoE 与推理路径优化

    • 增加 per_expert_scale
    • 修复 MoE 相关问题
    • 调整字段格式和分裂逻辑
    • 改进缓存复用

  5. 测试与工程能力增强

    • 视觉测试稳定性提升
    • 新增 thinking tests
    • 补充 Gemma 4 音频测试与 OpenAI API 覆盖
http://www.jsqmd.com/news/584831/

相关文章：

  • Realistic Vision V5.1 快速上手：Python入门者也能运行的第一个AI生成程序
  • 千问3.5-2B集成IDEA开发环境：Java智能代码助手实战
  • 【NeuroARG】花3分钟做了AI主播牛肉的专向作者强人工智能OC专辑“考古”[AIGC]
  • Python数据分析环境搭建：Phi-4-mini-reasoning辅助Anaconda管理
  • VibeVoice Pro企业级部署：高可用架构设计、API限流、语音水印嵌入方案
  • 手势识别技术落地：用MediaPipe彩虹骨骼版快速实现人机交互感知功能
  • Redis优化以太坊交易池性能实战，hadoop-mapreduce。
  • FPGA实现SRIO高速图像传输方案，设计模式(C++)详解——状态模式（State）(2)。
  • 04 零基础必看：AI代码指令的核心逻辑与编写原则
  • 当微信支付宝银行卡被冻结数字时代的司法困境与报表正义之问
  • MiniCPM-o-4.5-nvidia-FlagOS参数详解：eager注意力模式+PyTorch 2.9+CUDA 12.8适配指南
  • ANIMATEDIFF PRO镜像免配置：开箱即用的电影级AI视频工作站
  • SEO接单需要具备什么样的心理素质_SEO接单的市场前景如何
  • vLLM-v0.17.1模型服务容器化：基于Docker与Kubernetes的部署实践
  • Nginx高性能配置与优化实战，分布式排行榜系统设计方案。
  • Omni-Vision Sanctuary 与前端交互：Web端实时视频流AI分析界面开发
  • RVC效果测评：AI翻唱对比原声，听听哪个更逼真
  • 伏羲天气预报代码实例：Python命令行调用fuxi.py实现自定义步数预报
  • Windows下OpenClaw安装避坑：Qwen3.5-9B镜像对接全记录
  • OpenCode集成指南：如何与GitHub Action结合，自动化处理Issue和PR
  • DeOldify多模态扩展潜力：结合OCR识别文字区域后针对性上色方案
  • Hunyuan-MT-7B开源镜像部署教程：像素语言Portal在A10/A100显卡上的算力优化实践
  • 网络协议原理可视化：Qwen3.5-2B图解TCP三次握手与HTTP/2帧结构
  • BERT文本分割-中文-通用领域实战教程：Gradio前端一键部署
  • Fish Speech 1.5应用场景：制作多语言有声书和视频配音全流程
  • BGE-Large-Zh惊艳效果展示：紫色UI热力图+高精度匹配结果真实截图
  • nlp_structbert_sentence-similarity_chinese-large 快速入门：3步完成首次API调用
  • OpenClaw社交媒体管理：Qwen3-14B定时发布小红书文案
  • LFM2.5-1.2B-Thinking-GGUF惊艳效果：32K上下文下长文档关键信息抽取准确率实测
  • 文字也有情绪？像素心智情绪解码器带你探索隐藏在文本中的情感密码