值得关注

Ollama v0.40.4:决策模型进入命令行

10 月 12 日版本支持在终端直接运行决策模型,ollama launch 可免升级付费方案使用额度,本地推理更快。未列出破坏性变更。

来源发布于 2026-10-12

本文为译文。 阅读原稿

Ollama 于 2026 年 10 月 12 日发布 v0.40.4,距 v0.40.3 仅一天。核心变化是决策模型进入 CLI;发布说明未列出破坏性变更。阅读发布说明。

终端里的决策模型

决策模型现在可以直接用 ollama run 运行。发布说明给出的示例是让模型为工单打标签:

ollama run nimble --ask "Is a refund being requested?" < ticket.txt

适用场景包括是非判断、把文本分类到标签,以及按评分规则打分。Kev 决策模型也已在 Apple 芯片的 MLX 运行器中支持,llama.cpp 同步更新了原生决策模型支持。

其他变化

  • ollama launch 现在可以不升级付费方案直接使用用量额度。
  • Codex 启动器的模型选择器现在列出本地已安装的 Ollama 模型,可用 /model 切换。
  • 可复用已验证清单和已加载模型时,推理更快。
  • llama-server 支持多模态嵌入。

修复与性能

本版修复了小上下文窗口下多模态嵌入模型加载失败的问题;MLX 运行器在 NVIDIA GPU 上改进了 Gemma 4 预填充性能;对过长的 Laya 状态改为截断而非拒绝;提升了投机解码的可靠性(包括回滚后的循环状态处理)。文档中关于隐私与云服务的表述也已澄清。

本文覆盖 10 月 12 日的发布说明。我们的来源核查指南说明了阅读方式。

原始来源官方来源