Hugging Face 于 2026 年 10 月 15 日发布 transformers v5.20.0,新增五种模型架构及若干修复。阅读发布说明。
新模型支持
- Muse Spark Open(Meta):多模态混合专家模型,接受文本、图像、音频和视频输入并生成文本。总参数 816B(每 token 激活 42B),跨模态共享最长 1,048,576 token 上下文;面向多文件编辑、调试和工具使用等智能体编码任务训练,提供 BF16 与 NVFP4 两种精度检查点。
- Ling 3.0 Flash(InclusionAI):混合 MoE 语言模型,解码器按 5 层 Kimi Delta Attention 配 1 层 Multi-head Latent Attention 分组;以
BailingHybridForCausalLM原生支持,无需trust_remote_code=True。 - Kolibri 1(Aleph Alpha):德英双语 MoE 推理模型;50 层中每层经 sigmoid 路由把每个 token 送入 384 个专家中的 6 个并附加一个共享专家,滑动窗口注意力层与全注意力层交替。
- MiniCPM-V 4.7(OpenBMB):SigLIP 视觉编码器搭配 Qwen3.5 主干,新增 canvas M-RoPE——把每张图像铺在二维画布上,为每个视觉 token 分配(时间、高、宽)位置,保持图像切片的空间关系与视频帧的时序。
- UnlimitedOcr(百度):单一 3B 参数 OCR 模型,32,768 token 上下文,基于 DeepSeek OCR 构建。
本文覆盖 10 月 15 日的发布说明;上一版本见v5.19.0 报道。我们的核查指南说明了如何跟踪库版本。