Transformers v5.22.0, publié le 29 octobre 2026, ajoute la prise en charge de Mistral Large 4 (surnommé « Le Chonk »), que Mistral décrit comme son modèle le plus grand et le plus capable à ce jour. Lire les notes de version.
Ce que l'annonce établit
- Architecture : un modèle Mixture-of-Experts multimodal natif de 1 000 milliards de paramètres, avec 49 milliards actifs par token (52 milliards en incluant les embeddings et les couches de sortie) — 128 experts routés, 4 actifs par token, plus 1 expert partagé.
- Contexte et langues : une fenêtre de contexte de 1M de tokens et une maîtrise native de plus de 160 langues, dont toutes les langues officielles de l'UE.
- Modalités et modes : entrées texte et image, sortie texte (encodeur de vision de type Pixtral, tailles d'image variables) ; effort de raisonnement sélectionnable par requête — faible, moyen ou élevé, élevé par défaut.
- Entraînement : Mistral indique que le modèle a été entraîné from scratch sur 3 800 GPU NVIDIA Grace Blackwell dans ses propres datacenters européens.
Qui est concerné et comment l'utiliser
Les poids visent les développeurs en auto-hébergement via transformers (et l'écosystème d'inférence). Paramètres recommandés par Mistral : temperature=1.0 et top_p=0.95 pour tous les niveaux d'effort, des ensembles d'outils bien délimités et des instructions système claires en usage agentique.
Conditions de licence
La publication utilise la Mistral Ecosystem Open-Weight License, une version modifiée du MIT autorisant les usages commerciaux et non commerciaux — mais exploiter un modèle en tant que service (MaaS) exige une licence commerciale distincte auprès de Mistral.
Ce qui reste une affirmation du fournisseur
Mistral rapporte de fortes performances en cybersécurité, finance et droit, un repérage visuel de pointe parmi les poids ouverts et des résultats de cybersécurité décrits comme meilleurs parmi les poids ouverts. Ces chiffres proviennent des notes du fournisseur, sans évaluation indépendante ; aucune table de référence n'accompagnait la publication transformers.
Aussi dans cette version
La v5.22.0 liste des changements cassants, dont la séparation de la logique de parallélisme d'experts en un fichier dédié ; le correctif v5.21.1 réparait une régression du setter rope_scaling.
Couverture récente : v5.21.0 et v5.20.0. Les réserves sur les benchmarks fournisseurs sont expliquées dans notre guide de vérification.