Le projet vLLM a publié la v0.33.0 le 2 novembre 2026, forte de 927 commits de 389 contributeurs. Elle est publiée sous le tag v0.33.0rc3, avec le drapeau de pré-version GitHub désactivé et une annonce complète au nom de la v0.33.0 ; ce rapport suit la présentation du projet comme version stable v0.33.0. Lire les notes de version.
Ce qui change
- Nouveaux modèles : Reflection Beam-1.0 (MoE de 501B, 23B actifs, avec rédacteur DFlash2), Yandex AliceAI-Foundation-80B-A3B, Recursive Flint, Muse Spark Open, Step-5 Preview, NVIDIA Alpamayo 2 Super, Nemotron-Labs Dory1.0-4B, Nemotron Parse 3.5, MiniCPM-OCR 1.0, Domyn Edge et le récupérateur de documents visuels ColUltraVBERT.
- Socle plateforme : PyTorch 2.14.0 avec torchvision 0.29.0 et Triton 3.8.0 ; les wheels et images CUDA 12.9 sont abandonnés — les artefacts sont uniquement en CUDA 13.0. L'image ROCm par défaut passe à ROCm 10.0, la 7.2 restant publiée en
-rocm72. - Décodage spéculatif : un nouveau raffineur XPress pour les rédacteurs à diffusion par blocs ; les rédacteurs ne réservent plus de créneaux dans le budget de tokens — dans le benchmark du PR cité, DeepSeek-V4.1-Flash avec DSpark sur GB300 passe de 1 373 à 3 390 tokens par seconde en sortie ;
lm_headde brouillon quantifié en option (+18 % de décodage à concurrence 1, selon le PR) ; conservation du dernier bloc pour les succès de cache de préfixe EAGLE/MTP via des empreintes anticipées, activée par défaut. - Servage et API : un point de terminaison OpenAI-compatible
/v1/decisionsactivé par défaut ; embeddings avec découpage tardif ; importante avancée de parité du frontend Rust ; démarrage concurrent des workers pour TP > 1 ; un chien de garde qui capture les piles des processus bloqués.
Qui est concerné et quoi faire
Les équipes en auto-hébergement sur CUDA 12.9 doivent passer aux artefacts CUDA 13.0 (ou figer une version antérieure) avant de mettre à niveau. Les utilisateurs de Medusa, du spéculateur MLP ou de l'exécuteur Ray historique doivent migrer — les trois sont retirés. Le connecteur NIXL exige désormais NIXL 1.5 ou plus récent, et les requêtes arrivant pendant une génération en pause reçoivent une HTTP 503 au lieu d'être mises en file.
Performance annoncée par le fournisseur
Les notes citent d'importants gains sur du matériel précis — par exemple le décodage spécialisé en latence pour Kimi-K3 sur GB300 (1,5–2x à TP8/TP16), le préremplissage FlashInfer DCP avec 39–48 % de temps jusqu'au premier token en moins à 100k tokens d'entrée sur 8xB200, et le décodage MonoKernel sur MI300X/MI325X (2,32x en interactivité P50 à concurrence 1). Ces chiffres proviennent des benchmarks des pull requests du projet, sans test indépendant.
Couverture précédente : v0.32.0. Réserves sur les benchmarks : notre guide de vérification.