CVE-2026-105757
Beschrijving NL
vLLM is een inferentie- en bedieningsmotor voor grote taalmodellen. Voorafgaand aan 0.30.0 kunnen mislukte gestructureerde outputverzoeken ontsnappen aan validatie met aanvraagscopie en het fatale foutpad van EngineCore bereiken. Een per-request backend mismatch kan een grammatica compilatie-uitzondering opnieuw verhogen, padding geproduceerd door de speculatieve-decoderingsmodus ngram_gpu kan een negatief token doorgeven aan de validatie van richtlijnen, en de Rust-frontend kan lege gestructureerde outputwaarden toestaan die de Python-frontend afwijst, waardoor gewone beperkte generatieverzoeken de gedeelde engine kunnen beëindigen. Dit probleem is opgelost in versie 0.30.0.
Origineel (Engels) tonen
vLLM is an inference and serving engine for large language models. Prior to 0.30.0, structured-output request failures can escape request-scoped validation and reach the EngineCore fatal-error path. A per-request backend mismatch can re-raise a grammar compilation exception, padding produced by the ngram_gpu speculative-decoding mode can pass a negative token to guidance validation, and the Rust frontend can admit empty structured-output values that the Python frontend rejects, allowing ordinary constrained-generation requests to terminate the shared engine. This issue is fixed in version 0.30.0.