Katalog CVE

CVE-2026-54234

WysokieCVSS 7.5
Opublikowano: Zaktualizowano: Przetłumaczono: NVD NIST

Prawdopodobieństwo exploitacji (EPSS)

Niskie ryzyko
0.34%

Percentyl 26 - wyżej niż 26% wszystkich znanych CVE

Streszczenie

W silniku vLLM przed wersją 0.24.0 wykryto podatność polegającą na tym, że specjalnie spreparowane żądanie spekulatywnego dekodowania może spowodować wygenerowanie tokena spoza słownika modelu. Prowadzi to do awarii procesu roboczego (worker) z powodu asercji na GPU, co skutkuje przerwaniem wszystkich współbieżnych żądań.

Ocena ryzyka

Zdalny atakujący, wysyłając odpowiednio skonstruowane żądania przez publiczne punkty końcowe gRPC Generate i Abort, może spowodować awarię współdzielonego procesu roboczego. Skutkuje to przerwaniem żądań innych klientów i odmową usługi (DoS) dla całego wdrożenia do czasu restartu procesu.

Rekomendacja

Należy niezwłocznie zaktualizować vLLM do wersji 0.24.0 lub nowszej, która zawiera poprawkę eliminującą tę podatność.

Inne podatności w vLLM

Zobacz wszystkie
Oryginalny opis (angielski, źródło NVD)

vLLM is a high-throughput and memory-efficient inference and serving engine for LLMs. Prior to 0.24.0, a frontend-legal multi-request speculative decoding workload can cause the rejection sampler to produce a recovered token equal to the model vocabulary size boundary value, which is then converted to negative one when the engine selects the next live token for a request and is written back into the drafter's input ids; that out-of-vocabulary value is later consumed by the model's embedding and attention path and crashes the engine worker with a GPU device-side assertion. The same triggering request sequence is reachable through the public gRPC Generate and Abort endpoints, so a remote client that can send generation requests can crash the shared engine worker, aborting concurrent requests and causing a service-wide denial of service for other clients of the deployment until the worker is restarted. This issue is fixed in version 0.24.0.

Dane podatności pochodzą z NVD (NIST) · CISA KEV · EPSS