Podatności SGLang

Środowisko uruchomieniowe generowania multimodalnego SGLang jest podatne na nieuwierzytelnione wykonanie dowolnego kodu, ponieważ orchestrator disaggregated-diffusion wiąże nieuwierzytelniony gniazdo ZeroMQ ROUTER z interfejsem sieciowym i przekazuje ostatnią ramkę odebranych wiadomości wieloczęściowych bezpośrednio do pickle.loads() przed jakąkolwiek walidacją.

SGLang pozwala na nieuwierzytelnioną deserializację pickle poprzez /update_weights_from_tensor, gdy nie skonfigurowano kluczy uwierzytelniających, a politykę SafeUnpickler można obejść, ponieważ builtins.import i builtins.getattr są rozwiązywalne, co umożliwia wykonanie kodu poprzez pickle REDUCE.

SGLang zawiera podatność zdalnego wykonania kodu (RCE) podczas próby załadowania wag modelu z repozytorium HuggingFace. W punkcie końcowym /update_weights_from_disk funkcja torch.load z parametrem weights_only=False umożliwia deserializację pickle plików .bin.

SGLang zawiera podatność zdalnego wykonania kodu (RCE) w opcjonalnym podsystemie dumper. Gdy zmienna DUMPER_SERVER_PORT jest ustawiona, możliwa jest ucieczka z piaskownicy, co umożliwia wykonanie kodu na żądaniach inferencyjnych.

SGLang zawiera podatność zdalnego wykonania kodu (RCE) bez uwierzytelniania w punkcie końcowym /load_lora_adapter_from_tensors. Podatność wynika z obejścia niekompletnej listy blokad SafeUnpicklera, co umożliwia wykonanie dowolnych poleceń poprzez spreparowane ładunki pickle zakodowane w base64.

Podatność w SGLang dotyczy podsystemu kopii zapasowej ekspertów równoległych, który udostępnia gniazdo ZeroMQ PULL na routowalnym interfejsie sieciowym bez uwierzytelniania ani zabezpieczeń deserializacji. Umożliwia to atakującemu dostarczenie złośliwego pliku pickle, prowadząc do nieuwierzytelnionego zdalnego wykonania kodu, gdy funkcja jest włączona, a usługa jest osiągalna przez sieć.

SGLang zawiera podatność na atak DoS spowodowaną brakiem walidacji danych wejściowych dla komunikatów kontrolnych AUX_DATA ZeroMQ w workerze Decode. Umożliwia to nieuwierzytelnionemu zdalnemu atakującemu z dostępem sieciowym do gniazda PULL kontroli Decode zakończenie wątku kontroli Decode i spowodowanie odmowy usługi na docelowym serwerze.

SGLang w wersjach do 0.5.20 zawiera podatność na nieograniczoną alokację pamięci w funkcji handle_staging_req(), która nie waliduje wartości chunk_idx z ramek ZMQ STAGING_REQ w środowiskach z rozdzielonym prefill/decode. Atakujący z dostępem do wewnętrznego portu ZMQ silnika decode może wysłać ramkę z bardzo dużą wartością chunk_idx, powodując alokację pamięci aż do wyczerpania zasobów systemu i zakończenia procesu.

SGLang w wersji do 0.5.19, w trybie rozdzielenia prefill/decode z backendem transferu KV Mooncake, nie waliduje wartości bootstrap_room, co pozwala na nieograniczoną alokację stanu transferu. Nieuwierzytelniony atakujący może wywołać endpoint POST /generate silnika decode i przesłać dowolne wartości bootstrap_room, wyczerpując pamięć procesu prefill aż do zakończenia z powodu braku pamięci.

SGLang do wersji 0.5.19 w trybie rozdzielenia prefill/decode zawiera nieuwierzytelniony endpoint PUT /route w usłudze prefill bootstrap, który pozwala atakującym zatruć tablicę routingu transferu KV. Atakujący mogą podać dowolne wartości rank_ip i rank_port, aby przekierować workery decode do kontrolowanych przez siebie endpointów. Może to powodować odmowę usługi lub ujawnienie metadanych transferu KV, w tym identyfikatorów sesji i parametrów topologii tensor-parallel.

SGLang zawiera podatność na eksfiltrację wag modelu, gdy nie skonfigurowano kluczy API. SGLang udostępnia dwa endpointy, które pozwalają zdalnemu atakującemu na wywołanie rozgłaszania wag za pomocą NCCL, a następnie transfer danych, co umożliwia eksfiltrację wszystkich wag modelu.

SGLang zawiera podatność na wyciek poświadczeń w punkcie końcowym /server_info. Gdy skonfigurowany jest tylko parametr --admin-api-key, endpoint ten zwraca klucze API oraz informacje o plikach kluczy SSL.

SGLang zawiera podatność na SSRF (Server-Side Request Forgery) oraz odczyt lokalnych plików w punkcie końcowym generowania multimodalnego /v1/chat/completions. Wynika to z braku sanityzacji parametru image_url, co umożliwia dostęp do wewnętrznych metadanych, sekretów i usług.

Podatność w SGLang do wersji 0.5.11 w funkcji data_hash komponentu Cache Handler powoduje odmowę usługi (DoS) przy lokalnym ataku o wysokiej złożoności. Exploit został opublikowany.

W SGLang 0.5.10.post1 w pliku python/sglang/srt/lora/lora_manager.py w komponencie Inference HTTP Endpoint podatność na osiągalne asercje przez argument lora_path. Atak zdalny o wysokiej złożoności, exploit opublikowany.