From 44de50ddf477afbc4155060096f5e1c9c8937fc7 Mon Sep 17 00:00:00 2001 From: Helix <267227783+helix-nine@users.noreply.github.com> Date: Wed, 1 Jul 2026 15:30:51 +0000 Subject: [PATCH] =?UTF-8?q?chore:=20bump=20vLLM=20nightly=20to=2093d8f834;?= =?UTF-8?q?=200.23.1-rc.0:9=20=E2=86=92=200.23.1-rc.0:10?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- startos/manifest/index.ts | 2 +- startos/versions/current.ts | 12 ++++++------ vllm | 2 +- 3 files changed, 8 insertions(+), 8 deletions(-) diff --git a/startos/manifest/index.ts b/startos/manifest/index.ts index 3e992d8..4dda754 100644 --- a/startos/manifest/index.ts +++ b/startos/manifest/index.ts @@ -10,7 +10,7 @@ const mutable = (value: T): Mutable => value as Mutable // Pinned upstream vLLM nightly commit. nvidia and rocm both run vLLM's official // prebuilt images at this commit, so they stay in lockstep — bump it on a vllm // update (and bump the submodule + versions to match). See UPDATING.md. -const NIGHTLY_SHA = 'a16dbd5b8572d4128be9f10b9dcff4999b594b25' +const NIGHTLY_SHA = '93d8f834dd8acf33eb0e2a75b2711b628cb6e226' // Upstream vLLM version of the bundled submodule, fed to the cpu source build as // SETUPTOOLS_SCM_PRETEND_VERSION (the submodule's .git isn't usable in the Docker diff --git a/startos/versions/current.ts b/startos/versions/current.ts index 9b48044..055acb0 100644 --- a/startos/versions/current.ts +++ b/startos/versions/current.ts @@ -1,13 +1,13 @@ import { VersionInfo } from '@start9labs/start-sdk' export const current = VersionInfo.of({ - version: '0.23.1-rc.0:9', + version: '0.23.1-rc.0:10', releaseNotes: { - en_US: `Advances the bundled vLLM nightly build to commit a16dbd5 (still on the upstream 0.23.1rc0 line). Highlights: new Unlimited OCR, openai/privacy-filter, and tensor-parallel DiffusionGemma model support; the CPU backend gains compressed-tensor w8a8 int8 MoE, a RISC-V RVV W4A8 INT4 GEMM path, and DFlash speculative decoding, plus a fix for a macOS/Apple Silicon build hang; the core drops the FlashAttention block-size restriction for hybrid models and adds a VLLM_GPU_SYNC_CHECK debugging env var; and reasoning fixes for thinking-token-budget enforcement and reasoning-end detection. The legacy Aquila and Grok model architectures were removed. Full changes: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`, - es_ES: `Avanza la compilación nightly de vLLM incluida al commit a16dbd5 (sigue en la línea upstream 0.23.1rc0). Destacados: nuevo soporte de modelos Unlimited OCR, openai/privacy-filter y DiffusionGemma con paralelismo de tensores; el backend de CPU gana MoE w8a8 int8 con compressed-tensor, una ruta GEMM W4A8 INT4 RVV para RISC-V y decodificación especulativa DFlash, además de una corrección para un bloqueo de compilación en macOS/Apple Silicon; el núcleo elimina la restricción de tamaño de bloque de FlashAttention para modelos híbridos y añade la variable de entorno de depuración VLLM_GPU_SYNC_CHECK; y correcciones de razonamiento para la aplicación de thinking-token-budget y la detección de fin de razonamiento. Se eliminaron las arquitecturas de modelos heredadas Aquila y Grok. Cambios completos: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`, - de_DE: `Aktualisiert den gebündelten vLLM-Nightly-Build auf Commit a16dbd5 (weiterhin auf der Upstream-Linie 0.23.1rc0). Highlights: neue Modellunterstützung für Unlimited OCR, openai/privacy-filter und tensor-paralleles DiffusionGemma; das CPU-Backend erhält compressed-tensor w8a8-int8-MoE, einen RISC-V-RVV-W4A8-INT4-GEMM-Pfad und DFlash-Speculative-Decoding sowie einen Fix für einen Build-Hänger auf macOS/Apple Silicon; der Kern entfernt die FlashAttention-Blockgrößenbeschränkung für hybride Modelle und fügt die Debugging-Umgebungsvariable VLLM_GPU_SYNC_CHECK hinzu; und Reasoning-Fixes für die Durchsetzung des Thinking-Token-Budgets und die Reasoning-Ende-Erkennung. Die veralteten Modellarchitekturen Aquila und Grok wurden entfernt. Vollständige Änderungen: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`, - pl_PL: `Aktualizuje dołączoną kompilację nightly vLLM do commitu a16dbd5 (nadal na upstreamowej linii 0.23.1rc0). Najważniejsze: nowa obsługa modeli Unlimited OCR, openai/privacy-filter oraz DiffusionGemma z równoległością tensorów; backend CPU zyskuje MoE w8a8 int8 z compressed-tensor, ścieżkę GEMM W4A8 INT4 RVV dla RISC-V oraz dekodowanie spekulacyjne DFlash, a także poprawkę zawieszania kompilacji na macOS/Apple Silicon; rdzeń usuwa ograniczenie rozmiaru bloku FlashAttention dla modeli hybrydowych i dodaje zmienną środowiskową debugowania VLLM_GPU_SYNC_CHECK; oraz poprawki rozumowania dla egzekwowania thinking-token-budget i wykrywania końca rozumowania. Usunięto przestarzałe architektury modeli Aquila i Grok. Pełne zmiany: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`, - fr_FR: `Met à jour la version nightly de vLLM incluse vers le commit a16dbd5 (toujours sur la ligne upstream 0.23.1rc0). Points forts : nouvelle prise en charge des modèles Unlimited OCR, openai/privacy-filter et DiffusionGemma à parallélisme de tenseurs ; le backend CPU gagne un MoE w8a8 int8 compressed-tensor, un chemin GEMM W4A8 INT4 RVV pour RISC-V et le décodage spéculatif DFlash, ainsi qu'un correctif pour un blocage de compilation sur macOS/Apple Silicon ; le cœur supprime la restriction de taille de bloc de FlashAttention pour les modèles hybrides et ajoute la variable d'environnement de débogage VLLM_GPU_SYNC_CHECK ; et des correctifs de raisonnement pour l'application du thinking-token-budget et la détection de fin de raisonnement. Les architectures de modèles héritées Aquila et Grok ont été supprimées. Changements complets : https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`, + en_US: `Advances the bundled vLLM nightly build to commit 93d8f834 (still on the upstream 0.23.1rc0 line). Highlights: two security fixes — image decompression-bomb OOM denial-of-service, and bounded tokenizer work when an explicit truncation_side is set; a pluggable sleep-mode backend abstraction in the core; a new streaming parser engine with Kimi k2.5/k2.6/k2.7 tool-call support; speculative-decoding gains (SWA + DFlash for MiMo, block verification for rejection sampling); a new HPC-Ops attention backend; and GLM5 FlashMLA FP8 KV-cache support. The Tarsier and Tarsier2 model architectures were removed. Full changes: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`, + es_ES: `Avanza la compilación nightly de vLLM incluida al commit 93d8f834 (sigue en la línea upstream 0.23.1rc0). Destacados: dos correcciones de seguridad — denegación de servicio por OOM con bomba de descompresión de imágenes y limitación del trabajo del tokenizador cuando se establece un truncation_side explícito; una abstracción de backend de modo de reposo conectable en el núcleo; un nuevo motor de análisis en streaming con soporte de llamadas a herramientas Kimi k2.5/k2.6/k2.7; mejoras en la decodificación especulativa (SWA + DFlash para MiMo, verificación por bloques para el muestreo por rechazo); un nuevo backend de atención HPC-Ops; y soporte de caché KV FP8 FlashMLA para GLM5. Se eliminaron las arquitecturas de modelos Tarsier y Tarsier2. Cambios completos: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`, + de_DE: `Aktualisiert den gebündelten vLLM-Nightly-Build auf Commit 93d8f834 (weiterhin auf der Upstream-Linie 0.23.1rc0). Highlights: zwei Sicherheitsfixes — OOM-Denial-of-Service durch Bild-Dekomprimierungsbombe und begrenzte Tokenizer-Arbeit bei gesetztem explizitem truncation_side; eine steckbare Sleep-Mode-Backend-Abstraktion im Kern; eine neue Streaming-Parser-Engine mit Kimi-k2.5/k2.6/k2.7-Tool-Call-Unterstützung; Verbesserungen beim spekulativen Decoding (SWA + DFlash für MiMo, Block-Verifikation für Rejection-Sampling); ein neues HPC-Ops-Attention-Backend; und GLM5-FlashMLA-FP8-KV-Cache-Unterstützung. Die Modellarchitekturen Tarsier und Tarsier2 wurden entfernt. Vollständige Änderungen: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`, + pl_PL: `Aktualizuje dołączoną kompilację nightly vLLM do commitu 93d8f834 (nadal na upstreamowej linii 0.23.1rc0). Najważniejsze: dwie poprawki bezpieczeństwa — odmowa usługi przez OOM spowodowana bombą dekompresji obrazu oraz ograniczenie pracy tokenizatora przy ustawionym jawnym truncation_side; wtykowa abstrakcja backendu trybu uśpienia w rdzeniu; nowy silnik parsera strumieniowego z obsługą wywołań narzędzi Kimi k2.5/k2.6/k2.7; usprawnienia dekodowania spekulacyjnego (SWA + DFlash dla MiMo, weryfikacja blokowa dla próbkowania odrzucającego); nowy backend uwagi HPC-Ops; oraz obsługa pamięci podręcznej KV FP8 FlashMLA dla GLM5. Usunięto architektury modeli Tarsier i Tarsier2. Pełne zmiany: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`, + fr_FR: `Met à jour la version nightly de vLLM incluse vers le commit 93d8f834 (toujours sur la ligne upstream 0.23.1rc0). Points forts : deux correctifs de sécurité — déni de service par OOM via une bombe de décompression d'image, et travail du tokeniseur borné lorsqu'un truncation_side explicite est défini ; une abstraction de backend de mode veille enfichable dans le cœur ; un nouveau moteur d'analyse en streaming avec prise en charge des appels d'outils Kimi k2.5/k2.6/k2.7 ; des améliorations du décodage spéculatif (SWA + DFlash pour MiMo, vérification par blocs pour l'échantillonnage par rejet) ; un nouveau backend d'attention HPC-Ops ; et la prise en charge du cache KV FP8 FlashMLA pour GLM5. Les architectures de modèles Tarsier et Tarsier2 ont été supprimées. Changements complets : https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`, }, migrations: { up: async ({ effects }) => {}, diff --git a/vllm b/vllm index a16dbd5..93d8f83 160000 --- a/vllm +++ b/vllm @@ -1 +1 @@ -Subproject commit a16dbd5b8572d4128be9f10b9dcff4999b594b25 +Subproject commit 93d8f834dd8acf33eb0e2a75b2711b628cb6e226