chore: bump vLLM nightly to 93d8f834; 0.23.1-rc.0:9 → 0.23.1-rc.0:10

startos/manifest/index.ts

@@ -10,7 +10,7 @@ const mutable = <T>(value: T): Mutable<T> => value as Mutable<T>
 // Pinned upstream vLLM nightly commit. nvidia and rocm both run vLLM's official
 // prebuilt images at this commit, so they stay in lockstep — bump it on a vllm
 // update (and bump the submodule + versions to match). See UPDATING.md.
-const NIGHTLY_SHA = 'a16dbd5b8572d4128be9f10b9dcff4999b594b25'
+const NIGHTLY_SHA = '93d8f834dd8acf33eb0e2a75b2711b628cb6e226'
 
 // Upstream vLLM version of the bundled submodule, fed to the cpu source build as
 // SETUPTOOLS_SCM_PRETEND_VERSION (the submodule's .git isn't usable in the Docker

startos/versions/current.ts

@@ -1,13 +1,13 @@
 import { VersionInfo } from '@start9labs/start-sdk'
 
 export const current = VersionInfo.of({
-  version: '0.23.1-rc.0:9',
+  version: '0.23.1-rc.0:10',
   releaseNotes: {
-    en_US: `Advances the bundled vLLM nightly build to commit a16dbd5 (still on the upstream 0.23.1rc0 line). Highlights: new Unlimited OCR, openai/privacy-filter, and tensor-parallel DiffusionGemma model support; the CPU backend gains compressed-tensor w8a8 int8 MoE, a RISC-V RVV W4A8 INT4 GEMM path, and DFlash speculative decoding, plus a fix for a macOS/Apple Silicon build hang; the core drops the FlashAttention block-size restriction for hybrid models and adds a VLLM_GPU_SYNC_CHECK debugging env var; and reasoning fixes for thinking-token-budget enforcement and reasoning-end detection. The legacy Aquila and Grok model architectures were removed. Full changes: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`,
-    es_ES: `Avanza la compilación nightly de vLLM incluida al commit a16dbd5 (sigue en la línea upstream 0.23.1rc0). Destacados: nuevo soporte de modelos Unlimited OCR, openai/privacy-filter y DiffusionGemma con paralelismo de tensores; el backend de CPU gana MoE w8a8 int8 con compressed-tensor, una ruta GEMM W4A8 INT4 RVV para RISC-V y decodificación especulativa DFlash, además de una corrección para un bloqueo de compilación en macOS/Apple Silicon; el núcleo elimina la restricción de tamaño de bloque de FlashAttention para modelos híbridos y añade la variable de entorno de depuración VLLM_GPU_SYNC_CHECK; y correcciones de razonamiento para la aplicación de thinking-token-budget y la detección de fin de razonamiento. Se eliminaron las arquitecturas de modelos heredadas Aquila y Grok. Cambios completos: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`,
-    de_DE: `Aktualisiert den gebündelten vLLM-Nightly-Build auf Commit a16dbd5 (weiterhin auf der Upstream-Linie 0.23.1rc0). Highlights: neue Modellunterstützung für Unlimited OCR, openai/privacy-filter und tensor-paralleles DiffusionGemma; das CPU-Backend erhält compressed-tensor w8a8-int8-MoE, einen RISC-V-RVV-W4A8-INT4-GEMM-Pfad und DFlash-Speculative-Decoding sowie einen Fix für einen Build-Hänger auf macOS/Apple Silicon; der Kern entfernt die FlashAttention-Blockgrößenbeschränkung für hybride Modelle und fügt die Debugging-Umgebungsvariable VLLM_GPU_SYNC_CHECK hinzu; und Reasoning-Fixes für die Durchsetzung des Thinking-Token-Budgets und die Reasoning-Ende-Erkennung. Die veralteten Modellarchitekturen Aquila und Grok wurden entfernt. Vollständige Änderungen: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`,
-    pl_PL: `Aktualizuje dołączoną kompilację nightly vLLM do commitu a16dbd5 (nadal na upstreamowej linii 0.23.1rc0). Najważniejsze: nowa obsługa modeli Unlimited OCR, openai/privacy-filter oraz DiffusionGemma z równoległością tensorów; backend CPU zyskuje MoE w8a8 int8 z compressed-tensor, ścieżkę GEMM W4A8 INT4 RVV dla RISC-V oraz dekodowanie spekulacyjne DFlash, a także poprawkę zawieszania kompilacji na macOS/Apple Silicon; rdzeń usuwa ograniczenie rozmiaru bloku FlashAttention dla modeli hybrydowych i dodaje zmienną środowiskową debugowania VLLM_GPU_SYNC_CHECK; oraz poprawki rozumowania dla egzekwowania thinking-token-budget i wykrywania końca rozumowania. Usunięto przestarzałe architektury modeli Aquila i Grok. Pełne zmiany: https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`,
-    fr_FR: `Met à jour la version nightly de vLLM incluse vers le commit a16dbd5 (toujours sur la ligne upstream 0.23.1rc0). Points forts : nouvelle prise en charge des modèles Unlimited OCR, openai/privacy-filter et DiffusionGemma à parallélisme de tenseurs ; le backend CPU gagne un MoE w8a8 int8 compressed-tensor, un chemin GEMM W4A8 INT4 RVV pour RISC-V et le décodage spéculatif DFlash, ainsi qu'un correctif pour un blocage de compilation sur macOS/Apple Silicon ; le cœur supprime la restriction de taille de bloc de FlashAttention pour les modèles hybrides et ajoute la variable d'environnement de débogage VLLM_GPU_SYNC_CHECK ; et des correctifs de raisonnement pour l'application du thinking-token-budget et la détection de fin de raisonnement. Les architectures de modèles héritées Aquila et Grok ont été supprimées. Changements complets : https://github.com/vllm-project/vllm/compare/3f5a1e1...a16dbd5`,
+    en_US: `Advances the bundled vLLM nightly build to commit 93d8f834 (still on the upstream 0.23.1rc0 line). Highlights: two security fixes — image decompression-bomb OOM denial-of-service, and bounded tokenizer work when an explicit truncation_side is set; a pluggable sleep-mode backend abstraction in the core; a new streaming parser engine with Kimi k2.5/k2.6/k2.7 tool-call support; speculative-decoding gains (SWA + DFlash for MiMo, block verification for rejection sampling); a new HPC-Ops attention backend; and GLM5 FlashMLA FP8 KV-cache support. The Tarsier and Tarsier2 model architectures were removed. Full changes: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`,
+    es_ES: `Avanza la compilación nightly de vLLM incluida al commit 93d8f834 (sigue en la línea upstream 0.23.1rc0). Destacados: dos correcciones de seguridad — denegación de servicio por OOM con bomba de descompresión de imágenes y limitación del trabajo del tokenizador cuando se establece un truncation_side explícito; una abstracción de backend de modo de reposo conectable en el núcleo; un nuevo motor de análisis en streaming con soporte de llamadas a herramientas Kimi k2.5/k2.6/k2.7; mejoras en la decodificación especulativa (SWA + DFlash para MiMo, verificación por bloques para el muestreo por rechazo); un nuevo backend de atención HPC-Ops; y soporte de caché KV FP8 FlashMLA para GLM5. Se eliminaron las arquitecturas de modelos Tarsier y Tarsier2. Cambios completos: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`,
+    de_DE: `Aktualisiert den gebündelten vLLM-Nightly-Build auf Commit 93d8f834 (weiterhin auf der Upstream-Linie 0.23.1rc0). Highlights: zwei Sicherheitsfixes — OOM-Denial-of-Service durch Bild-Dekomprimierungsbombe und begrenzte Tokenizer-Arbeit bei gesetztem explizitem truncation_side; eine steckbare Sleep-Mode-Backend-Abstraktion im Kern; eine neue Streaming-Parser-Engine mit Kimi-k2.5/k2.6/k2.7-Tool-Call-Unterstützung; Verbesserungen beim spekulativen Decoding (SWA + DFlash für MiMo, Block-Verifikation für Rejection-Sampling); ein neues HPC-Ops-Attention-Backend; und GLM5-FlashMLA-FP8-KV-Cache-Unterstützung. Die Modellarchitekturen Tarsier und Tarsier2 wurden entfernt. Vollständige Änderungen: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`,
+    pl_PL: `Aktualizuje dołączoną kompilację nightly vLLM do commitu 93d8f834 (nadal na upstreamowej linii 0.23.1rc0). Najważniejsze: dwie poprawki bezpieczeństwa — odmowa usługi przez OOM spowodowana bombą dekompresji obrazu oraz ograniczenie pracy tokenizatora przy ustawionym jawnym truncation_side; wtykowa abstrakcja backendu trybu uśpienia w rdzeniu; nowy silnik parsera strumieniowego z obsługą wywołań narzędzi Kimi k2.5/k2.6/k2.7; usprawnienia dekodowania spekulacyjnego (SWA + DFlash dla MiMo, weryfikacja blokowa dla próbkowania odrzucającego); nowy backend uwagi HPC-Ops; oraz obsługa pamięci podręcznej KV FP8 FlashMLA dla GLM5. Usunięto architektury modeli Tarsier i Tarsier2. Pełne zmiany: https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`,
+    fr_FR: `Met à jour la version nightly de vLLM incluse vers le commit 93d8f834 (toujours sur la ligne upstream 0.23.1rc0). Points forts : deux correctifs de sécurité — déni de service par OOM via une bombe de décompression d'image, et travail du tokeniseur borné lorsqu'un truncation_side explicite est défini ; une abstraction de backend de mode veille enfichable dans le cœur ; un nouveau moteur d'analyse en streaming avec prise en charge des appels d'outils Kimi k2.5/k2.6/k2.7 ; des améliorations du décodage spéculatif (SWA + DFlash pour MiMo, vérification par blocs pour l'échantillonnage par rejet) ; un nouveau backend d'attention HPC-Ops ; et la prise en charge du cache KV FP8 FlashMLA pour GLM5. Les architectures de modèles Tarsier et Tarsier2 ont été supprimées. Changements complets : https://github.com/vllm-project/vllm/compare/a16dbd5...93d8f834`,
   },
   migrations: {
     up: async ({ effects }) => {},