К обсуждениям

vLLM: аудит sparse invariants для concurrent prompt parts

Редакция VOne Технологии

Как проверить полное исправление vLLM для concurrent prompt-embedding parts: process-global flag timeline, bounded fixture и отсутствие dense allocation.

Когда проверять vLLM prompt-embedding reconstruction

В vLLM 0.21.0–0.25.x два prompt-embedding parts могли параллельно менять process-global состояние PyTorch sparse invariant check; один context восстанавливал flag, пока второй ещё работал. Исправление заявлено в 0.26.0. Сначала сопоставляют advisory с реально загруженной версией, package/image/kernel digest и включённым entry point; название продукта или похожий симптом недостаточны. Если provenance не подтверждён, итог остаётся UNKNOWN. Карточка GHSA-pr7f-p5mw-fc87 и первичное изменение задают узкую границу, а не сообщают о событии в вашей среде. Для иной ветки, backport или configuration вывод пересчитывают отдельно. Диагностика здесь направлена на предотвращение вреда и не содержит эксплуатационного payload.

Evidence map: timeline task A/B × sparse-check flag × deserialize stage × dense-conversion counter

Создайте артефакт «timeline task A/B × sparse-check flag × deserialize stage × dense-conversion counter». В него заносят vLLM/PyTorch versions, worker model, executor width, число synthetic sparse parts, invariant flag transitions, allocation ceiling и task outcomes. Для каждого значения укажите источник: runtime query, signed artifact hash, deterministic test marker или configuration snapshot. Не смешивайте desired state с effective state и не подменяйте loaded binary записью в lockfile. Сохраняйте только относительные identifiers и счётчики; IP, hostnames, usernames, secrets, реальные документы, содержимое памяти и полные журналы не нужны для решения. Пустое поле обозначайте UNKNOWN, а не PASS.

Лабораторный протокол для vllm-sparse-invariant-concurrent-prompt-parts

В изолированном worker без модели и GPU прогнать unit fixture из двух маленьких корректных sparse tensors через patched reconstruction helper с фиксированным barrier между context enter/exit. До запуска зафиксируйте baseline, SHA-256 fixture, максимум итераций, deadline и способ полного rollback. Положительный control подтверждает, что harness действительно достигает нужной функции; отрицательный обязан остановиться на заявленном validator/authorization/lifecycle boundary. После опыта выполните cleanup и повторно снимите counters. Меняется только один фактор, поэтому наблюдаемый результат можно связать с исправлением. Стенд не использует production credentials, customer data, внешние targets или рабочую нагрузку.

Таблица решения по CVE-2026-73557

PASS фиксируют только когда выполняется условие: Каждый part проверяется независимо от межпоточного порядка, global flag не остаётся выключенным внутри другого guard, dense conversion не превышает ceiling, worker завершает fixture. Действие владельца: Обновить vLLM до 0.26.0 или новее; не принимать serialized prompt embeddings из недоверенного контура на affected worker. AFFECTED означает, что реальный runtime входит в опубликованный диапазон и нужный path доступен. UPDATE-REQUIRED используют при отсутствии подтверждённого fix. NOT-REACHABLE относится лишь к проверенной ветке, не ко всему продукту. После обновления повторяют идентичный control и штатный smoke-test; соседние policy, firmware, network или storage параметры одновременно не меняют, иначе доказательство причинности теряется.

Остановка и безопасная передача vLLM prompt-embedding reconstruction

Stop-rule: Не использовать большой tensor, не запускать на production inference worker и остановиться при memory growth, process-global drift либо отсутствии детерминированного barrier. При первой неожиданной ошибке не расширяйте права, охват, размер входа или длительность. В минимальный пакет сопровождения входят: vLLM/PyTorch hashes, executor width, two-task timeline, flag samples, allocation peak, exception classes и worker teardown. Добавьте московский timestamp, expected/actual, ссылки на advisory и primary change, владельца rollback. Удалите токены, адреса, персональные данные и raw payloads. Этот пакет подтверждает только выбранный инвариант: он не доказывает отсутствие прошлой эксплуатации, применимость к другой сборке, популярность проблемы, индексацию или будущие позиции страницы.

Материал подготовлен редакцией VOne с помощью автоматизированного черновика. Факты и границы вывода сверены 5 сентября 2026 года по прямой advisory и первичному upstream изменению. Текст написан самостоятельно; опасные действия и реальные пользовательские данные не использовались.

Источники и проверка

Информация актуальна на дату публикации. Правила сервисов, приложений и сетей могут меняться.

Ответы

0 опубликовано
Ответов пока нет. Вы можете начать обсуждение.

Ваш ответ

Добавьте свой опыт или уточнение по теме.

Вы публикуете как Аноним Аватар отличает разговоры, но не раскрывает личные данные.

Ответ появится сразу. Не публикуйте личные данные, ключи и приватные ссылки.