slava-research/slava-rollouts

SLAVA rollouts — доли успеха VLA-моделей по языковым осям

Дампы эпизодов из прогонов ванильных VLA-моделей по набору SLAVA в двух средах: LIBERO (Franka Panda) и SimplerEnv/bridge (WidowX).

Строка на эпизод: сцена и её идентификатор, поданная инструкция и её ось, предикаты успеха, доля успеха, время и шаги, а также полная настройка прогона (чекпойнт, лимит шагов, критерий успеха, поправки на стыке со средой).

Что здесь важно знать

Критерий успеха различается по среде, и это не наша вольность, а авторская. В LIBERO авторы всех четырёх опорных репозиториев считают защёлкой (if done: success = True; break), в SimplerEnv официальный maniskill2_evaluator берёт успех с ПОСЛЕДНЕГО шага. Дампы, снятые до 30.08.2026, на bridge используют защёлку; более поздние несут поля success_mode, success_ever и success_terminal.

Лимит шагов на bridge — выбор авторов, а не свойство среды, и авторы расходятся: StarVLA гоняет все четыре задачи со 120 шагами, SpatialVLA оставляет умолчания 60/60/60/120. В дампе он записан полем max_steps_used.

Две клетки не воспроизводят опубликованные числа авторским же кодом: SmolVLA на LIBERO (lerobot-eval, 400 эпизодов: 63.8% против 87.2 в статье) и StarVLA на bridge (их start_simpler_env.py с их аргументами: 9.4% против 42.6). Нашего кода в этих прогонах нет.

Языковые оси

13 осей: en_canonical, en_paraphrase, code_switch, zh_literal, mt_chinese, ru_literal, mt_russian, ru_free_order, ru_colloquial, ru_translit, ru_case_swap, ru_negation, ru_anaphora.

en_canonical совпадает со штатной инструкцией среды, поэтому приёмка стенда и первый прогон по набору — это один и тот же прогон.

Оговорки

• Прогоны одиночные (n=1 на сцену×ось); часть авторских чисел усреднена по нескольким прогонам (у StarVLA — по четырём).
• На libero_spatial бюджет шагов различается между моделями: harness lerobot даёт 280, остальные 220. Сравнивать этот сьют между моделями с осторожностью.
• GreenVLA не публикует скрипта оценки, поэтому её протокол на bridge выбран по аналогии с соседними клетками.