levossadtchi/rv-4d54f178b0

Русский корпус чтения по губам

Видеофрагменты говорящих лиц с выровненными расшифровками речи. Собран для обучения модели визуального распознавания речи (VSR) на русском языке — по одному видео, без звука.

Объём: 229 494 клипа, 690 часов (замер 03.09.2026). Для сравнения, крупнейший публичный русский набор для этой задачи, MuAViC, содержит 49 часов.

Откуда материал

источник	клипов	часов	что это
multivsr/	160 921	306	ролики из открытого списка MultiVSR (Oxford VGG), нарезанные нашим конвейером
остальные папки	68 573	384	наш собственный сбор с RuTube

Папки нашего сбора названы по машине-сборщику (lips-b, lips-d, big1 и так далее) — это след того, как шёл сбор, а не смысловое деление. Данные во всех них однородны и получены одним конвейером; при чтении папки можно просто объединять.

Как устроено

<папка>/<пачка>/dataset.jsonl          манифест пачки, одна строка = один клип
<папка>/<пачка>/<ролик>/spanNNN_tK_cut.mp4   сам клип
_meta/                                 контрольные точки и каталоги для сборщиков
claims/                                служебные отметки распределения работы

Имя клипа: span — участок исходного ролика, t — номер дорожки лица внутри участка (в кадре может быть несколько человек), _cut — обрезано по границам речи.

Поля манифеста

поле	смысл
path	путь к файлу клипа (базовое имя совпадает с файлом рядом)
text	расшифровка как есть, со знаками препинания
text_norm	она же строчными и без знаков — для обучения
words	пословная разметка со временем начала и конца внутри клипа
url	ссылка на исходный ролик
src_start_s, src_end_s	границы клипа в исходном ролике, секунды
src_start_frame, src_end_frame	те же границы в кадрах
dur_s	длительность клипа
fps	кадров в секунду
bbox_first, bbox_mid	рамка лица в первом и среднем кадре
conf	оценка синхронности губ и звука (SyncNet); чем выше, тем надёжнее
offset_frames	найденный сдвиг звука относительно видео, кадры
subs_frac	доля кадров с вшитыми субтитрами в кадре
video	идентификатор исходного ролика

Как читать

import json
from huggingface_hub import HfApi, hf_hub_download

REPO = "levossadtchi/rv-4d54f178b0"
api = HfApi()

# пачки одной папки
batches = [e.path for e in api.list_repo_tree(REPO, path_in_repo="lips-d",
                                              repo_type="dataset", recursive=False)]

man = hf_hub_download(REPO, f"{batches[0]}/dataset.jsonl", repo_type="dataset")
rows = [json.loads(line) for line in open(man)]

row = rows[0]
clip = hf_hub_download(REPO, f"{batches[0]}/{row['video']}/{row['path'].split('/')[-1]}",
                       repo_type="dataset")
print(row["text_norm"], row["dur_s"], clip)

Перечислять весь репозиторий целиком не стоит — в нём больше 200 тысяч файлов, и такой запрос идёт очень долго. Перечисление по одной папке отдаётся за секунды.

Как собрано

1. Отбор каналов: проверка на «говорящую голову» зрительно-языковой моделью.
2. Разведка ролика: поиск участков, где в кадре есть лицо достаточного размера.
3. Скачивание только нужных участков, а не ролика целиком.
4. Ведение дорожек лиц, отбраковка по качеству, отсев не-людей (мультфильмы, животные).
5. Проверка синхронности губ и звука (SyncNet) и поиск сдвига звука.
6. Расшифровка речи (Whisper) с пословными временами, нарезка по границам речи.

Отбраковка отсеивает примерно половину найденного материала.

Оговорки

• Расшифровки получены автоматически и содержат ошибки распознавания.
• Поле conf стоит использовать как порог: низкие значения означают, что губы и звук сходятся плохо, и такой клип может быть непригоден.
• В части клипов на изображении есть вшитые субтитры (subs_frac больше нуля). Для чтения по губам это обычно не мешает, так как обучение идёт по области рта, но при обучении на всём кадре такие клипы лучше исключить.
• Материал собран из открытых источников для исследовательских целей. Права на исходные ролики принадлежат их авторам.