ВАЖНО: Пожалуйста, помогите сохранить объективность этого бенчмарка, снизив риск попадания его вопросов и ответов в обучающие данные моделей. Просим вас делиться ссылкой на этот репозиторий вместо того, чтобы публиковать датасет в открытом доступе или создавать его публичные копии. Это добровольная просьба, которая не ограничивает ваши права, предусмотренные лицензией CC BY-SA 4.0.

WikiWebFacts — русскоязычный бенчмарк для оценки фактологических знаний языковых моделей. Он содержит 1365 коротких вопросов по разным тематикам с короткими ответами. Вопросы были собраны из двух источников: популярных статей русскоязычной Википедии и поисковых запросов в Яндекс Поиск, ответы провалидированы на корректность экспертами. Для оценки качества на бенчмарке мы предлагаем использовать LLM as a judge.

🧩 Состав датасета

Split	Строк	Назначение
`test`	1 365	Вопросы для замера
`fewshot`	5	Примеры для 5-shot

Внутри test поле source разделяет вопросы по источникам:

Источник	Строк	Доля
`wiki`	675	49,45%
`web`	690	50,55%

Вопросы покрывают различные тематики, на картинке ниже представлено их распределение: Тематики WikiWebFacts

📊 Сетап замера

Файл wikiwebfacts_lighteval.py регистрирует два режима оценки на одних и тех же примерах с использованием одной метрики.

Pretrain

wikiwebfacts:pretrain использует промпт в формате продолжения текста:

Вопрос: <question>
Ответ:

В этом режиме используются фьюшоты, он предназначен для оценки претрейн-моделей.

Alignment

wikiwebfacts:alignment использует промпт:

<question> Дай короткий ответ без дополнительных пояснений.

Этот режим предназначен для оценки инстракт-моделей.

Вопрос и инструкция передаются модели единым текстовым промптом. Инструкция задаёт ожидаемый формат: модель должна дать короткий фактологический ответ без дополнительных пояснений. Режим оценивает фактологические знания модели при явной инструкции к форме ответа. Способы запуска указаны ниже.

Метрика

wikiwebfacts_judge — метрика бенчмарка. Она передаёт вопрос, полный ответ модели и эталон отдельной judge-модели.

Judge завершает ответ строкой Оценка: 1 (ответ соответствует эталонному), Оценка: -1 (ответ противоречит эталонному) или Оценка: 0 (модель не дала ответа). В итоговой метрике Оценка: 1 преобразуется в 1, а Оценка: -1 и Оценка: 0 — в 0. Итоговый результат — среднее значение по всем примерам.

Judge-промпт формируется функцией wikiwebfacts_judge_prompt. В качестве LLMaJ по умолчанию используется Qwen/Qwen3.5-35B-A3B с temperature=0; ризонинг отключён.

🚀 Как использовать

Требования

Linux и Python 3;
HF_TOKEN — только для gated-моделей.

Перед первым запуском создайте виртуальное окружение и установите зависимости:

python3 -m venv .venv
source .venv/bin/activate
python -m pip install -r requirements.txt

Перед последующими запусками достаточно активировать окружение:

source .venv/bin/activate

Загрузка датасета

from datasets import load_dataset

dataset = load_dataset("yandex/wikiwebfacts")
print(dataset)
print(dataset["test"][0])

Запуск модели и judge через vLLM

В первом терминале запустите публичную оцениваемую модель. Для gated-модели предварительно экспортируйте HF_TOKEN:

export HF_TOKEN="<your-hugging-face-token>"

CUDA_VISIBLE_DEVICES="0" \
vllm serve Qwen/Qwen3-8B-Base \
  --dtype bfloat16 \
  --tensor-parallel-size 1 \
  --port 8001 \
  --trust-remote-code

Во втором терминале запустите judge:

export HF_TOKEN="<your-hugging-face-token>"

CUDA_VISIBLE_DEVICES="1,2" \
vllm serve Qwen/Qwen3.5-35B-A3B \
  --dtype bfloat16 \
  --tensor-parallel-size 2 \
  --port 8002 \
  --max-model-len 8192 \
  --max-num-seqs 16 \
  --reasoning-parser qwen3 \
  --language-model-only \
  --trust-remote-code

В третьем терминале выполните тестовый запуск на 10 примерах:

python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base

Полный 5-shot прогон претрейн-модели:

python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base \
  --task "wikiwebfacts:pretrain|5" \
  --full

Лицензия

Датасет WikiWebFacts, включая выборки test и fewshot, распространяется на условиях лицензии Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0). Полный текст лицензии приведён в файле LICENSE.

Указанная лицензия распространяется только на файлы датасета и не распространяется на код для его оценки.

Downloads last month: 126

Total file size:

433 kB