📚 HardMultiQA 📚

English version

ВАЖНО: Пожалуйста, помогите сохранить объективность этого бенчмарка, снизив риск попадания его вопросов и ответов в обучающие данные моделей. Просим вас делиться ссылкой на этот репозиторий вместо того, чтобы публиковать датасет в открытом доступе или создавать его публичные копии. Это добровольная просьба, которая не ограничивает ваши права, предусмотренные лицензией CC BY-SA 4.0.

HardMultiQA — русскоязычный бенчмарк для оценки фактологических знаний языковых моделей. Он содержит 670 сложных вопросов нескольких форматов, составленные на основе тем из пользовательских запросов к Алисе экспертами-разметчиками. Для оценки качества на бенчмарке мы предлагаем использовать LLM as a judge.

🧩 Состав датасета

Split	Строк	Назначение
test	670	Задания для оценки
fewshot	25	Примеры для 5-shot для каждого из типов вопросов

Внутри каждого split поле task разделяет задания по формату:

Значение task	Описание
one option, many options	Один или несколько правильных вариантов из пронумерованного списка
open	Короткий однозначный ответ
strict list	Список с фиксированным набором правильных элементов; лишние элементы штрафуются
not strict list	Список, в котором важно назвать эталонные элементы, а дополнительные элементы не штрафуются
mistakes	Поиск и исправление фактологических ошибок в коротком тексте

На картинке ниже представлено распределение по типам задач в датасете:

Вопросы покрывают различные тематики, на картинке ниже представлено их распределение:

📊 Сетап замера

В файле hardmultiqa_lighteval.py описаны рекомендуемые способы замера через LightEval для каждой комбинации типа задания и режима оценки. Для всех срезов используется LLMaJ, но judge-промпт и парсер результата зависят от типа задания.

Pretrain

Pretrain-задачи используют формат продолжения текста:

Вопрос: <question>
Ответ:

Для каждого типа задания используются соответствующие пять примеров из split fewshot. Основной результат для претрейн-моделей измеряется в режиме 5-shot с жадной генерацией.

Alignment

В alignment-задачах модели передаётся исходный текст поля question:

<question>

Этот режим предназначен для инстракт-моделей. Вопрос уже содержит формулировку задания и требования к ответу, если они нужны для соответствующего типа.

Метрика

hardmultiqa_judge — метрика бенчмарка. Она передаёт вопрос, полный ответ модели и эталон отдельной judge-модели с разными промптами в зависимости от типа задачи.

По умолчанию в качестве LLMaJ используется Qwen/Qwen3.5-35B-A3B с temperature=0; ризонинг отключён.

Judge возвращает структурированный результат:

• для one option, many options — JSON с итоговым вердиктом;
• для списков и mistakes — JSON с выделенными элементами ответа и one-to-one соответствиями эталону;
• для open — итоговую строку Оценка: 1, Оценка: -1 или Оценка: 0.

Для one option, many options и open правильный ответ преобразуется в 1, остальные случаи — в 0. Для strict list и mistakes считается F1 по числу эталонных элементов, элементов модели и их соответствий. Для not strict list считается recall, поэтому дополнительные элементы ответа не уменьшают оценку.

🚀 Как использовать

Требования

• Linux и Python 3;
• HF_TOKEN — только для gated-моделей.

Создайте виртуальное окружение и установите зависимости:

python3 -m venv .venv
source .venv/bin/activate
python -m pip install -r requirements.txt

Загрузка датасета

from datasets import load_dataset

dataset = load_dataset("yandex/HardMultiQA")
print(dataset)
print(dataset["test"][0])

Запуск модели и judge через vLLM

В первом терминале запустите оцениваемую модель:

export HF_TOKEN="<your-hugging-face-token>"

CUDA_VISIBLE_DEVICES="0" \
vllm serve Qwen/Qwen3-8B-Base \
  --dtype bfloat16 \
  --tensor-parallel-size 1 \
  --port 8001 \
  --trust-remote-code

Во втором терминале запустите judge:

export HF_TOKEN="<your-hugging-face-token>"

CUDA_VISIBLE_DEVICES="1,2" \
vllm serve Qwen/Qwen3.5-35B-A3B \
  --dtype bfloat16 \
  --tensor-parallel-size 2 \
  --port 8002 \
  --max-model-len 8192 \
  --max-num-seqs 16 \
  --reasoning-parser qwen3 \
  --language-model-only \
  --trust-remote-code

В третьем терминале сначала выполните тестовый запуск. Аргумент --max-samples применяется отдельно к каждому из пяти типов, поэтому в примере ниже будет оценено 10 заданий — по два каждого типа:

python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base \
  --task "hardmultiqa:all:pretrain|5" \
  --max-samples 2

Если тестовый запуск завершился успешно, замените --max-samples 2 на --full, чтобы провести основной замер на всех 670 заданиях:

python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base \
  --task "hardmultiqa:all:pretrain|5" \
  --full

Тип all запускает все пять типов заданий с указанным режимом (pretrain или alignment) и числом демонстраций (|0 или |5). При полном запуске оценка all рассчитывается по индивидуальным результатам всех 670 примеров, поэтому каждый тип учитывается пропорционально числу входящих в него заданий. В итоговой таблице будут приведены общая оценка по всем заданиям (all) и отдельные оценки для каждого из пяти типов.

Чтобы ограничить замер одним типом, укажите его вместо all. Доступные имена типов: one option, many options, open, strict-list, not-strict-list и mistakes. После типа указывается режим pretrain или alignment, затем число демонстраций: |0 или |5.

--max-samples можно использовать и с отдельным типом: в этом случае он ограничивает общее число примеров выбранного типа. Для полного запуска выбранного типа добавьте --full:

python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base \
  --task "hardmultiqa:mistakes:pretrain|5" \
  --full

Если не указать --max-samples или --full, в режиме all будут оценены по два примера каждого из пяти типов — 10 заданий суммарно; для отдельного типа будут оценены 10 примеров.

Лицензия

Датасет HardMultiQA, включая выборки test и fewshot, распространяется на условиях лицензии Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0). Полный текст лицензии приведён в файле LICENSE.

Указанная лицензия распространяется только на файлы датасета и не распространяется на код для его оценки.