Datasets:
language:
- ru
language_creators:
- machine-generated
license:
- cc-by-nc-4.0
multilinguality:
- monolingual
pretty_name: arithmetic
source_datasets: []
tags: []
task_categories:
- question-answering
task_ids:
- closed-domain-qa
Арифметические задачи для диалоговой системы
Датасет содержит сэмплы с простыми математическими заданиями примерно такого вида:
- Фонарик Федора работает от 2 батареек, а фонарик Лехи от 6. Сколько батареек нужно фонарикам Федора и Лехи в сумме?
- 2+6=8, столько батареек потребуется.
- Теперь прибавь к результату 469, что получилось?
- 8 плюс 469 равно 477
- Подели на 53, что получилось?
- 9
Основная масса задач связана с арифметическими действиями. Есть некоторое количество задач на поиск корней квадратного уравнения:
- Найди действительные корни квадратного уравнения a⋅x²+b⋅x+c для a=45, b=225, c=-270
- Тут два действительных корня -6 и 1
Также есть пополняемый набор задач с раскрытым ходом решения:
- В болотистых лесах проживает 8 сусликов. Охотник съедает по одному суслику каждые 9 дней. Сколько сусликов останется через 12 дней?
- За 12 дней охотник пообедает 1 раз. Поэтому останется 8-1=7 сусликов.
Некоторые задачи построены так, чтобы заставить модель обращать внимание не просто на наличие чисел, а на контекст их употребления:
- Вика принесла в школу 5 мандаринов. Друзья попросили ее поделиться с ними мандаринами. Она отдала им 3 штуки. Сколько мандаринов Вика отдала?
- 3
Иногда числа в задаче не имеют отношения к сути задачи, что должно еще сильнее побуждать решающую модель учитывать контекст:
- Перемножив восемь и семь, учитель средней школы №77 получил 5084. Он верно посчитал?
- Учитель средней школы №77 ошибся, так как 8*7=56, а не 5084
Формат данных
Каждый сэмпл содержит список связанных реплик без префикса "- ", образующих цепочку арифметических заданий, в которых условие новой задачи требует анализа как минимум предыдущей реплики.
Лексическая вариативность ответов
Для многих задач ответ сформулирован не просто как число, в него добавлен сопутствующий текст:
- Чему равно 2+2?
- 2+2 равно 4
Метрики генеративных моделей
После файнтюна (1 эпоха, lr=1e-5) на 90% датасета получаются такие метрики по тестовой части:
Модель Среднее отклонение числового ответа Доля верных ответов
в сравнении с верным
sberbank-ai/rugpt3small_based_on_gpt2 5442% 9.2%
sberbank-ai/rugpt3medium_based_on_gpt2 124% 14.4%
sberbank-ai/rugpt3large_based_on_gpt2 68.4% 25.0%
Использование датасета
Датасет используется для тренировки чатбота.