Арифметические задачи для диалоговой системы

Датасет содержит сэмплы с простыми математическими заданиями примерно такого вида:

- Фонарик Федора работает от 2 батареек, а фонарик Лехи от 6. Сколько батареек нужно фонарикам Федора и Лехи в сумме?
- 2+6=8, столько батареек потребуется.
- Теперь прибавь к результату 469, что получилось?
- 8 плюс 469 равно 477
- Подели на 53, что получилось?
- 9

Основная масса задач связана с арифметическими действиями. Есть некоторое количество задач на поиск корней квадратного уравнения:

- Найди действительные корни квадратного уравнения a⋅x²+b⋅x+c для a=45, b=225, c=-270
- Тут два действительных корня -6 и 1

Также есть пополняемый набор задач с раскрытым ходом решения:

- В болотистых лесах проживает 8 сусликов. Охотник съедает по одному суслику каждые 9 дней. Сколько сусликов останется через 12 дней?
- За 12 дней охотник пообедает 1 раз. Поэтому останется 8-1=7 сусликов.

Некоторые задачи построены так, чтобы заставить модель обращать внимание не просто на наличие чисел, а на контекст их употребления:

- Вика принесла в школу 5 мандаринов. Друзья попросили ее поделиться с ними мандаринами. Она отдала им 3 штуки. Сколько мандаринов Вика отдала?
- 3

Иногда числа в задаче не имеют отношения к сути задачи, что должно еще сильнее побуждать решающую модель учитывать контекст:

-  Перемножив восемь и семь, учитель средней школы №77 получил 5084. Он верно посчитал?
-  Учитель средней школы №77 ошибся, так как 8*7=56, а не 5084

Формат данных

Каждый сэмпл содержит список связанных реплик без префикса "- ", образующих цепочку арифметических заданий, в которых условие новой задачи требует анализа как минимум предыдущей реплики.

Лексическая вариативность ответов

Для многих задач ответ сформулирован не просто как число, в него добавлен сопутствующий текст:

- Чему равно 2+2?
- 2+2 равно 4

Метрики генеративных моделей

После файнтюна (1 эпоха, lr=1e-5) на 90% датасета, получаются такие метрики на тестовой части:

Модель                                   Среднее отклонение числового ответа              Доля верных ответов
                                         в сравнении с верным 
sberbank-ai/rugpt3small_based_on_gpt2        8.03e+02%                                    0.057
sberbank-ai/rugpt3medium_based_on_gpt2       2.89e+02%                                    0.085
sberbank-ai/rugpt3large_based_on_gpt2        1.58e+02%                                    0.131
facebook/xglm-2.9B                           8.13e+02%                                    0.224

Генератор сэмплов

При формировании датасета использовался движок шаблонной генерации из этого репозитория: https://github.com/Koziev/math.

Использование датасета

Датасет используется для тренировки чатбота.