--- language: - ru language_creators: - machine-generated license: - cc-by-nc-4.0 multilinguality: - monolingual pretty_name: arithmetic source_datasets: [] tags: [] task_categories: - question-answering task_ids: - closed-domain-qa --- # Арифметические задачи для диалоговой системы Датасет содержит сэмплы с простыми математическими заданиями примерно такого вида: ``` - Фонарик Федора работает от 2 батареек, а фонарик Лехи от 6. Сколько батареек нужно фонарикам Федора и Лехи в сумме? - 2+6=8, столько батареек потребуется. - Теперь прибавь к результату 469, что получилось? - 8 плюс 469 равно 477 - Подели на 53, что получилось? - 9 ``` Основная масса задач связана с арифметическими действиями. Есть некоторое количество задач на поиск корней квадратного уравнения: ``` - Найди действительные корни квадратного уравнения a⋅x²+b⋅x+c для a=45, b=225, c=-270 - Тут два действительных корня -6 и 1 ``` Также есть пополняемый набор задач с раскрытым ходом решения: ``` - В болотистых лесах проживает 8 сусликов. Охотник съедает по одному суслику каждые 9 дней. Сколько сусликов останется через 12 дней? - За 12 дней охотник пообедает 1 раз. Поэтому останется 8-1=7 сусликов. ``` Некоторые задачи построены так, чтобы заставить модель обращать внимание не просто на наличие чисел, а на контекст их употребления: ``` - Вика принесла в школу 5 мандаринов. Друзья попросили ее поделиться с ними мандаринами. Она отдала им 3 штуки. Сколько мандаринов Вика отдала? - 3 ``` Иногда числа в задаче не имеют отношения к сути задачи, что должно еще сильнее побуждать решающую модель учитывать контекст: ``` - Перемножив восемь и семь, учитель средней школы №77 получил 5084. Он верно посчитал? - Учитель средней школы №77 ошибся, так как 8*7=56, а не 5084 ``` ## Формат данных Каждый сэмпл содержит список связанных реплик без префикса "- ", образующих цепочку арифметических заданий, в которых условие новой задачи требует анализа как минимум предыдущей реплики. ## Лексическая вариативность ответов Для многих задач ответ сформулирован не просто как число, в него добавлен сопутствующий текст: ``` - Чему равно 2+2? - 2+2 равно 4 ``` ## Метрики генеративных моделей После файнтюна (1 эпоха, lr=1e-5) на 90% датасета, получаются такие метрики на тестовой части: ``` Модель Среднее отклонение числового ответа Доля верных ответов в сравнении с верным sberbank-ai/rugpt3small_based_on_gpt2 8.03e+02% 0.057 sberbank-ai/rugpt3medium_based_on_gpt2 2.89e+02% 0.085 sberbank-ai/rugpt3large_based_on_gpt2 1.58e+02% 0.131 facebook/xglm-2.9B 8.13e+02% 0.224 ``` ## Генератор сэмплов При формировании датасета использовался движок шаблонной генерации из этого репозитория: [https://github.com/Koziev/math](https://github.com/Koziev/math). ## Использование датасета Датасет используется для тренировки [чатбота](https://github.com/Koziev/chatbot).