|
--- |
|
pipeline_tag: text-generation |
|
tags: |
|
- PyTorch |
|
- Transformers |
|
- gpt2 |
|
|
|
license: unlicense |
|
|
|
language: ru |
|
|
|
widget: |
|
- text: "- У Джульетты было 7 пончиков, а потом она 3 съела. Сколько у нее осталось пончиков? -" |
|
- text: "- Аристотель был греческим ученым. Все греческие ученые были черноволосыми. Какой вывод можно сделать про внешность Аристотеля? -" |
|
--- |
|
|
|
## Russian Chit-chat with common sence reasoning |
|
|
|
Модель является ядром прототипа [диалоговой системы](https://github.com/Koziev/chatbot). У нее есть 2 основные функции. |
|
|
|
Первая функция - генерация реплик чит-чата. В качестве затравки подается история диалога (предшествующие несколько реплик, до 10). |
|
|
|
``` |
|
- Привет, как дела? |
|
- Привет, так себе. |
|
- <<< эту реплику ожидаем от модели >>> |
|
``` |
|
|
|
Вторая функция модели - вывод ответа на заданный вопрос, опираясь на дополнительные факты. Предполагается, что релевантные факты извлекаются |
|
из стороннего хранилища (базы знаний) с помощью другой модели, которую мы здесь пока не рассматриваем. Используя указанный |
|
факт и текст вопроса, модель построит грамматичный и максимально краткий ответ, как это сделал бы человек в подобной коммуникативной ситуации. Релевантные факты |
|
следует указывать перед текстом заданного вопроса так, будто сам собеседник сказал их: |
|
|
|
|
|
``` |
|
- Сегодня 15 сентября. Какой сейчас у нас месяц? |
|
- Сентябрь |
|
``` |
|
|
|
Модель не ожидает, что все найденные и добавленные в контекст диалога факты действительно имеют отношение к заданному вопросу. Поэтому |
|
модель, извлекающая из базы знаний информацию, может жертвовать точностью в пользу полноте и добавлять что-то лишнее. Модель читчата |
|
в этом случае сама выберет среди добавленных в контекст фактов необходимую фактуру и проигнорирует лишнее. Текущая версия модели |
|
допускает до 5 фактов перед вопросом. |
|
|
|
В некоторых случаях модель может выполнять силлогический вывод ответа, опираясь на 2 предпосылки: |
|
|
|
``` |
|
- Смертен ли Аристофан, если он был греческим философом, а все философы смертны? |
|
- Да |
|
``` |
|
|
|
Как можно видеть из приведенных примеров, формат подаваемой на вход модели фактической информации для выполнения вывода предельно естественный и свободный. |
|
|
|
Кроме логического вывода, модель также умеет делать решать простые арифметические задачи в рамках 1-2 классов начальной школы, с двумя числовыми аргументами: |
|
|
|
``` |
|
- Чему равно 2+8? |
|
- 10 |
|
``` |
|
|
|
|
|
### Контакты |
|
|
|
Если у Вас есть какие-то вопросы по использованию этой модели, или предложения по ее улучшению - пишите мне mentalcomputing@gmail.com |
|
|
|
|
|
### Citation: |
|
|
|
``` |
|
@MISC{rugpt_interpreter, |
|
author = {Ilya Koziev}, |
|
title = {Russian Chit-chat with common sence reasoning}, |
|
url = {https://huggingface.co/inkoziev/rugpt_npqa}, |
|
year = 2022 |
|
} |
|
``` |
|
|
|
|
