rugpt_chitchat / README.md
koziev ilya
Первый черновой вариант описания модели
aef7293
metadata
pipeline_tag: text-generation
tags:
  - PyTorch
  - Transformers
  - gpt2
license: unlicense
language: ru
widget:
  - text: >-
      - У Джульетты было 7 пончиков, а потом она 3 съела. Сколько у нее осталось
      пончиков? -
  - text: >-
      - Аристотель был греческим ученым. Все греческие ученые были
      черноволосыми. Какой вывод можно сделать про внешность Аристотеля? -

Russian Chit-chat with common sence reasoning

Модель является ядром прототипа диалоговой системы. У нее есть 2 основные функции.

Первая функция - генерация реплик чит-чата. В качестве затравки подается история диалога (предшествующие несколько реплик, до 10).

- Привет, как дела?
- Привет, так себе.
- <<< эту реплику ожидаем от модели >>>

Вторая функция модели - вывод ответа на заданный вопрос, опираясь на дополнительные факты. Предполагается, что релевантные факты извлекаются из стороннего хранилища (базы знаний) с помощью другой модели, которую мы здесь пока не рассматриваем. Используя указанный факт и текст вопроса, модель построит грамматичный и максимально краткий ответ, как это сделал бы человек в подобной коммуникативной ситуации. Релевантные факты следует указывать перед текстом заданного вопроса так, будто сам собеседник сказал их:

- Сегодня 15 сентября. Какой сейчас у нас месяц?
- Сентябрь

Модель не ожидает, что все найденные и добавленные в контекст диалога факты действительно имеют отношение к заданному вопросу. Поэтому модель, извлекающая из базы знаний информацию, может жертвовать точностью в пользу полноте и добавлять что-то лишнее. Модель читчата в этом случае сама выберет среди добавленных в контекст фактов необходимую фактуру и проигнорирует лишнее. Текущая версия модели допускает до 5 фактов перед вопросом.

В некоторых случаях модель может выполнять силлогический вывод ответа, опираясь на 2 предпосылки:

- Смертен ли Аристофан, если он был греческим философом, а все философы смертны?
- Да

Как можно видеть из приведенных примеров, формат подаваемой на вход модели фактической информации для выполнения вывода предельно естественный и свободный.

Кроме логического вывода, модель также умеет делать решать простые арифметические задачи в рамках 1-2 классов начальной школы, с двумя числовыми аргументами:

- Чему равно 2+8?
- 10

Контакты

Если у Вас есть какие-то вопросы по использованию этой модели, или предложения по ее улучшению - пишите мне mentalcomputing@gmail.com

Citation:

@MISC{rugpt_interpreter,
    author  = {Ilya Koziev},
    title   = {Russian Chit-chat with common sence reasoning},
    url     = {https://huggingface.co/inkoziev/rugpt_npqa},
    year    = 2022
}