УСТРОЙСТВО ДЛЯ ОЦЕНКИ КАЧЕСТВА ЭКСПЕРТНЫХ СИСТЕМ
DEVICE TO ASSESS QUALITY OF EXPERT SYSTEMS

Изобретение относится к автоматике и вычислительной технике и может быть использовано для оценки качества экспертных систем.
Устройства для оценки ответов учащихся (т.е. качества экспертных систем) широко известны. Они представляют собой устройства (авторское свидетельство СССР 826391, 1981 г.), сравнивающие ответы, поступающие на вопросы, с эталонными. Устройства фиксируют правильные ответы и, в зависимости от количества правильных ответов относительно общего числа вопросов, оценивают учащихся.
Для повышения точности оценки осуществляется учет сложности вопросов и уверенности ответов. Это достигается путем корректирования суммы весов правильно отвеченных вопросов в соответствии со сложностью вопросов и уверенностью ответов.
Наиболее близким по технической сущности к заявляемому устройству является устройство для оценки ответов учащихся, принятое за прототип (авторское свидетельство СССР 830501, 1981 г.). Устройство содержит блок анализа ответа, дешифратор кодов задания, дешифратор вопросов, формирователь коэффициентов сложности вопросов, формирователь импульсов, дешифратор кодов сложности вопросов, два счетчика, распределитель импульсов, блок адаптивного формирования оценки, индикатор оценки, дешифратор кода уверенности ответа, причем блок анализа ответа соединен с дешифратором кодов задания, дешифратором вопросов и формирователем коэффициентов сложности вопросов. Формирователь коэффициентов сложности вопросов соединен с формирователем импульсов, дешифратором кодов сложности вопросов и первым счетчиком. Блок адаптивного формирования оценки соединен с первым счетчиком, дешифратором кодов задания и индикатором оценки. Распределитель импульсов соединен с блоком анализа ответа, формирователем импульсов, дешифратором кода уверенности ответа и вторым счетчиком, подключенным к блоку адаптивного формирования оценки.
Недостатком прототипа является отсутствие учета степени грубости совершенной ошибки при оценке качества экспертных систем, а следовательно, грубые и незначительные ошибки воспринимаются устройством одинаково.
Цель настоящего предложения состоит в обеспечении учета степени грубости каждой из совершенных ошибок при оценке качества экспертных систем.
Поставленная цель достигается тем, что в устройство дополнительно введены дешифратор кодов вариантов ошибок, блок анализа ошибок, формирователь коэффициентов ошибок и блок умножения.
i
При ответе на вопрос экспертная система (в том числе обучаемый) выбирает ответ из ряда предложенных альтернатив. Качественно результат такого выбора может быть описан кодом ошибки Q∈{1, 2, 3,…, N}, где i - номер вопроса, а коды от 1 до N имеют, например, при N=4 следующий смысл:
«1» - правильный ответ;
«2» - незначительная ошибка;
«3» - значительная ошибка;
«4» - грубая ошибка.
OШ
i
Количественно качество ответа может быть описано коэффициентом ошибки K_. При уверенном ответе на вопрос (вероятность правильности выбранной альтернативы выше пороговой) коэффициент ошибки  может принимать, например, следующие значения
При неуверенном ответе (вероятность правильности выбранной альтернативы ниже пороговой, но является выше, чем каждой из остальных) на вопрос коэффициент ошибки  может принимать, например, следующие значения
OШ
i
СЛОЖН
i
СЛОЖН
i
Таким образом, количество «баллов», набранных за ответ на i-й вопрос с учетом грубости совершенной ошибки, определяется как K_*K_, где K_ - коэффициент сложности вопроса.
Структурная схема заявляемого устройства представлена на Фиг.1.
Устройство для оценки качества экспертных систем состоит из блока 1 анализа ошибок, первый и второй входы которого соединены соответственно с вторым выходом дешифратора 2 кодов задания и выходом дешифратора 3 кодов вариантов ошибок, на входы которых подаются соответствующие составляющие кода ответа на вопрос. Второй выход блока 1 анализа ошибок соединен с вторым входом формирователя 4 коэффициентов сложности вопросов, первый вход которого соединен с выходом дешифратора 5 кодов сложности вопросов, на вход которого подается соответствующая составляющая кода ответа на вопрос. Первый выход блока 1 анализа ошибок соединен с вторым входом формирователя 6 коэффициентов ошибок, первый вход которого соединен с выходом дешифратора 7 кода уверенности ответа, на вход которого подается соответствующая составляющая кода ответа на вопрос. Выход формирователя 6 коэффициентов ошибок соединен с первым входом блока 8 умножения, второй вход которого соединен с выходом формирователя 4 коэффициентов сложности вопросов и входом счетчика 9, выход которого соединен с первым входом блока 10 адаптивного формирования оценки, второй вход которого соединен с выходом счетчика 11, вход которого соединен с выходом блока 8 умножения. Третий вход блока 10 адаптивного формирования оценки соединен с первым выходом дешифратора 2 кодов задания, а выход соединен с входом индикатора 12 оценки.
i
Устройство работает следующим образом. На вход устройства оценки качества экспертных систем подается код ответа на вопрос, содержащий код уверенности ответа, код задания, код сложности вопроса и код вариантов ошибок, показывающий степень грубости ошибки (от «правильный ответ» до «грубая ошибка») для каждого из альтернативных вариантов ответов. Эти коды поступают на соответствующие дешифраторы 7, 2, 5 и 3. В результате на выходе дешифратора 7 уверенности ответа будет код уверенности ответа (0 -«неуверен» или 1 - «уверен»), на втором выходе дешифратора 2 кодов задания будет код варианта ответа, на выходе дешифратора 3 кодов вариантов ошибок будут коды ошибок для всех вариантов ответов (эталон), на выходе дешифратора 5 кодов сложности вопросов - код сложности текущего вопроса. В блоке 1 анализа ошибок выбранный вариант ответа сравнивается с кодами вариантов ошибок и определяется код ошибки Q полученного ответа.
i
СЛОЖН
i
При поступлении на второй вход формирователя 4 коэффициентов сложности вопросов кода ошибки ответа на i-й вопрос Q последний на основании кода сложности вопроса с дешифратора 5 кодов сложности вопросов формирует коэффициент сложности текущего вопроса K_, соответствующий «весу» вопроса.
i
ОШ
i
На основании поступающего на второй вход формирователя 6 коэффициентов ошибок кода ошибки ответа на 1-й вопрос Q последний в зависимости от кода уверенности ответа (1 - "уверен", 2 - "неуверен"), который поступает на первый его вход, формирует коэффициент ошибки i-го вопроса K_, причем в зависимости от уверенности ответа
Значения коэффициентов  и  выставляются заранее.
СЛОЖН
i
ОШ
i
В блоке 8 умножения полученные коэффициенты K_, и K_ перемножаются и полученное новое значение, соответствующее «баллам» за выданный на i-й вопрос ответ, поступает на суммирующий (если величина положительна) или вычитающий (если величина отрицательна) вход счетчика 11, на выходе которого формируется сигнал, соответствующий общему количеству «баллов», набранных за ответы на все поставленные вопросы.
СЛОЖН
i
Счетчик 9 суммирует все коэффициенты сложности вопросов, формируется сигнал, соответствующий K_, и на его выходе формируется сигнал, соответствующий сумме весов всех поставленных вопросов.
При ответе на последний вопрос в дешифраторе 2 на основании кода этого вопроса, в котором есть информация о том, что это последний вопрос теста, вырабатывается сигнал номера последнего вопроса. Этот сигнал поступает в блок 10 адаптивного формирования оценки, который по его поступлении на основании суммы «весов» всех вопросов с счетчика 11, суммы «баллов» набранных за ответы на эти вопросы и соотношения, задаваемого в самом блоке 10, формирует итоговую оценку. Визуализацию полученной оценки осуществляет индикатор 12 оценки.
Для предотвращения повторных ответов на вопросы в дешифраторе 2 кодов задания предусмотрено запоминание кодов отвеченных вопросов.
Таким образом, предлагаемое устройство позволяет осуществлять оценку качества экспертных систем с учетом как сложности вопросов и уверенности ответов на них, так и степени грубости допускаемых при ответах ошибок.
Заявитель просит рассмотреть представленные материалы на предмет выдачи патента РФ на изобретение.