КОМПАКТНАЯ ГРАФИЧЕСКО-ИЕРОГЛИФНАЯ СИСТЕМА ОТОБРАЖЕНИЯ СХЕМ МНОГООБРАЗНЫХ НЕЙРОСЕТЕВЫХ ВЫЧИСЛЕНИЙ

ИНФОРМАТИКА, ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА И УПРАВЛЕНИЕ

УДК 004.056; 004.032.26

DOI 10.21685/2072-3059-2020-4-1

А. И. Иванов, Е. А. Малыгина, В. С. Лукин

КОМПАКТНАЯ ГРАФИЧЕСКО-ИЕРОГЛИФНАЯ СИСТЕМА ОТОБРАЖЕНИЯ СХЕМ МНОГООБРАЗНЫХ НЕЙРОСЕТЕВЫХ ВЫЧИСЛЕНИЙ1

Аннотация.

Актуальность и цели. Целью данной работы является попытка устранить неоднозначности словесного описания и графических отображений схем многообразных нейросетевых вычислений при одновременном уменьшении объема текстовой и графической информации.

Материалы и методы. Предложено, по аналогии со стандартным описанием Булевой логики, ввести конечное число обозначений типов искусственных нейронов. Также предложено при графическом отображении искусственных нейронов воспользоваться элементами иероглифического формирования изображений (гладкие овалы - это континуальные преобразования, а угловатые прямоугольники - это операции квантования континуальных данных). При использовании искусственных нейронов с многоуровневым квантованием их прямоугольные квантователи получают несколько выходов.

Результаты. Предложенный вариант стандартизации алфавита графических обозначений приводит к снижению неоднозначности графических иллюстраций схем многообразных нейросетевых вычислений и росту компактности создаваемых иллюстрационных материалов.

Выводы. Предложенная схема формирования графико-иероглифических иллюстраций компактна (не приводит к появлению тысяч иероглифов) и позволяет с использованием малого числа основных образов наглядно иллюстрировать подавляющее большинство известных авторам схем нейросетевых вычислений.

Ключевые слова: классификация искусственных нейронов, графическое отображение нейронов, элементы иероглифических записей.

1 Исследование выполнено при финансовой поддержке Минобрнауки России (грант ИБ, проект № 19).

© Иванов А. И., Малыгина Е. А., Лукин В. С., 2020. Данная статья доступна по условиям всемирной лицензии Creative Commons Attribution 4.0 International License (http://creativecommons. org/licenses/by/4.0/), которая дает разрешение на неограниченное использование, копирование на любые носители при условии указания авторства, источника и ссылки на лицензию Creative Commons, а также изменений, если таковые имеют место.

A. I. Ivanov, E. A. Malygina, V. S. Lukin

A COMPACT GRAPHIC AND HIEROGLYPHIC SYSTEM FOR DISPLAYING SCHEMES OF DIVERSE NEURAL NETWORK CALCULATIONS1

Abstract.

Background. The purpose of this article is to try to eliminate ambiguities in the verbal description and graphic representations of schemes of multi-dimensional neural network calculations while reducing the volume of text and graphic information.

Materials and methods. By the analogy with the standard description of Boolean logic, it is purposed to introduce a finite number of designations for the types of artificial neurons. It is also proposed to use elements of hieroglyphic image formation when graphically displaying artificial neurons (smooth ovals are continual transformations, and angular rectangles are operations for quantizing continuous data). When artificial neurons with multilevel quantization are used, their rectangular quantizers get several outputs.

Results. The proposed standardization version of the alphabet of graphic symbols leads to an ambiguity's decrease in the graphic illustrations of schemes for diverse neural network calculations and an increase in the compactness of the created illustrative materials.

Conclusions. The proposed scheme for the formation of graphic and hieroglyphic illustrations is compact (does not lead to the appearance of thousands of hieroglyphs) and allows using a small number of basic images to visually illustrate the vast majority of neural network calculation schemes known to the authors.

Keywords: classification of artificial neurons, graphic representation of neurons, elements of hieroglyphic records.

Общие положения нейроинформатики

В настоящее время значительная часть искусственных нейронов обогащает входные относительно бедные континуальные данные путем их взвешенного суммирования в линейном пространстве:

n

У = Z Vi  xi + c,

i=1

где n - размерность входного пространства; xi - входные непрерывные данные; Vi - подбираемые при обучении весовые коэффициенты.

Далее уже накопленные (уже обогащенные) данные преобразуются некоторой гладкой нелинейной функцией (например, сигмоидной функцией

[1-3]):

f

1 + exp

где а - параметр настройки гладкой функции возбуждения.

1 Acknowledgments: The reported study was funded by Russian Ministry of Science (information security, project 19).

Вместо сигмоидной функции активации (2) может использоваться любая иная гладкая функция, однако все они должны быть гладкими (везде дифференцируемыми или аналитическими). В этом случае искусственный нейрон является некоторым нелинейным редуктором (понижателем) размерности. Нейрон входной «-мерный континуум свертывает до выходного одномерного континуума.

На рис. 1 нейрон, выполняющий континуальную редукцию, отображен в левой верхней части. Континуальный характер входных данных условно отображен в виде гладкого эллипса, охватывающего линейный сумматор. Континуальный характер функции активации также отображается в виде гладкого эллипса ее охватывающего.

Рис. 1. Варианты графического отображения различных типов искусственных нейронов

В биометрии важную роль играют искусственные нейроны с накоплением данных в линейном пространстве и их квантованием после обогащения (персептроны Розенблатта [1, 2]). Главная их особенность состоит в том, что они одновременно с функцией редукции входной размерности выполняют функцию квантования:

п

у=2 ^ х,

1=1

" г

"г(у)" ^ "1" I/у > к,

где к - порог квантователя с двумя дискретными выходными состояниями «0» и «1».

Следует отметить, что в записи (3) одновременно присутствуют непрерывные данные {у, ц, х, к} и дискретные данные - «г(.)». Для исключения путаницы используются кавычки «.», как это принято при программировании.

Графическое отображение персептрона дано вверху в центре (рис. 1). Дискретный характер операций квантования подчеркнут обведением негладким прямоугольником.

Нейросетевой биометрии и ее стандартизации сегодня уделяется значительное внимание [4-9]. Проведенные исследования по автоматическому обучения сетей искусственных нейронов алгоритмом ГОСТ Р 52633.5 [8] выявили ряд уязвимостей. Эти уязвимости частично устраняются при переходе к использованию искусственных нейронов с накоплением данных в квадратичном пространстве, например, нейронов Махалонобиса:

>>2 = [х -Е(х)]Т [г]-1 -[[с -Е(х)],

" г

" г (у2)" ^ "1" ¡/у1 > к,

где х - вектор нормированных данных с единичным стандартным отклонением; Е (х) - вектор математических ожиданий, анализируемых нейроном параметров; [г ] 1 - обратная корреляционная матрица анализируемых параметров.

Следует отметить, что при обычной низкоразмерной идентификации образов искусственным нейронам Махалонобиса уделяется мало внимания

из-за проблем с вычислением обратной корреляционной матрицы [г ]-1. Для высокоразмерной биометрии эта проблема отсутствует, так как для каждого отдельного искусственного нейрона при выборе связей нейросети всегда можно подобрать практически независимые биометрические параметры [10, 11]. Графическое отображение квадратичных нейронов представлено в верхней правой части рис. 1.

В классической теории обработки данных важную роль играют ортогональные преобразования. В частности, при организации вычислений удобными оказываются конечные ортогональные полиномы Эрмита, Чебышева, Ле-жандра, т.е. самым простым путем ортогонализации искусственных нейронов является переход к полиномиальным нейронам Эрмита, Чебышева, Лежандра

[12]. Графическое отображение нейронов с накоплением данных в полиномиальных пространствах на рис. 1 дано в центре в нижней части.

Очевидным является то, что наряду с конечными ортогональными полиномами могут быть использованы ортогональные преобразования (например, функции базиса Фурье - зт(ко)), соз(кю)), описывающиеся бесконечными рядами [13]. Могут быть применены и другие функции. Например, нейрон, эквивалентный статистическому критерию Крамера - фон Мизеса

[13], для проверки гипотезы нормальности малой выборки должен осуществлять накопление данных в квадратичном пространстве, деформированном под нормальное распределение:

1 16

У2 ^ — £{(/-0,5)-16-Р(X,Е,а)}2, 16 ¡=1

<

"г

"г(у2)"^ "1" ¡/ у2 >к,

где хI - данные малой выборки из 16 опытов; Р(х^, Е, а) - функция вероятности нормального закона; Е - математическое ожидание малой выборки; а - стандартное отклонение малой выборки.

Таким образом, мы получили систему графических образов рис. 1, которые позволяют наглядно представлять любые схемы нейросетевых вычислений, известные авторам данной работы. Пользуясь предложенной символикой, можно описывать сложные нейросетевые конструкции по аналогии со сложными вычислителями, создававшимися в 70-е гг. прошлого века, из серийно выпускавшихся логических элементов Булевой алгебры.

Пример формирования подобного графического документа приведен на рис. 2, где отображена многослойная сеть искусственных нейронов с гладкими функциями возбуждения. Последний слой сети искусственных нейронов образован персептронами, т.е. отображенная на рисунке многослойная сеть искусственных нейронов глубокого обучения [2, 3] должна откликаться заранее заданным выходным кодом длиной в 256 бит, как это рекомендует пакет национальных стандартов с номерами ГОСТ Р 52633.хх-20хх. Появляется возможность формального описания любых, очень сложных нейросетевых конструкций.

Рис. 2. Пример описания многослойной нейронной сети, состоящей их континуальных нейронов внутренних слоев и персептронов в последнем слое

Искусственные нейроны с многоуровневыми квантователями

Тот факт, что сегодня активно исследуются искусственные нейроны с большим числом входов и одним выходом, хорошо объясним нашим стремлением все упрощать. Гораздо проще иметь дело с одной «хорошей» переменной, чем с десятками «плохих» переменных. Тем не менее формально можно представить себе континуальные редукторы высокой размерности в данные меньшей размерности, например это может быть редуктор, преобразующий 7 входных континуальных размерностей в 2 выходные континуаль-

ные размерности. Такой абстрактный нейрон с 7 входами и 2 выходами изображен в верхней части левой стороны рис. 3. Работ по созданию подобных конструкций нет и, возможно, не появится в ближайшем будущем. В настоящий момент нет актуальных задач, для решения которых понадобятся подобные математические конструкции.

Гораздо более перспективными и, соответственно, востребованными являются нейроны, выполняющие редукцию входной размерности до двух и более выходных битов (два и более бита выходных состояний). Так можно модифицировать все рассмотренные выше искусственные нейроны, что и отображено на рис. 3. Более того, первые искусственные нейроны формировались по образу и подобию наших естественных нейронов. При этом бинарные квантователи персептронов появились как наиболее простое техническое решение, уже демонстрирующее свою работоспособность.

Рис. 3. Искусственные нейроны с двумя выходами

На самом деле естественные нейроны живых существ намного сложнее наших искусственных нейронов [14], они вместо простых бинарных выходов выдают гораздо более сложные выходные последовательности.

Насколько выгодно увеличивать число выходных состояний нейронов с линейным накоплением, удалось оценить только в 2013 г. [15] (только через 2 года после ввода в действие национального стандарта ГОСТ Р 52633.52011). Если бы факт значительного роста энтропии кодов «Чужой» был обнаружен ранее, то вариант нейросетей с линейным накоплением данных и троичными квантователями мог войти сегодня в действующий национальный стандарт. В связи с этим мы приводим на рис. 3 нейрон с линейным накоплением и двумя цифровыми выходами.

Дальнейшие исследования показали, что желательное, но необязательное многоуровневое квантование для линейных нейронов становится принципиально важным для нейронов с накоплением данных в квадратичном про-

странстве. Было известно, что квадратичные нейроны лучше решают задачу распознавания «Свой» и «Чужой» [16, 17], однако до 2017 г. [18, 19] их не применяли в преобразователях биометрия-код из-за принципиального дефекта. Все квадратичные нейроны при бинарном квантовании накопленных данных не обеспечивают хэширование данных «Чужой». Этот недостаток удается преодолеть, если только перейти к квантователям с числом выходных состояний более двух [20, 21].

Пример, иллюстрирующий работу 8-уровневого квантователя данных на выходе квадратичного нейрона, приведен на рис. 4.

Рис. 4. Пример случайных состояний квантователя квадратичного нейрона, одно из которых соответствует трем битам ключа «Свой»

Классические квадратичные нейроны с бинарным квантованием всегда приводят к попаданию данных «Свой» в первый интервал {0, 2} на рис. 4. Только введение многоуровневого квантователя и специальных мер переноса данных в иной интервал дает желаемый эффект появления хэширующих свойств. Этот рисунок хорошо иллюстрирует ситуацию по выбору числа выходов у квантователя нейронов. Можно пожертвовать частью данных «Все Чужие», если оставить четыре интервала (два выхода). Появление третьего выхода дает 8 выходных состояний, часть из которых оказываются слабо заполненными.

Графические обозначения для типовых промежуточных операций с образами

В дополнение к многообразию искусственных нейронов целесообразно добавить специфические операции с образами без участия нейронов. Две из таких операций определены в ГОСТ Р 52633.2-2010 [6]. Первая операция отображена на рис. 5.

Эта операция используется после вычисления энтропии 5000 образов «Чужой» тестовой базы и выбора 50 образов с наименьшей энтропией. Для того чтобы восстановить численность исходной базы до исходной численности, ГОСТ Р 52633.2 [6] рекомендует биометрические параметры пар образов-родителей усреднить. Это позволяет получать образы-потомки, одинаково похожие на своих родителей. Повторение описанных выше процедур примерно в 60 поколениях позволяет восстанавливать до 97 % разрядов ключа длиной в 256 бит [22, 23]. В каждом следующем поколении собственная эн-

тропия размножаемых образов «Чужой» снижается, что приближает их к образу «Свой», который обладает нулевой энтропией.

Рис. 5. Операция морфинг-размножения 50 биометрических образов-родителей в 5000 образов-потомков

При направленном движении выбираемых низкоэнтропийных образов «Чужой» в сторону образа «Свой» скорость движения с каждым следующим поколением снижается. Увеличить скорость удается, если при размножении образов добавлять малые случайные мутации по схеме, приведенной на рис. 6. Формально каждая мутация дает новый образ «Чужой».

Образы-родители Образы-потомки

END

Рис. 6. Добавление малого случайного шума мутаций к образам «Чужой» по ГОСТ Р 52633.2-2010

В случае нейросетевого анализа малых выборок, например состоящих из 16 опытов, ошибка принятия решений одним нейроном (5) оказывается значительной. При использовании нескольких нейронов [13] ошибка снижается медленно. Повысить достоверность принимаемых решений в сотни раз удается в том случае, когда из исходной выборки получают большое число выборок меньшего размера. Например, если из 16 опытов случайно выбирать 5 опытов, то получим достаточно большое число выборок по 11 опытов:

С/6 =-—-= 4368 .

16 11!- (16 -11)!

Случайные перестановки опытов и прореживание выборки можно рассматривать как еще один способ размножения данных. На рис. 7 приведена схема, воспроизводящая множество малых выборок из одной исходной выборки.

О бразы - потомки полвыборок

END

Рис. 7. Получение множества выборок случайной перестановкой опытов и их прореживанием

Использование сетей искусственных нейронов с большим числом выходов при анализе малых выборок приводит к появлению спектра амплитуд вероятностей тех или иных выходных кодовых состояний. Анализ спектра амплитуд вероятности нельзя выполнить по одной выборке. Размножение данных одной выборки позволяет получить множество выборок через их использование и увидеть линии спектра выходных состояний.

Заключение

Активное развитие биометрии привело к появлению порядка 160 международных стандартов КОЛЕС JTC1 sc37 (Биометрия) с 2002 г. по настоящее время. Ни одного международного стандарта по нейросетевой биометрии нет и не находится в разработке. Международный технический комитет КОЛЕС JTC1 sc42 (Искусственный интеллект) также не занимается приложениями нейронных сетей в биометрии. Единственный пакет стандартов по нейросетевой биометрии создала для себя Россия, фактически закрывая пробелы в системе международных стандартов.

В августе 2019 г. в России создан технический комитет 164 (Искусственный интеллект), чуть позже (10.10.2019) вышел указ В. В. Путина «О развитии искусственного интеллекта в Российской Федерации». Предположительно, эти два события приведут к росту внимания к развитию нейросетевых технологий не только для решения задач биометрии. Видимо, уже созданные отечественные стандарты нейросетевой биометрии могут быть фундаментом для иных важных практических приложений. Авторы данной статьи уверены, что поднятые в нашей работе вопросы о графических отображениях нейросе-тевых решающих правил своевременны. Наши предложения построены на опыте применения искусственных нейронных сетей в биометрии, надеемся что данный опыт удастся перенести и на иные нейросетевые приложения искусственного интеллекта.

Библиографический список

1. Хайкин, С. Нейронные сети: полный курс / С. Хайкин. - Москва : Вильямс, 2006. - С. 1104.

2. Рассел, С. Искусственный интеллект. Современный подход / С. Рассел, П. Норвиг. - Москва ; Санк-Перербург ; Киев, 2006 - 1407 с.

3. Николенко, С. Глубокое обучение / С. Николенко, А. Кадурин, Е. Архангельская. - Санкт-Перербург : Питерб, 2018. - 480 с.

4. ГОСТ Р 52633.0-2006. Защита информации. Техника защиты информации. Требования к средствам высоконадежной биометрической аутентификации. -Москва, 2006.

5. ГОСТ Р 52633.1-2009. Защита информации. Техника защиты информации. Требования к формированию баз естественных биометрических образов, предназначенных для тестирования средств высоконадежной биометрической аутентификации. - Москва, 2009.

6. ГОСТ Р 52633.2-2010. Защита информации. Техника защиты информации. Требования к формированию синтетических биометрических образов, предназначенных для тестирования средств высоконадежной биометрической аутентификации. -Москва, 2010.

7. ГОСТ Р 52633.3-2011. Защита информации. Техника защиты информации. Тестирование стойкости средств высоконадежной биометрической защиты к атакам подбора. - Москва, 2011.

8. ГОСТ Р 52633.5-2011. Защита информации. Техника защиты информации. Автоматическое обучение нейросетевых преобразователей биометрия-код доступа. -Москва, 2011.

9. Защита нейросетевых биометрических контейнеров с использованием криптографических алгоритмов» [проект технической спецификации «Криптографическая защита информации] Публичное обсуждение документа проходит в ТК 26 с 2017 г., в 2020 г. ожидается голосование по проекту технической спецификации.

10. Волчихин, В. И. Фрактально-корреляционный функционал, используемый при поиске пар слабо зависимых биометрических данных в малых выборках /

B. И. Волчихин, А. И. Иванов, Б. Б. Ахметов, Ю. И. Серикова // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2016. - № 4. -

C. 25-31.

11. Волчихин, В. И. Обучение сетей квадратичных форм на малых выборках биометрических данных с использованием процедуры симметризации корреляционных связей / В. И. Волчихин, А. И. Иванов, Е. А. Малыгина, Ю. И. Серикова // Измерение. Мониторинг. Управление. Контроль. - 2018. - № 1 (23). - С. 66-74.

12. Иванов, А. И. Защита искусственного интеллекта: ортогонализация статисти-ко-нейросетевого анализа малых выборок биометрических данных : препринт / А. И. Иванов, Е. Н. Куприянов. - Пенза : Изд-во ПГУ, 2020. - 72 с.

13. Иванов, А. И. Искусственные математические молекулы: повышение точности статистических оценок на малых выборках (программы на языке МаШСЛВ) : препринт / А. И. Иванов. - Пенза : Изд-во ПГУ, 2020. - 36 с.

14. Малыгина, Е. А. Биометрико-нейросетевая аутентификация: перспективы применения сетей квадратичных нейронов с многоуровневым квантованием биометрических данных : препринт / Е. А. Малыгина. - Пенза : Изд-во ПГУ, 2020. -114 с.

15. Волчихин, В. И. Перспективы использования искусственных нейронных сетей с многоуровневыми квантователями в технологии биометрико-нейросетевой аутентификации / В. И. Волчихин, А. И. Иванов, В. А. Фунтиков, Е. А. Малыгина // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2013. -№ 4 (28). - С. 88-99.

16. Волчихин, В. И. Соотношение мощности нейронов с линейным и квадратичным обогатителями биометрических данных / В. И. Волчихин, А. И. Иванов, Е. А. Малыгина, А. П. Юнин // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2018. - № 1 (45). - С. 17-25.

17. Волчихин, В. И. Сопоставление мощности двух типов искусственных нейронов, осуществляющих обогащение биометрических данных в линейном и квадратичном пространствах / В. И. Волчихин, А. И. Иванов, Е. А. Малыгина, Ю. И. Серикова // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2018. - № 3 (47). - С. 47-57.

18. Волчихин, В. И. Особенности обучения сетей вероятностных нейронов «Крамера-фон Мизеса» на малых биометрических выборках / В. И. Волчихин,

A. И. Иванов, С. Е. Вятчанин // Новые информационные технологии и системы : сб. науч. ст. XIV Междунар. науч.-техн. конф. (г. Пенза, 22-24 ноября 2017 г.). -Пенза : Изд-во ПГУ, 2017. - С. 159-163.

19. Волчихин, В. И. Абсолютно устойчивый алгоритм автоматического обучения сетей вероятностных нейронов «Крамера - фон Мизеса» на малых выборках биометрических данных / В. И. Волчихин, А. И. Иванов, С. Е. Вятчанин, Е. А. Малыгина // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2017. - № 2 (42). - С. 55-65.

20. Иванов, А. И. Второй национальный стандарт России по быстрому автоматическому обучению больших искусственных нейронных сетей на малых выборках биометрических данных / А. И. Иванов, А. В. Безяев, Е. А. Малыгина, Ю. И. Серикова // Безопасность информационных технологий : сб. науч. ст. по материалам I Всеросс. науч.-техн. конф. (г. Пенза, 24 апреля 2019 г.). - Пенза : Изд-во ПГУ, 2019. - С. 174-177.

21. Стандарт ТК 362. Защита информации. ТЕХНИКА ЗАЩИТЫ ИНФОРМАЦИИ. Автоматическое обучение сетей квадратичных нейронов с многоуровневым квантованием биометрических данных [проект]. Работы начаты с 01.07.2018 и велись специалистами 5 предприятий (Воронеж, Пенза, Москва). 01.02.2019 материалы направлены в ТК 362. В настоящее время ведется подготовка к началу публичного обсуждения проекта нового стандарта.

22. Волчихин, В. И. Нейросетевая молекула: решение обратной задачи биометрии через программную поддержку квантовой суперпозиции на выходах сети искусственных нейронов / В. И. Волчихин, А. И. Иванов // Вестник Мордовского университета. - 2017. - Т. 27, № 4. - C. 518-523.

23. Нейросетевая защита персональных биометрических данных / Ю. К. Язов,

B. И. Волчихин, А. И. Иванов, В. А. Фунтиков, И. Г. Назаров. - Москва : Радиотехника, 2012. - 157 с.

References

1. Khaykin S. Neyronnye seti: polnyy kurs [Neural networks: complete course]. Moscow: Vil'yams, 2006, p. 1104. [In Russian]

2. Rassel S., Norvig P. Iskusstvennyy intellekt. Sovremennyy podkhod [Artificial Intelligence. Modern approach]. Moscow; Saint-Petersburg; Kiev, 2006, 1407 p. [In Russian]

3. Nikolenko S., Kadurin A., Arkhangel'skaya E. Glubokoe obuchenie [In-depth study]. Saint-Petersburg: Piterb, 2018, 480 p. [In Russian]

4. GOST R 52633.0-2006. Zashchita informatsii. Tekhnika zashchity informatsii. Tre-bovaniya k sredstvam vysokonadezhnoy biometricheskoy autentifikatsii [Data protection. Information security technology. Requirements for highly secure biometric authentication tools]. Moscow, 2006. [In Russian]

5. GOST R 52633.1-2009. Zashchita informatsii. Tekhnika zashchity informatsii. Tre-bovaniya k formirovaniyu baz estestvennykh biometricheskikh obrazov, prednazna-

chennykh dlya testirovaniya sredstv vysokonadezhnoy biometricheskoy autentifikatsii [Data protection. Information security technology. Requirements for the formation of databases of natural biometric images intended for testing highly reliable biometric authentication facilities]. Moscow, 2009. [In Russian]

6. GOST R 52633.2-2010. Zashchita informatsii. Tekhnika zashchity informatsii. Tre-bovaniya k formirovaniyu sinteticheskikh biometricheskikh obrazov, prednaznachen-nykh dlya testirovaniya sredstv vysokonadezhnoy biometricheskoy autentifikatsii [Data protection. Information security technology. Requirements for the formation of synthetic biometric images intended for testing a highly reliable biometric authentication facility]. Moscow, 2010. [In Russian]

7. GOST R 52633.3-2011. Zashchita informatsii. Tekhnika zashchity informatsii. Te-stirovanie stoykosti sredstv vysokonadezhnoy biometricheskoy zashchity k atakam pod-bora [Data protection. Information security technology. Testing the resistance of highly reliable biometric security to brute force attacks]. Moscow, 2011.

8. GOST R 52633.5-2011. Zashchita informatsii. Tekhnika zashchity informatsii. Avto-maticheskoe obuchenie neyrosetevykh preobrazovateley biometriya-kod dostupa [Data protection. Information security technology. Automatic training of neural network converters biometrics-access code]. Moscow, 2011. [In Russian]

9. Zashchita neyrosetevykh biometricheskikh konteynerov s ispol'zovaniem kriptogra-ficheskikh algoritmov» [proekt tekhnicheskoy spetsifikatsii «Kriptograficheskaya zashchita informatsii] Publichnoe obsuzhdenie dokumenta prokhodit v TK 26 s 2017 g., v 2020 g. ozhidaetsya golosovanie po proektu tekhnicheskoy spetsifikatsii [Protection of neural network biometric containers using cryptographic algorithms [draft technical specification "Cryptographic protection of information"]. Public discussion of the document has been taking place in TC 26 since 2017; a vote on the draft technical specification is expected in 2020]. [In Russian]

10. Volchikhin V. I., Ivanov A. I., Akhmetov B. B., Serikova Yu. I. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2016, no. 4, pp. 25-31. [In Russian]

11. Volchikhin V. I., Ivanov A. I., Malygina E. A., Serikova Yu. I. Izmerenie. Monitoring. Upravlenie. Kontrol' [Measurement. Monitoring. Operation. Control]. 2018, no. 1 (23), pp. 66-74. [In Russian]

12. Ivanov A. I., Kupriyanov E. N. Zashchita iskusstvennogo intellekta: ortogonalizatsiya statistiko-neyrosetevogo analiza malykh vyborok biometricheskikh dannykh: preprint [Artificial intelligence protection: orthogonalization of statistic neural network analysis of small samples of biometric data: preprint]. Penza: Izd-vo PGU, 2020, 72 p. [In Russian]

13. Ivanov A. I. Iskusstvennye matematicheskie molekuly: povyshenie tochnosti statistich-eskikh otsenok na malykh vyborkakh (programmy na yazyke MathCAD): prepreprint [Artificial mathematical molecules: improving the accuracy of statistical estimates on small samples (programs in the MathCAD language): preprint]. Penza: Izd-vo PGU, 2020, 36 p. [In Russian]

14. Malygina E. A. Biometriko-neyrosetevaya autentifikatsiya: perspektivy primeneniya setey kvadratichnykh neyronov s mnogourovnevym kvantovaniem biometricheskikh dannykh: preprint [Biometrical-neural network authentication - prospects for the use of networks of square neurons with multilevel quantization of biometric data: preprint]. Penza: Izd-vo PGU, 2020, 114 p. [In Russian]

15. Volchikhin V. I., Ivanov A. I., Funtikov V. A., Malygina E. A. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2013, no. 4 (28), pp. 88-99. [In Russian]

16. Volchikhin V. I., Ivanov A. I., Malygina E. A., Yunin A. P. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2018, no. 1 (45), pp. 17-25. [In Russian]

17. Volchikhin V. I., Ivanov A. I., Malygina E. A., Serikova Yu. I. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2018, no. 3 (47), pp. 47-57. [In Russian]

18. Volchikhin V. I., Ivanov A. I., Vyatchanin S. E. Novye informatsionnye tekhnologii i sistemy: sb. nauch. st. XIV Mezhdunar. nauch.-tekhn. konf. (g. Penza, 22-24 noyabrya 2017 g.) [New information technologies and systems: proceedings of the 14th International scientific and engineering conference (Penza, 22-24 of November 2017)]. Penza: Izd-vo PGU, 2017, pp. 159-163. [In Russian]

19. Volchikhin V. I., Ivanov A. I., Vyatchanin S. E., Malygina E. A. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2017, no. 2 (42), pp. 55-65. [In Russian]

20. Ivanov A. I., Bezyaev A. V., Malygina E. A., Serikova Yu. I. Bezopasnost' infor-matsionnykh tekhnologiy: sb. nauch. st. po materialam I Vseross. nauch.-tekhn. konf. (g. Penza, 24 aprelya 2019 g.) [Information technology security: proceedings of the 1st All-Russian scientific and engineering conference (Penza, April 24, 2019)]. Penza: Izd-vo PGU, 2019, pp. 174-177. [In Russian]

21. Standart TK 362. Zashchita informatsii. TEKhNIKA ZAShchITY INFORMATsII. Avto-maticheskoe obuchenie setey kvadratichnykh neyronov s mnogourovnevym kvanto-vaniem biometricheskikh dannykh [proekt]. Raboty nachaty s 01.07.2018 i velis' spetsi-alistami 5 predpriyatiy (Voronezh, Penza, Moskva). 01.02.2019 materialy napravleny v TK 362. V nastoyashchee vremya vedetsya podgotovka k nachalu publichnogo ob-suzhdeniya proekta novogo standarta [TC 362 standard. Information protection. Information security technology. Automatic training of networks of quadratic neurons with multilevel quantization of biometric data (project). The work began on July 1, 2018 and was carried out by specialists from five enterprises (Voronezh, Penza and Moscow). On February 1, 2019, materials were sent to TC 362. Currently, preparations are underway for the start of a public discussion of the draft new standard]. [In Russian]

22. Volchikhin V. I., Ivanov A. I. VestnikMordovskogo universiteta [Bulletin of Mordovia University]. 2017, vol. 27, no. 4, pp. 518-523. [In Russian]

23. Yazov Yu. K., Volchikhin V. I., Ivanov A. I., Funtikov V. A., Nazarov I. G. Ney-rosetevaya zashchita personal'nykh biometricheskikh dannykh [Neural network protection of personal biometric data]. Moscow: Radiotekhnika, 2012, 157 p. [In Russian]

Иванов Александр Иванович доктор технических наук, доцент, консультант, Пензенский научно-исследовательский электротехнический институт

E-mail: bio.ivan.penza@mail.ru

Малыгина Елена Александровна кандидат технических наук, докторант кафедры технических средств информационной безопасности, Пензенский государственный университет

E-mail: mal890@yandex.ru

Ivanov Aleksandr Ivanovich Doctor of engineering sciences, associate professor, consultant, Penza Research Institute of Electrical Engineering

Malygina Elena Aleksandrovna Candidate of engineering sciences, doctor's degree student of the subdepartment of information security technology, Penza State University

Лукин Виталий Сергеевич младший научный сотрудник, Региональный учебно-научный центр «Информационная безопасность», Пензенский государственный университет

E-mail: ibst@pnzgu.ru

Образец цитирования:

Иванов, А. И. Компактная графическо-иероглифная система отображения схем многообразных нейросетевых вычислений / А. И. Иванов, Е. А. Малыгина, В. С. Лукин // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2020. - № 4 (56). - С. 5-18. - Б01 10.21685/20723059-2020-4-1.

Lukin Vitaliy Sergeevich Junior researcher, Regional Training and Research Center of «Information security», Penza State University