Нейронная сеть с прошедшим, настоящим и будущим временем

ИНФОРМАЦИОННО-УПРАВЛЯЮЩИЕ СИСТЕМЫ X

УДК 004.8

НЕЙРОННАЯ СЕТЬ С ПРОШЕДШИМ, НАСТОЯЩИМ И БУДУЩИМ ВРЕМЕНЕМ

В. Ю. Осипов,

доктор техн. наук, профессор

Санкт-Петербургский институт информатики и автоматизации РАН

Предложен подход к наделению нейронной сети возможностью оперировать прошедшим, настоящим и будущим временем. Показано, что управление внутренним временем сети позволяет также улучшить распознавание сигналов. Разработана архитектура такой сети. Приведены результаты математического моделирования.

Ключевые слова — нейронная сеть, структура, управление временем, сигналы, интеллектуальная обработка.

Введение

Среди актуальных научных проблем современности особое место занимает создание мыслящих машин. Наделение машин искусственным мышлением позволит существенно расширить возможности человека в различных сферах деятельности. Могут быть разработаны автономные роботы, способные принимать и реализовывать целесообразные решения на благо человека в трудно предсказуемых ситуациях при освоении морских глубин, недр Земли, космоса.

Перспективным путем решения этой проблемы считается бионический подход. В основе его лежит моделирование работы человеческого мозга, биологических нейронных сетей.

К сожалению, достигнутые в настоящее время результаты по созданию искусственных нейронных сетей со свойствами естественных сетей по интеллектуальной обработке информации далеки от совершенства [1-3].

Одной из причин такого состояния является недостаточное внимание, уделяемое вопросам управления параметрами этих сетей, в частности их собственным временем. Для известных моделей нейронных сетей не существует деления времени на прошедшее, настоящее и будущее. Они работают только в одном временном масштабе. Это существенно ограничивает их возможности как по распознаванию и вызову из памяти сети динамических сигналов, так и по формированию из них программ «осознанных» действий.

Предлагается перспективная нейронная сеть, обладающая возможностью оперировать прошедшим, настоящим и будущим временем.

Постановка задачи

В известную нейронную сеть с управляемыми синапсами [4, 5] в реальном времени вводят сигналы о происходящих событиях. Это могут быть сменяющие друг друга изображения наблюдаемых объектов, связанные с ними речевые сообщения и другие сигналы. Они запоминаются сетью и хранятся в ее долговременной памяти на синапсах. При поступлении в сеть сигнала он не только запоминается, но и вызывает из памяти связанные с ним пространственными, временными, амплитудными, частотными и фазовыми характеристиками другие сигналы. При этом вызванные из памяти сигналы по времени полностью согласуются с вызывающим сигналом. В результате имеет место воспроизведение наблюдаемых ранее сигналов. Особенность в том, что сигналы воспроизводятся нейронной сетью в то же самое время, когда и должны появиться в реальной действительности. Для реализации искусственного мышления необходимо, чтобы сеть при обработке реальных сигналов могла обращаться к прошлому и будущему времени на различную глубину. Обращение к различному прошлому позволяет лучше понять (распознать) настоящее. Без обращения к будущему невозможно вырабатывать своевременные информационные и управляющие сигналы.

Требуется усовершенствовать известную сеть [4, 5], наделить ее возможностью оперировать прошедшим и будущим временем наряду с настоящим.

Метод управления временем в нейронной сети

Известно [4, 5], что в рекуррентной нейронной сети при передаче совокупностей единичных образов от слоя к слою можно осуществлять их сдвиги вдоль слоев и наделять сеть логической структурой. Такое наделение характеризуется разделением слоев на логические поля и заданием пути продвижения этих совокупностей вдоль слоев. Схемы продвижения их могут быть различными: линейная, спиральная и др.

Пространственные сдвиги совокупностей единичных образов позволяют преобразовывать последовательные совокупности в параллельные и обеспечивать широкие ассоциативные связи между единичными образами, разнесенными во времени. При этом за счет приоритетности коротких связей обеспечивается однозначное соответствие между входом и выходом нейронной сети.

Линейная схема продвижения совокупностей единичных образов в двухслойной рекуррентной нейронной сети с управляемыми синапсами показана на рис. 1. За счет пространственных сдвигов совокупностей единичных образов каждый слой сети разбит на m логических полей. Информация в сеть вводится через первое поле, а снимается с последнего поля. Пространственная структура группы совокупностей в плоскостях слоев сети зависит от времени задержки их при передаче от слоя к слою. Чем меньше задержка, тем дальше совокупности отстоят друг от друга.

Принимая это во внимание, для наделения нейронной сети возможностью оперировать прошедшим и будущим временем предлагается задерживать совокупности единичных образов при передаче от слоя к слою с учетом текущих состояний последних.

Рассмотрим первый случай, когда в оперативной памяти сети находится динамический сигнал, записанный туда при исходных задержках совокупностей, ассоциативно связанный с другими запомненными в долговременной памяти сигналами. Под оперативной памятью нейронной сети понимается память на самих нейронах, которые могут находиться в состоянии ожидания, возбуждения и невосприимчивости после возбуждения. Долговременная память — это память на синапсах нейронов. При одновременном уменьшении всех задержек совокупностей единичных образов в сети записанный в ее оперативной памяти сигнал сжимается во времени. Кроме этого, увеличивается скорость ассоциативного вызова им из долговременной памяти связанных с ним сигналов, также сжатых во времени. В результате вызванные из памяти сигналы появляются раньше, чем следовало им появиться в соответствии с запомненными ранее событиями, отражающими закономерности реального мира. Эти сигналы в свою очередь могут также вызвать другие сигналы, еще больше опережающие реальное время. В итоге результатом обработки сигналов в нейронной сети будет прогноз будущих событий. Глубина этого прогноза зависит как от величины уменьшения задержек совокупностей единичных образов, так и от числа циклов ассоциативного вызова сигналов друг за другом для спиральных схем.

Второму случаю свойственно одновременное увеличение всех задержек совокупностей единичных образов в сети. Такое увеличение приводит к растяжению во времени обрабатываемого сигнала и замедлению скорости ассоциативного вызова им из памяти сети других сигналов. Результаты обработки сигналов в сети начинают носить характер прошлого. В плоскостях слоев сети плотность текущих совокупностей увеличивается. В ассоциативную параллельную обработку включается больше совокупностей, что позволяет лучше восстанавливать прошедшие события.

Вход

Первыйслой

1.1 1.2 1.3 1.4 1.5 1.6 1.7

1ооооооо1ооооооо1ооооооо1ооооооо1ооооооо1ооооооо1ооооооо1ос

V7

V7

2.1 2.2 2.3 2.4 2.5 2.6 2.7

Второйслой

1. т - 1 1. т

оооооо1ооооооо1

оооооо|ооооооо1

2.т -1

2. т

V

Выход

Рис. 1. Линейная схема продвижения совокупностей единичных образов в двухслойной рекуррентной нейрон-

ной сети

а)

Вход

1І.1 1.2 1.3 1.4 1.5 1.6 1.7 1.т-И.т

І

о

м

б)

Вход

11.1 1.2 1.3 1.4 1.5 1.6 1.7

Выход 1 .т-11. т

О

Выход

Рис. 2. Состояния первого слоя нейронной сети при обработке сигнала: а — с исходным масштабом времени; б — растянутого во времени

Для этого случая чем больше задержки и число циклов ассоциативного вызова сигналов друг за другом для спиральных схем, тем глубже обращение к прошлому.

Решение в нейронной сети по изменению задержек совокупностей единичных образов в ту или иную сторону может приниматься, исходя из обеспечения максимума ассоциативного взаимодействия обрабатываемых сигналов с запомненными сигналами. Если вводимый в сеть сигнал по временному масштабу не согласован с сохраненными сигналами, то и пространственная структура его в плоскости слоев сети также не будет совпадать с запомненными структурами. Примеры состояний первого слоя нейронной сети при обработке одного и того же по содержанию сигнала, но с разным масштабом времени, показаны на рис. 2, а, б. Стрелкой указано направление продвижения совокупностей единичных образов вдоль слоя. Видно, что пространственные структуры сигналов с различными временными масштабами не совпадают. Каждому из этих сигналов характерна своя схема ассоциативных связей единичных образов.

Такое несовпадение, в зависимости от его уровня, приводит к затруднению или отсутствию ассоциативного вызова сигналов из памяти сети. Наилучшее ассоциативное взаимодействие наблюдается, когда рассматриваемые структуры идентичны. Обеспечить совпадение структур можно путем изменения задержек совокупностей единичных образов при передаче от слоя к слою с учетом текущих состояний последних.

Количественно уровень ассоциативного взаимодействия сигналов в сети можно оценивать, например, путем анализа текущих состояний ее слоев и определения числа ассоциативно вызываемых из памяти недостающих и подавленных ошибочных единичных образов.

В итоге, за счет управления такими задержками можно существенно расширить функциональ-

ные возможности нейронной сети по интеллектуальной обработке информации.

Архитектура перспективной нейронной сети

Нейронная сеть, наделенная такими возможностями, может иметь структуру (рис. 3), где

1.1 — 1.N, 2.1 — 2.N — нейроны, соответственно, первого и второго слоя; ЗД — задержка.

Отличие предлагаемой нейронной сети от известной [4] в том, что в ней в интересах управления внутренним временем предусмотрено изменение параметров слоев. В качестве таких параметров выступают длительности формируемых нейронами слоев единичных образов и время невосприимчивости нейронов после возбуждения. Сигналы с блока управления поступают не на сигнальные, а на управляющие входы нейронов. В этой сети, как и в предложенной в работе [4], время задержки совокупностей единичных образов в контурах всегда должно быть меньше времени невосприимчивости нейронов. Другая особенность сети в том, что время задержки единичных образов в ЗД зависит от длительности поступающих на них образов.

За счет управления сдвигами совокупностей единичных образов вдоль слоев (через изменение функций ослабления синапсов) эту двухслойную сеть можно легко превратить в многоуровневую сеть со своими подсистемами управления временем.

На вход сети (на первое поле первого слоя) могут подаваться как одиночные, так и групповые сигналы. Например, это могут быть изображения наблюдаемых объектов и звуковое сопровождение, сигналы устной речи на одном языке и их перевод на другой язык. В интересах этого достаточно все логические поля подразделить на под-поля и закрепить за ними различные виды сигналов, если размеры полей это позволяют. Все они

Выход

Вход

Рис. 3. Структура нейронной сети с управляемыми слоями и синапсами

в этой сети могут успешно ассоциироваться, запоминаться и вызывать друг друга из памяти в соответствии с воспринятыми ранее закономерностями. Следует заметить, что наделение нейронной сети возможностью управлять внутренним временем позволяет также менять порядок следования запомненных сигналов, а не только его повторять с различной скоростью. Это открывает широкие возможности по формированию в сети различных конструкций, характерных человеческой речи, движениям, чувствам, мышлению.

Результаты обработки сигналов в сети могут сниматься как со второго, так и с первого слоя. После снятия с сети они могут быть успешно преобразованы в соответствующие им исходные сигналы [6].

Проводилось математическое моделирование предложенной нейронной сети. Была разработана ее программная модель с числом нейронов в слоях по 900 единиц. Каждый слой за счет пространственных сдвигов совокупностей единичных образов разбивался на 25 одинаковых логических полей размером 6 х 6 нейронов. Результаты математического моделирования полностью подтвердили возможности нейронной сети успешно обрабатывать различные сигналы и опериро-

Литература

1. Галушкин А. И. Теория нейронных сетей. Кн. 1: учеб. пособие для вузов / Общ. ред. А. И. Галушкина. — М.: ИПРЖР, 2000. — 416 с.

2. Осовский С. Нейронные сети для обработки информации / Пер. с англ. И. Д. Рудницкого. — М.: Финансы и статистика, 2002. — 344 с.

3. Хайкин С. Нейронные сети: полный курс. 2-е изд.: Пер. с англ. — М.: Вильямс, 2006. — 1103 с.

4. Осипов В. Ю. Ассоциативная интеллектуальная машина // Информационные технологии и вычислительные системы. 2010. № 2. С. 59-67.

вать прошедшим, настоящим и будущим временем. Несомненно, для практической интеллектуальной обработки сигналов в реальном времени нужны сети с числом нейронов в слоях, исчисляемых миллионами и миллиардами.

Заключение

Разработана рекуррентная нейронная сеть с управлением внутренним временем. Она способна самостоятельно переходить от настоящего времени к анализу прошедших и прогнозированию будущих событий.

В качестве критерия настройки сети на наилучший временной масштаб предложено использовать максимум ассоциативного взаимодействия обрабатываемых и запомненных сигналов.

Для наделения сети новыми возможностями рекомендуется задерживать совокупности единичных образов при передаче их от слоя к слою с учетом текущих состояний последних.

Предложенные новые научно-технические решения могут быть использованы при разработке перспективных нейромикропроцессоров и создании мыслящих машин и систем.

5. Осипов В. Ю. Рекуррентная нейронная сеть с управляемыми синапсами // Информационные технологии. 2010. № 7. С. 43-47.

6. Осипов В. Ю. Прямое и обратное преобразование сигналов в ассоциативных интеллектуальных машинах // Мехатроника, автоматизация, управление. 2010. № 7. С. 27-32.